Erscheint demnächst

Prolog: Wir sind dem Computer scheissegal

Utopia und Dystopia liegen in der Einschätzung der Künstlichen Intelligenz (KI) nah beieinander. Einerseits nimmt die dem Menschen ebenbürtige bis überlegene Maschinenintelligenz Gestalt an, andererseits sieht man in ihr die mögliche Auslöschung der Menschheit. Das Center for AI Safety – eine amerikanische Nonprofit-Organisation – veröffentlichte vor kurzem ein Statement von Tech-Mogulen, das viele namhafte Fachleute unterzeichneten: «Das Risiko eine Auslöschung der Menschheit durch die KI sollte in der sozialen Dimension gleich eingeschätzt werden wie das Risiko der Auslöschung durch Pandemien oder durch Nuklearkriege.» 

Das falsche Bewusstsein 

Dieser Alarmismus spricht mit gespaltener Zunge. Wenn die KI wirklich eine solche Gefahr darstellt, fragt man sich, warum warnen dann ausgerechnet jene Leute vor ihr, die ihre Entwicklung rasend vorantreiben? Sind sie aus ihren Zauberlehrlingsträumen aufgewacht? Hat die «prometheische Scham» sie gepackt, das Gefühl der Unzulänglichkeit angesichts ihrer eigenen Produkte? 

Natürlich sind die Warnungen nicht einfach in den Wind zu schlagen. Aber nüchtern be-trachtet, eröffnen die KI-Systeme schlicht ein unerforschtes Feld der sozialen Interaktion von Mensch und Maschine, nunmehr auf «intelligentem» Niveau. Und es ist eigentlich nicht das KI-System selbst, sondern unsere vorauseilende dystopische Fantasie, die uns das Fürchten lehrt.

Karl Marx sprach vom «falschen Bewusstsein», also einem Begriffs- und Wahrnehmungsrahmen, der alles schon im Voraus präformiert, ja, verzerrt. Falsches Bewusstsein erscheint mir wie zugeschnitten auf die heutige KI-Technologie: Wir machen uns a priori einen unzutreffenden Begriff von ihr. Und das führt zu Falschalarm. Ich erläutere dies anhand dreier Punkte. 

Die Zuschreibung menschlicher Vermögen

Erstens: Wir attestieren den smarten Maschinen kognitive Fähigkeiten, die wir oft kaum noch von menschlichen unterscheiden. Wir sagen, der Computer «verstehe» oder «entscheide», der Chatbot «schreibe» einen Text, LaMDA («Language Model for Dialogue Application») «konversiere» mit uns, DALL-E 2 «male» ein Bild. Das sind aber nichts anderes als Anthropomorphismen, mit denen wir versuchen, die heute kaum noch vollständig durchschaubaren Maschinenabläufe in einem uns begreiflichen Idiom zu beschreiben. Ins-besondere übertragen wir KI-Systemen bereits «moralische» Handlungsverantwortung, schieben ihnen etwa die Schuld zu, Jobs «abzuschaffen». Oder wir warnen vor «sexisti-schen» oder «rassistischen» Algorithmen. Als ob die Maschinen sich wie Menschen verhal-ten würden. 

Und das sollte uns wirklich perplex machen: Wir wissen, dass wir es bloss mit Maschinen zu tun haben. Trotzdem leben wir mit ihnen auf fast gleicher sozialer Höhe wie mit Menschen  zusammen. Bisherige Klimax dieser KI-Beschwipstheit ist ein Softwaredesigner von Google – Blake Lemoine - , der behauptete, das Konversationsprogramm LaMDA sei in eine persönliche Beziehung zu ihm getreten. 

Der Machtwille des Homo sapiens hinter dem Robo sapiens

Das ist falsches Bewusstsein. Es zeigt zweitens eine alarmierende Dialektik der ganzen Entwicklung. Im gleichen Zug, in dem wir Maschinen personenhafte Züge zuschreiben, verges-sen wir die menschlichen Personen hinter der Maschinen. Nicht Maschinen schaffen die Jobs ab, sondern Unternehmen und Regierungen -  Institutionen, die von Personen geführt werden. Und nicht die Algorithmen sind sexistisch oder rassistsisch, sondern deren Designer. 

Der vermeintliche Machtwille des Robo sapiens ist der kaschierte Machtwille des Homo sapiens. Die Gefahr liegt nicht darin, dass Computer die Menschen beherrschen, sondern eine Elite von Roboterdesignern, Technikunternehmern und Risikokapitalisten, welche den Arbeitsmarkt mit «disruptiven» Technologien nach ihrem Belieben fluten und dirigieren. 

Man muss dabei nicht immer gleich China als abschreckendes Beispiel zitieren, wo das Regime die Technologie zur totalen Verhaltensdressur ausnutzt. Auch im Westen lassen wir uns von Algorithmen kontrollieren und manipulieren. Sie «entscheiden», was wir sehen, lesen, hören, kaufen, mit wem wir kommunizieren, wen wir mögen und wen wir hassen wollen. Das Netz ist eine gigantische Skinnerbox ohne Skinner. Er experimentierte mit Tauben. Heute sind wir so weit, dass wir uns selber zu netzadaptierten Kreaturen konditionieren. 

Es geht bei den neuesten KI-Kreationen nicht mehr bloss um Bau und Funktionsweise von intelligenten Artefakten, sondern um deren Sozialisierung. Um Maschinen zu sozialisieren, muss man Menschen «maschinisieren». Man vergegenwärtige sich nur einmal, wie wir immer dichter verpackt in einer Infosphäre mit Computern, Programmen und Daten leben, wo Artefakte unsere Aktivitäten übernehmen, ohne dass man begründet sagen könnte, die-se künstlichen Akteure besässen Intelligenz, Verständnis, Gefühlszustände, semantische Fähigkeiten wie wir Menschen.  Aber auch so werden wir uns daran gewöhnen müssen, ei-nem System ein «Gedächtnis» in Gestalt von riesigen Datenbanken und effektiven Suchalgorithmen zuzuordnen; ihm ein bestimmtes «intelligentes» Verhalten zu attestieren, wenn es ein Flugzeug sicher landen lässt, die schnellste Route zwischen zwei Orten herausfindet oder günstige Börsentransaktionen berechnet. 

Techno-Fatalismus

Alarmierend ist drittens der Ohnmachtswille des Homo sapiens, sprich: die willfährige Bereitschaft, seine kognitiven, aber auch moralischen Kompetenzen an den Robo sapiens abzutreten. Algorithmen sind mächtige Instrumente, deren Macht grösstenteils darin besteht, andere Maschinen auf abstrakter Ebene zu simulieren. Das ist die fundamentale Einsicht von Alan Turing. Aber diese Fähigkeit kann uns zu sektierischer Einäugigkeit und metaphorischer Universalisierung verleiten: Alles ist «im Prinzip» ein Computer. Wir kennen diesen Reduktionismus schon von der alten Maschine her: Der Mensch ist «nichts als» eine organische Maschine. 

Er bestärkt eine Art von Techno-Fatalismus: Der Vormarsch der Algorithmen ist unaufhaltsam. Wir beginnen alle sozialen und kulturellen Veränderungen dem Einfluss der Technologie zuzuschreiben und vergessen dabei, dass es «die» Technologie nicht gibt. Es gibt Menschen – Ingenieure, Unternehmer, Investoren, Evangelisten der KI - , welche die Technologie zu ganz bestimmten Zwecken einsetzen – und missbrauchen. Und vielen von ihnen liegt durchaus daran, dass die Nutzer ihrer Produkte in der Herdenwärme einer lamm-frommen Technikgläubigkeit verharren. 

They just don’t give a damn

Künstliche Intelligenz ist eines der kühnsten, vielleicht das kühnste intellektuelle Abenteuer der letzten 60 Jahre. Sie lehrt uns sehr viel darüber, was Intelligenz nicht ist. Die seriöse Forschung zeigt uns zum Beispiel, dass auch KI ihre «intrinsischen» Grenzen hat. Und genau das ist spannend, Ansporn für weitere Forschung in der Entwicklung von KI-Systemen, etwa von biologienäheren neuronalen Netzen oder von Quantencomputern. Zu-gleich aber auch dafür, die Alarmstufe herunterzufahren. 

Denn das grösste Risiko im Umgang mit den KI-Systemen bleibt ihr blosses Akzeptieren. Sie interessieren sich nämlich nicht für uns. Wie dies der amerikanische Philosoph John Haugeland unvergesslich ausgedrückt hat: The trouble with computers is that they just don’t give a damn – wir sind ihnen scheissegal. Und nicht wenige KI-Leute meinen damit: Der Unterschied zwischen Maschine und Mensch ist uns scheissegal. 

Die nachstehenden Essays insistieren auf diesem Unterschied. Die smarten Maschinen fordern den Anthropozentrismus heraus. Sie übernehmen heute Aufgaben, von denen man einst annahm, dass sie ausschliesslich menschliche Intelligenz erfordern. Sie zwingen uns dazu, neu zu überdenken, was Intelligenz, Bewusstsein, Persönlichkeit bedeutet. Sie brechen die anthropozentrische Ethik auf, indem sie für sich den Status von künstlichen «Agenten» reklamieren, also von Artefakten mit eigener Stellung und Handlungsmacht. Sie «emanzipieren» sich dadurch vom untergeordneten Status eines willfährigen «Tools». Und die Frage stellt sich, ob wir sie in unsere Gesellschaft «einbürgern» und mit ihnen «auf Augenhöhe» verkehren sollen. 

Exzentrische Anthropologie 

Solche Phänomene rufen nach einer Umkehr des traditionellen anthropologischen Ansatzes, in dem der Mensch die Zentralperspektive beanspruchte. Ich nenne diesen Ansatz  – in Anlehnung an Helmuth Plessner - exzentrische Anthropologie. Der Mensch lernt sich im Spiegel seiner Artefakte neu kennen und verstehen, so wie die kopernikanische Wende des heliozentrischen Weltbildes dem Menschen ein neues Selbstverständnis abforderte. Übrigens zeigt schon die Geschichte des Wortes «Computer» diese Dezentrierung an. Ursprüng-lich bezog es sich auf Menschen, die Rechenoperationen durchführten. Mit Alan Turings bahnbrechender Arbeit über denkende Maschinen konnte es auch auf Artefakte angewendet werden. Das Wort löste sich von seiner anthropozentrischen Bedeutung. Mit solchen be-grifflichen Erweiterungen werden wir vermehrt zu tun haben.

Wenn im Folgenden von smarten Maschinen die Rede ist, dann stehen nicht so sehr ihre wissenschaftlichen und technischen Aspekte im Brennpunkt, sondern ihre Herausforderung der menschlichen Sonderstellung in der Welt (die ersten drei Essays behandeln eher Grundlagenfragen). Smarte Maschinen reklamieren heute vieles, was wir als «eigentlich» menschlich bezeichnen: kognitive Vermögen, Kreativität, Moral. Die Ironie springt natürlich ins Auge:  Wir schaffen kraft unseres Denkens Artefakte, die uns die Sonderstellung des denkenden Wesens streitig machen – eine Sonderstellung, wie sie sich emblemartig genug im cartesianischen «Ich denke, also bin ich» äussert.  

Schliesslich möchte ich mich mit der exzentrischen Anthropologie von anderen «dezentrierenden» Ansätzen abgrenzen; etwa von den transhumanistischen Visionen eines Menschentums, das sich aus seinen biologischen Fesseln lösen will; auch von den Netzwerken, in denen Menschen und Artefakte ununterscheidbar als «Aktanten» operieren. Ich gehe vielmehr aus vom vielleicht paradoxen, vielleicht donquichottischen Optimismus, dass das Menschliche sich gerade da entdecken lässt, wo es scheinbar veraltet und verschwindet.