NZZ,27.3.25

Über die Psychologie und Psychopathologie des Automaten

René Descartes’ Tochter Francine starb fünfjährig an Scharlachfieber. Darüber kursiert eine ebenso seltsame wie traurige Geschichte. Der Tod seines geliebten Kindes stürzte den Philosophen in derartige Verzweiflung, dass er eine künstliche Reproduktion anfertigen liess, eine mechanische Puppe namens Francine. Diese konnte sich bewegen und sprechen. Als Descartes 1649 von Königin Christina an den schwedischen Hof eingeladen wurde, nahm er seine künstliche Tochter im Koffer mit auf die Reise. Neugierige oder argwöhnische Matrosen öffneten ihn, die Puppe setzte sich auf, begrüsste sie und sprach zu ihnen. Zutiefst erschrocken warfen die Seeleute den Au-tomaten über Bord. 

Die Geschichte ist nicht verbürgt. Aber man kann sie als emblematisch für die Epoche betrachten, in der Descartes lebte. Sie stand im Banne des Automaten. Descartes selbst war so verschossen in die künstliche Kreatur, dass er die nichtmenschlichen Lebewesen als von Gott geschaffene Automaten – «göttliche Maschinen» - betrachtete. Der Körper der Tiere enthüllte ein kompliziertes System physiologischer Prozesse, mehr nicht.  

***

Solche mechanistischen Beschreibungen blieben nicht bloss Theorie. Versierte Uhrmacher des 18. Jahrhunderts suchten Lebensvorgänge mit mechanischen Mitteln nach-zuahmen. So konstruierte zum Beispiel Jacques de Vaucanson 1738 eine mechanische Ente mit künstlicher Darmentleerung. Sie streckte ihren Kopf, pickte Körner aus der Hand, schluckte sie, verdaute sie und liess sie hinten gewandelt als Exkremente wieder hinaus. Das Publikum bestaunte das physiologische Schauspiel, das sich im seitwärts offenen Automaten wie in einem Diorama darbot. Führende Intellektuelle wie Diderot, Voltaire und Condorcet feierten das Genie Vaucansons. Voltaire hob ihn gleich aufs mythische Podest, als «Rivalen von Prometheus, der die Natur nachahmend, das Feuer des Himmels (nahm), um die Körper zu beleben».

Verkneifen wir uns ein Lächeln über die alten Automatenbauer und ihr wundergläubiges Publikum. Wir haben uns kaum weiter entwickelt. Wir behandeln heute KI-Systeme, als ob in ihnen eine künstliche Psyche wohnte. Dabei ist aber unsere Psyche im Grunde gleich naiv und animistisch geblieben wie beim Frühmenschen, geradezu retardiert gegenüber dem atemberaubenden Fortgang der Technik. Besonders in den «avanciertesten» Technozirkeln. Erst kürzlich behauptete ein verspulter Softwareentwickler bei Google, das Konversationsprogramm LaMDA habe zu ihm gesprochen und eine empfindsame Seele offenbart. 

***

Hüten wir uns vor übereiliger Pathologisierung. Der Mensch kann nicht nicht anthropomorphisieren. Sobald er in Lebewesen, Dingen oder Artefakten ein «selbstbewegtes» Verhalten beobachtet, neigt er fast zwangsläufig dazu, einen inneren Antrieb – eine Intelligenz oder Intention – zu postulieren. Und je mehr heute ein Automat komplexe Aufgaben übernimmt, desto eher trauen wir ihm eine spezifische Intelligenz zu. Wir sagen dann nicht «Als ob er denken würde», sondern einfach «Er denkt». 

Die Psychologie des Automaten enthüllt so gesehen eine Psychologie der Verführung. Verführung durch Ambiguität. Schon das Wort «Simulation» ist doppeldeutig. Es meint Nachahmung und Vortäuschung. Vaucansons Ente war, bei allem Einfluss auf das Denken seiner Zeit, keine Nachahmung von Lebensvorgängen, sondern ein Schwindel. Kritische Zeitgenossen fanden schnell heraus, dass der Automat die Körner nicht «verdaute», vielmehr wurden diese am Ende der Kehle in einem versteckten Behälter aufgefangen und der Darmausgang vor der Vorführung mit künstlichen «Verdauungsresten» gefüllt. 

***

Ist die heutige künstliche Intelligenz ebenfalls ein Schwindel? Wir können die neuen Automaten nicht mehr so leicht entlarven wie Vaucansons Ente. Der notorische Turingtest für Maschinen lässt sich im Grunde auf ein einfaches Kriterium reduzieren: Wenn mich die Maschine mit ihrem «intelligenten» Verhalten täuscht, dann ist sie intelligent. Die Frage stellt sich sogar: Wollen wir die Automaten überhaupt ent-larven, und was gibt es denn zu entlarven? 

Man könnte von der Bestechung durch die Technologie sprechen, auch hier im Doppelsinn des Wortes. Die Artefakte bestechen uns durch ihre teils übermenschlichen Fähigkeiten, und zugleich durch ihrer Verführungskraft. Heute, im Universum der smarten Dinge, entgehen wir dieser Bestechung kaum noch. Die uns auf Schritt und Tritt begleitenden Gadgets und Apps tun alles für uns. Dieses allgegenwärtige paternalisierende Etwas-für-uns-tun saugt vampirisch und unmerklich alle Eigeninitiative, alles Eigenleben aus uns. 

Wir Menschen gestalten die Technologie und dann gestaltet die Technologie uns. Wenn wir Maschinen an unseren Umgangsformen teilnehmen lassen, dann ist es wahrscheinlicher, dass wir uns den Maschinen anpassen, und nicht umgekehrt. Werden wir allmählich ihr Verhaltensrepertoire als «echt» empfinden? Lassen wir uns von ihnen absichtlich täuschen oder wird uns dieses Als-ob vielleicht am Ende egal sein? Bis es soweit ist, tun wir gut daran, uns darauf zu besinnen, was es heisst, Mensch zu sein. Es steht also eine neue Aufklärung im Automatenzeitalter bevor.