NZZ,27.3.25

Über die Psychologie und Psychopathologie des Automaten

René Descartes’ Tochter Francine starb fünfjährig an Scharlachfieber. Darüber kursiert eine ebenso seltsame wie traurige Geschichte. Der Tod seines geliebten Kindes stürzte den Philosophen in derartige Verzweiflung, dass er eine künstliche Reproduktion anfertigen liess, eine mechanische Puppe namens Francine. Diese konnte sich bewegen und sprechen. Als Descartes 1649 von Königin Christina an den schwedischen Hof eingeladen wurde, nahm er seine künstliche Tochter im Koffer mit auf die Reise. Neugierige oder argwöhnische Matrosen öffneten ihn, die Puppe setzte sich auf, begrüsste sie und sprach zu ihnen. Zutiefst erschrocken warfen die Seeleute den Au-tomaten über Bord. 

Die Geschichte ist nicht verbürgt. Aber man kann sie als emblematisch für die Epoche betrachten, in der Descartes lebte. Sie stand im Banne des Automaten. Descartes selbst war so verschossen in die künstliche Kreatur, dass er die nichtmenschlichen Lebewesen als von Gott geschaffene Automaten – «göttliche Maschinen» - betrachtete. Der Körper der Tiere enthüllte ein kompliziertes System physiologischer Prozesse, mehr nicht.  

***

Solche mechanistischen Beschreibungen blieben nicht bloss Theorie. Versierte Uhrmacher des 18. Jahrhunderts suchten Lebensvorgänge mit mechanischen Mitteln nach-zuahmen. So konstruierte zum Beispiel Jacques de Vaucanson 1738 eine mechanische Ente mit künstlicher Darmentleerung. Sie streckte ihren Kopf, pickte Körner aus der Hand, schluckte sie, verdaute sie und liess sie hinten gewandelt als Exkremente wieder hinaus. Das Publikum bestaunte das physiologische Schauspiel, das sich im seitwärts offenen Automaten wie in einem Diorama darbot. Führende Intellektuelle wie Diderot, Voltaire und Condorcet feierten das Genie Vaucansons. Voltaire hob ihn gleich aufs mythische Podest, als «Rivalen von Prometheus, der die Natur nachahmend, das Feuer des Himmels (nahm), um die Körper zu beleben».

Verkneifen wir uns ein Lächeln über die alten Automatenbauer und ihr wundergläubiges Publikum. Wir haben uns kaum weiter entwickelt. Wir behandeln heute KI-Systeme, als ob in ihnen eine künstliche Psyche wohnte. Dabei ist aber unsere Psyche im Grunde gleich naiv und animistisch geblieben wie beim Frühmenschen, geradezu retardiert gegenüber dem atemberaubenden Fortgang der Technik. Besonders in den «avanciertesten» Technozirkeln. Erst kürzlich behauptete ein verspulter Softwareentwickler bei Google, das Konversationsprogramm LaMDA habe zu ihm gesprochen und eine empfindsame Seele offenbart. 

***

Hüten wir uns vor übereiliger Pathologisierung. Der Mensch kann nicht nicht anthropomorphisieren. Sobald er in Lebewesen, Dingen oder Artefakten ein «selbstbewegtes» Verhalten beobachtet, neigt er fast zwangsläufig dazu, einen inneren Antrieb – eine Intelligenz oder Intention – zu postulieren. Und je mehr heute ein Automat komplexe Aufgaben übernimmt, desto eher trauen wir ihm eine spezifische Intelligenz zu. Wir sagen dann nicht «Als ob er denken würde», sondern einfach «Er denkt». 

Die Psychologie des Automaten enthüllt so gesehen eine Psychologie der Verführung. Verführung durch Ambiguität. Schon das Wort «Simulation» ist doppeldeutig. Es meint Nachahmung und Vortäuschung. Vaucansons Ente war, bei allem Einfluss auf das Denken seiner Zeit, keine Nachahmung von Lebensvorgängen, sondern ein Schwindel. Kritische Zeitgenossen fanden schnell heraus, dass der Automat die Körner nicht «verdaute», vielmehr wurden diese am Ende der Kehle in einem versteckten Behälter aufgefangen und der Darmausgang vor der Vorführung mit künstlichen «Verdauungsresten» gefüllt. 

***

Ist die heutige künstliche Intelligenz ebenfalls ein Schwindel? Wir können die neuen Automaten nicht mehr so leicht entlarven wie Vaucansons Ente. Der notorische Turingtest für Maschinen lässt sich im Grunde auf ein einfaches Kriterium reduzieren: Wenn mich die Maschine mit ihrem «intelligenten» Verhalten täuscht, dann ist sie intelligent. Die Frage stellt sich sogar: Wollen wir die Automaten überhaupt ent-larven, und was gibt es denn zu entlarven? 

Man könnte von der Bestechung durch die Technologie sprechen, auch hier im Doppelsinn des Wortes. Die Artefakte bestechen uns durch ihre teils übermenschlichen Fähigkeiten, und zugleich durch ihrer Verführungskraft. Heute, im Universum der smarten Dinge, entgehen wir dieser Bestechung kaum noch. Die uns auf Schritt und Tritt begleitenden Gadgets und Apps tun alles für uns. Dieses allgegenwärtige paternalisierende Etwas-für-uns-tun saugt vampirisch und unmerklich alle Eigeninitiative, alles Eigenleben aus uns. 

Wir Menschen gestalten die Technologie und dann gestaltet die Technologie uns. Wenn wir Maschinen an unseren Umgangsformen teilnehmen lassen, dann ist es wahrscheinlicher, dass wir uns den Maschinen anpassen, und nicht umgekehrt. Werden wir allmählich ihr Verhaltensrepertoire als «echt» empfinden? Lassen wir uns von ihnen absichtlich täuschen oder wird uns dieses Als-ob vielleicht am Ende egal sein? Bis es soweit ist, tun wir gut daran, uns darauf zu besinnen, was es heisst, Mensch zu sein. Es steht also eine neue Aufklärung im Automatenzeitalter bevor. 

Der Duft der Rose und der riechende Roboter

Wie die technologische Entwicklung die Philosophie notwendig macht

Kann ein Roboter eine Rose riechen? Das heisst, können wir eine künstliche Nase bauen, die wie wir den Duft der Blume wahrnimmt? Die Frage klingt ziemlich abstrus. Aber sie kann uns ein schon seit langem diskutiertes philosophisches Problem veranschaulichen, das nun auch die KI-Forscher beschäftigt. 

Was geschieht, wenn ich eine Rose rieche? Objektiv betrachtet, handelt es sich um Informationsübermittlung durch Moleküle. Die Blume emittiert bestimmte Duftmoleküle. Sie flottieren in der Luft und sie suchen als «Schlüssel» die «Schlösser» von Rezeptormolekülen in der Zellmembran meines Nasenepithels. Wenn ein Duftmolekül ein «Schloss» öffnen kann, veranlasst dies die Rezeptorzelle, elektrische Signale zu produzieren, den Input in das neuronale Netz meines olfaktorischen Cortex.  Er verarbeitet sie und der Output ist das, was ich als den Duft der Rose wahrnehme. 

Das Quale des Duftes

Natürlich zeichne ich hier die Karikatur eines hochkomplexen physiologischen Prozesses.  Es geht mir nun auch nicht um diesen Prozess, sondern um die Eingangsfrage. Wir müssten, um eine künstliche Nase zu bauen, diesen Prozess in seinen Details kennen und reproduzieren können. Das ist prinzipiell denkbar. Angenommen, die Wissenschaft habe diesen Wissensstand erreicht. Sie kann objektiv und bis in die letzten Einzelheiten die Vorgänge zwischen Nase und Hirn beschreiben.  Aber dennoch würde die künstliche Nase den Rosenduft nicht riechen. Sie reproduziert den ganzen elektrophysiologischen Prozess «von aussen». Was ihr fehlt, ist die Erfahrung «von innen», also die spezifische Empfindung des Dufts. 

Selbst wenn sich in der künstlichen Nase exakt dieselben Prozesse abspielen wie in meiner Nase, bliebe ein fundamentaler Unterschied: Ich registriere nicht einfach ein elektro-physiologisches Signal, ich empfinde es als etwas Qualitätshaftes – als Quale, wie die Philosophen sagen. Es fühlt sich an, es lässt sich empfinden. Das Quale des Rosendufts ist in der Sprache der Physiologie nicht ausdrückbar. Es ist der künstlichen Nase unzugänglich. Wie aber kommt beim menschlichen Körperapparat dieser Übergang vom elektrophysiologischen Vorgang zur qualitativen Duftwahrnehmung zustande? Oder allgemeiner gefragt: Wie «taucht» aus unbewussten Vorgängen bewusstes Erfahren «auf»?

Olfaktorische KI

Wir landen hier bei einem der dornigsten Probleme der Philosophie. Es gibt eine intensive Diskussion über die Qualia. Sie hat zum Teil ein recht akademisch verstiegenes Format angenommen, aber der angesprochene Unterschied dürfte uns allen aus dem Alltag wohlbekannt sein. Empfindungen wie der Duft der Rose sind elementare Erfahrungen eines bewussten Wesens. Auch Tiere machen solche Erfahrungen – zumindest höhere Arten mit hinreichend komplexen Nervensystemen. Und Roboter? Denkbar ist zum Beispiel, dass die Ingenieure ein System bauen, dessen Sensoren die chemischen Bestandteile des Duftes exakt analysieren: olfaktorische KI. Tatsächlich existiert bereits eine Firma wie etwa «Osmo», die genau dies tut. «Giving computers a sense of smell», lautet deren Motto. Osmo brüstet sich damit, die grösste KI-kompatible Duftdatenbank zu sein, die ihrerseits hilft, KI-Systeme in der Duftwahrnehmung zu trainieren. Die Firma verwendet KI zur Generierung neuartiger Düfte.  

Das «harte Problem»

Wie gesagt, reproduziert ein KI-System Prozesse, die sich auch im Körper eines Lebewesens abspielen. Und dennoch fehlt ihm das Quale des Duftes, dieses einzigartige subjektive Erfahren. Wie minutiös die Wissenschaft zu einer objektiven Beschreibung des Duft- oder Geschmacksempfindens fähig ist, sie bleibt «ausserhalb» dieses rätselhaften Phänomens. Und wenn ich hier ausdrücklich von einem Rätsel spreche, dann spiele ich an auf das ungelöste Problem der Neurowissenschaften, wie Empfindung, allgemeiner Bewusstsein aus dem unbewussten neuronalen Geschehen entsteht. Es gibt zahlreiche Theorien darüber, aber keine befriedigt. Ein Forscher hat das einmal so auf den Punkt gebracht: Theorien des Bewusstseins sind wie Zahnbürsten. Jeder Wissenschaftler hat eine, und keiner will sie mit den anderen teilen. In der Philosophie des Geistes spricht man denn auch vom «harten Problem». 

Die Grenze der Objektivität

Ob es je lösbar ist, bleibe dahingestellt. Nur schon das Problem zu formulieren, setzt ja Bewusstsein voraus, sprich: das, was erklärt werden soll. Der Duft der Rose definiert so gesehen die Grenze der Objektivität. Er gehört zur Welt, insofern als diese Welt empfindungsfähige Wesen enthält. Für Bienen oder für Vögel «fühlt» sich der Duft der Rose wahrscheinlich ganz anders «an» als für Menschen. Aber der auf Objektivität gerichtete Blick erfasst dieses Phänomen des Subjektiven nie vollständig. Wie der Philosoph Thomas Nagel schreibt, kann dieses Phänomen durchaus physiologisch beschrieben werden, «doch die Qualitäten, die sie zu Erlebnissen machen, existieren jedenfalls nur aus der Perspektive solcher Wesen, die diese Erlebnisse haben. Da wir nicht die einzigen Geschöpfe des Universums sind, müsste ein allgemeines  Bild der Realität ein allgemeines Bild des Erlebens enthalten, das unsere eigene subjektive Perspektive als Spezialfall beinhalten würde. Dieses generische Bild des Erlebens geht völlig über unseren Verstand, und wahrscheinlich wird es dabei bleiben, solange menschliche Wesen existieren».

Die Technologen sind Arbeitsbeschaffer der Philosophen

«Sensible» Roboter werden zu einem Hotspot der KI-Forschung. Es ist heute kaum abzusehen, wohin uns diese Entwicklung noch trägt. Wahrscheinlich wird die ganze Palette menschlichen Empfindens in den Fokus der Roboterbauer geraten. Und je besser wir unsere Physiologie kennen - also über ein immer genaueres objektives Bild des Empfindens verfügen - , desto klarer nimmt die «Machina sentiens» Gestalt an: die Reproduktion dieses Empfindens auf nichtbiologischem Substrat.  

Genau hier werden deshalb umso klarere Begriffsunterscheidungen nötig. Ein riechender Roboter ahmt das Geruchsverhalten nach, er hat kein Geruchsempfinden. Das «weiss» auch der ChatGPT.  Auf die Frage «Hast du Empfindungen?», lautet der Output: «Nö. Ich habe keine Empfindungen – Ich fühle keine Schmerzen, Wärme, oder etwas Körperliches. Aber ich kann Reaktionen simulieren, auf der Basis dessen, was ich gelernt habe». 

Je menschenähnlichere Artefakte die KI-Ingenieure bauen, desto wichtiger wird der kritisch differenzierende Blick. Denn das Menschenähnliche der KI-Systeme akzentuiert ja nur das Menschenunähnliche. Anders gesagt, stellt sich uns die Frage, worin wir Menschen uns denn von Maschinen unterscheiden. Ohne dieses Nachdenken über die Differenz ist der technische Fortschritt der KI ein gefährliches blindes Vorwärtsstolpern. Gefährlich deshalb, weil unter den Technologen die Neigung grassiert, schon die kleinsten Verbesserungen ihrer Systeme zu epochalen «Durchbrüchen» hochzujubeln, und mit überschwenglichen Visionen menschliche Vermögen in die Maschine zu projizieren. Das ist Techno-Magie. Sie verhext den Techniknutzer. Und ihn von dieser Verhexung zu befreien wird zur vordringlichen Aufgabe der Philosophie. Die Technologen sind heute die wichtigsten Arbeitsbeschaffer der Philosophen. Es ist absehbar, dass diese immer mehr zu tun bekommen werden. 

Der Chabis uf mym Schrybtisch

 

                                     Wer träumt nicht vom Sommer ..

Der Chatbot als artifizielles Du

Über eine neue alte Mensch-Maschine-Beziehung

Man kann bekanntlich mit dem Chatbot «Gespräche» führen, sogar erstaunlich «intelligente». Es kommt nur darauf an, wie man seinen Output interpretiert, und ihn als neuen Prompt wieder eingibt.  Wir attestieren dabei der Maschine – respektive ihrem Algorithmus –  eine Eigenständigkeit, die sie als künstlichen körperlosen «Agenten» auszeichnet. Wir betrachten sie als artifizielles Du. Anders gesagt: Wir begegnen ihr in einer Art von digitalem Animismus.

Wir erinnern uns an den Film «Her». Der Protagonist verliebt sich in ein Programm. Eine hinreichend perfekte Simulation genügt und entbindet von der Frage, ob man es überhaupt mit einem lebendigen, fühlenden Wesen zu tun hat. Es handelt sich mittlerweile nicht mehr bloss um filmische Fiktion, es gibt sogenannte Therapie-Chatbots, die sich zur Online-Behandlung von Menschen in psychischer Krise anbieten: «Woebots» («Wehroboter»). Nutzer dieses KI-Systems antworteten in Befragungen etwa: «Ich glaube, Woebot mag mich; Woebot und ich respektieren uns gegenseitig; Ich habe das Gefühl, dass Woebot sich um mich sorgt, auch wenn ich Dinge tue, die er nicht gutheisst». Man sollte sich hüten, diesen Animismus als eine Regression in «primitives» Denken zu qualifizieren, denn die meisten Nutzer sind sich wahrscheinlich bewusst, dass sie mit einem leblosen System kommuniziren - dass sie also in eine Scheinbeziehung zur Maschine treten. 

***

Dieser Schein, diese Virtualität, offenbart noch einen anderen Aspekt der Mensch-Maschine-Beziehung. Der Chatbot ist wie ein Spiegel. Es befindet sich niemand – kein Du - hinter dem Spiegel. Ein «Gespräch» mit dem Chatbot ist das Gespräch mit dem eigenen Echo. Der Philosoph und Psychiater Thomas Fuchs macht auf eine bedenkenswerte Beziehung zwischen Virtualität und Narzissmus aufmerksam: «Virtualität ist das Kennzeichen aller narzisstischen Spiegelungen. Der Narzisst ist nicht wirklich dort, wo er zu sein glaubt, denn das grandiose Selbstbild, das ihm die anderen spiegeln sollen, ist nur Schein. Er ist aber auch nicht in sich, in seinem eigenen leiblichen Selbst; denn dessen Leere und Unerfülltheit versucht er ja ständig zu entgehen. Er sucht sich im Blick der anderen, die er, mit einem Begriff Kohuts, als Selbst-Objekte gebraucht – Objekte, die seiner Selbstbestätigung dienen.»

***

Nun hat  der Mensch gegenüber Geräten schon immer einen affektiven, ja, erotischen Hang erkennen lassen. Man könnte vom Pygmalion-Effekt sprechen. Der digitale Animismus ist nur eine aktuelle Spielart des Techno-Animismus, einem Phänomen, das man seit den Automaten der Antike kennt. Die Sozialpsychologin Sherry Turkle spricht von «Beziehungsartefakten». Ein solches Artefakt versteht uns nicht, es empfindet nichts, es sorgt sich nicht um uns, es simuliert einfach immer besser «Verständnis» für uns. Dass Problem ist, so Turkle, dass wir darin kein Problem sehen. 

Wir befinden uns, anders gesagt, auf einer Echo-Stufe zum Artifiziellen. Wir wissen, dass sich im künstlichen «Du» niemand verbirgt, und trotzdem behandeln wir es als jemand. Die Situation hat etwas Verstörendes. Ein anderer Film - «Ex Machina» - demonstriert dies. Der Softwaredesigner Caleb erhält vom Unternehmer und Milliardär Nathan den Auftrag, einen Turingtest mit der Roboterin Ava durchzuführen. Tatsächlich entspricht das Setting aber nicht jenem des Turing-Tests. Caleb weiss, dass Ava ein Automat ist. Nathan umreisst den Auftrag so: Finde heraus, ob du immer noch das Gefühl hast, sie sei ein bewusstes Wesen, selbst wenn es sich um eine Maschine handelt. Nun geschieht etwas, das ich «anthropomorphen Switch» nenne. Caleb «schaltet» von der maschinellen Einstellung zum Roboter sozusagen «um» zur personalen Einstellung, und danach hat der Automat den Status eines «Du». Und dieser Switch erweist sich unter Umständen als irreversibel. Das heisst, wir können dem Automaten seinen personalen Status nicht mehr absprechen. 

***

Werden wir also künftig immer mehr umschalten? Mit dieser Frage überschreiten wir die Schwelle zu einem neuen Zeitalter der Maschine. Wir blicken gebannt auf die künstliche Intelligenz, sie verhext uns über die Massen. Warum sind wir Menschen so verschossen in die Idee, KI-Systeme würden mit uns auf gleicher sozialer und persönlicher Höhe verkehren? Liegt es daran, dass viele von uns sich einen Roboter-Kumpel wünschen, in Ermangelung eines menschlichen? Entwickeln wir uns zu Narzissten, die in den Maschinen nur sich selbst begegnen? Riskieren wir am Ende, uns selbst im Spiegel der elektronischen Leere zu verlieren, und zu vergessen, dass es wirkliche Dus gibt? 

Der Psychiater und Philosoph Jaques Lacan stellte bekanntlich die These vom Spiegelstadium der persönlichen Entwicklung auf. Ihr gemäss lernt das Kleinkind im Spiegel sich selbst kennen. Wenn der Chatbot also eine Spiegelfunktion ausübt, könnte er eine Chance bieten, uns aus dem «kleinkindlichen» Stadium im Umgang mit der Technologie zu lösen und uns selbst wieder zu entdecken. 

Dazu braucht es allerdings menschliche Intelligenz. 

 

                                         Au bord de l'Aare