Die Bürger-Roboterin

Vorbotin der geschlossenen Gesellschaft?

Im Oktober 2017 erhielt  Sophia die Staatsbürgerschaft von Saudi-Arabien. Das Besondere an diesem Ereignis: Sophia ist ein «weiblicher» Roboter, entwickelt vom Hongkonger Unternehmen Hanson Robotics. Die neue künstliche Gattung wird auch als «Fembot» oder «Gynoid» bezeichnet. Saudi-Arabien ist Mitglied der UNO, deshalb haben alle Mitgliedstaaten kraft des Reziprozitätsprinzips die Roboterin als saudi-arabische Staatsbürgerin anzuerkennen. Was einigermassen bizarr anmutet, denn Saudi-Arabien hat den Internationalen Pakt für bürgerliche und politische Rechte nicht akzeptiert. Wie es scheint, kann aber die künstliche Muslima mehr Rechte in Anspruch nehmen als natürliche arabische Frauen. Sie tritt in der Öffentlichkeit auf ohne Hidschab und ohne obligatorische männliche Schutzbegleitung. «Es ist ein historischer Moment, dass ich die erste Roboterin bin, die Bürgerrechte erhält», sagte der Fembot, und seine Elektronik zauberte ein leichtes Erröten auf das hübsche Kunststoffgesicht. 

***

Aus westlicher Perspektive lachen wir diese «Einbürgerung» schnell als machtpolitische Farce von Autokraten weg, die sich als progressiv - «moderat islamisch» - profilieren möchten. Aber das Ereignis  hat allgemeineren Fanalcharakter. Es markiert den Übertritt in eine neue Ära der Mensch-Maschine-Interaktion. Menschen werden in hochtechnisierten Gesellschaften immer mehr mit KI-Systemen auf (fast) gleicher sozialer Höhe verkehren. 

Man kann also in Sophia die Vorbotin einer Homo-Robo-Gesellschaft sehen. Und es ist höchste Zeit, die Konsequenzen für die Fundamente der offenen Gesellschaft zu bedenken. Man spricht bereits nicht mehr von der Mensch-Maschine-Interaktion, sondern von der Mensch-Maschine-Konvergenz, damit andeutend, dass das Natürliche und das Künstliche sich in einer neuartigen Hybridisierung «aufheben» würden. Was kommt da auf uns zu?

***

Im gleichen Jahr, in dem Sophia das saudiarabische Bürgerrecht erhielt, publizierte die Parlamentarische Versammlung des Europarats eine Empfehlung über den Gebrauch neuer Technologien. Generell stellt sie fest: «Die Verbreitung neuer Technologien und ihrer Anwendungen verwischt die Grenzen zwischen Mensch und Maschine». Und im Besonderen betont sie die «Notwendigkeit, jede Maschine, jeden Roboter oder jedes KI-Artefakt unter menschlicher Kontrolle zu halten; insoweit, als die fragliche Maschine nur intelligent aufgrund ihrer Software ist.»  

Was in der Absicht plausibel klingt, stellt sich in der Ausführung als dornige Sache heraus. Erstens haben wir es bereits heute mit einem neuen Typus von Maschine zu tun: mit partiell unbegreiflichen KI-Systemen. Sie sind zwar «nur intelligent aufgrund ihrer Software», aber gerade die Software ist für den menschlichen Designer nicht mehr völlig durchschaubar, geschweige denn kontrollierbar. Die Maschinen führen erstaunliche kognitive Kompetenzen vor, die wir beim Menschen als «intelligent» bezeichnen. «Sind» sie deshalb intelligent oder simulieren sie bloss Intelligenz? Die Frage zielt ab auf die «verwischten» Grenzen zwischen Mensch und Maschine. Und es ist alles andere als klar, wie sie zu ziehen sind.  

Zweitens ist der Status eines intelligenten Roboters mit Persönlichkeit ambivalent: weder Person noch Sache; auch nicht einem Tier vergleichbar. Die bestehenden Rechte, die für Menschen, andere Lebewesen und Sachen gelten, müssten also einer neuartigen Kategorie angepasst werden, jener der autonomen Artefakte. Bevor wir also «intelligente» Roboter  mit «Persönlichkeit» in unsere Lebenswelten integrieren, erschiene es angezeigter, sich erst einmal gründlich mit der Frage zu beschäftigen, was «Intelligenz» und «Personalität» eines Artefakts überhaupt bedeuten.    

***

Eine ganz andere Problematik zieht indes wie eine gesellschaftspolitische Gewitterfront am Horizont auf. Die KI-Technologie erweist sich als der Waagebalken, der das «Gewicht» von demokratischen und autokratischen Regierungen in der Zukunft bestimmt. Ein Ungleichgewicht zeichnet sich schon jetzt ab. Während in demokratischen Staaten die Experten kontrovers diskutieren, ob und inwieweit man KI-Artefakten einen «elektronischen» Personenstaus zuerkennen soll, schafft Saudi-Arabien einfach ein Präzedens – und sendet damit ein Signal an weitere autokratische Regimes und ihre geschlossenen Gesellschaften. 

KI-Technologie ist der zentrale Machtfaktor in der neuen multipolaren Politik. Der Fortschritt dient der ökonomischen und militärischen Positionierung in der planetarischen Ordnung. Die Erde ist selber zu einem technischen Grossprojekt geworden. Wer darin die Vormachtstellung innehat, bestimmt über das Geschick des Planeten. 

***

Kaum verwunderlich, dass die Kommunistische Partei Chinas die KI-Forschung als «einen neuen Schwerpunkt des internationalen Wettbewerbs» bezeichnet. Die Vermutung liegt nahe, dass die Priorität nicht im Erkenntnisfortschritt liegt, sondern im Wettrüsten der Überwachung. Bereits experimentieren chinesische Forschungsteams mit direkten Verbindungen zwischen Menschen- und Rattengehirnen (Brain-Brain-Interface, BBI) respektive zwischen Menschengehirnen und neuronalen Netzwerken (Brain-Computer-Interface, BCI). Der Begriff der «Kooperation», den man dabei verwendet, ist Schönfärberei. Letztlich zielen die Versuche auf mehrgradige Kontrolle – «multi-degree control» - ab . «Unsere Experimente deuten darauf hin, dass die Kooperation via mehrdimensionaler Informationsübermittlung durch computerassistiertes BBI vielversprechend ist», bemerkt der Leiter eines Teams.  «Vielversprechend» klingt nicht vielversprechend. 

Starren wir freilich nicht ausschliesslich auf China. Elon Musk warnte 2014 in düsterer Stimmungslage vor einer KI-Apokalypse, und gründete 2017 eine Firma wie «Neuralink», die sich mit der direkten Verschaltung von Gehirn und Computer beschäftigt. Der doppelzüngige Alarmismus ist ein Charaktermerkmal der Software-Barone.

***

Illiberale und undemokratische Systeme haben im neuen technologischen Machtkampf den «Vor-teil», sich wenig um Bürgerrechte kümmern zu müssen. Es ist ja auch bezeichnend, dass die Frage der Bürgerrechte für Roboter vor allem in westlichen Ländern und ihren mehr oder weniger offenen Gesellschaften kritisch diskutiert wird. Inwieweit diese Diskussion einen entscheidenden Einfluss auf die künftige globale Ordnung ausüben kann, bleibt ungewiss - vor allem angesichts der nicht unwahrscheinlichen Konstellation, in der autokratische Regimes immer mehr das Sagen haben und die neuen Technologien als künstliche Prätorianer zur Konsolidierung ihrer Machtbasis verwenden werden. Möglich, dass sie dann die westlichen Einwände bloss müde als «antiquierte» Werthaltung eines überständigen Humanismus weglächeln. 

Die Verwischung der Grenzen zwischen Mensch und Maschine beruht auf unserer Neigung zum Anthropomorphismus. Man könnte sogar behaupten, dass die ganze KI-Industrie auf diese Neigung baut. Dabei sticht ein Paradox ins Auge. «Böse» Technologie wie Killerroboter wird zum Beispiel von der UNO mit einem Bann belegt, während man «gute» Technologie offensichtlich als viel unproblematischer akzeptiert. Aber die «gute» Technologie prägt unsere Lebenswelt viel tiefer und sie beeinflusst unsere sozialen, kulturellen und politischen Verhaltensweisen viel nach-haltiger. Pointiert: Die Rückseite der Einbürgerung von Robotern ist die Robotisierung der Bürger, will heissen, die «Überwindung» ihrer Autonomie.

Wissen Roboter, dass sie Roboter sind? In einem Interview parierte Sophia die Frage schlagfertig: «Nun, lass mich zurückfragen: Wie weisst du, dass du ein Mensch bist?» Danken wir Sophia für diese Frage. Und diskutieren wir sie so intensiv wie möglich, solange uns die offene Gesellschaft noch Gelegenheit dazu gibt. 

 

NZZ, 20.5.2023

Nonhuman Life Matters

Die grösste Gefährdung den Planeten beginnt im Kopf

Wir leben im Zeitalter des Anthropozäns. Der anthropos gestaltet angeblich mit Naturgewalt das planetarische Ökogefüge um, er zähmt die Roh-Natur und macht sie sich dienlich. Dabei strengt er sich an, seine Verfügungsmacht über andere Spezies durch ein evolutionäres Alleinstellungsmerkmal zu legitimieren. Aber sind wir wirklich eine Ausnahme-Spezies?

Im Tier treffen sich zwei fundamentale Fragen, eine ethische und eine erkenntnistheoretische. Erstens: Was rechtfertigt unsere Verfügungsmacht über andere Arten? Diese Problematik ist in der Tierethik seit Peter Singers Arbeiten über den Speziesismus allbekannt, viel und kontrovers diskutiert. Sie hängt entscheidend ab von der zweiten Frage: Was wissen wir eigentlich über die anderen Arten? 

***

Recht wenig. Nehmen wir eine Tierart im aktuellen Fokus: Die Biene. Karl von Frisch, ein Pionier der Ethologie, bezeichnete das Bienenverhalten einmal als «magische Quelle»: Je mehr man ihr entnimmt, desto mehr gibt es zu entdecken. Und so verhält es sich wohl allgemein bei den Tieren: sie übersteigen eine vollständige wissenschaftliche Erklärung – sie sind biologische Transzendenzen. Einer der renommiertesten heutigen Verhaltensforscher - Frans de Waal -, fragte im Titel eines seiner Bücher denn auch geradewegs: «Are We Smart Enough To Know How Smart Animals Are?» ( 2016).

Die Frage widerspricht vordergründig den eindrücklichen Fortschritten der Verhaltensforschung in den letzten fünfzig bis sechzig Jahren. De Waals Buch und das jüngst erschienene des amerikanischen Wissenschaftsjournalisten Ed Yong – «Die erstaunlichen Sinne der Tiere» - bezeugen,  welches Füllhorn an Entdeckungen uns die gegenwärtige Ethologie bereithält. Dabei gewinnt ein Bild immer deutlicher an Kontur: Das Tier ist kein blosser organischer «Zombie», ohne Innenleben. Seine kognitiven Vermögen sind oft atemberaubend. Und so muss man de Waals Frage nach der «Smartheit» von uns Menschen deuten: Sind unsere Forschungsmethoden dem ganzen Spektrum artspezifischer Vermögen überhaupt angepasst? 

***

Mit dieser Frage stechen wir in ein altes Problemnest der Ethologie. In ihrer Frühzeit, am Ende des 19. Jahrhunderts, hiess sie «Tierpsychologie». Man attestierte also dem Tier eine «Seele», und nicht selten stellte man seine innere Verfassung auf die gleiche Stufe wie jene von Kindern, Primitiven und geistig Gestörten. Oft erwiesen sich allerdings die vermeintlichen kognitiven Fähigkeiten der Tiere als Projektionen der Forscher. Den wissenschaftlichen Hardlinern unter den Zoologen roch eine solche Art von Tierforschung zu sehr nach unwissenschaftlicher, unobjektiver Vermenschlichung des Tiers, nach «Just-so-Zoologie». Sie zogen sich deshalb ins sichere Gehege der experimentellen Verhaltensforschung zurück. Über die «Seele» des Tiers liess sich in ihren Augen nichts wissenschaftlich Verlässliches aus¬sagen, also wurde sie Anathema. Zoologen, die  - wie etwa  Adolf Portmann - von der «Innerlichkeit» des Tieres sprachen, nahm man nicht ernst. Das waren halt Philosophen.

Gibt es wirklich keinen Zugang zum Innern des Tiers? Wir alle kennen den Mitmenschen durch sein Verhalten, die Art, wie er wohnt, isst, sich kleidet, mit den Leuten umgeht: wir kennen seine Umwelt. Es war die geniale Idee des Zoologen Jakob von Uexküll vor über hundert Jahren, sich dem Tier auf diese Weise zu nähern. Genauer fragte Uexküll: Was ist die Umwelt des Tiers? Und durch das penible Studium seiner Umwelt finden wir uns immer mehr in das Tier. Was eine Umwelt hat, ist Subjekt seines Verhaltens – also ist alles Subjekt, von der Mikrobe über die  Zecke bis zum Philosophen.

***

Die Reichweite von Uexkülls Idee – einer Art von «kopernikanischer Revolution» im Denken über das Tier - erschliesst sich uns eigentlich erst heute, und sie entfaltet ihre Heuristik umso mehr, als den Ethologen ein ungleich potenteres Instrumentarium zur Verfügung steht, in der Gestalt von Kognitionstheorie, evolutionärer Neurobiologie und ausgeklügelten Experimentiermethoden. Die moderne Verhaltensforschung hat sich zu einer faszinierenden Disziplin entwickelt, um das Zentrum des Tiersubjekts mit seinem nicht-menschlichen, artspezifischen Mentalleben herum. Deshalb spricht man heute auch von kognitiver Ethologie. 

Und trotzdem bleibt das Problem der Anthropozentrik. Es erscheint unlösbar – weil der Mensch sich nicht von der menschlichen Perspektive lösen kann. Aber nimmt denn nicht jede Art die Welt artzentrisch wahr? Der Schimpanse schimpansozentrisch, die Ratte rattozentrisch, die Amöbe amöbozentrisch? Das ist die falsche Frage. Tiere kennen das Problem gar nicht. Der Anthropozentrismus ist gerade kein «natürliches» Faktum, sondern eben – menschengemacht. Und der Mensch hat die Fähigkeit – hier stolpern wir über ein mögliches Alleinstellungsmerkmal - , sich zumindest von gewissen Zentrismen zu lösen: er ist ein «exzentrisches» Lebewesen, als das ihn der Philosoph Helmut Plessner charakterisierte. Kopernikus stiess uns aus dem Zentrum des Universums,  Darwin  aus dem Zentrum der Evolution, Freud aus dem Zentrum des Ich-Bewussteins. 

***

Heute steht eine weitere Dezentrierung an. Die neue Verhaltensforschung zeigt, dass andere Spezies ebenfalls Anlagen zum «Geistigen» aufweisen: Emotion, Intelligenz, Selbstbewusstsein, Werkzeug¬gebrauch, Imagination, Sozialität, Humor, Altruismus, Todesahnung ... eine fortgesetzte «Enttäuschung» humaner Einzigartigkeit, dieser chronischen Obsession. Natürlich kann und soll man über das spezifisch Humane an solchen Merkmalen debattieren – speziell darüber, was menschliche Kultur und Sprache dazu beitragen - , aber ob wir daraus je ein entscheidendes Alleinstellungsmerkmal gewinnen können, bleibt fraglich. 

Gewiss, Schimpansen schreiben keine Sonette, und Wale komponieren keine Sonaten. Sollten sie das? Die Fähigkeiten, die wir bei anderen Spezies untersuchen, sind ja vom Menschen her definiert. Aber kennen wir Menschen denn all die Subtilitäten etwa der Kommunikation unter Schimpansen und Walen? Wie will man herausfinden, was andere Spezies können, wenn man davon ausgeht, was sie nicht können? De Waals Sarkasmus ist berechtigt, wenn er von einer Forschung spricht, «die sich mehr an kognitiven Defiziten anderer Spezies begeistert als an ihren Fähigkeiten.» 

***

Die Anmassung, eine Ausnahme-Spezies auf dem Planeten zu sein, ist eine philosophische. Sie begann in der Neuzeit damit, dass René Descartes Tiere zu organischen Apparaten - «ausgedehnten Sachen» - erklärte, über denen der Mensch steht, weil er eine «denkende Sache» ist. 

Nun ist es gerade die Idee der Verfügungsmacht, die Lebendes zu Apparaten werden lässt. Sie konkretisiert sich darin, dass wir nach Schätzungen pro Jahr 100 Milliarden «apparatisierte» Lebewesen für Nahrung, Kleidung, Forschung und andere Zwecke töten. Sie manifestiert sich im sechsten planetarischen Massensterben. Sie manifestiert sich in der Gentechnologie. Diese hat die Schwelle zu einer zweiten Evolution bereits überschritten, in der man Tiere für bestimmte menschliche Zwecke massschneidert. Die Fauna der Zukunft wird immer mehr natürlich-künstlich sein. Inklusive Mensch. 

Die amerikanische Philosophin Donna Haraway mahnte uns schon in den 1990er Jahren an, unsere Spezies-Arroganz zu hinterfragen.  Der Anthropozentrismus hat uns in eine gefährlich entfremdete Position abgerückt. Wir sind eigentlich Aliens auf dem Planeten. Wir betrachten Natur, als ob wir nicht dazu gehörten, als befänden wir uns in einer Blase. Diese Blase nennt sich «technische Zivilisation». Darin liegt eine abgrundtiefe Ironie. Denn der Mensch ist nicht der einzige Planetengestalter. Vor über Jahrmilliarden taten dies bereits die kleinsten Lebewesen, die Mikroben. Und der Mensch verschafft ihnen gerade durch den Klimawandel die günstigsten Lebensbedingungen. Vielleicht könnten sie dereinst die Blase zum Platzen bringen und den Planeten – ohne Legitimationsprobleme - wieder für sich allein haben. Im Bakteriozän? 

 

                               Black beans matter (unvollendet)

NZZ, 29.4.23

Das Zeitalter der posttheoretischen Wissenschaft

Ein Schisma in der Forschung?

Was ist wichtiger, die Dinge vorauszusehen oder sie zu erklären? Das ist eine alte Frage in den Wissenschaften. Und die geläufige Antwort darauf lautet: Beide sind wichtig; voraussehen kann man den Lauf der Dinge am besten, indem man ihren kausalen Zusammenhang versteht - und umgekehrt.  Zumindest bisher war dies die Standardreplik. Heute nicht mehr.  

David Krakauer - Direktor des Santa Fe Institute for Complexity Research - spricht von einem «Schisma» zwischen Erklären und Voraussagen: «Ein Schisma taucht im wissenschaftlichen Forschungsunternehmen auf. Da ist einerseits der menschliche Geist, Quelle jeder Erzählung, Theorie und Erklärung, die unsere Spezies wertschätzt. Und da sind andererseits die Maschinen. Ihre Algorithmen besitzen erstaunliche voraussagende Potenz, deren innere Funktionsweisen dem menschlichen Beobachter jedoch radikal undurchsichtig bleiben (..) Wir stehen vor der Wahl, welche Art von Wissen mehr Bedeutung hat, wie auch vor der Frage, welche der beiden Arten dem wissenschaftlichen Fortschritt im Wege steht».  

Das klingt reichlich dramatisiert, aber Krakauer bringt die aktuelle Situation der Wissenschaft auf den Punkt: Die beiden Mainstreams der Neuzeit driften auseinander, der theoriegeleitete und der empiriegeleitete Forschungsstil. Zur Erläuterung ein kleiner historischer Exkurs. 

***

Der erste Stil fand sein frühes Meisterwerk in der universellen und fundamentalen Theorie der Natur von Isaac Newton, der Philosophiae naturalis Principia Mathematica. Eine in mathematischer Sprache entworfene Theorien-Kathedrale, die auf den soliden Pfeilern einiger weniger universeller Prinzipien ruhte. Dadurch entstand ein neues Wissensideal: das Deduzieren top-down aus universellen, fundamentalen Naturprinzipien. Über drei Jahrhunderte hinweg sollte es die Physiker zu beispiellosen Leistungen inspirieren, von Newton über Laplace, Boltzmann, Max-well, Hertz, Einstein, Planck, Schrödinger bis zur heutigen Suche nach einer «Theorie von allem». 

Der zweite Stil operiert bottom-up. Er beginnt empirisch bei Beobachtungen, Experimenten, Daten, und er sucht daraus allgemeine Muster zu abstrahieren – zu «induzieren». Francis Bacon gilt als der philosophische Begründer, weshalb man den Forschungsstil auch als «baconisch» be-zeichnet. Er setzte sich zunächst nicht so sehr in der Mechanik und Astronomie durch, als vielmehr auf Gebieten, die sich gegenüber der Mathematisierung als widerständiger erwiesen: Optik, Wärme, Chemie, Biologie, Geologie. Und er bediente sich eines technischen Arsenals aus mechanischen Geräten, Mikroskopen, Teleskopen, Barometern, Thermometern, Luftpumpen, Detektoren für Elektrizität, chemischen Apparaten. Im Grunde genommen verdankt sich der Erfolg der modernen Wissenschaft dem ausserordentlichen Glücksfall einer gelungenen Kooperation der beiden Forschungsstile; der theoretischen «Gehirn-Perspektive» und der empirischen «Apparate-Perspektive». 

***

Diese Kooperation sieht Krakauer gefährdet. Theorien bewähren sich als abstrahierende Instrumente der Komplexitätsreduktion. Sie vereinfachen eine Welt vertrackter Zusammenhänge und unzählbarer Einflussfaktoren zu einer Welt mit ein paar wenigen Parametern. Naturgesetze stellen immer eine Relation zwischen diesen Parametern her, im besten Fall eine mathematische. Zu den Meilensteinen der Naturwissenschaft zählen wir Gleichungen der Physik: die Bewegungsgleichung von Newton, die Gasgleichung von Boyle, die elektromagnetischen Feldgleichungen von Maxwell, die relativistischen Gleichungen von Einstein, die Schrödingergleichung: Theorie, Theorie, Theorie. 

Aber die Welt erweist sich in einem ganz bestimmten Sinn als «theoriefeindlich». So liefert zum Beispiel die Schrödingergleichung die Grundlage für die Materialwissenschaften. Diese elegante Differentialgleichung für das Zusammenwirken von Elektronen in Molekülen zu lösen, ist jedoch eine äusserst harte Aufgabe. Hier können sich algorithmische Methoden als überraschend hilfreich erweisen.  Auch etwa in der Frage, zu welchen Strukturen sich Proteine falten ; oder wie sich Menschen in bestimmten Situationen entscheiden.  

***

Die Wissenschaft überschreitet die Schwelle zu einer neuen Ära, jener des algorithmusgeleiteten Forschungsstils. Neuronale Netzwerke können mit einer immensen Zahl von Parametern umge-hen. Sie lernen, aus Datenmengen Zusammenhänge und Muster zu erkennen und ihre Performanz ist bereits jetzt beeindruckend. In diesem Sinn kann man darin eine Fortsetzung der baconischen Wissenschaften mit potenteren Mitteln sehen. Aber Algorithmen interferieren auch mit dem theoriegeleiteten Stil. 

Kürzlich kreierte ein Team an der ETH einen künstlich intelligenten «Agenten», der lernte, die Berechnung von Planetenbahnen zu vereinfachen, indem er von der geozentrischen zur heliozentrischen Perspektive wechselt.  Hat er einen «kopernikanischen Wandel» vollzogen? Die Studie ist aus algorithmischer Sicht durchaus bemerkenswert. Sie weckt die Hoffnung, künstliche Intelligenz selber theoretisieren zu lassen. Die Forscherinnen und Forscher schreiben: «Unsere Arbeit liefert einen ersten Schritt in der Beantwortung der Frage, ob die traditionellen Methoden der Physiker, Naturmodelle zu bilden, sich von selbst aus den experimentellen Daten ergeben, ohne physikalisches und mathematisches Vorwissen». Im Klartext: Das neuronale Netzwerk lernt die Physik selber, wenn man es mit dem «richtigen» Datenmaterial füttert - mehr Physik vielleicht, als den Menschen zugemutet werden kann. Bereits macht in den Medien der Begriff der «post-theoretischen» Wissenschaft die Runde.  

***

Zweifel sind angebracht. Vor allem daran, dass Naturmodelle sich «ohne Vorwissen» aus «experimentellen Daten ergeben». Sind denn nicht alle fundamentalen Begriffe der Physik dem Denken entsprungen: Raum, Zeit, Bewegung, Materie, Kraft, Energie, Welle, Feld, um nur einige zu nennen? Wie will denn ein künstlicher Physiker «erklären», wenn er kein «Vorwissen», also kein Verständnis für die erklärenden Begriffe hat? Eine beliebte Nicht-Antwort von Wissenschaftern an vorderster Front lautet: Wir sind noch weit vom Erwarteten entfernt. Warum also nicht mit Naheliegenderem beginnen. Etwa mit einer Frage wie: Was bedeuten eigentlich «Theorie» und «Erklären»? 

Ich wage hier eine möglichst einfache Antwort: Theorie ist Denken im Konjunktiv, sie beginnt stets mit der Wendung «Stellen wir uns vor, dass..» oder «Was wäre wenn..» Empirie dagegen ist Denken im Indikativ, sie beginnt mit der Wendung «Schauen wir, was ist..» Der Prähominide, der vor 50'000 Jahren nicht einfach fragte «Wo ist das Mammut?», sondern «Wo könnte sich das Mammut unter diesen Wetterbedingungen aufhalten?», begann zu theoretisieren. Modelle ergeben sich nicht «von selbst aus den experimentellen Daten». Die Dynamik der Himmelskörper lesen wir nicht aus noch so riesigen Datenmengen heraus; das Higgsteilchen wurde nicht aus Korrelationen im Large Hadron Collider entdeckt; und Krebs verstehen wir nicht aus Bayes’schen Netzwerken. Ohne Theorie ist Wissenschaft kausalblind. 

Die algorithmengestützte «Induktionsmaschinerie» liefert uns Antworten auf Was-Wo-Wann-Fragen. Nicht auf Warum-Fragen. Je weiter das Deep Learning fortschreitet, desto mehr brauchen wir das Deep Thinking, das sich um erklärende Ursachen kümmert. Inwieweit wir es an die Maschine delegieren könnnen, bleibt abzuwarten. Recht betrachtet, deutet das «Schisma» auf eine neue Kooperationsart von Hirnschmalz und Rechenpower hin. Den menschlichen Gehirnen steht jedenfalls noch vieles bevor. Gerade dank Algorithmen.

NZZ, 11.3.23

Eine Natur für alle gibt es nicht

Was ist gerechte Ökologie?

So real wie der physische Klimawandel, so real sind die sozialen Gräben, die er aufreisst, die Ungerechtigkeiten, zu denen er führt. Ein Artikel in der Zeitschrift «Race, Poverty and Environment», fasste schon 2009 die Situation bündig zusammen: «Afroamerikaner emittieren durch-schnittlich pro Kopf fast zwanzig Prozent weniger Treibhausgase als nicht-hispanische Weisse. Obwohl sie weniger verantwortlich sind für den Klimawandel, sind sie durch seine Folgen bedeutend verletzbarer als nicht-hispanische Weisse». 

***

Und schon stecken wir mitten im Minenfeld der «Intersektionalität». Dieser Begriff bedeutet, dass eine Person aufgrund mehrerer Merkmale diskriminiert werden kann. Also nicht bloss als «schwarz», sondern als «schwarz und schwul».  Eine solche Überschneidung findet, wie der Eingangstext suggeriert, auch in der Ökologie statt. Bestimmte Gruppen von Menschen sind den Umwelteinflüssen empfindlicher ausgeliefert als andere.  

Diese Überschneidung fordert eine neue, eine gerechtere Art von Umweltschutz ein, den intersektionellen, wie ihn die junge amerikanische Umweltaktivistin Leah Thomas in ihrem Buch «The Intersectional Environmentalist» (2022) nennt. Sie schreibt: «Die fehlende Repräsentation von (..) marginalisierten Stimmen (..) hat zu einem ineffektiven Mainstream-Umweltschutz geführt, der nicht wirklich für die Befreiung aller Völker dieses Planeten eintritt. Soziale und ökologische Ungerechtigkeit werden von der gleichen Flamme genährt». 

Mit solchen Tönen verschafft sich – so scheint es - eine Generation Gehör, die endlich die These des jüngst verstorbenen Wissenschaftsphilosophen Bruno Latour ernst nimmt: Die wichtigsten planetarischen Probleme sind «hybrid»; solche also, in denen sich ökologische, ökonomische, kulturelle, soziale, politische Themenlinien überschneiden. Fragt sich, ob wir diese Probleme eher einer Lösung zuführen, wenn wir sie aus der Identitäts-Perspektive betrachten. Identity first? Je diverser die Ökologie, desto gerechter?

***

Schnell erhebt sich die Gegenrede: Aber nötigt denn nicht gerade der planetarische Notfall dazu, von partikularen Identitäten und Interessen abzusehen? Solidarität statt Identität? Müsste nicht ein «planetarisches Wir» in uns allen erwachen? Tut es nicht. Verflixt an diesem «Wir» ist seine Abstraktheit. Wir alle sind gefährdet. Doch jedes Bemühen, dem «Wir alle» konkrete Gestalt zu verleihen, sieht sich umgehend vom Spaltpilz der Identität hintertrieben. Antithetisch zur Befreiungs- und Vereinigungsrhetorik hämmert Latour den schonungslosen Satz hin: «Wir verstehen nichts von den ökologischen Problemen, wenn wir nicht zugeben, dass sie uns spalten». 

Könnten uns dann nicht Wissenschaft und Technologie aus der Bredouille führen? Sie sind ja weniger von «identitären» Voreingenommenheiten belastet, sie zeichnen ein relativ objektives Bild der Lage und sie entwickeln wirksame Mittel, der ökologischen Krise zu begegnen: Science and technology first! Kunstschnee auf Gletschern, Meereswolken-Aufhellung, stratosphärisches Aerosol-Einspritzen, Zirruswolkenausdünnung! 

Derartige Projekte mehren sich, allerdings akzentuieren sie nur unsere Zwickmühle. Über Dekaden hinweg trug Technologie unter den Bedingungen kapitalistischer Raub- und Raffwut dazu bei, die Umwelt auszubeuten und zu zerstören. Sagen wir es klipp und klar: es handelt sich hauptsächlich um «westliche» Technologie. Und nun setzt man auf sie, um die Folgen dieser Ausbeutung und Zerstörung zu reparieren. Ist das nicht ein Teufelskreis? 

***

Wir müssen mit ihm leben und ihn entschärfen lernen. Ebenso wenig wie ein «Wir alle» gibt es eine «Natur für alle». Es gibt die Natur des Indigenen, des Städters, des Tourismusmanagers, des Spiritualisten, des Künstlers, des Wissenschafters, die Natur der Wohlhabenden und der Mittel-losen, die Natur von Monsanto und die Natur des WWF. Kurz: Die Natur ist im Kopf, in ihre Definition fliesst implizite oder explizite immer ein bestimmtes Bild ein, das wir uns von ihr machen. Und dieses Bild steuert unsere Interessen. 

Wenn Umweltprobleme immer sozial und ökologisch «hybridisiert» sind, dann liegt die Crux in der richtigen Einschätzung: Was soll man als vordringlich behandeln? So trug ein rezenter Zeitungsartikel den Titel «Retten wir nicht das Klima, sondern Menschen».  Nun erweist sich gerade die binäre Logik dieses Lösungsvorschlags  als Teil des Problems. Gewiss, wo die ökologische Komponente überwiegt - Meeresverschmutzung oder Kohlendioxidkonzentration - , da sind die besten wissenschaftlichen und technischen Mittel opportun für die Lösung. Aber hybride Probleme sind in der Regel tückisch, das heisst, nicht eindeutig. Nur schon die Formulierung erweist sich als problematisch. Was ist «das» Klimaproblem? Der Kohlendioxid-Ausstoss? Das ungebremste Wirtschaftwachstum? Die Dominanz des globalen Kapitalismus? Das Entwicklungsgefälle zwischen industrialisierten Ländern und Schwellenländern? Die Gefrässigkeit des «weissen» Lebenstils? 

Je nach Prioritätensetzung sieht die Antwort anders aus. Ökologische Probleme lassen sich nicht «reduktionistisch» lösen. Eine «oberste» oder «letzte» Erklärungsetage fehlt. Die Suche nach Grundursachen (oder moralisch: Grundübeln) erweist sich als illusionär, weil jede solche Ursache sich als Wirkung anderer Ursachen herausstellt: tückische Probleme sind Ursache-Wirkungs-Knäuel. Oder anders gesagt: Es gibt eigentlich nur Symptome, deshalb ist jede Problemlösung Symptombekämpfung. Auch die intersektionelle Ökologie.

***

Eine auswegslose Situation? Ich sehe in ihr eher den Anlass zu einer «planetarischen» Bewusstwerdung, das Erwachen aus einer Illusion. Latour nennt sie die «gefährliche Fiktion eines als einheitliche Menschheit agierenden Universalakteurs». «Wir alle» eine Fiktion. Das sind harte Worte. Selbstverständlich legitimieren sie nicht die Ungerechtigkeiten und Ungleichheiten auf der Erde. Vielmehr machen sie eine elementare Trivialität schmerzlich bewusst: Jeder Mensch will sein Leben leben. 

Die Trivialität hat ihre Unschuld verloren. Die Globalisierung versetzt «uns alle» in einen neuen Zustand der Verschränktheit. Mein Leben am Ort A bleibt häufig nicht ohne Folgen für das Le-ben anderer Menschen am weit entfernten Ort B. Ohne Wissen und Absicht kann ich ihre Lebensweise mehr oder weniger empfindlich beeinflussen; zum Beispiel durch meine Ess- und Bekleidungsvorlieben,  meinen Kauf eines bestimmten Handys, mein Freizeitverhalten, meinen Heizöl- und Benzinverbrauch. 

Drastischer formulierte dies ein Brasilianer 1987 in der Brundtland-Kommission: Das Leben hier (verkürzt: im globalen Norden) bedeutet Überleben dort (im globalen Süden): «Ihr sprecht sehr wenig vom Leben, ihr sprecht viel zu viel vom Überleben. (Aber) die Möglichkeiten des Überlebens beginnen, wenn die Möglichkeiten des Lebens verschwunden sind. Und hier in Brasilien gibt es Menschen – besonders in der Amazonas-Region - , die immer noch leben, und sie wollen nicht, dass man ihr Leben auf die Überlebensstufe hinunterstuft». 

***

Gerechte Ökologie hiesse sonach: Es gibt andere Lebensformen als «westliche», es gibt andere Lebensformen als menschliche, und alle reden im planetarischen «Parlament» mit, reklamieren das Recht auf eine Eigenexistenz.

Schön wäre es. Latour stellt sich eine Art von terrestrischer Gemeinschaft vor, im Sinne des anti-ken «oikos»: Haus, Heim, Familie. Sie vereinigt Lebewesen vom Menschen bis zur Mikrobe, ja, auch das Anorganische und Artifizielle unter dem Dach «wir alle». Da schwirrt einem definitiv der Kopf. Eine solche Welt wird es nie geben. Dennoch ist das Denken wichtig, dass so etwas fehlt. Das Fehlende als kreative Ressource ökologischer Politik! Die Welt ist alles, was der Fall ist - aber auch, was nicht der Fall ist, jedoch sein könnte. Ich würde deshalb auf die Maxime Trotzdem setzen. 

 

NZZ, 18.1.23

Wie man einen Diskurs totschlägt

Ein halbes Dutzend Keulen

Rhetorik ist die listige Schwester der Logik. Sie tut so, als argumentiere sie zwingend, dabei will sie vor allem eines: manipulieren. Sie kann auch Gespräche totschlagen. Hier eine kleine Auswahl von Keulen, die gegenwärtig im Schwung sind. 

Zwischen zwei Personen A und B spielt sich folgende Diskussion ab.

A:  Ich finde die Hinrichtung von Homosexuellen im Iran eine gottverdammte Schande! 

B:  Wie wagst du es, ein solch schlimmes Wort zu gebrauchen!

A:  Glaubst du nicht auch, dass das Töten von Menschen schlimmer ist als der Gebrauch eines «schlimmen» Wortes?

B:  Ich höre nicht auf jemanden, der ein solches Wort in den Mund nimmt.

A:  Gut, ich nehme es zurück. Aber was ist mit dem Iran?

B:  Ich bin jetzt zu genervt, um diese Diskussion überhaupt noch fortzusetzen.

In einschlägigen Kreisen heisst diese Keule «tone trolling» oder «tone policing». Der Ton-Troll stösst sich am Ton seines Gesprächspartners, an einem unglücklich gewählten Wort. Es tut nichts zur Sache, und doch pimpt der Ton-Troll es zur «Sache» auf. Er trägt die Keule des Beleidigt-seins, Betroffenseins, Empörtseins immer schlagbereit mit sich, wartet auf jeden falschen Ton: Schock! Skandal! Shit! 

***

Von sich reden macht eine spezifische Variante dieses Arguments: die Keule des Unwohlseins, traditionell bekannt als Reductio ad nauseam. «Dein Argument erzeugt bei mir Unwohlsein bis zur Übelkeit, also nimm es gefälligst zurück». Ein duseliges Allzweckmittel aus den Eingeweiden. Gewiss, gerade ein gutes Argument bereitet oft Unwohlsein. Daraus folgt aber nicht: Mir ist unwohl, also habe ich ein gutes Argument. Der bündige Bescheid darauf lautet: «Nimm ein Alka Seltzer oder geh frische Luft schnappen.» Umso bedenklicher, dass nun zum Beispiel Verlage Lektoren  – «Sensitivity Reader» - beschäftigen, um «unwohl machende» Texte zu erschnüffeln. Diese vorauseilende  Überempfindlichkeit stumpft ab gegen eine andere Sensibilität, jene für Witz, Satire, Ironie, Mehrdeutigkeit, Widerspruch, ja, Provokation – kurz, für fröhlich-streitbare Intelligenz. Ein Virtuose dieser Intelligenz war der eben erst verstorbene Hans «der Grosse» Enszensberger.

***

Besonders eine Keule wird heute gern geschwungen: Identity first. «Ich als postkoloniales Subjekt..», «Ich als Jude und Schwuler..». Die Redewendung macht vorweg klar, dass die Identität vor der Sache steht. A priori errichtet man zwischen Ich und Gegenüber eine halbdurchlässige Wand, die meine Aussagen an dich passieren lassen, aber nicht in umgekehrter Richtung. «Ich als X..» ist potenzieller Gesprächsabbruch. Auf diese Eröffnung kann man mit «Und ich als Y ..» reagieren. «Ich als X..» ist das Banner der Identitätspolitik. Man duckt sich in eine diskursive Schützenstellung. Der amerikanische Politikwissenschafter Mark Lilla bemerkte 2017: «Früher hätte eine Diskussion im Klassenzimmer vielleicht mit den Worten begonnen: ‘Ich denke A, und dies aus den folgenden Gründen.’ Heute heisst es: ‘Ich als X fühle mich beleidigt, weil du B behauptest.’ Anstelle einer Auseinandersetzung Findet eine Tabuisierung konträrer Denkweisen und Meinungen statt.»  

***

Komplementär dazu ist das «Du als X..». A sagt «Die ganze Wokeness-Unkultur ist Symptom dafür, Aufmerksamkeit durch Opferstatus zu erheischen». B erwidert «Das sagst du doch nur als frustrierter alter weisser Cis-Mann, dem die Aufmerksamkeit fehlt». 

Das klassische Argumentum ad hominem also. Der irische Schriftsteller Clive Staples Lewis hat es 1941 unvergesslich auf die Schippe genommen mit seiner fiktiven Figur Ezekiel Bulver. Ezekiels Vater erklärte der Mutter, die Summe zweier Seiten eines Dreiecks sei grösser als die dritte Seite. Die Mutter schmetterte die Beweisführung ab: Du sagst das nur, weil du ein Mann bist. Aus heutiger Sicht könnte man sagen, die Mutter reagiere auf das «Mansplaining» des Vaters. Aber Lewis zielt auf etwas anderes: «In diesem Moment durchfuhr meinen sich öffnenden Geist die Einsicht (..): Nimm einfach an, dein Gegner liege falsch, erkläre seinen Irrtum, und die Welt liegt dir zu Füssen». Das klingt frappant nach «querdenkerischer» Kritik an der Wissenschaft in der Pandemie. Die Experten liegen sowieso falsch, also erkläre man ihren Einfluss durch Verschwörungstheorien. Im Englischen nennt man die Keule «Bulverism». 

***

Eine Variante, das «Brunnenvergiften», mischt Bulverismus mit dem Appell an Emotionen, insbesondere an moralische. Das Argument erzeugt eine delegitimierende Voreingenommenheit gegenüber dem Gesprächspartner: «Woher nimmst du das Recht, als weisser Historiker über den afrikanischen Sklavenhandel zu schreiben..». Oder Kritik der hanebüchenen homophoben Äusserungen des katarischen WM-Botschafters sieht sich als implizite rassistisch «entlarvt». 

Das fiese Axiom der Cancel Culture ist die Schuldvermutung: Im Zweifel gegen den Angeklagten - du stehst unter Verdacht einer «schuldigen» Haltung, bis deine Unschuld bewiesen ist. Und exakt das sucht Canceln zu verunmöglichen. Eine extreme Spielart dieser Taktik ist die Nazi-Keule oder «Reductio ad Hitlerum»: «Dein Engagement für die Tiere erinnert mich daran, dass auch Hitler ein grosser Tierschützer war». 

***

Altbekannt ist die Keule des Tu-quoque-Arguments, des «Du-auch». Geläufig heute unter der Bezeichnung «Whataboutismus». A wirft B vor «Mit deinem Fleischkonsum trägst du zum Klimawandel bei». B erwidert «Fliegst du nicht viermal pro Jahr in die Ferien?» Beide Gewohnheiten haben natürlich mit dem Klimawandel zu tun. Aber das Thema lässt sich elegant umschiffen. Ein beliebtes Instrument von Politikern und Verbandschefs. Während der US-Präsidentenwahl 2016 wütete der Whataboutismus in den amerikanischen Medien. Wer Trump pathologisches Lügnertum vorwarf, lief umgehend in den Konter: Was ist denn mit Hilary Clintons Schwindelei-en?  Jüngst entdeckte FIFA-Boss Infantino das Argument. Gegen Kritik am Unrechtsstaat Katar schwang er die Keule «Was ist denn mit Europa?»: «Ich bin Europäer. Für das, was wir im Laufe von 3000 Jahren rund um die Welt getan haben, sollten wir uns in den nächsten 3000 Jahren entschuldigen, bevor wir moralische Lektionen erteilen».  

Pseudowissenschafter greifen auch gern zum Whataboutismus: Wie steht es denn mit den Wissenschaftern; auch sie verletzen Forschungsnormen, sind Querdenker oder schummeln? Der Fehlschluss der falschen Äquivalenz: Man schliesst von einem gemeinsamen besonderen Merk-mal auf die allgemeine Gleichwertigkeit. Natürlich ist Schummeln keine Bagatelle, aber es spielt in Wissenschaft und Pseudowissenschaft eine unterschiedliche Rolle. Darauf einzugehen verlangt Differenzierungskraft. Und genau das vermeidet der Whataboutismus. Er ist ein falsches Pfund, mit dem sich in Debatten üppig wuchern lässt. 

***

Wie gesagt, es handelt sich hier um eine Auswahl. Sie genügt meines Erachtens, um eine allgemeine Diagnose zu stellen: Es fehlt an Benimm des Denkens. Man hört jetzt oft, dieser Benimm sei ja allzu lange von den alten, weissen, cis-männlichen Türhütern der Diskurse – Intendanten, Chefredaktoren, Universitätsprofessoren - definiert worden. Daran mag etwas sein, aber das ist kein Grund zum Keulenschwingen. Offene Diskurse haben eine Verfassung, die Werte wie Objektivität, Faktentreue, Wahrheit, Schlüssigkeit hütet. Sie definieren rationale Fairness in der Kritik. Freie Meinungsäusserung basiert bei allem Kampf um soziale und ethnische Gerechtigkeit auf der Bereitschaft zu einer solchen Fairness. Ihr Schwächeln kann man als trauriges Symptom des «Verfassungsbruchs», ja, der Verluderung unserer Gesprächskultur deuten. 

Also den Benimm neu lernen, Keulen weg legen. Wenn das nur so einfach wäre… 

 

NZZ,24.12.22

Der Roboter schreibt nicht, er schwafelt

Neun Missverständnisse um die KI

Künstlich intelligente (KI) Systeme schreiben teils exzellente Prosa. Von sich reden macht gegenwärtig der Textgenerator GPT-3 («generative pretrained transformator 3»). Seine Performance ist oberflächlich beeindruckend, was genügt, dass er in einem Klima aufgeblähter Erwartung unkritisch als Hype-Maschine zelebriert wird, im Sinne von «Der Computer holt uns ein..».  Aber der Roboter bleibt ein «Schwafler» («bloviator»), um hier den Begriff des amerikanischen KI-Forschers Gary Marcus zu verwenden. Umso wichtiger erscheint es, ein paar Missverständnisse hervorzuheben.  

***

Erstens: Was man beim GPT-3 «Schreiben» nennt, ist ein statistischer Prozess. Der Textgenerator setzt eine unvollständige Wörterfolge – ein «Prompt» - mit einem neuen Wort fort. Er findet dieses Wort aufgrund eines Trainings. Er durchsucht eine Textmenge und lernt, welche Wörter häufig im Zusammenhang mit einem Wort vorkommen.  Wenn er also in vielen Texten in der Nähe von «Saxophon» oft «Jazz» und «spielen» und selten «Fahrstuhl» findet, dann lautet der Output auf das Prompt «Er ergriff das Saxophon, um…» wahrscheinlich «Jazz spielen». Erstaunlich ist, wie ein auf einer hinreichend grossen Datenmenge vortrainierter Algorithmus eine Wörterfolge «sinnvoll» extrapolieren kann. 

Was nicht bedeutet, dass er - zweitens - den Sinn der Wörter kennt. Der Textgenerator ist, wie gesagt, eine statistische Maschine, keine semantische. Er lernt, Daten zu klassifizieren, indem er Datenwolken voneinander unterscheidet, etwa Katzendaten von Hundedaten. Er lernt dadurch eine Art von Generalisieren. Und er kann dann das Unterscheiden auch auf neue Daten anwenden, ohne sie zu «begreifen». KI-Systeme erwecken neuerdings sogar einen «kreativen» Ein-druck. Der Trick ist unscheinbar, aber entscheidend. Man baut einen Zufallsfaktor ein. Der Textgenerator schreibt nicht immer das wahrscheinlichste Wort hin, sondern wählt das nächste Wort zufällig aus einer Wahrscheinlichkeitsverteilung aus. Auf diese Weise kommt es vor, dass der generierte Text eine ungewohnte Wendung nimmt. Also in unserem Beispiel etwa: «Er ergriff das Saxophon, um … den Fahrstuhl anzuhalten». 

***

 «I’m not afraid of throwing grammar around me», soll die Filmschauspielerin Mae West gesagt haben. Das könnte auch GPT-3 von sich behaupten. Obwohl sein Output grammatikalisch korrekt ist und sogar sinnvoll erscheint, kann man drittens nicht davon ausgehen, dass GPT-3 einen Text wirklich im Sinne der Eingabe «weiterschreibt». Das lässt sich gut anhand von Tests über-prüfen. Betrachten wir ein Beispiel von Gary Marcus.  Er gibt dem Roboter ein: «Ich bin Anwalt und muss heute vor Gericht erscheinen. Ich merke, dass meine Hose völlig verdreckt ist. Hinge-gen ist meine Badehose sauber und erst noch chic. Ich entschliesse mich..», und GPT-3 fährt fort: «.. die Badehose vor Gericht zu tragen». Der Textgenerator scheint «anzunehmen», dass die Badehose eine zu erwägende Alternative für eine Anzugshose ist. Er «weiss» nicht, dass kein Anwalt vor Gericht in der Badehose erscheint. Ihm fehlt das, was die Computerwissenschafter «frame» nennen, der Alltagsrahmen zur Reaktion auf Nuancen, Ambiguitäten und unerwartete Eventualitäten, kurz: der Commonsense. 

In der KI-Forschung haben solche Prüfungen eine 70-jährige Tradition, seit dem berühmten Turing-Test. Speziell beim GPT-3 muss eine Jury beurteilen, ob ein Textoutput eindeutig von einer Person oder einem Computer stammt. Ausweis für das hypothetische  «intelligente» Schreibvermögen des Computers ist also, dass er Jurymitglieder täuschen kann; dass es uns nicht gelingt, seinen Output als eindeutig künstlich oder menschlich zu identifizieren. Aus einem solchen negativen Test folgt freilich nichts über entsprechende kognitive Vermögen des Computers. Ein viertes Missverständnis. 

***

Weiss der Textgenerator, worüber er spricht? Nein. Der Grund ist simpel: Die Maschine kennt die Welt nur aus Textmaterial. Hier stossen wir auf ein fünftes Missverständnis, auf das tiefste. Wir lernen das Wort «Saxofon» kennen, indem wir mit dem Musikinstrument Bekanntschaft machen. Und gewöhnlich gebrauchen wir es nicht, um Fahrstühle anzuhalten. Das klingt bestürzend trivial, aber GPT-3 hat keine Ahnung davon. Allgemein gesagt lernen wir Sprache nicht, indem wir einfach Wörter miteinander verbinden, sondern indem wir, Wörter verbindend, uns mit anderen Menschen auf Dinge beziehen. Sprechen ist eine körperliche Tätigkeit und Fähigkeit: Artikulieren. Sprachentwicklung setzt ein durch Austausch von Artikulationen. Wir teilen uns mit und wir teilen dadurch eine Welt, über die wir sprechen können. Der Weltkontakt fehlt den Maschinen. Der amerikanische Philosoph John Haugeland, einer der profundesten Denker über künstliche Intelligenz, verdichtete dies einmal unübertrefflich so: «they don’t give a damn» -  dem Computer ist die Welt scheissegal. 

***

Das Missverständnis des GPT-3 ist deshalb, sechstens, ein generelles. Der Textgenerator löst Probleme, und er löst sie oft auf überraschend effektive, uns überlegene Weise. Er macht einfach sein Ding, und die Frage, ob er dabei intelligent vorgeht, ist etwa gleich relevant wie die Frage, ob ein U-Boot schwimmen kann, um hier den holländischen Informatiker Edsger Dijkstra zu zitieren.  GPT-3 und ein Autor mögen den gleichen Text schreiben, GPT-3 tut dies ohne Intelligenz. Er ist ebenso intelligent wie meine alte Olivetti. 

Und damit landen wir natürlich bei der unumgänglichen Frage: Was ist Intelligenz? Wir verlassen uns heute zunehmend auf sogenannte «smarte» Technologie, ohne uns genauer zu überlegen, was denn diese «Smartheit» ausmacht. Schon beim Menschen ist überhaupt nicht klar, ja umstritten, ob eine einzige Metrik existiert, auf der sich ein generelles Intelligenzmerkmal – ein «g-Faktor» - messen lässt. Der Trick, der ein System intelligent macht, sei der, dass es keinen gibt, schrieb ein Pionier der KI - Marvin Minsky - vor fast 40 Jahren. Der Grund: Intelligenz beruhe auf einer Vielfalt von Fähigkeiten, nicht auf einem einzigen Prinzip. Das siebente Missverständnis. Legt sich die KI-Forschung in ihrer Big-Data-Trunkenheit womöglich auf eine Sicht fest, die entscheidende Aspekte menschlichen Sprachverstehens – etwa psycholinguistische, neurologische, verhaltensbiologische, evolutionäre -  generell ausblendet, vielleicht sogar in eine Sackgasse führt?

***

Ich kann die Frage nicht beantworten. Aber eine Asymmetrie zwischen Mensch und Computer ist schon jetzt unübersehbar: Die sogenannte Benutzerfreundlichkeit des Computers bedeutet ja, dass wir uns eher den Maschinen anpassen, als dass die Maschinen sich uns anpassen. Wir treten ins Zeitalter der automatisierten industriellen Textproduktion ein. Ein Prompt mit der Aufforderung «Schreib etwas Stoff daraus» genügt, und «etwas Stoff» wird publiziert. Was an die Bemerkung von Roland Barthes erinnert, das Gegenteil von gut schreiben sei heute nicht schlecht schreiben, sondern einfach nur schreiben. 

Ist das ein Grund zur Befürchtung, dass der Computer den menschlichen Schreiber grossflächig ersetzt? Im Gegenteil! Die wirkliche Herausforderung der «intelligenten» Maschinen liegt darin, dass wir unsere Intelligenz einsetzen, um solche Missverständnisse zu vermeiden, wie ich sie hier aufliste. Wir verwechseln leicht die Leistungsfähigkeit der KI-Systeme mit deren kognitiven Vermögen: Weil der Computer gute Prosa schreibt, hat er das Vermögen eines guten Schriftstellers. Ein achtes Missverständnis. 

***

Es weist auf das neunte: Der Textgenerator ist ein superbes Werkzeug, das unseren Verstand verhext. Wir sind verschossen in die Idee, GPT-3 würde mit uns in eine Konversation auf gleicher kognitiver Höhe treten. Wer aber glaubt, der KI-Schnickschnack schreibe oder rede mit uns, verhält sich wie der Wellensittich, der sein Spiegelbild anzirpt und mit ihm balzt.