Homo sapiens, Animal sapiens, Machina sapiens

Ein neues kopernikanisches Zeitalter

Meine beiden Kater sind Methusalems mit ihren fast zwanzig Jahren auf dem schwarzen Buckel. Ziemlich erfahrene und – ich zweifle nicht – intelligente Tiere. Oft erstaunen sie mich mit Fähigkeiten, die ich ihnen nicht zugetraut hätte oder die mir schlicht abgehen. Die Verhaltensforschung liefert mir Erkenntnisse über ihre arteigenen kognitiven Vermögen – ihre «Intelligenz». Und in diesem Bemühen trägt sie bei zum allgemeinen wissenschaftlichen Projekt, das Tierreich, ja, selbst das Pflanzenreich als einen immer noch recht unbekannten Kontinent fremder Intelligenzformen zu studieren und kartieren. Dieses Projekt sagt schlicht und einfach: Wir müssen uns von der anthropozentrischen Idee lösen, allein der Homo sei sapiens. Auch das Tier ist es, auf seine arteigene Weise – Animal sapiens.

Natürlich bin ich den Katern in einigen Dingen überlegen. Zum Beispiel übersteigen Goethes Poesie und die Differentialrechnung ihren «Begriffshorizont»; sie wissen auch nicht, wie der Kühlschrank funktioniert, in dem ihr Futter aufbewahrt ist, oder dass Whiskas Proteine enthält. Aber diese Betrachtungsweise lässt sich felinozentrisch umkehren. Was weiss ich denn von ihrem heimlichen Informationsaustausch über mich? Was von ihren Absichten, wenn sie um meine Beine streichen? Schon Montaigne trieb die Frage um: «Wenn ich mit meiner Katze spiele, wer weiss, ob sie sich nicht noch mehr mit mir die Zeit vertreibt als ich mir mit ihr?» 

***

Wenn es also in der Natur unzählige andere, fremde Intelligenzformen gibt, wie weit verstehe ich sie eigentlich? Ich benötige zu diesem Verstehen ja meine menschliche Begrifflichkeit. Ist sie nicht ebenso beschränkt, was das Leben der Kater angeht? Was kann ich überhaupt von Dingen wissen, die meinen konzeptuellen Horizont übersteigen? 

Das ist eigentlich die Frage aller Fragen. Sie wurde schon vor fast hundert Jahren vom britischen Biologen John Burdon Sanderson Haldane in einem einzigen Satz angesprochen: «Meiner Ansicht nach ist das Universum nicht nur sonderbarer, als wir es uns vorstellen, sondern sonderbarer als wir es uns vorstellen können». 

Haldane spielte damit auf eine Grenze im Verständnis fremder Intelligenzen an, die sich nicht einfach auf den jeweils aktuellen Kenntnisstand und konzeptuellen Horizont der Forschung bezieht, sondern generell auf das Vermögen des Menschen, fremde Intelligenzen zu verstehen; also auf eine konstitutionelle Grenze, die der kognitive Apparat der Menschengattung uns setzt, wie entwickelt er auch sein mag.  

***

Als Biologe hatte Haldane allen Grund zu einer solchen Feststellung. Die Natur ist voller kognitiver «Exoten». Den Ethologen steht heute ein potententes Instrumentarium zur Verfügung, um Tierintelligenz zu studieren, in der Gestalt von Evolutionsbiologie, Kognitionspsychologie, Neurowissenschaft und weiteren Disziplinen. Und sie zeichnen ein Bild der Natur, in der es keine eindimensionale Leiter gibt, die von «niedriger» zu «höherer» Intelligenz führt. Der Mensch lebt neben Katern, Würmern, Kakteen, Pilzen, Bakterien. Alle diese Lebewesen haben ihre artspezifischen kognitiven Fähigkeiten entwickelt, nur nicht in der Richtung des Menschen. Sind sie weniger intelligent als Menschen? Die kognitive Ethologie überrascht uns laufend mit Entdeckungen über die Vielfalt und Differenzierung von intelligentem Verhalten im Tier- und Pflanzenreich. So dass der renommierte, kürzlich verstorbene Verhaltensforscher Frans de Waal im Titel eines seiner Bücher unverblümt fragt: «Sind wir intelligent genug, um zu wissen, wie intelligent Tiere sind?» 

Menschliche Intelligenz ist, wie jene meiner Kater, eine «provinzielle» Intelligenz. Sie ermöglicht uns vieles, ja, sie schafft Wunderwerke der Technik, Wissenschaft, Kunst. Zyniker könnten heute freilich einwenden: Ist denn ein solches «barockes» Organ wie das Menschenhirn nicht ein luxuriöser Überfluss der Natur? Trägt es wirklich zu unserer Fitness bei? Was ist der ganze evolutionäre Aufwand wert, ein Lebewesen zu produzieren, das mit seiner Intelligenz im Begriff ist, sich selbst abzuschaffen, indem es den Planeten zugrunde richtet? Der Einwand kommt reichlich spät, aber er formuliert präzise das Gegenbild zur Stufenleiter: Erscheint es aus der Perspektive einer evolutionären Kosten-Nutzen-Rechnung nicht dumm, so intelligent wie wir zu sein?

***

Eines der Werke menschlicher Intelligenz ist die künstlichen Intelligenz. Sie beginnt unergründliche Wege einzuschlagen. Wir bekommen es mit einer neuen Gattung von Maschinen zu tun, mit smarten Black Boxes. Das heisst, wir haben durchaus ein allgemeines Konzept dessen, was sie tun, aber wir sind nicht mehr in der Lage, dieses Tun in der Tiefenarchitek-tur der Maschine im Detail nachzuvollziehen. 

Betrachten wir die zurzeit gehypten Gadgets der neuronalen Netze, etwa den «generative pretrained transformer» (GPT). Auf die Frage, ob er intelligent sei, liefert der ChatGPT4 den Output, er simuliere Intelligenz, aber verstehe die Welt nicht so wie ein Mensch. Das ist natürlich nicht die «Antwort» des KI-Systems, sondern die Antwort, die es brav dem Menschen nachpapageit. Aber muss man denn die Welt verstehen, wie der Mensch dies tut? Sind wir hier nicht wiederum befangen in unserer eigenen anthropozentrischen Sichtweise? KI-Systeme korrigieren und verbessern ihre Lernalgorithmen schon heute selbständig. Angenommen, sie tun dies in Zukunft immer mehr ohne Supervision des Menschen. Könnten sie sich da «unüberwacht» weiterentwickeln in Richtung einer künstlichen Superintelligenz? Einer Machina sapiens? 

Was wäre eine fremde Intelligenz, die sich als inkompatibel mit der menschlichen erweist? Intelligenz ist ein Vergleichsbegriff: intelligent wie was? Wie also soll man etwas intelligent nennen, wenn man es nicht mindestens zum Teil in den Horizont menschlicher Begriffe hereinholen kann? Wenn wir sagen, der Computer habe ein intelligentes Resultat geliefert, meinen wir, dass ein solches Resultat dem Menschen Intelligenz abfordern würde. Der Referenzpunkt des Verstehens sind immer wir. Unbegreifbar bedeutet für uns unbegreifbar.  

***

Von Sigmund Freud stammt der Satz: «Unser Verständnis reicht so weit wie unser Anthropomorphismus». Anthropomorphismus ist unter Wissenschaftlern verpönt als vermenschlichende Pseudoerklärung. Wir würden dadurch nur unsere Vermögen und Eigenschaften auf die fremde Intelligenz projizieren, blieben also letztlich in einem anthropomorphen Zirkel gefangen. Das mag bis zu einem gewissen Grad stimmen, wenn man sich die vielen naiven Vermenschlichungen vergegenwärtigt, die der Mensch dem Tier «antut» und es gerade dadurch entfremdet, das heisst, ihm nicht seine artspezifische Lebensart zugesteht. Aber auch wenn wir letztlich nicht aus dem anthropomorphen Zirkel ausbrechen können, so können wir ihn erweitern, unsere Vorstellungen ändern und verbessern, dem Tierverhalten angleichen, statt dieses unserem Verhalten anzugleichen. 

Wie steht es mit KI-Systemen? Was, wenn sie eine Entwicklungsstufe erreicht haben werden, die mit Tieren vergleichbar ist? Müsste man dann eine neue Disziplin namens Maschinenethologie einführen, die das Verhalten künstlicher Systeme wie jenes von anderen, fremden Arten studiert? Und angenommen, diese postbiologische Evolution erfolge in ei-nem weit höheren Tempo als die biologische - wäre diese Disziplin vom Verhalten künstlicher Arten nicht hoffnungslos überfordert? Die letzte Freudsche Kränkung?

***

Aber könnten sich unsere kognitiven Vermögen im Zusammenspiel mit den KI-Systemen nicht auch weiterentwickeln und verbessern, in einer Koevolution von Mensch und Maschine? Man spricht von «Enhancement», dem Aufmöbeln des menschlichen kognitiven Apparats durch intelligente Prothesen. Vielleicht ist mit künftigen transhumanen Generationen zu rechnen. Zyniker prophezeien allerdings eher das Gegenteil, nämlich eine Regression der Intelligenz, zumindest bei einer Mehrheit der Menschen. Was mit Blick auf den aktuellen Technikgebrauch nicht unplausibel erscheint. Wie auch immer, «verbesserte» Generationen werden sich zwar durch einen erweiterten, aber dennoch endlichen Verständnishorizont auszeichnen. Auch sie werden jedoch mit der Frage aller Fragen konfrontiert sein. 

Die Natur ist ein Reich voller fremder organischer Intelligenzen, terrestrischer, wahrscheinlich auch extraterrestrischer. Nun schafft der Mensch ein neues Reich, voller fremder anorganischer Intelligenzen. Und er muss sich eingestehen, dass er in beiden Reichen weder Höhepunkt noch Mittelpunkt ist. Wo denn liegt sein Platz? 

Das ist die Frage eines neuen kopernikanischen Zeitalters.  

 

Das Paradox der technologischen Entwicklung

Nach einer vorherrschenden Technikauffassung macht Not erfinderisch: Notwendigkeit ist die Mutter der Erfindung. Da ist ein Problem und durch eine Erfindung lösen wir es, sprich: verschwindet es. Die Ansicht kursiert heute unter der Bezeichnung des Technological Fix: Verwandle ein Problem in ein ingenieurales und löse es durch die Erfindung oder Verbesserung einer entsprechenden Technik. 

«Die Erfindung ist die Mutter der Notwendigkeit» 

Die Ansicht erweist sich bei näherem Betrachten als einseitig, mehr noch: als Paradox. Technik ist ambivalent. Oft stellt sie sich als das Problem heraus, für dessen Lösung sie sich hält. Der amerikanische Technikhistoriker Melvin Kranzberg hat deshalb vor vierzig Jahren den obigen Spruch umgekehrt und als «Kranzberg-Gesetz» formuliert: Erfindung ist die Mutter der Notwendigkeit. Er schlug damit – nicht ohne Ironie - ein anderes Narrativ vor: Innovationen schaffen neue Nöte, machen in der Regel weitere Zusatzerfindungen notwendig, um wirklich effizient zu werden. Das heisst, Erfindungen setzen einen innovativen Zyklus in Bewegung, der gewissermassen eine «kranz
berg’sche» Eigendynamik entwickelt. 

«Die Macht der Computers und die Ohnmacht der Vernunft» 

Die Computertechnologie macht sie exemplarisch sichtbar. Etwa in der Mitte des letz-ten Jahrhunderts sahen sich industrielle Produktion, Verkehr, Planung, ja, Politik mit einer Informationsflut konfrontiert, deren Management die menschliche Kapazität überstieg. Das war die Notwendigkeit, die den Computer auf den Plan rief. Und er präsentierte sich zunächst als wunderbarer Technological Fix. Aber schon anfangs der 1970er Jahre schrieb der Computerwissenschaftler Joseph Weizenbaum vom MIT sein vieldiskutiertes Buch«Die Macht des Computers und die Ohnmacht der Vernunft». Dem mulmigen Gefühl, eine maschinelle Intelligenz könnte der Kontrolle der menschlichen Intelligenz entgleiten, begegneten die Informatiker mit der Beschwichtigung, das Problem liesse sich durch weitere technische Entwicklung bewältigen. Und die Beschwichtigung hält bis heute an, im Mantra: Wartet nur, bis wir den richtigen Algorithmus gefunden haben! 

«Technologie geschieht, weil sie möglich ist»

Anders gesagt: Man konzentriert sich auf die Erfindung – um die «Nöte», die aus ihr folgen, kümmert man sich später. «Technologie geschieht, weil sie möglich ist». Dieser Satz von Sam Altman - CEO von OpenAI - echot einen berühmten anderen Satz, jenen von Robert Oppenheimer, Leiter des Atombombenbaus im Manhattan-Projekt: «Wenn man etwas sieht, das technisch verlockend ist (‘technically sweet’), macht man es einfach, und man diskutiert erst später darüber, was man damit anfangen soll – nachdem man den technischen Erfolg erzielt hat. So war es mit der Atombombe.» Und einer der Pioniere des Deep Learning – Geoffrey Hinton – äusserte den Satz fast wortwörtlich mit Bezug auf die KI. 

Die Erfindung ist die Mutter des Bedürfnisses

Kranzbergs Gesetz hat - vor allem im Zeitalter der KI-Technologie und ihrer monopolistischen Firmen -  einen anderen, einen psychologischen Aspekt. Lesen wir «Notwendigkeit» als «Bedürfnis», dann lässt sich das Gesetz so formulieren: Die Erfindung ist die Mutter des Bedürfnisses. Sie schafft Bedürfnisse, die vorher nicht existierten. Die Technikgeschichte zeigt ein wiederkehrendes Phänomen: Erfindungen haben es oft schwer. Ihre Durchsetzung als Innovation muss einem Bedürfnis entsprechen, und ein solches existiert oft aufgrund sozial und kulturell verwurzelter Interessen nicht.  Zu Gutenbergs Zeiten ertönten nicht Jubelschreie «Endlich gedruckte Texte!», vielmehr beeilten sich die Kopisten, die Presseprodukte mit einem lokalen Bann zu belegen. Der erste Verbrennungsmotor, um 1860 von Nicolaus Otto gebaut, führte nicht zur Produktion entsprechender Vehikel, weil die Leute mit Pferden und Eisen-bahnen zufrieden waren. Der Transistor wurde in den USA erfunden, aber die Elekt-roindustrie ignorierte ihn, um die Produkte mit Vakuumröhren zu schützen. 

«There’s a That for this App”

KI-Technologie ist primär eine Bedürfnisproduktion. Sie braucht den Kunden als Be-dürftigen. Ein Ex-Geschäftsstratege bei Google beschreibt die Industrie als die «umfassendste, normierteste und zentralisierteste Form der Verhaltenskontrolle in der Geschichte der Menschheit (..) Ich realisierte: Da ist buchstäblich eine Million Menschen, die wir sozusagen anstubsen und überreden, Dinge zu tun, die sie sonst nicht tun würden». 

«There’s an App for That» lautete der Werbespruch von Apple 2009. Aber er sollte eigentlich lauten: «There’s a That for this App». Besessen vom nächsten neuen Ding hetzt heute die Entwicklung in einer Endlosschleife der Innovationen manisch vorwärts. Mit all dem Schnickschnack und seinen laufenden Updates verkaufen die Firmen Verhaltensweisen, und sie dressieren uns immer neue Bedürfnisse an. 

Der Ingenieur als Sisyphos

Gibt es einen Ausstieg? Die Technikhistorikerin Martina Hessler ruft in ihrem Buch «Sisyphos im Maschinenraum» eine mythische Figur auf den Plan. Der moderne Sisyphos ist der vom Technological Fix beherrschte Mensch. Er schiebt den Stein der technischen Lösungen immer höher, aber er erreicht dadurch nur, dass der ersehnte Gipfel sich weiter entfernt. Er hat seine Strafe selber gewählt, getrieben vom Wunsch, die Welt allein mit Technik zu verbessern, ja, zu vervollkommnen. Technological Fix sagt alles: Befestigung einer bestimmten Vorgehensweise; die Abhängigkeit vom Pfad, den man eingeschlagen hat. Das Sisyphoshafte ist dieser Art von Entwicklung inhärent. Wie Martina Hessler bemerkt, verbleiben «technologische Lösungen in der Re-gel in einer Logik, die das Bisherige fortsetzt (..) Die vermeintlich disruptiven Technologien erweisen sich aus dieser Perspektive gar nicht als disruptiv, sondern lösen das Problem in der Logik des Problems, anstatt es kreativ völlig neu zu denken». 

Das ist der springende Punkt. Technologie ist mehr als ein Gerätepark. Die neuen smarten Maschinen bilden ein Dispositiv, das unser Fragen immer schon in eine ganz bestimmte Richtung lenkt. Technik wirkt dadurch wie eine Art von Vorsehung. Niemand zwingt mich, ein Gerät zu verwenden. Aber wenn es den Verwendungszusammenhang definiert, aus dem ich nicht einfach so aussteigen kann, dann bin ich seinem zwanglosen Zwang unterworfen. Die KI-Systeme nisten sich ein in unserem Blick, werden zu einem Stück unserer selbst. 

Eine selbst herbeigeführte Gattungsverdummung

Sam Altman schwadronierte 2021 von einer vierten «KI-Revolution» nach den drei anderen technologischen Revolutionen: der landwirtschaftlichen, der industriellen und der computerbasierten. Er betonte dabei, dass diese vierte Revolution «sich auf die beeindruckendste unserer Fähigkeiten konzentriert: die phänomenale Fähigkeit zu denken, zu erschaffen, zu verstehen und zu schlussfolgern». Die Bemerkung ist entlarvend, denn Altman verschwieg die tiefe Paradoxie, dass uns die KI-Industrie ja gerade diese Fähigkeit abzunehmen sucht. Wir haben sehr viel Intelligenz in Geräte gesteckt, und als fatal daran erweist sich, dass uns die Geräte zum Nichtgebrauch unserer  Intelligenz verleiten – zu einer selbst herbeigeführten Gattungsverdummung, die sich als Triumph zelebriert.