NZZ; 21.2.25

Fremde Intelligenzen

Ein neues kopernikanisches Zeitalter

Der Astrophysiker Fred Hoyle schrieb in den 1950er Jahren den Roman «Die schwarze Wol-ke». Eine riesige interstellare Gaswolke schiebt sich zwischen Sonne und Erde und unterbindet die Energiezufuhr zu unserem Planeten. Klimakatastrophen und Hungersnöte drohen. Zu aller Überraschung handelt es sich nicht einfach um eine blosse Materieansammlung, sondern um einen intelligenten Superorganismus in Gasform aus den Tiefen des Alls. Er ist der menschlichen Intelligenz überlegen, etwas völlig Unbegreifbares, obwohl er mit dem Menschen kommunizieren kann. Die Wolke lässt sich überzeugen, die Erde vor der Auskühlung zu verschonen, und sie entfernt sich wieder, auf der Suche nach anderen wolkenförmigen Organismen, zu denen der Kontakt abgerissen war. Vorher versuchen zwei Forscher, der Intelligenz der Wolke auf die Schliche zu kommen. Aber die Informationen, die ihnen das Gas gibt, sprengen das menschliche Fassungsvermögen, und sie sind zugleich so zwingend, dass die beiden Forscher den Verstand verlieren und sterben. Die fremde Intelligenz ist dem Menschen nicht zuträglich. 

***

Das eröffnet nun einen aufschlussreichen Blick in die Zukunft. Nicht so sehr in eine Zeit des Kontakts mit ausserirdischen Zivilisationen – bisher haben wir ja noch keine entdeckt -, sondern in eine Zeit, in der unsere eigenen technischen Errungenschaften einen dem Menschen ebenbür-tigen Status der Intelligenz erreichen, ihn sogar überflügeln. 

Auch hiezu gibt es eine Science-Fiction-Vorlage. Der britische Autor Douglas Adams schrieb vor fast fünfzig Jahren den Kultroman «Per Anhalter durch die Galaxis». Darin persifliert er exakt das hier erörterte Problem. Im Roman kommt der Computer Deep Thought vor, entwickelt von einer extraterrestrischen  Zivilisation, speziell dafür gebaut, die Antwort auf die Frage aller Fragen, nämlich die «nach dem Leben, dem Universum und dem ganzen Rest» zu errechnen. Deep Thought benötigt 7,5 Millionen Jahre Rechenzeit, um die Antwort auszuklamüsern, und sie lautet «42». Sie sei mit absoluter Sicherheit korrekt. Aber was soll die Zahl bedeuten? Was ist eine Antwort, die der Mensch nicht versteht? Was können wir eigentlich von Dingen wissen, die ausserhalb unseres konzeptuellen Fassungsvermögens liegen? Das ist die Frage aller Fragen.  

***

Das Szenario verlässt den Bereich der Fiktion. Die Entwicklung der künstlichen Intelligenz be-ginnt unergründliche Wege einzuschlagen. Wir bekommen es mit einer neuen Gattung von Ma-schinen zu tun, mit nur partiell begreifbaren. Das heisst, wir haben durchaus ein allgemeines Konzept dessen, was sie tun, aber wir sind nicht mehr in der Lage, dieses Tun in der Tiefenarchitektur der Maschine im Detail nachzuvollziehen. Schon heute haben KI-Systeme menschliche Fähigkeiten weit hinter sich gelassen, vorläufig vor allem in der Geschwindigkeit und Dimension der Datenverarbeitung. Das dürfte bloss die Anfangsphase einer Entwicklung in Richtung einer postbiologischen Intelligenz sein - einer Machina sapiens. Und sie schliesst Räume auf, von denen wir uns noch kaum eine Vorstellung machen können. 

***

Betrachten wir die zurzeit gehypten Gadgets der neuronalen Netze, etwa den «generative pretrained transformer» (GPT). Auf die Frage, ob er intelligent sei, liefert der ChatGPT4 den Output, er simuliere Intelligenz, aber verstehe die Welt nicht so wie ein Mensch. Das ist natürlich nicht die «Antwort» des KI-Systems, sondern die Antwort, die es brav dem Menschen nachpapageit. Aber muss man denn die Welt verstehen, wie der Mensch dies tut? Sind wir hier nicht wiederum befangen in unserer eigenen anthropozentrischen Sichtweise? 

KI-Systeme korrigieren und verbessern ihre Lernalgorithmen schon heute selbständig. Angenommen, sie tun dies in Zukunft immer mehr ohne Supervision des Menschen. Könnten sie sich da «unüberwacht» weiterentwickeln in Richtung einer künstlichen Superintelligenz? Das Szenario treibt nicht bloss die Science Fiction um, sondern immer mehr die Computerdesigner.  Eben erst hat Geoffrey Hinton – eine Koryphäe der KI-Forschung - den Nobelpreis erhalten. Ausgerechnet er, der sich in jüngerer Zeit prominent über die existenziellen Risiken der KI geäussert hat. Und eines dieser Risiken sieht Hinton in der Abkoppelung der KI-Entwicklung vom Menschen.

Was wäre eine fremde Intelligenz, die sich als inkompatibel mit der menschlichen erweist? Intel-igenz ist ein Vergleichsbegriff: intelligent wie was? Wie also soll man etwas intelligent nennen, wenn man es nicht mindestens zum Teil in den Horizont menschlicher Begriffe hereinholen kann? Wenn wir sagen, der Computer habe ein intelligentes Resultat geliefert, meinen wir, dass ein solches Resultat dem Menschen Intelligenz abfordern würde. Der Referenzpunkt des Verstehens sind immer wir. Unbegreifbar bedeutet für uns unbegreifbar.  

Wir stehen hier vor einer unbekannten Grenze.  Noch mit den fremdartigsten Menschen teilen wir ja eine gewisse gemeinsame Humanität. Wir können auch sagen, dass wir mit Tieren und Pflanzen gemeinsame Lebensvollzüge teilen. Schliesslich stammen wir aus der gleichen «Manufaktur der Arten». Aber was teilen wir mit künstlichen Intelligenzen? – Nun, zumindest sind es doch Ausgeburten unserer technischen Phantasie. Und sollte die Schöpfung ihrem Schöpfer nicht verständlich sein? 

***

Darauf hatte Sigmund Freud eine Antwort: «Unser Verständnis reicht so weit wie unser Anthropomorphismus». Anthropomorphismus ist unter Wissenschaftlern verpönt als vermenschlichende Pseudoerklärung. Wir würden dadurch nur unsere Vermögen und Eigenschaften auf die fremde Intelligenz projizieren, blieben also letztlich in einem anthropomorphen Zirkel gefangen. Das mag bis zu einem gewissen Grad stimmen, wenn man sich die vielen naiven Vermenschlichungen vergegenwärtigt, die der Mensch dem Tier «antut» und es gerade dadurch entfremdet, das heisst, ihm nicht seine artspezifische Lebensart zugesteht. Wie das Tier lebt, leben kann, hängt entscheidend von unseren Vorstellungen ab. Aber auch wenn wir letztlich nicht aus dem anthropomorphen Zirkel ausbrechen können, so können wir ihn erweitern, unsere Vorstellungen ändern und verbessern, dem Tierverhalten angleichen, statt dieses unserem Verhalten anzugleichen. 

Wie steht es mit KI-Systemen? Was, wenn sie eine Entwicklungsstufe erreicht haben werden, die mit Tieren vergleichbar ist? Müsste man dann eine neue Disziplin namens Ethologie der Maschinen einführen, die das Verhalten künstlicher Spezies wie jenes von anderen Arten studiert? Und angenommen, diese postbiologische Evolution erfolge in einem weit höheren Tempo als die biologische - wäre die Ethologie der Maschinen vom Verhalten dieser Arten nicht hoffnungslos überfordert? Die letzte Freudsche Kränkung?

***

Aber könnten sich unsere kognitiven Vermögen im Zusammenspiel mit den KI-Systemen nicht auch weiterentwickeln und verbessern, in einer Koevolution von Mensch und Maschine? Man spricht von «Enhancement». Vielleicht ist mit künftigen Generationen zu rechnen, deren kognitiver Apparat dank intelligenter Prothesen einen entscheidenden Schub erfährt. Zyniker prophezeien allerdings eher das Gegenteil, nämlich eine Regression der Intelligenz, zumindest bei einer Mehrheit der Menschen. Was mit Blick auf den aktuellen Technikgebrauch nicht unplausibel erscheint. Und auch die neuen «enhancten» Menschen werden mit der Frage aller Fragen konfrontiert sein.

Die Zoologen überraschen uns laufend mit Entdeckungen über die kognitiven Vermögen der Tiere. Die Natur ist ein Reich voller fremder organischer Intelligenzen. Der renommierte Verhaltensforscher Frans de Waal fragte sogar im Titel eines seiner Bücher «Sind wir smart genug, um zu verstehen, wie smart Tiere sind?» Nun schafft der Mensch ein neues Reich, voller fremder anorganischer Intelligenzen. Und er muss sich mit dem Gedanken abfinden, dass er in beiden Reichen weder Höhepunkt noch Mittelpunkt ist. Wie Nietzsche schrieb: «Seit Kopernikus rollt der Mensch aus dem Zentrum ins X.» Wo liegt dieses X? 

Das ist die Frage eines neuen kopernikanischen Zeitalters.