NZZ; 21.2.25

Fremde Intelligenzen

Ein neues kopernikanisches Zeitalter

Der Astrophysiker Fred Hoyle schrieb in den 1950er Jahren den Roman «Die schwarze Wol-ke». Eine riesige interstellare Gaswolke schiebt sich zwischen Sonne und Erde und unterbindet die Energiezufuhr zu unserem Planeten. Klimakatastrophen und Hungersnöte drohen. Zu aller Überraschung handelt es sich nicht einfach um eine blosse Materieansammlung, sondern um einen intelligenten Superorganismus in Gasform aus den Tiefen des Alls. Er ist der menschlichen Intelligenz überlegen, etwas völlig Unbegreifbares, obwohl er mit dem Menschen kommunizieren kann. Die Wolke lässt sich überzeugen, die Erde vor der Auskühlung zu verschonen, und sie entfernt sich wieder, auf der Suche nach anderen wolkenförmigen Organismen, zu denen der Kontakt abgerissen war. Vorher versuchen zwei Forscher, der Intelligenz der Wolke auf die Schliche zu kommen. Aber die Informationen, die ihnen das Gas gibt, sprengen das menschliche Fassungsvermögen, und sie sind zugleich so zwingend, dass die beiden Forscher den Verstand verlieren und sterben. Die fremde Intelligenz ist dem Menschen nicht zuträglich. 

***

Das eröffnet nun einen aufschlussreichen Blick in die Zukunft. Nicht so sehr in eine Zeit des Kontakts mit ausserirdischen Zivilisationen – bisher haben wir ja noch keine entdeckt -, sondern in eine Zeit, in der unsere eigenen technischen Errungenschaften einen dem Menschen ebenbür-tigen Status der Intelligenz erreichen, ihn sogar überflügeln. 

Auch hiezu gibt es eine Science-Fiction-Vorlage. Der britische Autor Douglas Adams schrieb vor fast fünfzig Jahren den Kultroman «Per Anhalter durch die Galaxis». Darin persifliert er exakt das hier erörterte Problem. Im Roman kommt der Computer Deep Thought vor, entwickelt von einer extraterrestrischen  Zivilisation, speziell dafür gebaut, die Antwort auf die Frage aller Fragen, nämlich die «nach dem Leben, dem Universum und dem ganzen Rest» zu errechnen. Deep Thought benötigt 7,5 Millionen Jahre Rechenzeit, um die Antwort auszuklamüsern, und sie lautet «42». Sie sei mit absoluter Sicherheit korrekt. Aber was soll die Zahl bedeuten? Was ist eine Antwort, die der Mensch nicht versteht? Was können wir eigentlich von Dingen wissen, die ausserhalb unseres konzeptuellen Fassungsvermögens liegen? Das ist die Frage aller Fragen.  

***

Das Szenario verlässt den Bereich der Fiktion. Die Entwicklung der künstlichen Intelligenz be-ginnt unergründliche Wege einzuschlagen. Wir bekommen es mit einer neuen Gattung von Ma-schinen zu tun, mit nur partiell begreifbaren. Das heisst, wir haben durchaus ein allgemeines Konzept dessen, was sie tun, aber wir sind nicht mehr in der Lage, dieses Tun in der Tiefenarchitektur der Maschine im Detail nachzuvollziehen. Schon heute haben KI-Systeme menschliche Fähigkeiten weit hinter sich gelassen, vorläufig vor allem in der Geschwindigkeit und Dimension der Datenverarbeitung. Das dürfte bloss die Anfangsphase einer Entwicklung in Richtung einer postbiologischen Intelligenz sein - einer Machina sapiens. Und sie schliesst Räume auf, von denen wir uns noch kaum eine Vorstellung machen können. 

***

Betrachten wir die zurzeit gehypten Gadgets der neuronalen Netze, etwa den «generative pretrained transformer» (GPT). Auf die Frage, ob er intelligent sei, liefert der ChatGPT4 den Output, er simuliere Intelligenz, aber verstehe die Welt nicht so wie ein Mensch. Das ist natürlich nicht die «Antwort» des KI-Systems, sondern die Antwort, die es brav dem Menschen nachpapageit. Aber muss man denn die Welt verstehen, wie der Mensch dies tut? Sind wir hier nicht wiederum befangen in unserer eigenen anthropozentrischen Sichtweise? 

KI-Systeme korrigieren und verbessern ihre Lernalgorithmen schon heute selbständig. Angenommen, sie tun dies in Zukunft immer mehr ohne Supervision des Menschen. Könnten sie sich da «unüberwacht» weiterentwickeln in Richtung einer künstlichen Superintelligenz? Das Szenario treibt nicht bloss die Science Fiction um, sondern immer mehr die Computerdesigner.  Eben erst hat Geoffrey Hinton – eine Koryphäe der KI-Forschung - den Nobelpreis erhalten. Ausgerechnet er, der sich in jüngerer Zeit prominent über die existenziellen Risiken der KI geäussert hat. Und eines dieser Risiken sieht Hinton in der Abkoppelung der KI-Entwicklung vom Menschen.

Was wäre eine fremde Intelligenz, die sich als inkompatibel mit der menschlichen erweist? Intel-igenz ist ein Vergleichsbegriff: intelligent wie was? Wie also soll man etwas intelligent nennen, wenn man es nicht mindestens zum Teil in den Horizont menschlicher Begriffe hereinholen kann? Wenn wir sagen, der Computer habe ein intelligentes Resultat geliefert, meinen wir, dass ein solches Resultat dem Menschen Intelligenz abfordern würde. Der Referenzpunkt des Verstehens sind immer wir. Unbegreifbar bedeutet für uns unbegreifbar.  

Wir stehen hier vor einer unbekannten Grenze.  Noch mit den fremdartigsten Menschen teilen wir ja eine gewisse gemeinsame Humanität. Wir können auch sagen, dass wir mit Tieren und Pflanzen gemeinsame Lebensvollzüge teilen. Schliesslich stammen wir aus der gleichen «Manufaktur der Arten». Aber was teilen wir mit künstlichen Intelligenzen? – Nun, zumindest sind es doch Ausgeburten unserer technischen Phantasie. Und sollte die Schöpfung ihrem Schöpfer nicht verständlich sein? 

***

Darauf hatte Sigmund Freud eine Antwort: «Unser Verständnis reicht so weit wie unser Anthropomorphismus». Anthropomorphismus ist unter Wissenschaftlern verpönt als vermenschlichende Pseudoerklärung. Wir würden dadurch nur unsere Vermögen und Eigenschaften auf die fremde Intelligenz projizieren, blieben also letztlich in einem anthropomorphen Zirkel gefangen. Das mag bis zu einem gewissen Grad stimmen, wenn man sich die vielen naiven Vermenschlichungen vergegenwärtigt, die der Mensch dem Tier «antut» und es gerade dadurch entfremdet, das heisst, ihm nicht seine artspezifische Lebensart zugesteht. Wie das Tier lebt, leben kann, hängt entscheidend von unseren Vorstellungen ab. Aber auch wenn wir letztlich nicht aus dem anthropomorphen Zirkel ausbrechen können, so können wir ihn erweitern, unsere Vorstellungen ändern und verbessern, dem Tierverhalten angleichen, statt dieses unserem Verhalten anzugleichen. 

Wie steht es mit KI-Systemen? Was, wenn sie eine Entwicklungsstufe erreicht haben werden, die mit Tieren vergleichbar ist? Müsste man dann eine neue Disziplin namens Ethologie der Maschinen einführen, die das Verhalten künstlicher Spezies wie jenes von anderen Arten studiert? Und angenommen, diese postbiologische Evolution erfolge in einem weit höheren Tempo als die biologische - wäre die Ethologie der Maschinen vom Verhalten dieser Arten nicht hoffnungslos überfordert? Die letzte Freudsche Kränkung?

***

Aber könnten sich unsere kognitiven Vermögen im Zusammenspiel mit den KI-Systemen nicht auch weiterentwickeln und verbessern, in einer Koevolution von Mensch und Maschine? Man spricht von «Enhancement». Vielleicht ist mit künftigen Generationen zu rechnen, deren kognitiver Apparat dank intelligenter Prothesen einen entscheidenden Schub erfährt. Zyniker prophezeien allerdings eher das Gegenteil, nämlich eine Regression der Intelligenz, zumindest bei einer Mehrheit der Menschen. Was mit Blick auf den aktuellen Technikgebrauch nicht unplausibel erscheint. Und auch die neuen «enhancten» Menschen werden mit der Frage aller Fragen konfrontiert sein.

Die Zoologen überraschen uns laufend mit Entdeckungen über die kognitiven Vermögen der Tiere. Die Natur ist ein Reich voller fremder organischer Intelligenzen. Der renommierte Verhaltensforscher Frans de Waal fragte sogar im Titel eines seiner Bücher «Sind wir smart genug, um zu verstehen, wie smart Tiere sind?» Nun schafft der Mensch ein neues Reich, voller fremder anorganischer Intelligenzen. Und er muss sich mit dem Gedanken abfinden, dass er in beiden Reichen weder Höhepunkt noch Mittelpunkt ist. Wie Nietzsche schrieb: «Seit Kopernikus rollt der Mensch aus dem Zentrum ins X.» Wo liegt dieses X? 

Das ist die Frage eines neuen kopernikanischen Zeitalters.  

 

Der Rand der Wissenschaft

«Not anything goes»

Stellen wir uns Wissenschaft als ein Land vor, erscheint sie uns als ein Gebiet mit verschwommenen Rändern. Im Zentrum befinden sich die etablierten Disziplinen, gegen die Peripherie geraten wir in eine nebulöse Grauzone, wo sich Kreationisten, Flacherdler, Ufologen, Löffelbieger, Kryptozoologen, Parapsychologen, Eugeniker, Katastrophisten, Spiritualisten und was noch für «wilde Spezies» tummeln. Seit einem Jahrhundert versuchen Wissenschaftler und Philosophen, auf der Karte dieses Lands eine klare Grenze zwischen Wissenschaft und Nicht-Wissenschaft zu ziehen. Der Physikochemiker und Nobelpreisträger Irving Langmuir glaubte in einem Vortrag 1953, zwischen normaler und «pathologischer» Wissenschaft unterscheiden zu können. Der Philosoph Karl Popper brachte die Abgrenzung als das sogenannte «Demarkationsproblem» auf den philosophischen Begriff. Er ersann das bekannte Falsifikationskriterium, wonach sich die wissenschaftliche Spreu vom Weizen eindeutig trennen lässt. 

Aber solche Versuche erweisen sich als grobschlächtig. Sie befassen sich zu wenig mit dem Charakter des Unwissenschaftlichen. Sie disqualifizieren die Theorien der Randzone pauschal als unwissenschaftlich oder pseudowissenschaftlich. Stattdessen ist es angemessener, den Blick auf sie schärfer einzustellen. Das erlaubt dann auch, das Urteil der Pseudowissenschaftlichkeit zu diversifizieren und zu präzisieren. Ich halte einen Ausdruck des amerikanischen Wissenschaftshistorikers Michael D. Gordin für sehr praktikabel: «fringe sciences», Randwissenschaften. Werfen wir einen Blick auf vier Typen.  

***

Zunächst die Residualwissenschaft. Eine Wissenschaft ist residual, wenn sie überkommene An-sichten weiterhin verficht: etwa Astrologie, Alchemie, Intelligent Design. Alle diese Theorien waren einmal durchaus akzeptierte und respektierte Instrumente der Welterklärung, teils aus mytho-logischem, teils aus religiösem Fundus stammend. Sie gelten aber als überholt, weil der wissenschaftliche Konsens sich von den früher vorherrschenden Vorstellungen gelöst und weiterentwickelt hat. Das heisst, Theorien haben  ihre Verfallsdaten. Die Wissenschaftsgeschichte ist deshalb nicht nur eine Geschichte der wissenschaftlichen Siege, sondern auch ein grosser Abfallkübel verfallener Theorien. In ihm befindet sich alles, was die moderne Wissenschaft nach ihrem Selbstverständnis – oder nach ihrem Selbstmissverständnis - «überwunden» hat. Wer Theorien aus diesem Kübel vertritt, sieht sich schnell an die Peripherie abgeschoben. Astrologie als historisch-kulturelles Phänomen zu studieren, gilt durchaus als wissenschaftlich, sogar als lehrreich. Denn wir lernen ein Weltbild kennen, in dem die Konstellationen der Himmelskörper nicht blosse Mechanik, sondern ein deutbarer Text waren, aus dem sich unser Schicksal ablesen liess. Heute erklärt die Astrophysik die Kausalität der Himmelsdynamik. Und für Himmelsdeutung hat sie nichts übrig. Astrologie zu praktizieren gilt als Residual- oder Pseudowissenschaft. Leute, die sich mit Themen am Rand befassen, gelten schnell als intellektuell «randständig». 

***

Natürlich wehren sich Astrologen gegen eine solche Disqualifizierung. Das führt zum zweiten Typus, zur Alternativwissenschaft. Auf vielen Gebieten existieren nach wie vor althergebrachte Vorstellungen. Wohl am offensichtlichsten in den Heilpraktiken. Obwohl die moderne «westliche» Medizin ihren enormen Fortschritt den Methoden der Biowissenschaften verdankt, hat sie althergebrachte und «nichtwestliche» Praktiken keineswegs verdrängt oder überwunden. Hardliner-Bestreben gibt es immer, den medizinischen Diskurs von allen nicht evidenzbasierten Vor-stellungen und Verfahren zu «reinigen». Aber dieser Kanon ist, wie sich zeigt, zu ausschliessend. Im Laufe der letzten Dekaden entwickelte sich zwischen moderner und alternativer Medizin ein aufgeschlossenes Verhältnis, das nicht auf Konkurrenz, sondern auf Komplementarität abstellt. Auch deshalb, weil sich die wissenschaftliche Medizin ihres allzu materialistischen Menschen-bildes bewusst geworden ist. Man könnte also sagen, dass sich bestimmte alternative Heilpraktiken von der Peripherie in Richtung Zentrum bewegten. 

***

Anders als die Alternativwissenschaft, die sich mit dem Mainstream arrangiert, gibt sich die Anti-Establishment-Wissenschaft kämpferischer. «Wer sagt uns, wie man den Himmel deuten soll?», «Wer definiert eigentlich, was Wissenschaft ist?» fragt sie keck. Das heisst, ganz im Sinn postmodernen Geistes sieht sie in den hehren Idealen der Wahrheit, Objektivität und Faktizität nur machtvolle «Grosserzählungen», Ausschlussverfahren des Unerwünschten, Unbequemen, zur Emanzipation Drängenden. Anti-Establishment-Wissenschaft sucht die Machtstrukturen hinter der Erkennnissuche sichtbar zu machen. Zum Beispiel wehren sich Gender Studies oder interkulturelle und postkoloniale Studien vor allem dagegen, im Gefüge des universitären Systems eine «vorherbestimmte» Randposition zugewiesen zu erhalten. Dieser «Kampfmodus» hat durchaus zu neuen Forschungsansätzen geführt, aber auch zu schrillen Praktiken wie dem «Cancelling».

Es gibt die ausseruniversitäre Anti-Establishment-Wissenschaft. Ihre Randtheorien sind  Ausdruck einer sozialen und kulturellen Substruktur. Sie sind Identitätsstifter, Anziehungspunkte für abweichende, «heterodoxe» Ansichten, Keime libertären Aufbegehrens. Nicht selten sehen Verfechter von Randtheorien gerade in der «Andersgläubigkeit» die überzeugendste Begründung der Richtigkeit. In ihrer Perspektive ist die «orthodoxe» Wissenschaft elitär, unterdrückend, korrupt, dekadent. Dagegen muss man die Freiheit des eigenen Weltbildes verteidigen. 

***

Denialismus versteht sich nicht als Opposition zum Establishment, seine Strategie ist vielmehr das interessegeleitete Zersetzen eines Forschungskonsenses. Und zwar unter dem perfiden Motto «Mehr Forschung ist nötig». Das war die Strategie der Public-Relations-Firma Hill&Knowlton 1954, die im Auftrag der amerikanischen Zigarettenindustrie politische Interventionen zur Ein-dämmung des Rauchens aufzuschieben suchte. Perfide daran war, dass man mit «mehr Forschung» primär nicht Evidenz für oder gegen eine Hypothese suchte, sondern generell Zweifel streute, um den zunehmend robusteren Konsens der Forschung zu unterminieren. «Der Zweifel ist unser Produkt» hiess die Devise. Am sichtbarsten wurde sie in den 1960er Jahren, als die Petroindustrie mit der Evidenz aus eigenen Forschunginstitutionen und Think Tanks die offizi-elle Evidenz der Wissenschaft über den Klimawandel konterkarierte. Die Taktik ist subtil. Sie schreibt sich auf die Fahne, am normalen wissenschaftlichen Erkenntnisprozess teilzunehmen, und in diesem Prozess ist keine Meinung definitiv. Aber die Resultate, die Think Tanks in offiziell anmutendem Fachliteraturformat publizieren, haben oft nicht die Peer-Review durchlaufen. Und die Hauptadressaten – Politiker und Öffentlichkeit – übersehen häufig diesen Unterschied. Diese bewusst geschaffene Unübersichtlichkeit ist ein ideales Biotop für den Denialismus.  

***

Zu dieser Unübersichtlichkeit trägt besonders die heutige Publikationspraxis bei. Die Schwemme an neuen Publikationsorganen ist amorph und immens. Die Zeitschrift «Nature» brachte 2019 einen kritischen Kommentar zu sogenannten «Räuberzeitschriften» («predatory journals»), welche dubiose Forschungsergebnisse ohne Qualitätsprüfung (dafür mit Publikationsgebühr) veröffentlichen. Sie sind gemäss den Autoren des Kommentars «eine globale Bedrohung».  Der Ruf nach rigideren Publikationsstandards liegt in der Luft. Aber damit schafft man kaum eine Abgrenzung zwischen Wissenschaft und Nicht-Wissenschaft. Eher noch riskiert die Wissenschaft, sich ins eigene Knie zu schiessen. Stichwort «Replikationskrise». Die Klagen über qualitiativ minderwertige Forschung häufen sich schon seit einiger Zeit, vor allem seit sich datenintensive Methoden wie statistisches Testen eingebürgert haben. 

***

Vom Schriftsteller Ludwig Hohl stammt die Metapher der «hereinbrechenden Ränder». Sie beschreibt meines Erachtens aufs Einprägsamste die gegenwärtige Situation. Die Strömungen von den Rändern mischen sich mit dem Mainstream der Wissenschaften, schlampige Forschung «verunreinigt» ihn, säht Ungewissheit und Verdächte. Es gehört deshalb mehr denn je zum Forschungsethos, sich von nicht- oder pseudowissenschaftlichen Praktiken abzugrenzen - nicht dadurch, dass man alles über den Leisten eines universellen Kriteriums schlägt, sondern dass man von Fall zu Fall die Fehler, Unseriositäten, Widersprüche aufdeckt und analysiert. Das ist aufwändig und zeitraubend, gehört aber zur Aufgabe eines zeitgemässen Forschers – und ist ein dringendes Erfordernis seiner Ausbildung. Denn Wissenschaft bewahrt ihre prekäre Glaubwürdigkeit im Basar der Welterklärungen nur, wenn sie sich dem Motto «Not anything goes» verschreibt. Und dies offensiv.