Wie wünschen wir uns das!

 

                                         Au bord de l'Aare

NZZ; 21.2.25

Fremde Intelligenzen

Ein neues kopernikanisches Zeitalter

Der Astrophysiker Fred Hoyle schrieb in den 1950er Jahren den Roman «Die schwarze Wol-ke». Eine riesige interstellare Gaswolke schiebt sich zwischen Sonne und Erde und unterbindet die Energiezufuhr zu unserem Planeten. Klimakatastrophen und Hungersnöte drohen. Zu aller Überraschung handelt es sich nicht einfach um eine blosse Materieansammlung, sondern um einen intelligenten Superorganismus in Gasform aus den Tiefen des Alls. Er ist der menschlichen Intelligenz überlegen, etwas völlig Unbegreifbares, obwohl er mit dem Menschen kommunizieren kann. Die Wolke lässt sich überzeugen, die Erde vor der Auskühlung zu verschonen, und sie entfernt sich wieder, auf der Suche nach anderen wolkenförmigen Organismen, zu denen der Kontakt abgerissen war. Vorher versuchen zwei Forscher, der Intelligenz der Wolke auf die Schliche zu kommen. Aber die Informationen, die ihnen das Gas gibt, sprengen das menschliche Fassungsvermögen, und sie sind zugleich so zwingend, dass die beiden Forscher den Verstand verlieren und sterben. Die fremde Intelligenz ist dem Menschen nicht zuträglich. 

***

Das eröffnet nun einen aufschlussreichen Blick in die Zukunft. Nicht so sehr in eine Zeit des Kontakts mit ausserirdischen Zivilisationen – bisher haben wir ja noch keine entdeckt -, sondern in eine Zeit, in der unsere eigenen technischen Errungenschaften einen dem Menschen ebenbür-tigen Status der Intelligenz erreichen, ihn sogar überflügeln. 

Auch hiezu gibt es eine Science-Fiction-Vorlage. Der britische Autor Douglas Adams schrieb vor fast fünfzig Jahren den Kultroman «Per Anhalter durch die Galaxis». Darin persifliert er exakt das hier erörterte Problem. Im Roman kommt der Computer Deep Thought vor, entwickelt von einer extraterrestrischen  Zivilisation, speziell dafür gebaut, die Antwort auf die Frage aller Fragen, nämlich die «nach dem Leben, dem Universum und dem ganzen Rest» zu errechnen. Deep Thought benötigt 7,5 Millionen Jahre Rechenzeit, um die Antwort auszuklamüsern, und sie lautet «42». Sie sei mit absoluter Sicherheit korrekt. Aber was soll die Zahl bedeuten? Was ist eine Antwort, die der Mensch nicht versteht? Was können wir eigentlich von Dingen wissen, die ausserhalb unseres konzeptuellen Fassungsvermögens liegen? Das ist die Frage aller Fragen.  

***

Das Szenario verlässt den Bereich der Fiktion. Die Entwicklung der künstlichen Intelligenz be-ginnt unergründliche Wege einzuschlagen. Wir bekommen es mit einer neuen Gattung von Ma-schinen zu tun, mit nur partiell begreifbaren. Das heisst, wir haben durchaus ein allgemeines Konzept dessen, was sie tun, aber wir sind nicht mehr in der Lage, dieses Tun in der Tiefenarchitektur der Maschine im Detail nachzuvollziehen. Schon heute haben KI-Systeme menschliche Fähigkeiten weit hinter sich gelassen, vorläufig vor allem in der Geschwindigkeit und Dimension der Datenverarbeitung. Das dürfte bloss die Anfangsphase einer Entwicklung in Richtung einer postbiologischen Intelligenz sein - einer Machina sapiens. Und sie schliesst Räume auf, von denen wir uns noch kaum eine Vorstellung machen können. 

***

Betrachten wir die zurzeit gehypten Gadgets der neuronalen Netze, etwa den «generative pretrained transformer» (GPT). Auf die Frage, ob er intelligent sei, liefert der ChatGPT4 den Output, er simuliere Intelligenz, aber verstehe die Welt nicht so wie ein Mensch. Das ist natürlich nicht die «Antwort» des KI-Systems, sondern die Antwort, die es brav dem Menschen nachpapageit. Aber muss man denn die Welt verstehen, wie der Mensch dies tut? Sind wir hier nicht wiederum befangen in unserer eigenen anthropozentrischen Sichtweise? 

KI-Systeme korrigieren und verbessern ihre Lernalgorithmen schon heute selbständig. Angenommen, sie tun dies in Zukunft immer mehr ohne Supervision des Menschen. Könnten sie sich da «unüberwacht» weiterentwickeln in Richtung einer künstlichen Superintelligenz? Das Szenario treibt nicht bloss die Science Fiction um, sondern immer mehr die Computerdesigner.  Eben erst hat Geoffrey Hinton – eine Koryphäe der KI-Forschung - den Nobelpreis erhalten. Ausgerechnet er, der sich in jüngerer Zeit prominent über die existenziellen Risiken der KI geäussert hat. Und eines dieser Risiken sieht Hinton in der Abkoppelung der KI-Entwicklung vom Menschen.

Was wäre eine fremde Intelligenz, die sich als inkompatibel mit der menschlichen erweist? Intel-igenz ist ein Vergleichsbegriff: intelligent wie was? Wie also soll man etwas intelligent nennen, wenn man es nicht mindestens zum Teil in den Horizont menschlicher Begriffe hereinholen kann? Wenn wir sagen, der Computer habe ein intelligentes Resultat geliefert, meinen wir, dass ein solches Resultat dem Menschen Intelligenz abfordern würde. Der Referenzpunkt des Verstehens sind immer wir. Unbegreifbar bedeutet für uns unbegreifbar.  

Wir stehen hier vor einer unbekannten Grenze.  Noch mit den fremdartigsten Menschen teilen wir ja eine gewisse gemeinsame Humanität. Wir können auch sagen, dass wir mit Tieren und Pflanzen gemeinsame Lebensvollzüge teilen. Schliesslich stammen wir aus der gleichen «Manufaktur der Arten». Aber was teilen wir mit künstlichen Intelligenzen? – Nun, zumindest sind es doch Ausgeburten unserer technischen Phantasie. Und sollte die Schöpfung ihrem Schöpfer nicht verständlich sein? 

***

Darauf hatte Sigmund Freud eine Antwort: «Unser Verständnis reicht so weit wie unser Anthropomorphismus». Anthropomorphismus ist unter Wissenschaftlern verpönt als vermenschlichende Pseudoerklärung. Wir würden dadurch nur unsere Vermögen und Eigenschaften auf die fremde Intelligenz projizieren, blieben also letztlich in einem anthropomorphen Zirkel gefangen. Das mag bis zu einem gewissen Grad stimmen, wenn man sich die vielen naiven Vermenschlichungen vergegenwärtigt, die der Mensch dem Tier «antut» und es gerade dadurch entfremdet, das heisst, ihm nicht seine artspezifische Lebensart zugesteht. Wie das Tier lebt, leben kann, hängt entscheidend von unseren Vorstellungen ab. Aber auch wenn wir letztlich nicht aus dem anthropomorphen Zirkel ausbrechen können, so können wir ihn erweitern, unsere Vorstellungen ändern und verbessern, dem Tierverhalten angleichen, statt dieses unserem Verhalten anzugleichen. 

Wie steht es mit KI-Systemen? Was, wenn sie eine Entwicklungsstufe erreicht haben werden, die mit Tieren vergleichbar ist? Müsste man dann eine neue Disziplin namens Ethologie der Maschinen einführen, die das Verhalten künstlicher Spezies wie jenes von anderen Arten studiert? Und angenommen, diese postbiologische Evolution erfolge in einem weit höheren Tempo als die biologische - wäre die Ethologie der Maschinen vom Verhalten dieser Arten nicht hoffnungslos überfordert? Die letzte Freudsche Kränkung?

***

Aber könnten sich unsere kognitiven Vermögen im Zusammenspiel mit den KI-Systemen nicht auch weiterentwickeln und verbessern, in einer Koevolution von Mensch und Maschine? Man spricht von «Enhancement». Vielleicht ist mit künftigen Generationen zu rechnen, deren kognitiver Apparat dank intelligenter Prothesen einen entscheidenden Schub erfährt. Zyniker prophezeien allerdings eher das Gegenteil, nämlich eine Regression der Intelligenz, zumindest bei einer Mehrheit der Menschen. Was mit Blick auf den aktuellen Technikgebrauch nicht unplausibel erscheint. Und auch die neuen «enhancten» Menschen werden mit der Frage aller Fragen konfrontiert sein.

Die Zoologen überraschen uns laufend mit Entdeckungen über die kognitiven Vermögen der Tiere. Die Natur ist ein Reich voller fremder organischer Intelligenzen. Der renommierte Verhaltensforscher Frans de Waal fragte sogar im Titel eines seiner Bücher «Sind wir smart genug, um zu verstehen, wie smart Tiere sind?» Nun schafft der Mensch ein neues Reich, voller fremder anorganischer Intelligenzen. Und er muss sich mit dem Gedanken abfinden, dass er in beiden Reichen weder Höhepunkt noch Mittelpunkt ist. Wie Nietzsche schrieb: «Seit Kopernikus rollt der Mensch aus dem Zentrum ins X.» Wo liegt dieses X? 

Das ist die Frage eines neuen kopernikanischen Zeitalters.  

 

Die philosophische Herausforderung der KI

Eine der philosophischen Grundannahmen der Neuzeit stammt aus dem 17. Jahrhundert, von René Descartes. Zwischen Mensch und Maschine gibt es einen fundamentalen Unterschied. Der Mensch ist eine denkende – eine «cogitierende» - Sache, die Maschine ist eine bloss funktionierende – eine «ausgedehnte» - Sache. Tiere sind natürliche – von Gott geschaffene – Maschinen. Auch der menschliche Körper. Er kann in rein mechanistischen Termen begriffen werden. Dass der Mensch mit einer denkerischen Potenz – mit dem «lumen naturale» - ausgestattet ist, hebt ihn auch gleich aus dem ganzen Tierreich hervor. Mit einer sehr einflussreichen Metapher des 20. Jahrhunderts gesprochen, ist der Mensch eine Maschine mit einem Geist drin.  

Diese Auffassung beherrscht das moderne Denken bis in die heutigen Tage, vornehmlich in den Naturwissenschaften, wenn auch in elaborierterer Form. Die Auffassung wurde in der Philosophie immer wieder kritisiert, vor allem in der philosophischen Anthropologie, die den menschlichen Körper nicht als blossen Apparat betrachten will, sondern als einen «durchgeistigten». Das heisst, man weigert sich, im Hinblick auf den menschlichen Körper eine strikte Zweiteilung vor-zunehmen, und ihn vielmehr als eine Körper-Geist-Entität zu betrachten. Gerade in der Medizin ist diese Debatte seit langem im Gange.

***

Eine andere Kritik dieser dualistischen Auffassung liess sich schon in der Mitte des 20. Jahrhunderts aus einem ganz anderen Gebiet vernehmen: aus den Computerwissenschaften. Die Pioniere kehrten sozusagen das cartesianische Paradigma um: Warum stammt der Geist nicht aus der Maschine? Wenn man einem künstlichen System eine hinreichend komplexe kognitive Infrastruktur implementieren könnte, liesse sich da nicht von einem künstlichen «Geist» darin reden? Die Frage sollte unaufhaltsam in die Schlüsseltechnologie des 21. Jahrhunderts führen. 

Die Herausforderung der «cogitierenden» Maschine zeigt sich technisch darin, dass es uns immer mehr gelingt, Systeme zu bauen, deren «Intelligenz»-Leistungen ein menschliches Niveau erreichen. Und sie äussert sich philosophisch in der Zurückweisung des menschlichen Anspruchs auf Exzeptionalität dank seiner kognitiven Ausstattung. 

Formulieren wir diesen Abschied vom cartesianischen Paradigma so: Es gibt fremde Intelligenzen neben der des Menschen, sowohl im Tierreich – von den Bakterien bis zu den Bonobos - , als auch im Reich der Technologie. Das Argument, dass es sich hier nicht um «reale» Intelligenzen handelt, ist ziemlich zahnlos, solange man Intelligenz allein dem Menschen zuschreibt. Wie wenn Störche den Anspruch erhöben, nur sie wüssten «wirklich» zu fliegen, andere Vögel nicht. Lässt man den Exzeptionalitätsanspruch des «wirklich» fallen, stehen wir vor der epochalen philosophischen Frage: Was ist fremde Intelligenz? Wie ist die menschliche Intelligenz im Vergleich zu anderen Formen einzuordnen?

***

Komplexe Maschinen wie KI-Systeme haben schon heute eine «Tiefe» erreicht, die sie als nicht mehr völlig transparent erscheinen lässt. Allein diese Eigenschaft hebt sie vom herkömmlichen Tool ab und macht eine differenziertere Betrachtung als die binäre Mensch-Maschinen-Beziehung notwendig. 

Der Philosoph Daniel Dennett schlug schon vor einiger Zeit drei Grundeinstellungen zu KI-Systemen vor: die physikalische, die Design-, und die intentionale Einstellung. In der ersten Einstellung lässt sich das System physikalisch völlig durchleuchten bis zu seinen Bestandteilen. Wir können die ganze Hardware des Computers in dieser Einstellung als ein physikalisches System betrachten. Die Funktionen dieser Hardware – ihr Design zur Datenverarbeitung - verlangen eine zusätzliche zweite Einstellung. In dieser Einstellung ist der Computer nicht einfach ein Stück Physik, sondern ein Stück Physik, das rechnet und «intelligente» Aufgaben löst. Heute bekommen wir es zunehmend mit KI-Systemen zu tun, lernenden Maschinen, die eine dritte Einstellung erfordern. Wir kennen ihre Hardware, ihr Design, aber ihre Arbeitsweise lässt sich mit keinem anderen Vokabular beschreiben als jenem, das wir auch für den Menschen verwenden: als verfolgte die Maschine Ziele, hätte Absichten, Wünsche, Abneigungen. Diese intentionale Einstellung manifestiert sich heute schon ganz banal darin, dass wir sagen, der ChatGPT «schreibe» einen Text. Wer wäre in der Lage, dieses «Schreiben» als Hardware-Vorgang zu beschreiben. 

***

Dies führt nun allerdings auch grundlegend zu einem neuen Mensch-Maschinen-Verhältnis. Die traditionelle Auffassung von KI-Systemen sieht in ihnen Werkzeuge, Tools. Sie setzt damit den Menschen in die Stellung des Souveräns der Technik: er benutzt sie. Nun haben diese Tools mittlerweile einen Autonomiegrad erreicht, der die herkömmliche Auffassung obsolet erscheinen lässt. Man betrachtet heute KI-Systeme als künstliche «Agenten». Sie verrichten Dinge «von selbst». Unsere Beziehung zu ihnen verändert sich auf eine folgenreiche Weise. Wir beobachten dies seit längerem in vielen sozialen Aktivitäten. Wir sind geradezu verschossen in die «Lebendigkeit» von Artefakten. Ohne sie vermenschlichen zu wollen, gestehen wir ihnen heute eine Eigeninitiative zu, wie wir dies ja bei Menschen ganz selbstverständlich tun. Eine lose Metaphorik spricht schon seit langem von Automaten, die «entscheiden», «planen», «wahrnehmen», «auswählen», «voraussehen». Umgangsformen greifen Platz, in denen Maschinen die Rolle von Partnern, Akteuren, Quasi-Personen, Usurpatoren, womöglich Feinden übernehmen. Die Maschine beginnt zu lernen. Sie entwickelt sich auf eine kognitive Stufe zu, auf der man ihr menschenähnliche Intelligenz zuschreibt - bald einmal vielleicht Bewusstsein, Intentionalität, Sensibilität, ja, Personalität. Wir kommunizieren heute mit dem Chatbot wie mit einer menschlichen Person. Einigen Robotern hat man bereits Bürgerrechte zugesprochen. Das Tool wird zum Mitbürger. Wir steuern auf eine Homo-Robo-Gesellschaft zu. 

***

Wir verkehren also mit KI-Systemen schon lange in der intentionalen Einstellung. Und das er-fordert, den intelligenten Artefakten einen neuartigen ontologischen Status zuzubilligen. Sie sind nicht einfach Maschinen, aber auch nicht Personen. Was dann? Die Situation erinnert an die Diskussion über Tierrechte, in der man von der Sicht der Tier als Sache zur Sicht des Tiers als Rechtssubjekt überging - selbstverständlich verknüpft mit dornigen juristischen Problemen. 

Wie hältst du es mit den neuesten KI-Systemen? Blosse Tools oder Tools mit einer gewissen Eigenständigkeit und Handlungsmächtigkeit – also eigentlich künstliche Subjekte? Die Frage markiert die Wasserscheide zwischen cartesianischem und postcartesianischem Zeitalter. 

Artefakte als Subjekte zu akzeptieren, widerspricht der herkömmlichen philosophischen Auffassung des Denkens und Handelns, zumal zwei Grundvoraussetzungen: Ein denkendes und handelndes Subjekt ist lebendig und hat eine «Innerlichkeit»: Absichten, Wünsche, ein Bewusstsein. Bei KI-Systemen ist das offensichtlich nicht der Fall. Sie «denken und handeln» auf eine Weise, die sich mit den herkömmlichen Begriffen nicht abdecken lässt. Wir haben somit die Wahl: Wir sprechen ihnen Denk- und Handlungsfähigkeit ab, oder wir erweitern unser konzeptuelles Arsenal so, dass wir damit auch Artefakte beschrieben können. 

***

Ich glaube, die zweite Option ist unumgänglich. Je entwickelter die Maschinen, desto mehr werden wir unsere philosophisch vererbte Begrifflichkeit anpassen müssen. Das heisst nicht, dass die Maschinen nun auf einmal denk- und handlungsfähig wären, sondern dass wir ihre Aktionen differenzierter beurteilen als im herkömmlichen binären Raster: lebend oder nicht lebend; menschlich oder «maschinell». 

Das cartesianische Raster ermöglichte es, uns als intelligente Maschinen von allen anderen – organischen und anorganischen – unintelligenten Maschinen abzuheben. Da wir es nun aber immer mehr mit artfremden Intelligenzen zu tun bekommen, ist diese Ausnahmestellung obsolet geworden. Es ist, als ob die Maschinen, die wir erfunden haben, uns nun dazu zwingen, uns als Menschen neu zu definieren. 

 

Der Rand der Wissenschaft

«Not anything goes»

Stellen wir uns Wissenschaft als ein Land vor, erscheint sie uns als ein Gebiet mit verschwommenen Rändern. Im Zentrum befinden sich die etablierten Disziplinen, gegen die Peripherie geraten wir in eine nebulöse Grauzone, wo sich Kreationisten, Flacherdler, Ufologen, Löffelbieger, Kryptozoologen, Parapsychologen, Eugeniker, Katastrophisten, Spiritualisten und was noch für «wilde Spezies» tummeln. Seit einem Jahrhundert versuchen Wissenschaftler und Philosophen, auf der Karte dieses Lands eine klare Grenze zwischen Wissenschaft und Nicht-Wissenschaft zu ziehen. Der Physikochemiker und Nobelpreisträger Irving Langmuir glaubte in einem Vortrag 1953, zwischen normaler und «pathologischer» Wissenschaft unterscheiden zu können. Der Philosoph Karl Popper brachte die Abgrenzung als das sogenannte «Demarkationsproblem» auf den philosophischen Begriff. Er ersann das bekannte Falsifikationskriterium, wonach sich die wissenschaftliche Spreu vom Weizen eindeutig trennen lässt. 

Aber solche Versuche erweisen sich als grobschlächtig. Sie befassen sich zu wenig mit dem Charakter des Unwissenschaftlichen. Sie disqualifizieren die Theorien der Randzone pauschal als unwissenschaftlich oder pseudowissenschaftlich. Stattdessen ist es angemessener, den Blick auf sie schärfer einzustellen. Das erlaubt dann auch, das Urteil der Pseudowissenschaftlichkeit zu diversifizieren und zu präzisieren. Ich halte einen Ausdruck des amerikanischen Wissenschaftshistorikers Michael D. Gordin für sehr praktikabel: «fringe sciences», Randwissenschaften. Werfen wir einen Blick auf vier Typen.  

***

Zunächst die Residualwissenschaft. Eine Wissenschaft ist residual, wenn sie überkommene An-sichten weiterhin verficht: etwa Astrologie, Alchemie, Intelligent Design. Alle diese Theorien waren einmal durchaus akzeptierte und respektierte Instrumente der Welterklärung, teils aus mytho-logischem, teils aus religiösem Fundus stammend. Sie gelten aber als überholt, weil der wissenschaftliche Konsens sich von den früher vorherrschenden Vorstellungen gelöst und weiterentwickelt hat. Das heisst, Theorien haben  ihre Verfallsdaten. Die Wissenschaftsgeschichte ist deshalb nicht nur eine Geschichte der wissenschaftlichen Siege, sondern auch ein grosser Abfallkübel verfallener Theorien. In ihm befindet sich alles, was die moderne Wissenschaft nach ihrem Selbstverständnis – oder nach ihrem Selbstmissverständnis - «überwunden» hat. Wer Theorien aus diesem Kübel vertritt, sieht sich schnell an die Peripherie abgeschoben. Astrologie als historisch-kulturelles Phänomen zu studieren, gilt durchaus als wissenschaftlich, sogar als lehrreich. Denn wir lernen ein Weltbild kennen, in dem die Konstellationen der Himmelskörper nicht blosse Mechanik, sondern ein deutbarer Text waren, aus dem sich unser Schicksal ablesen liess. Heute erklärt die Astrophysik die Kausalität der Himmelsdynamik. Und für Himmelsdeutung hat sie nichts übrig. Astrologie zu praktizieren gilt als Residual- oder Pseudowissenschaft. Leute, die sich mit Themen am Rand befassen, gelten schnell als intellektuell «randständig». 

***

Natürlich wehren sich Astrologen gegen eine solche Disqualifizierung. Das führt zum zweiten Typus, zur Alternativwissenschaft. Auf vielen Gebieten existieren nach wie vor althergebrachte Vorstellungen. Wohl am offensichtlichsten in den Heilpraktiken. Obwohl die moderne «westliche» Medizin ihren enormen Fortschritt den Methoden der Biowissenschaften verdankt, hat sie althergebrachte und «nichtwestliche» Praktiken keineswegs verdrängt oder überwunden. Hardliner-Bestreben gibt es immer, den medizinischen Diskurs von allen nicht evidenzbasierten Vor-stellungen und Verfahren zu «reinigen». Aber dieser Kanon ist, wie sich zeigt, zu ausschliessend. Im Laufe der letzten Dekaden entwickelte sich zwischen moderner und alternativer Medizin ein aufgeschlossenes Verhältnis, das nicht auf Konkurrenz, sondern auf Komplementarität abstellt. Auch deshalb, weil sich die wissenschaftliche Medizin ihres allzu materialistischen Menschen-bildes bewusst geworden ist. Man könnte also sagen, dass sich bestimmte alternative Heilpraktiken von der Peripherie in Richtung Zentrum bewegten. 

***

Anders als die Alternativwissenschaft, die sich mit dem Mainstream arrangiert, gibt sich die Anti-Establishment-Wissenschaft kämpferischer. «Wer sagt uns, wie man den Himmel deuten soll?», «Wer definiert eigentlich, was Wissenschaft ist?» fragt sie keck. Das heisst, ganz im Sinn postmodernen Geistes sieht sie in den hehren Idealen der Wahrheit, Objektivität und Faktizität nur machtvolle «Grosserzählungen», Ausschlussverfahren des Unerwünschten, Unbequemen, zur Emanzipation Drängenden. Anti-Establishment-Wissenschaft sucht die Machtstrukturen hinter der Erkennnissuche sichtbar zu machen. Zum Beispiel wehren sich Gender Studies oder interkulturelle und postkoloniale Studien vor allem dagegen, im Gefüge des universitären Systems eine «vorherbestimmte» Randposition zugewiesen zu erhalten. Dieser «Kampfmodus» hat durchaus zu neuen Forschungsansätzen geführt, aber auch zu schrillen Praktiken wie dem «Cancelling».

Es gibt die ausseruniversitäre Anti-Establishment-Wissenschaft. Ihre Randtheorien sind  Ausdruck einer sozialen und kulturellen Substruktur. Sie sind Identitätsstifter, Anziehungspunkte für abweichende, «heterodoxe» Ansichten, Keime libertären Aufbegehrens. Nicht selten sehen Verfechter von Randtheorien gerade in der «Andersgläubigkeit» die überzeugendste Begründung der Richtigkeit. In ihrer Perspektive ist die «orthodoxe» Wissenschaft elitär, unterdrückend, korrupt, dekadent. Dagegen muss man die Freiheit des eigenen Weltbildes verteidigen. 

***

Denialismus versteht sich nicht als Opposition zum Establishment, seine Strategie ist vielmehr das interessegeleitete Zersetzen eines Forschungskonsenses. Und zwar unter dem perfiden Motto «Mehr Forschung ist nötig». Das war die Strategie der Public-Relations-Firma Hill&Knowlton 1954, die im Auftrag der amerikanischen Zigarettenindustrie politische Interventionen zur Ein-dämmung des Rauchens aufzuschieben suchte. Perfide daran war, dass man mit «mehr Forschung» primär nicht Evidenz für oder gegen eine Hypothese suchte, sondern generell Zweifel streute, um den zunehmend robusteren Konsens der Forschung zu unterminieren. «Der Zweifel ist unser Produkt» hiess die Devise. Am sichtbarsten wurde sie in den 1960er Jahren, als die Petroindustrie mit der Evidenz aus eigenen Forschunginstitutionen und Think Tanks die offizi-elle Evidenz der Wissenschaft über den Klimawandel konterkarierte. Die Taktik ist subtil. Sie schreibt sich auf die Fahne, am normalen wissenschaftlichen Erkenntnisprozess teilzunehmen, und in diesem Prozess ist keine Meinung definitiv. Aber die Resultate, die Think Tanks in offiziell anmutendem Fachliteraturformat publizieren, haben oft nicht die Peer-Review durchlaufen. Und die Hauptadressaten – Politiker und Öffentlichkeit – übersehen häufig diesen Unterschied. Diese bewusst geschaffene Unübersichtlichkeit ist ein ideales Biotop für den Denialismus.  

***

Zu dieser Unübersichtlichkeit trägt besonders die heutige Publikationspraxis bei. Die Schwemme an neuen Publikationsorganen ist amorph und immens. Die Zeitschrift «Nature» brachte 2019 einen kritischen Kommentar zu sogenannten «Räuberzeitschriften» («predatory journals»), welche dubiose Forschungsergebnisse ohne Qualitätsprüfung (dafür mit Publikationsgebühr) veröffentlichen. Sie sind gemäss den Autoren des Kommentars «eine globale Bedrohung».  Der Ruf nach rigideren Publikationsstandards liegt in der Luft. Aber damit schafft man kaum eine Abgrenzung zwischen Wissenschaft und Nicht-Wissenschaft. Eher noch riskiert die Wissenschaft, sich ins eigene Knie zu schiessen. Stichwort «Replikationskrise». Die Klagen über qualitiativ minderwertige Forschung häufen sich schon seit einiger Zeit, vor allem seit sich datenintensive Methoden wie statistisches Testen eingebürgert haben. 

***

Vom Schriftsteller Ludwig Hohl stammt die Metapher der «hereinbrechenden Ränder». Sie beschreibt meines Erachtens aufs Einprägsamste die gegenwärtige Situation. Die Strömungen von den Rändern mischen sich mit dem Mainstream der Wissenschaften, schlampige Forschung «verunreinigt» ihn, säht Ungewissheit und Verdächte. Es gehört deshalb mehr denn je zum Forschungsethos, sich von nicht- oder pseudowissenschaftlichen Praktiken abzugrenzen - nicht dadurch, dass man alles über den Leisten eines universellen Kriteriums schlägt, sondern dass man von Fall zu Fall die Fehler, Unseriositäten, Widersprüche aufdeckt und analysiert. Das ist aufwändig und zeitraubend, gehört aber zur Aufgabe eines zeitgemässen Forschers – und ist ein dringendes Erfordernis seiner Ausbildung. Denn Wissenschaft bewahrt ihre prekäre Glaubwürdigkeit im Basar der Welterklärungen nur, wenn sie sich dem Motto «Not anything goes» verschreibt. Und dies offensiv.

 

NZZ; 28.11.24

Das Omelett und die vielen Eier

Der neue Mensch – ein antizivilisatorisches Projekt

Eine der schrecklichsten Ideen der Menschheitsgeschichte ist jene des besseren oder neuen Menschen. Sie verleiht den ungeheuerlichsten Schandtaten die infame Dignität des Befugten, ja, Heroischen. Der Weg zum besseren Menschen fordert seine Opfer. «Man kann kein Omelett machen, ohne Eier zu zerschlagen», lautet die Lenin zugeschriebene Devise. Viele, sehr viele Eier, dafür sorgte Stalin. Dafür sorgten Mao, Pol Pot und all die anderen mörderischen Eierzerschlager. 

***

Die Crux der Idee des neuen Menschen lässt sich in zwei Fragen verdichten. Die erste: Wer definiert den neuen Menschen? Und die zweite: Was tut man mit dem alten Menschen? In den revolutionären Entwürfen der Menschenverbesserer manifestiert sich wiederkehrend die Anmassung, zu wissen, wie der Mensch tickt, was er will, welche Lebensform für ihn die beste ist, wie man sie verwirklicht. Ein intellektueller «Radikalismus» sondergleichen, der nur dann harmlos bleibt, wenn er nicht zur praktisch-politischen Durchsetzung drängt – und das tut er leider fast immer. 

Die Geschichte braucht nicht noch einmal erzählt zu werden, welche realen Formen die Idee des neuen Menschen im 20. Jahrhundert annahm. Bisher hat sie ihr Biotop vor allen in totalitären Systemen gefunden. Und es ist durchaus richtig, Nationalsozialismus, Faschismus und Kommu-nismus als Warnbeispiele herbeizuziehen. In ihnen allen trieb der Keimgedanken des neuen Menschen sein Unwesen: des rassenreinen Ariers, des beliebig manövrierbaren Arbeiter-Soldaten, des «neuen Italieners», der vor allem glaubt, gehorcht und kämpft. Natürlich handelt es sich um Konditionierpraktiken. Aber indem man sie desavouiert, verabschiedet man nicht not-wendig den ideellen Kern in ihnen. Der neue Mensch spukt nach wie vor in zahlreichen Köpfen. 

***

Das heisst, der totalitäre Charakter steckt schon in der Logik des Gedankens. Der neue Mensch stellt einen Idealtypus dar. Ideale sind immer Abstraktionen. Sie «ziehen» vom Menschen, wie wir ihn kennen, unerwünschte Merkmale «ab». Sie bosseln ihn gedanklich zurecht, und fordern auf, den Gedanken in die Tat umzusetzen. Die Realisierung des Ideals erfolgt nun freilich nicht in der Reibungslosigkeit des Gedankens. Sie bedeutet realiter stets Homogenisierung der Bevölkerung, durch Propaganda, Manipulation, Erziehung, Dressur, Zwang. Der neue Menschentyp hat sich der Abstraktion zu unterziehen, und wer das nicht tut, spürt deren reale physische Gewalt. Sie bedeutet das Ausmerzen von Abweichlern, Minderheiten, «Feinden» der Gesellschaft. Man tötet nicht Menschen, man tötet Angehörige einer abstrakten Kategorie. 

In der Metapher des Omeletts drückt sich die inhärente Menschenverachtung am ungeschminktesten aus. Sie erreicht die Spitze des Zynismus dann, wenn die Propheten des neuen Menschen eine Bevölkerung als «Experimentiermasse» betrachten, welche die Opferbereitschaft aufzubringen hat, der Idee zum Durchbruch zu verhelfen. So etwa Che Guevara, zur Zeit der Kubakrise und eines drohenden Nuklearkonflikts. Er gebrauchte ein der Omelett-und-Eier-Metapher verwandtes Bild. Er lobte die Fähigkeit des kubanischen Volkes, das sich «geleitet durch einen Führer von historischer Grösse, bis zu einer selten in der Geschichte erlebten Höhe entwickeln konnte. Es ist das fiebererregende Beispiel eines Volkes, das bereit ist, sich im Atomkrieg zu opfern, damit noch seine Asche als Zement diene für eine neue Gesellschaft.» 

***

Mit dem Mauerfall 1989 verloren die revolutionären Gesellschaftsentwürfe ihre utopische Strahlkraft. Nun bietet sich neuerdings nicht primär die Gesellschaft, sondern der individuelle Körper als Ansatzpunkt der Verbesserung an - des «Enhancement»: der Erweiterung, Verstärkung, Steigerung. Der menschliche Körper – zumal sein Gehirn - ist, da man seine Komponenten bis in die molekulare Struktur zu erkennen beginnt, beliebig gestaltbar. Die Spielräume, die moderne Digital- und Biotechnologien eröffnen, lassen jene der dystopischen Fiktionen eines Orwell und Huxley hinter sich. Man zerschlägt jetzt die Eier nicht mehr, man baut sie so um, dass sie inhärente Anlagen zum Omelett haben. Ein neuer Totalitarismus entsteht - mit humaner Schminke.  

Eine flagrante Form ist die Verhaltenszurichtung nach chinesischem Modell. Die kommunistische Obrigkeit vertritt eine Art von digitalem Leninismus. Menschen sind lenkungsbedürftige Herdenwesen. Um sie in einer friedfertigen, produktiven, innovativen Gesellschaft zu organisieren, braucht es einen weisen, strengen Grosshirten, sowie servile Unterhirten und abgerichtete Wachhunde. Dazu muss man den Bürger zum Bürger-plus-App umfunktionieren. Die Idee des neuen Menschen findet ihre zeitadaptierte Gestalt im Sozialkreditsystem. Es zielt darauf ab, das Verhalten des Bürgers so zu «zivilisieren», dass es sich ohne äussere Zwänge mit den politischen und ökonomischen Vorgaben der Regierenden verträgt. Kein offen sichtbarer Staatsterror (ausser bei solchen, die nicht mitmachen), sondern innere Disziplin, die man als Beglückung feiert. Es ist doch so schön, über die Scoring-App zu erfahren, wie sehr einen die Obrigkeit schätzt oder wie vertrauenswürdig eine Person ist, der man begegnet. Das eigene Urteilsvermögen kann bleiben, wo es will. 

***

Richten wir den Blick nicht exklusiv auf die chinesischen Verhaltensdresseure. Der Trend ist universell: das Zusammenwachsen von Mensch und Technik. Es kennzeichnet die ersten beiden Dekaden des 21. Jahrhunderts, und man zelebriert es in den einschlägigen Kreisen als ultimative Befreiung des Menschen. Befreiung nun auch von seinem biologischen Erbe. Die traditionelle Prothetik, die der Reparatur und Rehabilitation des Körpers durch künstliche Komponenten dient, wird intelligent. Und es ist abzusehen, dass man den Menschen immer mehr mit Implanta-ten «anreichert», die ihn auf ein posthumanes physisches und kognitives Niveau zu heben versprechen. Die «Strategische gesellschaftliche Initiative 2045» - eine 2011 vom russischen Internetmogul Dimitry Izkow gegründete Non-Profit-Organisation - visiert ausdrücklich die Vervollkommnung der Menschheit mittels Wissenschaft und Technologie an: «den Transfer der Persönlichkeit eines Individuums auf ein anderes nichtbiologisches Trägermedium (..), um so das Leben zu bis hin zum Punkt der Unsterblichkeit zu verlängern.»

***

Die unverbesserlichen Menschheitsverbesserer reden gern vom Menschen als Gattung. Sie scheinen nicht viel von der Idee zu halten, dass das Menschliche am Menschen gerade in seiner sperrigen Individualität liegt. Und damit ist ja auch erneut das Grundproblem der Utopie angesprochen: ihr abstrahierender Charakter. Man muss an einem Idealtypus Mass nehmen, um «die» Menschheit zu verbessern. 

Der neue Mensch begründet in der Regel einen Elitismus. Für die bolschewistischen Visionäre waren nicht alle für den neuen kommunistischen Menschen vorgesehen. Der Idealtypus aus Silicon Valley dürfte eine neue Ungleichheit zwischen mehr und weniger «enhancten» Exemplaren unserer Spezies begründen. Von Demokratie hält die Techno-Oligarchie ohnehin nicht viel. Und die Befreiung vom «Diktat» der Biologie liefert die Menschen ja nur umso unausweichlicher einem neuem Diktat aus, nämlich jenem der Daten-Proliferation. Der neue Mensch, das ist jetzt die Internet-Laborratte, die sich einem immerwährenden Upgrading für die aktuellesten KI-Systeme zu unterziehen hat. Wer das nicht freiwillig tut, ist alter Humanschrott, buchstäblich ein Nicht-Nutz(er). Bleibt abzuwarten, was mit ihm geschieht.

***

Wir leben heute in einer Welt der Technikfrömmigkeit und Leichtgläubigkeit in alles, was uns angeblich von unseren natürlichen «Fesseln» befreit. Wir haben ein Transzendenzbedürfnis nach dem «erlösten» Zustand. Aber wenn wir ihn in den Horizont des technisch Machbaren hereinholen wollen, dann ebnen  wir dem Gegenteil den Boden. Schlimm genug sind schon Menschen, die wissen, was gut ist für uns. Schlimmer sind «bessere» Menschen. Die Hölle: Das ist der perfekte Mensch.

 

Über die Psychologie und Psychopathologie des Künstlichen

René Descartes’ Tochter Francine starb fünfjährig an Scharlachfieber. Darüber kursiert eine ebenso seltsame wie traurige Geschichte. Der Tod seines geliebten Töchterchens stürzte den Philosophen in derartige Verzweiflung, dass er eine künstliche Reproduktion anfertigen liess, eine mechanische Puppe namens Francine. Diese konnte sich bewegen und sprechen. Als Descartes 1649 von Königin Christina an den schwedischen Hof eingeladen wurde, nahm er seine künstliche Tochter im Koffer mit auf die Reise. Auf dem Schiff nach Schweden öffneten neugierige oder argwöhnische Matrosen ihn, die Puppe setzte sich auf, begrüsste sie und sprach mit ihnen. Zutiefst erschrocken warfen die Seeleute den Automaten über Bord. 

***

Die Geschichte ist nicht verbürgt, aber emblematisch für die Epoche, in der Descartes lebte. Sie stand im Banne des Automaten. Descartes selbst war so verschossen in die künstliche Kreatur, dass er die natürlichen Lebensformen als von Gott geschaffene Automaten - als «göttliche Maschinen» - betrachtete. Der Körper der Tiere enthüllte ein kompliziertes Uhrwerk physiologischer – «mechanischer» - Prozesse, ja, selbst psychische Vorgänge wie das menschliche Lachen beschrieb Descartes als maschinellen Ablauf.

Solche mechanistischen Beschreibungen blieben nicht bloss Theorie. Versierte Uhrmacher des 18. Jahrhunderts suchten Lebensvorgänge auch mit mechanischen Mitteln nachzubauen. So sorgte etwa 1738 eine künstliche Darmentleerung für europaweites Aufsehen. Der französische Automatenbauer Jacques de Vaucanson hatte eine mechanische Ente konstruiert, die er in Paris vorstellte. Sie streckte ihren Kopf, pickte Körner aus der Hand, schluckte sie, verdaute sie und liess sie hinten gewandelt als Exkremente wieder hinaus. Das Publikum bestaunte die  physiologische Simulation, die sich im seitwärts offenen Automaten wie in einem Diorama darbot. Führende Intellektuelle wie Diderot, Voltaire und Condorcet feierten das Genie Vaucansons. Voltaire hob ihn gleich aufs mythische Podest, als «Rivalen von Prometheus, der die Natur nachahmend, das Feuer des Himmels (nahm), um die Körper zu beleben.»

***

Verkneifen wir uns das Lächeln ob dieses naiven Glaubens in die «Lebendigkeit» der  Automaten. Sie haben sich rasant weiterentwickelt, wir begegnen ihnen heute in der Gestalt der KI-Tools. Zentral in der Psychologie des Künstlichen ist der «animistische Umschlag» des Blicks. Wir beginnen Artefakte als quasilebend wahrzunehmen. In ihnen scheint eine künstliche Psyche zu wohnen, die uns dazu verleitet, sie wie unseresgleichen zu behandeln. Dabei ist aber unsere Psyche im Grunde gleich naiv und animistisch geblieben wie beim Frühmenschen, geradezu retardiert gegenüber dem atemberaubenden Fortgang der Technik. Besonders in den «avanciertesten» Technozirkeln. Erst kürzlich behauptete ein abgedrehter Softwareentwickler bei Google, das Konversationsprogramm LaMDA habe zu ihm gesprochen und zeige eine empfindsame Seele. 

***

Die Psychologie des Automaten enthüllt im Wesentlichen eine Psychologie der Verführung. Schon das Wort «Simulation» ist doppeldeutig. Es meint Nachahmung und Vortäuschung. Vaucansons Ente war, bei allem Einfluss auf das Denken seiner Zeit, keine Nachahmung von Lebensvorgängen, sondern ein Schwindel. Kritische Zeitgenossen fanden schnell her-aus, dass der Automat die Körner nicht «verdaute», vielmehr wurden diese am Ende der Kehle in einem versteckten Behälter aufgefangen und der Darmausgang vor der Vorfüh-rung mit künstlichen Verdauungsresten gefüllt. 

Der ChatGPT «schreibt» keine Texte, er simuliert das Texteschreiben. Ist die heutige künstliche Intelligenz ebenfalls ein Schwindel? Wir können die neuen Automaten nicht mehr so leicht entlarven wie Vaucansons Ente. Der notorische Turingtest für Maschinen lässt sich im Grunde auf ein einfaches Kriterium reduzieren: Wenn mich die Maschine mit ihrem «intelligenten» Verhalten täuscht, dann ist sie intelligent. Die Frage stellt sich sogar: Wollen wir die Automaten überhaupt entlarven, und was gibt es denn zu entlarven? Unsere Leichtgläubigkeit in die neue Technologie ist phänomenal, auf der Schwelle zur Groteske. Und sie wird von den Technogiganten hemmungslos gefördert.

***

Man könnte von der Bestechung durch die Technologie sprechen, auch hier im Doppelsinn des Wortes. Die Artefakte bestechen uns durch ihre teils übermenschlichen Fähigkeiten, und zugleich durch ihrer Verführungskraft. Heute, im Universum der smarten Dinge, entgehen wir dieser Bestechung kaum noch. Die uns auf Schritt und Tritt begleitenden Gadgets und Apps tun alles für uns. Dieses allgegenwärtige paternalisierende Etwas-für-uns-tun saugt vampirisch und unmerklich alle Eigeninitiative, alles Eigenleben aus uns. 

Descartes gestand dem Apparat Mensch immerhin noch eine Seele zu. Heute scheint sie verzichtbar zu sein. Beschwipste Messianisten eines neuen technologischen Zeitalters sagen: Tant mieux! Ob Mensch oder Artefakt – bloss Automaten. Wenn wir ein bisschen tiefer hineinschauen, ist da niemand zuhause.