Leben als Rechenprozess

Die Analogie von Organismus und Computer

Eine tiefverwurzelte Intuition lässt uns den Unterschied zwischen natürlicher und künstlicher Intelligenz als den Unterschied zwischen Lebens- und Rechenprozess empfinden. Wir sagen, KI-Systeme würden stur «mechanische» Regeln befolgen, und wir perpetuieren da-mit einen alten Gegensatz, der das philosophische Denken der Neuzeit tief prägt: den Gegensatz zwischen Lebewesen und Maschine, Organismus und Mechanismus. Tatsächlich aber weisen Entwicklungen in der KI-Forschung schon seit längerem darauf hin, dass – um es vorsichtig zu formulieren - die Grenze zwischen Lebens- und Rechenprozessen verschwimmt. Der Grundgedanke dazu stammt von zwei genialen Pionieren der Computertheorie. Alan Turing und John von Neumann schufen die konzeptuellen Voraussetzungen da-für, Wachstum, Selbstreplikation, Evolution als Rechenprozesse zu betrachten. 

***

Dazu muss man erst einmal das Konzept des Rechnens erweitern. Das tat Turing. Er zeigte 1936 in einem bahnbrechenden Aufsatz, dass  alles, was wir im weitesten Sinne «rechnen» nennen, von einer idealen Maschine nachgeahmt – «emuliert» - werden kann. Turing ersann ein Gerät, das im Wesentlichen aus einem unendlichen Band (Gedächtnis) und einem Lese- und Schreibkopf besteht. Dieser Kopf rückt vor oder zurück, setzt oder löscht ein Zeichen gemäss einer ihm eingegebenen Vorschrift. Ein unendlicher Zeitvorrat steht für den Rechenprozess zur Verfügung. Hält der Lese- und Schreibkopf an, dann hat die Turingmaschine die Aufgabe bewältigt. Sie formuliert den digitalen Anspruch in aller Klarheit: Gebt mir ein unendliches Gedächtnis und eine unendliche Prozess¬dauer, und ich löse euch mit meinem (richtig programmierten) Lese- und Schreibkopf jedes Rechenproblem. 

Man nennt diese Maschine heute «universelle Turingmaschine». Der Clou ist ihre Universalität. Sie stellt das logische Skelett nicht nur eines jeden Computers dar, sondern eines jeden Vorgangs, in dem man einen Algorithmus vermutet. Könnte man insbesondere Lebensvorgänge auf diese Weise begreifen? Gibt es eine Turingmaschine für Wachstum, Proteinbau, Stoffwechsel, Selbstreplikation? Ist nicht die Evolution selbst eine solche Maschine?

***

Solche Fragen trieben von Neumann um. Zu Beginn der 1950er erweiterte er Turings universellen Rechner zum Modell eines universellen selbstreplikativen Automaten. Dieser Automat basiert auf drei Voraussetzungen. Er braucht erstens einen Bausatz an Komponen-ten für seine Konstruktion. Er braucht zweitens eine Bauanleitung – kodiert auf einem Turing-Band - für die Kopie seiner selbst und einen Mechanismus A, der die Instruktionen schrittweise ausführt. Drittens braucht er einen Mechanismus B, der das ganze Band ko-piert und dem neuen Automaten einfügt.  Die zentrale Einsicht ist dabei: Selbstreplikation bedeutet nicht Kopieren des Automaten, sondern seiner Bauanleitung. Von Neumann zeigte, dass die Instruktionen für beide Mechanismen auf dem gleichen Band einkodiert und damit als maschinelles «Genom» einem «Nachkommen» weitergegeben werden können. 

Die biologische Metaphorik drängt sich auf. «Es ist ziemlich klar,» schreibt von Neumann, «dass die Instruktionen ungefähr die Funktionen eines Gens bewirken. Es ist auch klar, dass der Kopiermechanismus (..) den fundamentalen Akt der Reproduktion ausführt». Von Neumanns idealer Automat kann sogar etwas bauen, das komplexer ist als er selbst. Kleine Änderungen in der Bauanleitung «können sich in typischen Merkmalen ausdrücken, die im Zusammenhang mit Mutationen auftreten – meist tödlich, aber mit der Möglichkeit, die Reproduktion mit modifizierten Merkmalen fortzusetzen.» Das ist der Schlüssel zu einer ergebnisoffenen algorithmischen Evolution von Automaten, wie wir sie von den Organismen her kennen. 

***

Das komplizierte Leben mittels «einfacher» Konstruktionsregeln erklären – dieses Motiv beherrscht ingeniöse und waghalsige Köpfe seit von Neumanns Arbeiten über Automaten. Nicht zuletzt deshalb, weil sich die Computertechnologie rasant entwickelt hat.  Man muss dabei zwischen dem trivialen und dem nicht-trivialen Anspruch des Computergebrauchs unterscheiden. Trivial ist, ihn als Instrument in der Erklärung von Lebensphänomenen zu verwenden. Nicht-trivial ist, ihn als Agens der Lebensphänomene selbst, sprich: den Lebensprozess als Rechenprozess zu begreifen. Das ist ein Anspruch, der hoch greift. Sehr hoch.  

Bisher wird er vor allem als Simulation eingelöst. Man studiert Programme, die nach einfachen Regeln funktionieren und  komplexe Strukturen generieren. Berühmt und populär ist der zelluläre Automat: eine zweidimensionale Struktur, die sich entwickelt, fortpflanzt, unter Umständen abstirbt. Eine Kopfgeburt des Mathematikers John Conway, die sehr schnell Computerwissenschaftler und Mathematiker wie etwa Tommaso Toffoli, Ed Friedkin oder Stephen Wolfram in Bann zog. Vor allem Letzterer, ein genialischer Eigenbrötler, erschuf um den zellulären Automaten einen neuen Forschungsstil («A New Kind of Science»), mit dem Ziel, das ganze biologische und auch das physikalische Universum aus einfachen Rechenregeln zu modellieren. 

***

Man könnte generell vom Paradigma des Berechnens in der Biologie sprechen. Sein Anspruch greift natürlich über die virtuellen Spielwiesen hinaus. Lassen sich Rechenprozesse in vitro oder gar in vivo realisieren? Und überhaupt: Wie weit lässt sich die Analogie von Organismus und Computer treiben? 

Das ist letztlich auch eine Frage der Zusammenarbeit von Biologen und Computerwissenschaftlern. Die Idee der Biomoleküle als Rechenmaschinen stammt aus den 1960er Jahren, als François Jacob und Jacques Monod vorschlugen, in den Biomolekülen eine Art von Programmsprache für die Proteinsynthese zu sehen.  In den 1970er Jahren verglich der Informatiker Charles Bennett die RNA-Polymerase – ein Enzym, das für die Replikation der DNA eine zentrale Rolle spielt -  mit einer Turingmaschine,  und er spekulierte bereits über Moleküle, die energieeffizientere Rechner liefern könnten. In den späten 1980er Jahren prägte der Computerwissenschaftler Christopher Langton den Begriff des «Artificial Life», und er umschrieb mit ihm ein Projekt, das vom «Leben, wie wir es kennen» übergeht zum «Leben, wie es sein könnte» - das heisst, zur Nachbildung naturähnlicher Phänomene in alternativen Medien.

Das Rechen-Paradigma hat in den letzten beiden Jahrzehnten einen bemerkenswerten Schub erfahren. Und dennoch, schreibt der Molekularbiologe Hashim al-Hashimi unlängst, tendiere man dazu, Biomoleküle vorzugsweise als Black Boxes zu betrachten, die Input in Output verwandeln. Es fehle eine Wetware-Beschreibung, die spezifiziere, wie Molekülsequenzen die Informationsverarbeitung steuern. 

***

Das liegt vermutlich daran, dass Lebensphänomene um Skalen komplexer sind als bisher vermutet, und die Computeranalogie zwar handlich und verführerisch ist, aber wahrscheinlich zu kurz greift. Was schon von Neumann zu bedenken gab: «Natürliche Organismen sind meist viel komplizierter und raffinierter, und deshalb im Detail viel weniger verstanden als künstliche Automaten. Nichtsdestoweniger könnten gewisse Gesetzmässigkeiten, die wir bei den Automaten beobachten, lehrreich sein für das Verständnis und das Design der Organismen».

Eigentlich gibt es einen grundsimplen Unterschied zwischen Organismus und Computer. Den Computer haben wir geschaffen, nicht aber das Leben. Das Organische ist im Gegensatz zum Anorganischen «unexakt». Genau deshalb ist es wohl so schwer zu verstehen. Von Neumann drückte dies einmal sinngemäss so aus: Das beste Modell eines lebenden Systems ist das System selbst. Das spricht nicht gegen die Computeranalogie, sondern für erkenntnistheoretische Vorsicht: Vergleicht man den Organismus mit einem Computer, unter-schätzt man den Organismus. Überspannen wir den Vergleich, kann uns dies leicht zu einem Reduktionismus verführen, der das wissenschaftliche Grundmotiv erstickt – nämlich das Eingeständnis, wie wenig wir wissen. 

 

Die Rückkehr zur Horde

Über den Prozess der Entzivilisierung

Man kann moderne Zivilisiertheit grob auf vier Grundpfeiler stellen: Individualität, Rationalität, Diversität und Universalität. Sie alle gründen in der Achtung vor etwas: der individuellen Person, der Vernunft des Anderen, der Meinungsvielfalt, den universellen Werten. Neuerdings setzt sich allerdings ein politischer Stil durch, der an diesen Pfeilern der Achtung rüttelt. Ihn auf die Psychologie von Charakterlumpen zurückzuführen, trifft sicher auf einige heutige Regierungsführer zu, wäre indes verharmlosend. Der Stil speist sich aus einer tieferen Quelle: der Verachtung fundamentaler geistiger Errungenschaften der aufgeklärten Moderne. 

***

Beginnen wir mit der Achtung vor der Person. Immanuel Kant unterscheidet scharf zwischen Wert und Würde des Menschen. In der «Metaphysik der Sitten» schreibt er: «Achtung, die ich für andere trage, oder die ein anderer von mir fordern kann, ist die Anerkennung einer Würde an anderen Menschen, d.i. eines Werts, der keinen Preis hat, kein Äquivalent, wogegen das Objekt der Wertschätzung ausgetauscht werden könnte».

Eine Sache hat ihren Wert, eine Person ihre Würde. Eine schändliche Form der Verachtung findet sich in der viszeralen Lust, Schwache, Verletzliche, Minderheiten zu entwürdigen. Verachtung scheint sich in der digitalen Öffentlichkeit geradezu als Hauptkommunikationsmittel zu etablieren: Shitstorming, Bashing, Trolling, Mob-bing. Aber es gibt subtilere Formen, die deswegen nicht weniger übel sind. Eine Per-son kann versachlicht werden. Dann hat sie nicht so sehr eine Würde, als vielmehr einen Wert - einen Unterhaltungs-, Erziehungs-, Trost-, Kampf-, heute vorzugsweise einen Marktwert. In den «Sachzwängen» der heutigen Wirtschaftswelt, im System der Proftmaximierung ist die Würde der Person oft ein vernachlässigbarer Parameter.

***

Rationalität bedeutet primär Achtung vor der Vernunft des Anderen. Eine in der De-batte häufig gepflegte, perfide, weil nicht auf ersten Blick erkennbare Form der Verachtung besteht darin, dass man im Denken des Anderen nur den Anderen und nicht sein Denken anspricht. Man sagt: Du bist eine Frau/ ein Schwuler/ ein Schwarzer/ ein Journalist, also kann, was du sagst, nicht stimmen. Man hört in den Aussagen der anderen Person nicht Sätze, sondern Symptome. Man versagt ihr a priori den Status des rationalen Gegenübers und immunisiert sich dadurch gegen mögliche Kritik. Eine Diskursverweigerung, letztlich die schwerste intellektuelle Verachtung des Anderen. Kant wusste von dieser besonderen Spielart der Verachtung, als er den Respekt vor dem Denken des Anderen als Pflicht des vernünftigen Menschen einforderte. «Denn spricht man seinem Gegner (..) allen Verstand ab, wie will man ihn darüber verständigen, dass er geirrt hat?» Die listige Frage sollte man eigentlich ständig mit sich herumtragen.

***

Demokratie heisst Achtung vor Meinungsvielfalt - nicht zu verwechseln mit Achtung vor jeder Meinung. Meinungsvielfalt hat vor allem zwei Verächter: Expertokraten und Populisten. Der Expertokrat sagt: Für politische Probleme gibt es eine richtige Lösung, und die kennt der Experte als Vertreter «des» Wissens am besten. Der Populist sagt: Für politische Probleme gibt es eine richtige Lösung, und die kennt der wahre Demokrat als Vertreter «des» Volkes am besten. 

Der Expertokrat diagnostiziert das Defizit der modernen Demokratie in der Inkompetenz des Bürgers. Würde dieser nur dem Experten vertrauen, dann wäre alles zum Besseren bestellt. Dahinter steckt die äusserst fragwürdige Annahme, dass mehr Wissen auch automatisch mehr politische Autorität und Kompetenz verleihe. 

Der Populist tut sich auf seine eigene Weise schwer mit der Meinungsvielfalt. Seinem Ideal gemäss besteht eine Demokratie ja im Grunde aus einer einzigen grossen homogenen Mehrheit: dem «Volk», dessen Meinung er vertritt. Aber in der Realität ist die moderne Demokratie ein Konglomerat aus diversen Interessengruppen, in dem sich «das Volk» nicht finden lässt. Deshalb greift der Populist zum Pars-pro-toto-Trick: Er erklärt jenen Bevölkerungsteil, den er repräsentiert, schlicht zum «Volk» und legitimiert seine Meinung in dessen Namen. Die Unlogik pumpt den Anspruch «Wir sind auch das Volk» zum «Wir allein sind das Volk» auf. Genau in dem Moment verwandelt sich der Anspruch in einen antidemokratischen Spaltpilz.

***

Zivilisiertheit meint Achtung vor universellen Normen und Werten. Dazu gehören Völker- und Menschenrechte. Sie sind von der Idee motiviert, dass wir Menschen uns aus der Provinzialität des Denkens und Handelns heraus entwickeln, indem wir uns einem bestimmten Satz von gemeinsamen Leitlinien verpflichten. Natürlich handelt es sich um Ideale. Und es war und bleibt das grosse Problem des aufklärerischen Universalismus, dass die Ideale leichter zu definieren als zu praktizieren sind. Zudem hat die postkoloniale Kritik aufgezeigt, dass diese Ideale oft als Deckmantel für partikulare Interessen fungieren. Die Menschenrechte würden nicht die Universalität, sondern die «Westlichkeit» der Werte verkünden. Die Kritik ist alt. Schon Marx warf den Menschenrechten der Französischen Revolution Doppelzüngigkeit vor - sie seien nicht allgemein, sondern jene der Bourgeoisie. 

***

Der Prozess der Zivilisation ist umkehrbar. Und diese Umkehrbarkeit legt eigentlich die Dialektik der Globalisierung offen. Sie hat in den letzten zwei bis drei Jahrzehnten viele Menschen aus der Verankerung ihrer lokalen Habitate – ihrer Sitten, Traditionen, Lebensformen – gerissen. Man läge falsch, wollte man in der Reaktion dieser Menschen – im Beharren auf Verwurzelung und Zugehörigkeit - bloss Rückständigkeit diagnostizieren. Eher trifft zu, was einer der grossen liberalen Denker, Friedrich von Hayek, in seinem Buch Recht, Gesetz und Freiheit feststellt. Der Mensch habe sich nicht in Freiheit entwickelt, sondern als Mitglied einer kleinen überschaubaren Gruppe. Vor allem ihr schuldet er seine Loyalität. Die «Abstraktionen» der Zivilisation empfindet er als kalt und fremd. Seine moralischen Intuitionen wurzeln tief in der Hordenmentalität – und sie scheinen sich für die Ordnung der modernen Gesellschaft als weitgehend inkompatibel zu erweisen.

***

Und hier liegt der Kern des Problems. Die vier Grundpfeiler der Zivilisertheit sind Errrungenschaften der Moderne – sie postulieren den Vorrang der abstrakten Gesellschaft vor der konkreten Gemeinschaft.  Aber sie sind nicht selbstverständlich. Man muss sie verteidigen. Vielleicht liegt das Problem sogar darin, dass ein bestimmter Teil der Menschheit sie als zu selbstverständlich betrachtet. Der früh verstorbene amerikanische Schriftsteller David Foster Wallace hielt 2005 eine Rede vor Universitätsabsolventen: «This is Water». Darin erzählt er die Fabel von zwei jungen Fischen. Sie begegnen einem älteren Fisch, der sie begrüsst mit «Hallo, Jungs, wie ist das Wasser heute?». Worauf der eine junge Fisch nach einigem Überlegen den andern fragt: «Was ist Wasser?» 

Genau diese Frage sollten wir auch an die liberal-demokratische Ordnung stellen. Wenn man in ihr lebt, kommt sie einem wie «Wasser» vor, selbstverständlicher als sie es eigentlich ist. Dass sie in der gegenwärtig aufgewühlten Zeit in Frage gestellt wird, muss man als Appell auffassen  - nicht zur Gegenaufklärung, sondern zu einer Aufklärung, die aus ihrem Schlummer aufwacht. 

 

NZZ, 21.1.26.  English Version

The Jargon of Inevitability

Hardly anything promotes intellectual laziness as much as the jargon of inevitability. We encounter it everywhere: in economic analyses, business forecasts, political speeches, technological visions, and everyday conversations. It became notorious through the neoliberal primal scream “There is no alternative” – a formula suggesting that some superhuman necessity directs our fate.

Today this tone is omnipresent in the AI sector. Its prophets use the jargon to smooth the path toward their preferred goals. Concerns about sustainability and political regulation appear to them as obstacles to the unstoppable march of progress. Some — for example, the investor Marc Andreessen — are willing to accept the erosion of democratic structures by proclaiming that politics must submit to technological dynamics. This alone, they believe, grants the engineers and investors of Silicon Valley their world-historical mandate.

***

The jargon of inevitability rests on a fundamental error in thinking: confusing model and reality — or as the saying goes: the map is not the territory. This error is, so to speak, part of the cognitive equipment of the human being. When we think, we follow certain rules, perhaps “compelling” ones. They suggest: if you assume A and B, then C necessarily follows. But this necessity is a feature of the model, not of reality. It is the result of simplification. On the map we can show that a straight line connects points A and B. In the landscape, however, it may well be a dead-end path.

Science recognizes necessities in the form of laws. Physical laws hold within physical mod-els, economic laws within economic ones. Their purpose is to make statements about reality — and to the extent that this succeeds, we may justifiably say the laws also hold in nature or in the economy. That’s all. But successful models easily tempt us to overdraw their explanatory account — that is, to claim more than their assumptions allow. Economic models, for instance, often shine with elegant mathematical formulas from which market forecasts can be deduced. And then reality refuses to cooperate. As in the 2008 crash. Influential economists like Paul Krugman diagnosed not only a crisis of the financial markets but a crisis of economic models. Sociologically speaking, one could say that experts, banks, governments, and rating agencies formed a kind of narrative community that cultivated the jargon of inevitability and — as Krugman put it bluntly — went astray because they “mistook beauty, clothed in impressive-looking mathematics, for truth.”

***

The jargon of inevitability is well suited to stifling political debate through supposed factual constraints — through the jargon of unassailability. Hannah Arendt wrote that “every factual truth excludes all debate.” This sounds apodictic, but what she meant was that “discus-sion, the exchange and conflict of opinions, is the very essence of all political life.” The statement “Fact is that …” often turns out to be an argumentative bludgeon: “Shut up, you just have an opinion.” One postures as an advocate of “the facts,” yet the “facts” are nothing more than the ossification of one’s own opinion.

Ludwig Wittgenstein spoke of the “bewitchment of our intelligence by means of language.” This is precisely what the jargon of inevitability accomplishes. It is the grammar of disenfranchisement; the effortless compulsion of a way of thinking that tries to make us believe political events and developments occur without human involvement. The very term “artificial intelligence” demonstrates this: we project a human concept onto machines and then interpret their algorithms as an autonomous power that will inevitably surpass and dominate us. Yet it is human beings who drive this development — and who have the greatest interest in portraying it as without alternatives.

***

Critique of jargon means unmasking this bewitchment — and thereby directing our gaze not only toward the “bewitchers” but also toward other possibilities for the future that have been pushed aside by the weight of supposed necessity. It encourages us to cultivate the form of intelligence that distinguishes human beings. Robert Musil called it the “sense of possibility”: thinking that what is could also be otherwise.

There is more than one future — that is the battle cry of imagination. The jargon of inevitability drives it out of us. The most apocalyptic of all visions would therefore be the one in which we humans have lost imagination — and no longer even miss it.

 

NZZ,8.12.25

Schreiben im Zeitalter der Postoriginalität

Der Philosoph und Literaturwissenschaftler Roland Barthes publizierte 1968 seinen be-rühmten Essay «Tod des Autors». Darin beschreibt er den Autor nicht als eigenständiges schreibendes Subjekt, sondern als ausführendes Modul des linguistischen Apparats namens Sprache: eine Maske, die Identität vorgaukelt: «Der moderne Schreiber (wird) im selben Moment wie sein Text geboren. Er hat überhaupt keine Existenz, die seinem Schreiben voranginge oder es überstiege; er ist in keiner Hinsicht das Subjekt, dessen Prädikat sein Buch wäre». Deshalb wollte Barthes den Autor durch den subjektlosen «Schreiber» - den «Skriptor» - ersetzt sehen. 

Barthes erkannte im Schreiber eigentlich avant la lettre die Arbeitsweise des Textgenerators GPT. Dieser schöpft eklektisch aus einem gigantischen Reservoir von Wörtern, verwandelt sie in mathematisch behandelbare Objekte – Tokens - und rechnet mit ihnen. Bisher war der Textgenerator eine Voraussagemaschine von solchen Tokens: Nun lernt er, «verständig» auf bestimmte Anfragen oder Instruktionen – auf Prompts - zu reagieren. Eine neue Kompetenz gewinnt an Bedeutung: das Prompt-Engineering, die kreative Form des Befehlens.

***

Wahrscheinlich wird der Textgenerator bald schon einen neuen Standard des Schreibens definieren, der die Benutzung der Maschine nicht mehr als blosse Trickserei abqualifiziert. Für den Schriftsteller Clemens Setz lassen sich deshalb Schreiben und Prompten tendenziell nicht mehr unterscheiden.  Er lobt eine «neue Aufrichtigkeit», die nicht so tut, als wäre der Mensch allein Autor der Texte. Vielmehr repräsentiere das Prompten eine neue Kulturtechnik, in der Mensch und KI-Assistent eine Symbiose eingehen. «Zukünftige Generationen könnten sich kopfschüttelnd wundern, wie die frühere Menschheit überhaupt je irgendetwas Authentisches und Aufrichtiges auszudrücken imstande war, wenn sie doch gerade in der Situation der Schrifterzeugung immer so mutterseelenallein war, von niemandem betreut als vom eigenen Gehirn». 

Setz sieht einen «tertiären Analphabetismus» aufkommen. Der tertiäre Analphabet «lernt fast ausschliesslich eine Sache (..): das Wünschen». Seine Kompetenz ist das «übergenaue (..) erwachsene Selbstkenntnis erfordernde Formulieren dessen, was man gerne haben möchte». Der tertäre Analphabet kann, «wenn die Wunscherfüllung geliefert wird, nicht mehr persönlich nachprüfen, ob der Wunsch korrekt verstanden wurde, das kann dann nur das Leben selbst entscheiden». Das Leben selbst: das ist der akzeptierte Zeitungsartikel, die bestandene Prüfung, das erfolgreiche Bewerbungsschreiben. Man muss nicht mehr verstehen, wie sie zustandegekommen sind - Hauptsache, man reüssiert. 

***

Nun klingt das alles ziemlich überzogen - mindestens aus drei Gründen. Erstens ist der schreibende Mensch nie «mutterseelenallein» mit seinem Gehirn. Tatsächlich erweist sich auch das Schreiben mit der Feder bereits als ein symbiotischer Akt von Mensch und Werkzeug. Es gibt keinen Schreiber, der frei von Technik wäre. All die Werkzeuge und Geräte, mit denen sich der Mensch umgibt – dazu gehört nota bene auch das Buch - , sind ja sozusagen Extensionen seines Gehirns, in dem Sinne, dass das Gehirn seine hochflexible Struktur dem jeweiligen Gerätegebrauch anpasst. 

Zweitens hat die «tertiäre Analphabetisierung» etwas Paradoxes. Prompten ist das «über-genaue (..) erwachsene Selbstkenntnis erfordernde Formulieren dessen, was man gerne haben möchte». Aber ist Formulieren denn nicht Eingeben in geschriebener Form, selbst wenn dieses Eingeben schliesslich auch vokalisiert erfolgen kann? Zum Schreiben gehört insbesondere auch das Lesen – es handelt sich um komplementäre Seiten ein und derselben Kompetenz. Mit der einen verkümmert die andere. Und damit auch das Promptenkönnen. Droht dem vom KI-Assistenten begleiteten tertiären Analphabeten nicht das Schicksal des Chatbot-Junkies? 

2022 liess OpenAI ChatGPT auf den Technikkonsumenten los, und binnen dreier Jahre hat sich dieses Ding zu einem kulturellen Game Changer entwickelt. So stark, dass die Pädagogen und Psychologen immer erfolgloser gegen das Schummeln vorzugehen suchen. Für Setz eine hoffnungslose Massnahme. Denn Schummeln sei die neue Aufrichtigkeit. «Absolut jede Art von Lernen ist (..) tendenziell ‘Cheating’, oder, anders formuliert, geschieht in Gesellschaft des KI-Assistenten». 

***

Hier stellt sich aber drittens die Frage, was diese Gesellschaft bedeutet. Könnte der Schreibassistent dem Schreiben, statt es zu ersetzen, nicht vielleicht eine neue, zeitadaptierte Bedeutung verleihen? Paläoanthropologie, Evolutionsbiologie, Neurologie und Kognitionspsychologie weisen uns längst schon auf das Zusammenwirken von Hand und Hirn hin. Und aus diesem Zusammenwirken hat sich so etwas wie ein «Schreibhirn» entwickelt. Eine  neuronale Struktur, die der Schreibaktivität entspricht. Man spricht von einer «breit gestreuten Hirnkonnektivität» durch Schreiben.  

Inwieweit diese Struktur sich durch die neue Kulturtechnik des Promptens verändert, bleibt abzuwarten. Aber man sollte sich nicht vom einfältigen Narrativ leiten lassen, dass Neues Altes ersetzt. Schon Platon warnte davor, dass die Schrift das Gespräch verdränge und da-mit das Medium echten Verstehens verkümmern lasse. Das ist nicht geschehen. Vielmehr hat sich zwischen Reden und Schreiben ein dynamisches kulturelles Zusammenspiel von Ausdrucksmöglichkeiten gebildet. Gewiss, das Gleichgewicht dieses Zusammenspiels sieht sich heute durch die digitalen Medien herausgefordert. Und die Diagnosen, die eine Abschwächung der Lese- und Schreibfähigkeiten heranwachsender Generationen prognostizieren, sind ernst zu nehmen. 

***

Aus einer zuversichtlichen Perspektive betrachtet kann man im «Schreiber» von Barthes wie im «tertiären Analphabeten» von Setz Figuren sehen, die uns gerade zum Wiedererlernen des Schreibens im Duett mit dem Textgenerator auffordern, zur Reanimation alter Fähigkeiten: Upskilling. Man lässt den KI-Assistenten schreiben und pflegt im Austausch mit ihm zugleich das eigene Schreiben. So wie der Algorithmus meine «Idiosynkrasien» lernt, lerne ich seine Tricks. Symbiose von Mensch und GPT bedeutet so gesehen die Geburt eines neuartigen «Schreibsubjekts». 

Nun hat das Upskilling nur dann eine Bedeutung, wenn die Skills bereits existieren. Und das ist keineswegs mehr selbstverständlich. Wenn der Textgenerator zum Leitmedium wird, dann zeichnet sich der Prozess der tertiären Analphabetiserung in den künftigen Generationen durchaus als reale Möglichkeit ab – ein Prozess von eminent anthropologischer Bedeutung. Viel intimer als bisher arbeiten Mensch und Maschine zusammen - die Maschine wird ein Teil des Ich, oder das Ich ein Teil der Maschine. 

***

In KI-Kreisen kennt man das «Gesetz» von Roy Amara: Wir überschätzen kurzfristig die Wirkung einer Technologie, und wir unterschätzen sie langfristig. Wir kennen die langfristigen Folgen einer breiten KI-Akzeptanz nicht. Schon jetzt sollten uns allerdings die kognitiven Kosten der Symbiose beschäftigen. Die Tendenz ist nicht unwahrscheinlich, dass sich der Mensch immer mehr der Maschine anpasst - dass er den Stil seines Assistenten an-nimmt und dessen Überredungskunst erliegt. Die Lernplattform Fobizz bewertet zum Beispiel automatisch Schülerarbeiten. Eine Analyse des Tools zeigt, dass es jene Texte als beste beurteilt, die mit ChatGPT geschrieben wurden.  Wie es scheint, bilden die smarten Maschinen eine neue Klasse von Autoren, die sich untereinander am optimalsten verstehen. Es kümmert sie ja auch nicht, was sie schreiben. «I’m not afraid of throwing grammar around me», soll die schlagfertige amerikanische Schauspielerin Mae West einmal gesagt haben. Das ist der neue Standard. 

 

NZZ, 21.1.26

Der Jargon der Unvermeidlichkeit

Kaum etwas fördert geistige Trägheit stärker als der Jargon der Unvermeidlichkeit. Wir begegnen ihm überall, in ökonomischen Analysen, unternehmerischen Prognosen, politischen Reden, technologischen Visionen, im Alltagsgespräch. Notorisch geworden durch den neoliberalen Urschrei «Es gibt keine Alternative», suggeriert uns dieser Jargon immer wieder, dass eine übermenschliche «Notwendigkeit» unser Geschick leite und bestimme. 

Wir kennen ihn heute bis zum Überdruss aus der KI-Branche. Deren Propheten benutzen die Unvermeidlichkeitsrhetorik dazu, den Weg für ihre  bevorzugten Ziele freizumachen. In Bedenken über Nachhaltigkeit oder in politischen Leitplanken sehen sie nichts als Hindernisse des ohnehin unaufhaltbaren Laufs der Dinge. Gewisse Protagonisten - etwa der Investor Marc Andreessen - nehmen den Demokratieabbau in Kauf mit dem Postulat, dass Politik sich der technologischen Dynamik unterzuordnen habe. Diese allein verleiht den Ingenieuren und Investoren von Silicon Valley ihr weltgeschichtliches Mandat. So argumentierten schon die italienischen Faschisten.

***

Der Jargon der Unvermeidlichkeit beruht auf einem grundlegenden Denkfehler: der Verwechslung von Modell und Wirklichkeit – oder wie man sagt: Die Landkarte ist nicht die Landschaft. Dieser Fehler gehört sozusagen zur kognitiven Ausstattung des Menschen. Wenn wir denken, folgen wir bestimmten Regeln, womöglich «zwingenden». Sie suggerieren: Wenn du A und B annimmst, folgt daraus C zwangsläufig. Diese Notwendigkeit ist aber eine Logik des Modells, nicht der Wirklichkeit. Auf der Landkarte kann man zeigen, dass eine gerade Linie Punkt A und Punkt B verbindet. In der Landschaft ist das vielleicht ein Holzweg. 

Die Wissenschaft kennt Notwendigkeiten in der Form von Gesetzen. Physikalische Gesetze gelten in physikalischen Modellen, ökonomische Gesetze in ökonomischen. Ihr Zweck ist, Aussagen über die Wirklichkeit zu treffen, und in dem Masse, in dem das gelingt, sind wir berechtigt zu sagen, die Gesetze würden in der Natur oder in der Wirtschaft gelten. Aber gerade erfolgreiche Modelle verführen uns leicht dazu, ihr Erklärungskonto zu überziehen, das heisst, mehr zu behaupten, als es ihre Annahmen erlauben. Ökonomische Modelle zum Beispiel glänzen oft mit elegantem mathematischem Formelwerk, aus dem sich Marktprognosen deduzieren lassen. Und dann spielt die wirtschaftliche Realität nicht mit. Wie zum Beispiel 2008. Das war nicht nur eine Krise der Finanzmärkte, sondern eine Krise der ökonomischen Modelle. Fachleute, Banken, Regierungen, Ratingagenturen bildeten so etwas wie eine narrative Gemeinschaft, die den Jargon der Unvermeidlichkeit pflegte, sprich: die Annahmen der Modelle für die Wirklichkeit hielt. Schon 1985 warnte die amerikanische Ökonomin Deirdre McClosky im Buch The Rhetoric of Economics ihre Disziplin vor dieser Gefahr des Modell-Dogmatismus. 

***

Der Jargon der Unvermeidlichkeit eignet sich gut, die politische Debatte durch angebliche Sachzwänge abzuwürgen – durch den Jargon der Unumstösslichkeit. Hannah Arendt sprach davon, dass «jede Tatsachenwahrheit jede Debatte (ausschliesst)», wo doch «die Diskussion, der Austausch und Streit der Meinungen (..) das eigentliche Wesen allen politischen Lebens (ausmacht)». Das Totschlagargument «Fakt ist..» erweist sich eigentlich als eine autoritäre Sprachhandlung: «Halt den Mund, du hast bloss eine Meinung». Man gibt vor, im Namen der Sache zu sprechen, dabei ist die «Sache» nicht anderes als die unbedachte Verfestigung der eigenen Meinung. 

Eigentlich konserviert der Jargon der Unvermeidlichkeit die alte Potenz des Mythos, also die Kraft einer Erzählung, die uns überzeugen will, dass «es so kommen muss». Ludwig Wittgestein sprach von der «Verhexung unseres Verstandes durch die Mittel der Sprache». Genau das leistet dieser Jargon. Er ist die Grammatik der Entmündigung; der zwanglose Zwang einer Denkweise, die uns weismachen will, politische Ereignisse und Entwicklungen geschähen ohne menschliches Dazutun. Nur schon das Wort «künstliche Intelligenz» demonstriert beispielhaft, wie wir einen menschlichen Begriff auf Maschinen übertragen und dann deren Algorithmen als eine autonome Macht interpretieren, die uns unvermeidlich übertreffen und dominieren wird. Vergessen geht dabei, dass Menschen diese Entwicklung vorantreiben – mit Vorurteilen, Herrschaftsgelüsten, Entscheidungsgewalt. 

Jargonkritik bedeutet, die Verhexung zu entlarven - und damit den Blick nicht nur auf die «Verhexer» zu lenken, sondern zugleich auf andere Zukunftsmöglichkeiten, die durch das Gewicht vermeintlicher Notwendigkeit verdrängt worden sind. Wir müssen jene Intelligenzform kultivieren, die uns auszeichnet. Möglichkeitssinn, nannte sie Robert Musil: denken, dass das, was ist, auch anders sein könnte. 

Denn die Imagination ist die Mutter der Freiheit. Die apokalyptischsten aller Visionen ist jene, in der wir Menschen die Imagination verloren haben - und sie nicht einmal mehr vermissen.

 

Homo sapiens, Animal sapiens, Machina sapiens

Ein neues kopernikanisches Zeitalter

Meine beiden Kater sind Methusalems mit ihren fast zwanzig Jahren auf dem schwarzen Buckel. Ziemlich erfahrene und – ich zweifle nicht – intelligente Tiere. Oft erstaunen sie mich mit Fähigkeiten, die ich ihnen nicht zugetraut hätte oder die mir schlicht abgehen. Die Verhaltensforschung liefert mir Erkenntnisse über ihre arteigenen kognitiven Vermögen – ihre «Intelligenz». Und in diesem Bemühen trägt sie bei zum allgemeinen wissenschaftlichen Projekt, das Tierreich, ja, selbst das Pflanzenreich als einen immer noch recht unbekannten Kontinent fremder Intelligenzformen zu studieren und kartieren. Dieses Projekt sagt schlicht und einfach: Wir müssen uns von der anthropozentrischen Idee lösen, allein der Homo sei sapiens. Auch das Tier ist es, auf seine arteigene Weise – Animal sapiens.

Natürlich bin ich den Katern in einigen Dingen überlegen. Zum Beispiel übersteigen Goethes Poesie und die Differentialrechnung ihren «Begriffshorizont»; sie wissen auch nicht, wie der Kühlschrank funktioniert, in dem ihr Futter aufbewahrt ist, oder dass Whiskas Proteine enthält. Aber diese Betrachtungsweise lässt sich felinozentrisch umkehren. Was weiss ich denn von ihrem heimlichen Informationsaustausch über mich? Was von ihren Absichten, wenn sie um meine Beine streichen? Schon Montaigne trieb die Frage um: «Wenn ich mit meiner Katze spiele, wer weiss, ob sie sich nicht noch mehr mit mir die Zeit vertreibt als ich mir mit ihr?» 

***

Wenn es also in der Natur unzählige andere, fremde Intelligenzformen gibt, wie weit verstehe ich sie eigentlich? Ich benötige zu diesem Verstehen ja meine menschliche Begrifflichkeit. Ist sie nicht ebenso beschränkt, was das Leben der Kater angeht? Was kann ich überhaupt von Dingen wissen, die meinen konzeptuellen Horizont übersteigen? 

Das ist eigentlich die Frage aller Fragen. Sie wurde schon vor fast hundert Jahren vom britischen Biologen John Burdon Sanderson Haldane in einem einzigen Satz angesprochen: «Meiner Ansicht nach ist das Universum nicht nur sonderbarer, als wir es uns vorstellen, sondern sonderbarer als wir es uns vorstellen können». 

Haldane spielte damit auf eine Grenze im Verständnis fremder Intelligenzen an, die sich nicht einfach auf den jeweils aktuellen Kenntnisstand und konzeptuellen Horizont der Forschung bezieht, sondern generell auf das Vermögen des Menschen, fremde Intelligenzen zu verstehen; also auf eine konstitutionelle Grenze, die der kognitive Apparat der Menschengattung uns setzt, wie entwickelt er auch sein mag.  

***

Als Biologe hatte Haldane allen Grund zu einer solchen Feststellung. Die Natur ist voller kognitiver «Exoten». Den Ethologen steht heute ein potententes Instrumentarium zur Verfügung, um Tierintelligenz zu studieren, in der Gestalt von Evolutionsbiologie, Kognitionspsychologie, Neurowissenschaft und weiteren Disziplinen. Und sie zeichnen ein Bild der Natur, in der es keine eindimensionale Leiter gibt, die von «niedriger» zu «höherer» Intelligenz führt. Der Mensch lebt neben Katern, Würmern, Kakteen, Pilzen, Bakterien. Alle diese Lebewesen haben ihre artspezifischen kognitiven Fähigkeiten entwickelt, nur nicht in der Richtung des Menschen. Sind sie weniger intelligent als Menschen? Die kognitive Ethologie überrascht uns laufend mit Entdeckungen über die Vielfalt und Differenzierung von intelligentem Verhalten im Tier- und Pflanzenreich. So dass der renommierte, kürzlich verstorbene Verhaltensforscher Frans de Waal im Titel eines seiner Bücher unverblümt fragt: «Sind wir intelligent genug, um zu wissen, wie intelligent Tiere sind?» 

Menschliche Intelligenz ist, wie jene meiner Kater, eine «provinzielle» Intelligenz. Sie ermöglicht uns vieles, ja, sie schafft Wunderwerke der Technik, Wissenschaft, Kunst. Zyniker könnten heute freilich einwenden: Ist denn ein solches «barockes» Organ wie das Menschenhirn nicht ein luxuriöser Überfluss der Natur? Trägt es wirklich zu unserer Fitness bei? Was ist der ganze evolutionäre Aufwand wert, ein Lebewesen zu produzieren, das mit seiner Intelligenz im Begriff ist, sich selbst abzuschaffen, indem es den Planeten zugrunde richtet? Der Einwand kommt reichlich spät, aber er formuliert präzise das Gegenbild zur Stufenleiter: Erscheint es aus der Perspektive einer evolutionären Kosten-Nutzen-Rechnung nicht dumm, so intelligent wie wir zu sein?

***

Eines der Werke menschlicher Intelligenz ist die künstlichen Intelligenz. Sie beginnt unergründliche Wege einzuschlagen. Wir bekommen es mit einer neuen Gattung von Maschinen zu tun, mit smarten Black Boxes. Das heisst, wir haben durchaus ein allgemeines Konzept dessen, was sie tun, aber wir sind nicht mehr in der Lage, dieses Tun in der Tiefenarchitek-tur der Maschine im Detail nachzuvollziehen. 

Betrachten wir die zurzeit gehypten Gadgets der neuronalen Netze, etwa den «generative pretrained transformer» (GPT). Auf die Frage, ob er intelligent sei, liefert der ChatGPT4 den Output, er simuliere Intelligenz, aber verstehe die Welt nicht so wie ein Mensch. Das ist natürlich nicht die «Antwort» des KI-Systems, sondern die Antwort, die es brav dem Menschen nachpapageit. Aber muss man denn die Welt verstehen, wie der Mensch dies tut? Sind wir hier nicht wiederum befangen in unserer eigenen anthropozentrischen Sichtweise? KI-Systeme korrigieren und verbessern ihre Lernalgorithmen schon heute selbständig. Angenommen, sie tun dies in Zukunft immer mehr ohne Supervision des Menschen. Könnten sie sich da «unüberwacht» weiterentwickeln in Richtung einer künstlichen Superintelligenz? Einer Machina sapiens? 

Was wäre eine fremde Intelligenz, die sich als inkompatibel mit der menschlichen erweist? Intelligenz ist ein Vergleichsbegriff: intelligent wie was? Wie also soll man etwas intelligent nennen, wenn man es nicht mindestens zum Teil in den Horizont menschlicher Begriffe hereinholen kann? Wenn wir sagen, der Computer habe ein intelligentes Resultat geliefert, meinen wir, dass ein solches Resultat dem Menschen Intelligenz abfordern würde. Der Referenzpunkt des Verstehens sind immer wir. Unbegreifbar bedeutet für uns unbegreifbar.  

***

Von Sigmund Freud stammt der Satz: «Unser Verständnis reicht so weit wie unser Anthropomorphismus». Anthropomorphismus ist unter Wissenschaftlern verpönt als vermenschlichende Pseudoerklärung. Wir würden dadurch nur unsere Vermögen und Eigenschaften auf die fremde Intelligenz projizieren, blieben also letztlich in einem anthropomorphen Zirkel gefangen. Das mag bis zu einem gewissen Grad stimmen, wenn man sich die vielen naiven Vermenschlichungen vergegenwärtigt, die der Mensch dem Tier «antut» und es gerade dadurch entfremdet, das heisst, ihm nicht seine artspezifische Lebensart zugesteht. Aber auch wenn wir letztlich nicht aus dem anthropomorphen Zirkel ausbrechen können, so können wir ihn erweitern, unsere Vorstellungen ändern und verbessern, dem Tierverhalten angleichen, statt dieses unserem Verhalten anzugleichen. 

Wie steht es mit KI-Systemen? Was, wenn sie eine Entwicklungsstufe erreicht haben werden, die mit Tieren vergleichbar ist? Müsste man dann eine neue Disziplin namens Maschinenethologie einführen, die das Verhalten künstlicher Systeme wie jenes von anderen, fremden Arten studiert? Und angenommen, diese postbiologische Evolution erfolge in ei-nem weit höheren Tempo als die biologische - wäre diese Disziplin vom Verhalten künstlicher Arten nicht hoffnungslos überfordert? Die letzte Freudsche Kränkung?

***

Aber könnten sich unsere kognitiven Vermögen im Zusammenspiel mit den KI-Systemen nicht auch weiterentwickeln und verbessern, in einer Koevolution von Mensch und Maschine? Man spricht von «Enhancement», dem Aufmöbeln des menschlichen kognitiven Apparats durch intelligente Prothesen. Vielleicht ist mit künftigen transhumanen Generationen zu rechnen. Zyniker prophezeien allerdings eher das Gegenteil, nämlich eine Regression der Intelligenz, zumindest bei einer Mehrheit der Menschen. Was mit Blick auf den aktuellen Technikgebrauch nicht unplausibel erscheint. Wie auch immer, «verbesserte» Generationen werden sich zwar durch einen erweiterten, aber dennoch endlichen Verständnishorizont auszeichnen. Auch sie werden jedoch mit der Frage aller Fragen konfrontiert sein. 

Die Natur ist ein Reich voller fremder organischer Intelligenzen, terrestrischer, wahrscheinlich auch extraterrestrischer. Nun schafft der Mensch ein neues Reich, voller fremder anorganischer Intelligenzen. Und er muss sich eingestehen, dass er in beiden Reichen weder Höhepunkt noch Mittelpunkt ist. Wo denn liegt sein Platz? 

Das ist die Frage eines neuen kopernikanischen Zeitalters.  

Erscheint demnächst

Prolog: Wir sind dem Computer scheissegal

Utopia und Dystopia liegen in der Einschätzung der Künstlichen Intelligenz (KI) nah beieinander. Einerseits nimmt die dem Menschen ebenbürtige bis überlegene Maschinenintelligenz Gestalt an, andererseits sieht man in ihr die mögliche Auslöschung der Menschheit. Das Center for AI Safety – eine amerikanische Nonprofit-Organisation – veröffentlichte vor kurzem ein Statement von Tech-Mogulen, das viele namhafte Fachleute unterzeichneten: «Das Risiko eine Auslöschung der Menschheit durch die KI sollte in der sozialen Dimension gleich eingeschätzt werden wie das Risiko der Auslöschung durch Pandemien oder durch Nuklearkriege.» 

Das falsche Bewusstsein 

Dieser Alarmismus spricht mit gespaltener Zunge. Wenn die KI wirklich eine solche Gefahr darstellt, fragt man sich, warum warnen dann ausgerechnet jene Leute vor ihr, die ihre Entwicklung rasend vorantreiben? Sind sie aus ihren Zauberlehrlingsträumen aufgewacht? Hat die «prometheische Scham» sie gepackt, das Gefühl der Unzulänglichkeit angesichts ihrer eigenen Produkte? 

Natürlich sind die Warnungen nicht einfach in den Wind zu schlagen. Aber nüchtern be-trachtet, eröffnen die KI-Systeme schlicht ein unerforschtes Feld der sozialen Interaktion von Mensch und Maschine, nunmehr auf «intelligentem» Niveau. Und es ist eigentlich nicht das KI-System selbst, sondern unsere vorauseilende dystopische Fantasie, die uns das Fürchten lehrt.

Karl Marx sprach vom «falschen Bewusstsein», also einem Begriffs- und Wahrnehmungsrahmen, der alles schon im Voraus präformiert, ja, verzerrt. Falsches Bewusstsein erscheint mir wie zugeschnitten auf die heutige KI-Technologie: Wir machen uns a priori einen unzutreffenden Begriff von ihr. Und das führt zu Falschalarm. Ich erläutere dies anhand dreier Punkte. 

Die Zuschreibung menschlicher Vermögen

Erstens: Wir attestieren den smarten Maschinen kognitive Fähigkeiten, die wir oft kaum noch von menschlichen unterscheiden. Wir sagen, der Computer «verstehe» oder «entscheide», der Chatbot «schreibe» einen Text, LaMDA («Language Model for Dialogue Application») «konversiere» mit uns, DALL-E 2 «male» ein Bild. Das sind aber nichts anderes als Anthropomorphismen, mit denen wir versuchen, die heute kaum noch vollständig durchschaubaren Maschinenabläufe in einem uns begreiflichen Idiom zu beschreiben. Ins-besondere übertragen wir KI-Systemen bereits «moralische» Handlungsverantwortung, schieben ihnen etwa die Schuld zu, Jobs «abzuschaffen». Oder wir warnen vor «sexisti-schen» oder «rassistischen» Algorithmen. Als ob die Maschinen sich wie Menschen verhal-ten würden. 

Und das sollte uns wirklich perplex machen: Wir wissen, dass wir es bloss mit Maschinen zu tun haben. Trotzdem leben wir mit ihnen auf fast gleicher sozialer Höhe wie mit Menschen  zusammen. Bisherige Klimax dieser KI-Beschwipstheit ist ein Softwaredesigner von Google – Blake Lemoine - , der behauptete, das Konversationsprogramm LaMDA sei in eine persönliche Beziehung zu ihm getreten. 

Der Machtwille des Homo sapiens hinter dem Robo sapiens

Das ist falsches Bewusstsein. Es zeigt zweitens eine alarmierende Dialektik der ganzen Entwicklung. Im gleichen Zug, in dem wir Maschinen personenhafte Züge zuschreiben, verges-sen wir die menschlichen Personen hinter der Maschinen. Nicht Maschinen schaffen die Jobs ab, sondern Unternehmen und Regierungen -  Institutionen, die von Personen geführt werden. Und nicht die Algorithmen sind sexistisch oder rassistsisch, sondern deren Designer. 

Der vermeintliche Machtwille des Robo sapiens ist der kaschierte Machtwille des Homo sapiens. Die Gefahr liegt nicht darin, dass Computer die Menschen beherrschen, sondern eine Elite von Roboterdesignern, Technikunternehmern und Risikokapitalisten, welche den Arbeitsmarkt mit «disruptiven» Technologien nach ihrem Belieben fluten und dirigieren. 

Man muss dabei nicht immer gleich China als abschreckendes Beispiel zitieren, wo das Regime die Technologie zur totalen Verhaltensdressur ausnutzt. Auch im Westen lassen wir uns von Algorithmen kontrollieren und manipulieren. Sie «entscheiden», was wir sehen, lesen, hören, kaufen, mit wem wir kommunizieren, wen wir mögen und wen wir hassen wollen. Das Netz ist eine gigantische Skinnerbox ohne Skinner. Er experimentierte mit Tauben. Heute sind wir so weit, dass wir uns selber zu netzadaptierten Kreaturen konditionieren. 

Es geht bei den neuesten KI-Kreationen nicht mehr bloss um Bau und Funktionsweise von intelligenten Artefakten, sondern um deren Sozialisierung. Um Maschinen zu sozialisieren, muss man Menschen «maschinisieren». Man vergegenwärtige sich nur einmal, wie wir immer dichter verpackt in einer Infosphäre mit Computern, Programmen und Daten leben, wo Artefakte unsere Aktivitäten übernehmen, ohne dass man begründet sagen könnte, die-se künstlichen Akteure besässen Intelligenz, Verständnis, Gefühlszustände, semantische Fähigkeiten wie wir Menschen.  Aber auch so werden wir uns daran gewöhnen müssen, ei-nem System ein «Gedächtnis» in Gestalt von riesigen Datenbanken und effektiven Suchalgorithmen zuzuordnen; ihm ein bestimmtes «intelligentes» Verhalten zu attestieren, wenn es ein Flugzeug sicher landen lässt, die schnellste Route zwischen zwei Orten herausfindet oder günstige Börsentransaktionen berechnet. 

Techno-Fatalismus

Alarmierend ist drittens der Ohnmachtswille des Homo sapiens, sprich: die willfährige Bereitschaft, seine kognitiven, aber auch moralischen Kompetenzen an den Robo sapiens abzutreten. Algorithmen sind mächtige Instrumente, deren Macht grösstenteils darin besteht, andere Maschinen auf abstrakter Ebene zu simulieren. Das ist die fundamentale Einsicht von Alan Turing. Aber diese Fähigkeit kann uns zu sektierischer Einäugigkeit und metaphorischer Universalisierung verleiten: Alles ist «im Prinzip» ein Computer. Wir kennen diesen Reduktionismus schon von der alten Maschine her: Der Mensch ist «nichts als» eine organische Maschine. 

Er bestärkt eine Art von Techno-Fatalismus: Der Vormarsch der Algorithmen ist unaufhaltsam. Wir beginnen alle sozialen und kulturellen Veränderungen dem Einfluss der Technologie zuzuschreiben und vergessen dabei, dass es «die» Technologie nicht gibt. Es gibt Menschen – Ingenieure, Unternehmer, Investoren, Evangelisten der KI - , welche die Technologie zu ganz bestimmten Zwecken einsetzen – und missbrauchen. Und vielen von ihnen liegt durchaus daran, dass die Nutzer ihrer Produkte in der Herdenwärme einer lamm-frommen Technikgläubigkeit verharren. 

They just don’t give a damn

Künstliche Intelligenz ist eines der kühnsten, vielleicht das kühnste intellektuelle Abenteuer der letzten 60 Jahre. Sie lehrt uns sehr viel darüber, was Intelligenz nicht ist. Die seriöse Forschung zeigt uns zum Beispiel, dass auch KI ihre «intrinsischen» Grenzen hat. Und genau das ist spannend, Ansporn für weitere Forschung in der Entwicklung von KI-Systemen, etwa von biologienäheren neuronalen Netzen oder von Quantencomputern. Zu-gleich aber auch dafür, die Alarmstufe herunterzufahren. 

Denn das grösste Risiko im Umgang mit den KI-Systemen bleibt ihr blosses Akzeptieren. Sie interessieren sich nämlich nicht für uns. Wie dies der amerikanische Philosoph John Haugeland unvergesslich ausgedrückt hat: The trouble with computers is that they just don’t give a damn – wir sind ihnen scheissegal. Und nicht wenige KI-Leute meinen damit: Der Unterschied zwischen Maschine und Mensch ist uns scheissegal. 

Die nachstehenden Essays insistieren auf diesem Unterschied. Die smarten Maschinen fordern den Anthropozentrismus heraus. Sie übernehmen heute Aufgaben, von denen man einst annahm, dass sie ausschliesslich menschliche Intelligenz erfordern. Sie zwingen uns dazu, neu zu überdenken, was Intelligenz, Bewusstsein, Persönlichkeit bedeutet. Sie brechen die anthropozentrische Ethik auf, indem sie für sich den Status von künstlichen «Agenten» reklamieren, also von Artefakten mit eigener Stellung und Handlungsmacht. Sie «emanzipieren» sich dadurch vom untergeordneten Status eines willfährigen «Tools». Und die Frage stellt sich, ob wir sie in unsere Gesellschaft «einbürgern» und mit ihnen «auf Augenhöhe» verkehren sollen. 

Exzentrische Anthropologie 

Solche Phänomene rufen nach einer Umkehr des traditionellen anthropologischen Ansatzes, in dem der Mensch die Zentralperspektive beanspruchte. Ich nenne diesen Ansatz  – in Anlehnung an Helmuth Plessner - exzentrische Anthropologie. Der Mensch lernt sich im Spiegel seiner Artefakte neu kennen und verstehen, so wie die kopernikanische Wende des heliozentrischen Weltbildes dem Menschen ein neues Selbstverständnis abforderte. Übrigens zeigt schon die Geschichte des Wortes «Computer» diese Dezentrierung an. Ursprüng-lich bezog es sich auf Menschen, die Rechenoperationen durchführten. Mit Alan Turings bahnbrechender Arbeit über denkende Maschinen konnte es auch auf Artefakte angewendet werden. Das Wort löste sich von seiner anthropozentrischen Bedeutung. Mit solchen be-grifflichen Erweiterungen werden wir vermehrt zu tun haben.

Wenn im Folgenden von smarten Maschinen die Rede ist, dann stehen nicht so sehr ihre wissenschaftlichen und technischen Aspekte im Brennpunkt, sondern ihre Herausforderung der menschlichen Sonderstellung in der Welt (die ersten drei Essays behandeln eher Grundlagenfragen). Smarte Maschinen reklamieren heute vieles, was wir als «eigentlich» menschlich bezeichnen: kognitive Vermögen, Kreativität, Moral. Die Ironie springt natürlich ins Auge:  Wir schaffen kraft unseres Denkens Artefakte, die uns die Sonderstellung des denkenden Wesens streitig machen – eine Sonderstellung, wie sie sich emblemartig genug im cartesianischen «Ich denke, also bin ich» äussert.  

Schliesslich möchte ich mich mit der exzentrischen Anthropologie von anderen «dezentrierenden» Ansätzen abgrenzen; etwa von den transhumanistischen Visionen eines Menschentums, das sich aus seinen biologischen Fesseln lösen will; auch von den Netzwerken, in denen Menschen und Artefakte ununterscheidbar als «Aktanten» operieren. Ich gehe vielmehr aus vom vielleicht paradoxen, vielleicht donquichottischen Optimismus, dass das Menschliche sich gerade da entdecken lässt, wo es scheinbar veraltet und verschwindet.