Atome, Äpfel und Schrödingers Katze

Der Physiknobelpreis  2025 zeigt, dass sich die Quantenphysik den gewöhnlichen Dingen nähert 

Im Film «Männer, die auf Ziegen starren» baut die US-Armee eine Spezialtruppe von «Jedi-Kriegern» auf, die kraft entsprechender psychokinetischer Energie unsichtbar werden, Tiere durch blosses Anstarren töten und buchstäblich durch Wände springen können. Das ist natürlich satirische Fiktion. Unmöglich, sagt der gesunde Menschenverstand. Aber theoretische Physiker kehren oft dem gesunden Menschenverstand den Rücken - und machen dabei das Unmögliche möglich. Dafür werden Nobelpreise verliehen, zumal jener des Jahres 2025: für die «Entdeckung des makroskopischen Quantentunneleffekts». Dieser Effekt besagt: Es ist physikalisch denkbar, dass Jedi-Krieger durch die Wand springen. Was bedeutet das genau?

***

Zunächst einmal, dass wir unser alltägliches Konzept eines Dings fundamental überdenken müssen. Ein Ding, so wie wir es kennen, besitzt feste und klar bestimmbare physikalische Eigenschaften. Denken wir etwa an einen Apfel auf einem Tisch. Der Apfel hat einen be-stimmten Ort (auf dem Tisch) und einen bestimmten Impuls (null, da er ruht). Ersetzen wir den Apfel nun durch ein Atom, verändert sich dieses vertraute Bild grundlegend. Auf der Quantenebene können Teilchen wie Atome nicht gleichzeitig in Ruhe sein und einen genau bestimmten Ort haben. Stattdessen beschreibt man sie mithilfe einer sogenannten Zustandsfunktion, die lediglich die Wahrscheinlichkeit ihres Aufenthaltsortes angibt. Wäre der Apfel ein Quantenobjekt, könnten wir also nicht sagen: «Er befindet sich an dieser bestimmten Stelle auf dem Tisch», sondern nur: «Mit hoher Wahrscheinlichkeit liegt er dort, aber mit einer gewissen Wahrscheinlichkeit auch unter dem Tisch». Das klingt im Alltagsverständnis irrwitzig, ist jedoch in der Quantenwelt völlig normal.

***

Dazu gehört das Phänomen, dass Atome Grenzen überschreiten können, die in der klassischen Physik als unüberwindbar gelten. Der Vorgang ist als Tunneleffekt bekannt. Man kann ihn erneut mit dem Apfel auf dem Tisch veranschaulichen: Die Tischplatte stellt für den Apfel eine Energiebarriere dar. Er besitzt nicht genügend Energie, um sie wie ein Geschoss zu durchschlagen. Wäre der Apfel ein Quantenobjekt, bestünde jedoch eine nicht verschwindende Wahrscheinlichkeit, dass ihm dies gelingt. Anders ausgedrückt: Würden wir den Quantenapfel beliebig oft auf die Tischplatte setzen, stellten wir gelegentlich fest: Er ist verschwunden und auf wundersame Weise unter der Tischplatte wieder aufgetaucht. Er hat die Tischplatte «getunnelt».

Die klassischen Optik kennt auch eine Art von Tunneleffekt. Trifft Licht unter einem be-stimmten Winkel auf eine Glasplatte, wird der Strahl totalreflektiert. Und doch breitet sich hinter der Platte ein schwaches, exponenziell abklingendes elektromagnetisches Feld aus, eine sogenannte evaneszente Welle. Das Licht «tunnelt» also das Glas. 

Und hier stossen wir auf den  Unterschied zwischen klassischen Dingen und Quantenobjekten. Letztere können sich wie Wellen verhalten. Deshalb erstaunt es nicht, wenn man bei Teilchen auch «Evaneszenz» beobachtet – eben das Tunneln. Die Zustandsfunktion erlaubt es, ein Teilchen wie eine Welle oder eine Welle wie ein Teilchen zu beschreiben – je nach Umständen. Die Theorie legt also nicht fest, was ein Quantenobjekt ist. Das widerspricht natürlich unserer alltäglichen Intuition: Ein Apfel ist ein Apfel ist ein Apfel, keine Welle. 

***

Diese Trivialität erweist sich als ein grosses Problem für die Quantenphysik. Sie beansprucht ja, die fundamentale Theorie der Materie zu sein - dann muss sie vom Apfel bis zum Atom alles unter einen theoretischen Hut bringen. Sie bekommt es also mit der Frage zu tun, wie die Mikrowelt mit der Makrowelt zusammenhängt. 

Lange Zeit stand die Diskussion unter dem Quasi-Diktat der Kopenhagener-Interpretation. Sie postulierte eine epistemologische Trennung zwischen Quantenwelt und klassischer Dingwelt, das heisst, sie verlangte zwei komplementäre Beschreibungsweisen für die jeweiligen Phänomene – eine klassische für den Apfel, eine quantentheoretische für das Atom. Aber besteht denn der Apfel nicht aus Atomen? Gewiss, jedoch «verrauschen» die Eigenheiten der Atome auf der Ebene von Äpfeln, sprich: sie sind am Apfel nicht beobachtbar. So dachte man jedenfalls – bis Mitte der 1980er Jahre eine Forschungsgruppe an der University of California  Berkeley beschloss, diese Annahme auf die Probe zu stellen: John Clarke, Michel Devoret und John Martinis. Sie zeigten – um im Bild zu bleiben – , dass im Prinzip auch beim Apfel Quanteneffekte beobachtbar sind. 

***

Natürlich experimentierten sie nicht mit Äpfeln (was – nebenbei bemerkt - die Forschungskosten dramatisch senken würde), sondern mit supraleitenden Schaltkreisen. Supraleitung ist eine kollektive Verhaltensweise von Elektronen. Gewöhnlich fliessen sie «chaotisch» durch einen Leiter. Sie kollidieren mit Atomen und stossen sich – weil negativ geladen - ab. Bei Temperaturen nahe am absoluten Nullpunkt manifestieren sie ein völlig anderes Verhalten. Sie bewegen sich in Paaren, und diese Paare stossen sich nicht mehr ab. Sie verhalten sich quantenphysikalisch, das heisst, sie überlagern sich zu einem kollektiven Zustand - zu einem Strom, der sich widerstandsfrei im Leiter bewegt. Und er manifestiert das typische Quantenphänomen: Wenn man zum Beispiel zwei Supraleiter durch einen dünnen Isolator trennt, beobachtet man, dass der Strom den Isolator tunnelt. Dieser Effekt wird heute bei bestimmten Quantencomputern verwendet. 

Er ist nicht nur technologisch, sondern auch philosophisch von Bedeutung. Clarke, Devoret und Martinis verschoben mit ihren Versuchen  die Grenze zwischen Quantenwelt und klassischer Welt in Richtung der letzteren. Kurz gesagt, zeigten sie, dass die Quantenmechanik nicht auf die mikroskopische Welt beschränkt ist. Sie  schufen ein System von makroskopischem Ausmass, das seine Quantennatur beibehält. Zwar sind Äpfel zu «klassisch», um solches Verhalten zu manifestieren, aber der supraleitende Chip, mit dem die Physiker experimentierten, besteht aus Milliarden von Elektronenpaaren, liegt also von seiner Dimension her gesehen zwischen Atomen und Äpfeln. 

***

Das eröffnet einen faszinierenden spekulativen Horizont. Sind Lebewesen auch Quantenobjekte? «Alles, was lebendige Dinge tun, kann verstanden werden aus dem Zittern und Zappeln der Atome», schreibt Richard Feynman in seinen Vorlesungen. Es gibt in der Diskussion um die Quantentheorie ein sehr berühmtes Tier, nämlich Erwin Schrödingers Katze – allerdings nur in einem Gedankenexperiment. Schrödinger wollte mit ihm die Absurdität aufzeigen, die Quantentheorie auf Makroobjekte, also auch auf Katzen anzuwenden. Aber so absurd ist das gar nicht. Zumindest nicht im Prinzip. Katzen sind biologische Makroobjekte, und wenn Quanteneffekte sich auf Makroebene manifestieren können, dann auch bei ihnen. Katzen sind freilich «warme», «feuchte» und «rauschende» Systeme. Sie auf nahezu Null Grad Kelvin abzukühlen und sie von der Umwelt völlig zu isolieren, dürfte ihnen eher nicht bekommen.

Das hält die Biologen keineswegs davon ab, Lebensphänomene durch die Quantenbrille zu betrachten. Und sie entdecken zunehmend Phänomene, in denen sie Quanteneffekte vermuten. Zum Beispiel in der Orientierung von Vögeln im Magnetfeld der Erde. In enzymatischen Reaktionen. In der Energieübertragung bei der Photosynthese. Zugegeben, das sind Prozesse im  biomolekularen Bereich, also immer noch in relativ kleinen Dimensionen, und wir sind nach wie vor weit von Schrödingers Katze entfernt. Aber die Quantenphysik ist nicht eine Theorie des Kleinen, sondern des Möglichen. Sie hat vor hundert Jahren im Bereich der Atome begonnen - nun ist sie auf dem Weg  zu den gewöhnlichen Dingen. Und dazu gehören auch Lebewesen. Seien wir also gefasst auf grosse, sehr grosse Überraschungen. 

 

NZZ,8.12.25

Schreiben im Zeitalter der Postoriginalität

Der Philosoph und Literaturwissenschaftler Roland Barthes publizierte 1968 seinen be-rühmten Essay «Tod des Autors». Darin beschreibt er den Autor nicht als eigenständiges schreibendes Subjekt, sondern als ausführendes Modul des linguistischen Apparats namens Sprache: eine Maske, die Identität vorgaukelt: «Der moderne Schreiber (wird) im selben Moment wie sein Text geboren. Er hat überhaupt keine Existenz, die seinem Schreiben voranginge oder es überstiege; er ist in keiner Hinsicht das Subjekt, dessen Prädikat sein Buch wäre». Deshalb wollte Barthes den Autor durch den subjektlosen «Schreiber» - den «Skriptor» - ersetzt sehen. 

Barthes erkannte im Schreiber eigentlich avant la lettre die Arbeitsweise des Textgenerators GPT. Dieser schöpft eklektisch aus einem gigantischen Reservoir von Wörtern, verwandelt sie in mathematisch behandelbare Objekte – Tokens - und rechnet mit ihnen. Bisher war der Textgenerator eine Voraussagemaschine von solchen Tokens: Nun lernt er, «verständig» auf bestimmte Anfragen oder Instruktionen – auf Prompts - zu reagieren. Eine neue Kompetenz gewinnt an Bedeutung: das Prompt-Engineering, die kreative Form des Befehlens.

***

Wahrscheinlich wird der Textgenerator bald schon einen neuen Standard des Schreibens definieren, der die Benutzung der Maschine nicht mehr als blosse Trickserei abqualifiziert. Für den Schriftsteller Clemens Setz lassen sich deshalb Schreiben und Prompten tendenziell nicht mehr unterscheiden.  Er lobt eine «neue Aufrichtigkeit», die nicht so tut, als wäre der Mensch allein Autor der Texte. Vielmehr repräsentiere das Prompten eine neue Kulturtechnik, in der Mensch und KI-Assistent eine Symbiose eingehen. «Zukünftige Generationen könnten sich kopfschüttelnd wundern, wie die frühere Menschheit überhaupt je irgendetwas Authentisches und Aufrichtiges auszudrücken imstande war, wenn sie doch gerade in der Situation der Schrifterzeugung immer so mutterseelenallein war, von niemandem betreut als vom eigenen Gehirn». 

Setz sieht einen «tertiären Analphabetismus» aufkommen. Der tertiäre Analphabet «lernt fast ausschliesslich eine Sache (..): das Wünschen». Seine Kompetenz ist das «übergenaue (..) erwachsene Selbstkenntnis erfordernde Formulieren dessen, was man gerne haben möchte». Der tertäre Analphabet kann, «wenn die Wunscherfüllung geliefert wird, nicht mehr persönlich nachprüfen, ob der Wunsch korrekt verstanden wurde, das kann dann nur das Leben selbst entscheiden». Das Leben selbst: das ist der akzeptierte Zeitungsartikel, die bestandene Prüfung, das erfolgreiche Bewerbungsschreiben. Man muss nicht mehr verstehen, wie sie zustandegekommen sind - Hauptsache, man reüssiert. 

***

Nun klingt das alles ziemlich überzogen - mindestens aus drei Gründen. Erstens ist der schreibende Mensch nie «mutterseelenallein» mit seinem Gehirn. Tatsächlich erweist sich auch das Schreiben mit der Feder bereits als ein symbiotischer Akt von Mensch und Werkzeug. Es gibt keinen Schreiber, der frei von Technik wäre. All die Werkzeuge und Geräte, mit denen sich der Mensch umgibt – dazu gehört nota bene auch das Buch - , sind ja sozusagen Extensionen seines Gehirns, in dem Sinne, dass das Gehirn seine hochflexible Struktur dem jeweiligen Gerätegebrauch anpasst. 

Zweitens hat die «tertiäre Analphabetisierung» etwas Paradoxes. Prompten ist das «über-genaue (..) erwachsene Selbstkenntnis erfordernde Formulieren dessen, was man gerne haben möchte». Aber ist Formulieren denn nicht Eingeben in geschriebener Form, selbst wenn dieses Eingeben schliesslich auch vokalisiert erfolgen kann? Zum Schreiben gehört insbesondere auch das Lesen – es handelt sich um komplementäre Seiten ein und derselben Kompetenz. Mit der einen verkümmert die andere. Und damit auch das Promptenkönnen. Droht dem vom KI-Assistenten begleiteten tertiären Analphabeten nicht das Schicksal des Chatbot-Junkies? 

2022 liess OpenAI ChatGPT auf den Technikkonsumenten los, und binnen dreier Jahre hat sich dieses Ding zu einem kulturellen Game Changer entwickelt. So stark, dass die Pädagogen und Psychologen immer erfolgloser gegen das Schummeln vorzugehen suchen. Für Setz eine hoffnungslose Massnahme. Denn Schummeln sei die neue Aufrichtigkeit. «Absolut jede Art von Lernen ist (..) tendenziell ‘Cheating’, oder, anders formuliert, geschieht in Gesellschaft des KI-Assistenten». 

***

Hier stellt sich aber drittens die Frage, was diese Gesellschaft bedeutet. Könnte der Schreibassistent dem Schreiben, statt es zu ersetzen, nicht vielleicht eine neue, zeitadaptierte Bedeutung verleihen? Paläoanthropologie, Evolutionsbiologie, Neurologie und Kognitionspsychologie weisen uns längst schon auf das Zusammenwirken von Hand und Hirn hin. Und aus diesem Zusammenwirken hat sich so etwas wie ein «Schreibhirn» entwickelt. Eine  neuronale Struktur, die der Schreibaktivität entspricht. Man spricht von einer «breit gestreuten Hirnkonnektivität» durch Schreiben.  

Inwieweit diese Struktur sich durch die neue Kulturtechnik des Promptens verändert, bleibt abzuwarten. Aber man sollte sich nicht vom einfältigen Narrativ leiten lassen, dass Neues Altes ersetzt. Schon Platon warnte davor, dass die Schrift das Gespräch verdränge und da-mit das Medium echten Verstehens verkümmern lasse. Das ist nicht geschehen. Vielmehr hat sich zwischen Reden und Schreiben ein dynamisches kulturelles Zusammenspiel von Ausdrucksmöglichkeiten gebildet. Gewiss, das Gleichgewicht dieses Zusammenspiels sieht sich heute durch die digitalen Medien herausgefordert. Und die Diagnosen, die eine Abschwächung der Lese- und Schreibfähigkeiten heranwachsender Generationen prognostizieren, sind ernst zu nehmen. 

***

Aus einer zuversichtlichen Perspektive betrachtet kann man im «Schreiber» von Barthes wie im «tertiären Analphabeten» von Setz Figuren sehen, die uns gerade zum Wiedererlernen des Schreibens im Duett mit dem Textgenerator auffordern, zur Reanimation alter Fähigkeiten: Upskilling. Man lässt den KI-Assistenten schreiben und pflegt im Austausch mit ihm zugleich das eigene Schreiben. So wie der Algorithmus meine «Idiosynkrasien» lernt, lerne ich seine Tricks. Symbiose von Mensch und GPT bedeutet so gesehen die Geburt eines neuartigen «Schreibsubjekts». 

Nun hat das Upskilling nur dann eine Bedeutung, wenn die Skills bereits existieren. Und das ist keineswegs mehr selbstverständlich. Wenn der Textgenerator zum Leitmedium wird, dann zeichnet sich der Prozess der tertiären Analphabetiserung in den künftigen Generationen durchaus als reale Möglichkeit ab – ein Prozess von eminent anthropologischer Bedeutung. Viel intimer als bisher arbeiten Mensch und Maschine zusammen - die Maschine wird ein Teil des Ich, oder das Ich ein Teil der Maschine. 

***

In KI-Kreisen kennt man das «Gesetz» von Roy Amara: Wir überschätzen kurzfristig die Wirkung einer Technologie, und wir unterschätzen sie langfristig. Wir kennen die langfristigen Folgen einer breiten KI-Akzeptanz nicht. Schon jetzt sollten uns allerdings die kognitiven Kosten der Symbiose beschäftigen. Die Tendenz ist nicht unwahrscheinlich, dass sich der Mensch immer mehr der Maschine anpasst - dass er den Stil seines Assistenten an-nimmt und dessen Überredungskunst erliegt. Die Lernplattform Fobizz bewertet zum Beispiel automatisch Schülerarbeiten. Eine Analyse des Tools zeigt, dass es jene Texte als beste beurteilt, die mit ChatGPT geschrieben wurden.  Wie es scheint, bilden die smarten Maschinen eine neue Klasse von Autoren, die sich untereinander am optimalsten verstehen. Es kümmert sie ja auch nicht, was sie schreiben. «I’m not afraid of throwing grammar around me», soll die schlagfertige amerikanische Schauspielerin Mae West einmal gesagt haben. Das ist der neue Standard. 

L'hiver à Parpan

 

Der Jargon der Unvermeidlichkeit

Kaum etwas fördert geistige Trägheit stärker als der Jargon der Unvermeidlichkeit. Wir begegnen ihm überall, in ökonomischen Analysen, unternehmerischen Prognosen, politischen Reden, technologischen Visionen, im Alltagsgespräch. Notorisch geworden durch den neoliberalen Urschrei «Es gibt keine Alternative», suggeriert uns dieser Jargon immer wieder, dass eine übermenschliche «Notwendigkeit» unser Geschick leite und bestimme. 

Wir kennen ihn heute bis zum Überdruss aus der KI-Branche. Deren Propheten benutzen die Unvermeidlichkeitsrhetorik dazu, den Weg für ihre  bevorzugten Ziele freizumachen. In Bedenken über Nachhaltigkeit oder in politischen Leitplanken sehen sie nichts als Hindernisse des ohnehin unaufhaltbaren Laufs der Dinge. Gewisse Protagonisten - etwa der Investor Marc Andreessen - nehmen den Demokratieabbau in Kauf mit dem Postulat, dass Politik sich der technologischen Dynamik unterzuordnen habe. Diese allein verleiht den Ingenieuren und Investoren von Silicon Valley ihr weltgeschichtliches Mandat. So argumentierten schon die italienischen Faschisten.

***

Der Jargon der Unvermeidlichkeit beruht auf einem grundlegenden Denkfehler: der Verwechslung von Modell und Wirklichkeit – oder wie man sagt: Die Landkarte ist nicht die Landschaft. Dieser Fehler gehört sozusagen zur kognitiven Ausstattung des Menschen. Wenn wir denken, folgen wir bestimmten Regeln, womöglich «zwingenden». Sie suggerieren: Wenn du A und B annimmst, folgt daraus C zwangsläufig. Diese Notwendigkeit ist aber eine Logik des Modells, nicht der Wirklichkeit. Auf der Landkarte kann man zeigen, dass eine gerade Linie Punkt A und Punkt B verbindet. In der Landschaft ist das vielleicht ein Holzweg. 

Die Wissenschaft kennt Notwendigkeiten in der Form von Gesetzen. Physikalische Gesetze gelten in physikalischen Modellen, ökonomische Gesetze in ökonomischen. Ihr Zweck ist, Aussagen über die Wirklichkeit zu treffen, und in dem Masse, in dem das gelingt, sind wir berechtigt zu sagen, die Gesetze würden in der Natur oder in der Wirtschaft gelten. Aber gerade erfolgreiche Modelle verführen uns leicht dazu, ihr Erklärungskonto zu überziehen, das heisst, mehr zu behaupten, als es ihre Annahmen erlauben. Ökonomische Modelle zum Beispiel glänzen oft mit elegantem mathematischem Formelwerk, aus dem sich Marktprognosen deduzieren lassen. Und dann spielt die wirtschaftliche Realität nicht mit. Wie zum Beispiel 2008. Das war nicht nur eine Krise der Finanzmärkte, sondern eine Krise der ökonomischen Modelle. Fachleute, Banken, Regierungen, Ratingagenturen bildeten so etwas wie eine narrative Gemeinschaft, die den Jargon der Unvermeidlichkeit pflegte, sprich: die Annahmen der Modelle für die Wirklichkeit hielt. Schon 1985 warnte die amerikanische Ökonomin Deirdre McClosky im Buch The Rhetoric of Economics ihre Disziplin vor dieser Gefahr des Modell-Dogmatismus. 

***

Der Jargon der Unvermeidlichkeit eignet sich gut, die politische Debatte durch angebliche Sachzwänge abzuwürgen – durch den Jargon der Unumstösslichkeit. Hannah Arendt sprach davon, dass «jede Tatsachenwahrheit jede Debatte (ausschliesst)», wo doch «die Diskussion, der Austausch und Streit der Meinungen (..) das eigentliche Wesen allen politischen Lebens (ausmacht)». Das Totschlagargument «Fakt ist..» erweist sich eigentlich als eine autoritäre Sprachhandlung: «Halt den Mund, du hast bloss eine Meinung». Man gibt vor, im Namen der Sache zu sprechen, dabei ist die «Sache» nicht anderes als die unbedachte Verfestigung der eigenen Meinung. 

Eigentlich konserviert der Jargon der Unvermeidlichkeit die alte Potenz des Mythos, also die Kraft einer Erzählung, die uns überzeugen will, dass «es so kommen muss». Ludwig Wittgestein sprach von der «Verhexung unseres Verstandes durch die Mittel der Sprache». Genau das leistet dieser Jargon. Er ist die Grammatik der Entmündigung; der zwanglose Zwang einer Denkweise, die uns weismachen will, politische Ereignisse und Entwicklungen geschähen ohne menschliches Dazutun. Nur schon das Wort «künstliche Intelligenz» demonstriert beispielhaft, wie wir einen menschlichen Begriff auf Maschinen übertragen und dann deren Algorithmen als eine autonome Macht interpretieren, die uns unvermeidlich übertreffen und dominieren wird. Vergessen geht dabei, dass Menschen diese Entwicklung vorantreiben – mit Vorurteilen, Herrschaftsgelüsten, Entscheidungsgewalt. 

Jargonkritik bedeutet, die Verhexung zu entlarven - und damit den Blick nicht nur auf die «Verhexer» zu lenken, sondern zugleich auf andere Zukunftsmöglichkeiten, die durch das Gewicht vermeintlicher Notwendigkeit verdrängt worden sind. Wir müssen jene Intelligenzform kultivieren, die uns auszeichnet. Möglichkeitssinn, nannte sie Robert Musil: denken, dass das, was ist, auch anders sein könnte. 

Denn die Imagination ist die Mutter der Freiheit. Die apokalyptischsten aller Visionen ist jene, in der wir Menschen die Imagination verloren haben - und sie nicht einmal mehr vermissen.

 

Homo sapiens, Animal sapiens, Machina sapiens

Ein neues kopernikanisches Zeitalter

Meine beiden Kater sind Methusalems mit ihren fast zwanzig Jahren auf dem schwarzen Buckel. Ziemlich erfahrene und – ich zweifle nicht – intelligente Tiere. Oft erstaunen sie mich mit Fähigkeiten, die ich ihnen nicht zugetraut hätte oder die mir schlicht abgehen. Die Verhaltensforschung liefert mir Erkenntnisse über ihre arteigenen kognitiven Vermögen – ihre «Intelligenz». Und in diesem Bemühen trägt sie bei zum allgemeinen wissenschaftlichen Projekt, das Tierreich, ja, selbst das Pflanzenreich als einen immer noch recht unbekannten Kontinent fremder Intelligenzformen zu studieren und kartieren. Dieses Projekt sagt schlicht und einfach: Wir müssen uns von der anthropozentrischen Idee lösen, allein der Homo sei sapiens. Auch das Tier ist es, auf seine arteigene Weise – Animal sapiens.

Natürlich bin ich den Katern in einigen Dingen überlegen. Zum Beispiel übersteigen Goethes Poesie und die Differentialrechnung ihren «Begriffshorizont»; sie wissen auch nicht, wie der Kühlschrank funktioniert, in dem ihr Futter aufbewahrt ist, oder dass Whiskas Proteine enthält. Aber diese Betrachtungsweise lässt sich felinozentrisch umkehren. Was weiss ich denn von ihrem heimlichen Informationsaustausch über mich? Was von ihren Absichten, wenn sie um meine Beine streichen? Schon Montaigne trieb die Frage um: «Wenn ich mit meiner Katze spiele, wer weiss, ob sie sich nicht noch mehr mit mir die Zeit vertreibt als ich mir mit ihr?» 

***

Wenn es also in der Natur unzählige andere, fremde Intelligenzformen gibt, wie weit verstehe ich sie eigentlich? Ich benötige zu diesem Verstehen ja meine menschliche Begrifflichkeit. Ist sie nicht ebenso beschränkt, was das Leben der Kater angeht? Was kann ich überhaupt von Dingen wissen, die meinen konzeptuellen Horizont übersteigen? 

Das ist eigentlich die Frage aller Fragen. Sie wurde schon vor fast hundert Jahren vom britischen Biologen John Burdon Sanderson Haldane in einem einzigen Satz angesprochen: «Meiner Ansicht nach ist das Universum nicht nur sonderbarer, als wir es uns vorstellen, sondern sonderbarer als wir es uns vorstellen können». 

Haldane spielte damit auf eine Grenze im Verständnis fremder Intelligenzen an, die sich nicht einfach auf den jeweils aktuellen Kenntnisstand und konzeptuellen Horizont der Forschung bezieht, sondern generell auf das Vermögen des Menschen, fremde Intelligenzen zu verstehen; also auf eine konstitutionelle Grenze, die der kognitive Apparat der Menschengattung uns setzt, wie entwickelt er auch sein mag.  

***

Als Biologe hatte Haldane allen Grund zu einer solchen Feststellung. Die Natur ist voller kognitiver «Exoten». Den Ethologen steht heute ein potententes Instrumentarium zur Verfügung, um Tierintelligenz zu studieren, in der Gestalt von Evolutionsbiologie, Kognitionspsychologie, Neurowissenschaft und weiteren Disziplinen. Und sie zeichnen ein Bild der Natur, in der es keine eindimensionale Leiter gibt, die von «niedriger» zu «höherer» Intelligenz führt. Der Mensch lebt neben Katern, Würmern, Kakteen, Pilzen, Bakterien. Alle diese Lebewesen haben ihre artspezifischen kognitiven Fähigkeiten entwickelt, nur nicht in der Richtung des Menschen. Sind sie weniger intelligent als Menschen? Die kognitive Ethologie überrascht uns laufend mit Entdeckungen über die Vielfalt und Differenzierung von intelligentem Verhalten im Tier- und Pflanzenreich. So dass der renommierte, kürzlich verstorbene Verhaltensforscher Frans de Waal im Titel eines seiner Bücher unverblümt fragt: «Sind wir intelligent genug, um zu wissen, wie intelligent Tiere sind?» 

Menschliche Intelligenz ist, wie jene meiner Kater, eine «provinzielle» Intelligenz. Sie ermöglicht uns vieles, ja, sie schafft Wunderwerke der Technik, Wissenschaft, Kunst. Zyniker könnten heute freilich einwenden: Ist denn ein solches «barockes» Organ wie das Menschenhirn nicht ein luxuriöser Überfluss der Natur? Trägt es wirklich zu unserer Fitness bei? Was ist der ganze evolutionäre Aufwand wert, ein Lebewesen zu produzieren, das mit seiner Intelligenz im Begriff ist, sich selbst abzuschaffen, indem es den Planeten zugrunde richtet? Der Einwand kommt reichlich spät, aber er formuliert präzise das Gegenbild zur Stufenleiter: Erscheint es aus der Perspektive einer evolutionären Kosten-Nutzen-Rechnung nicht dumm, so intelligent wie wir zu sein?

***

Eines der Werke menschlicher Intelligenz ist die künstlichen Intelligenz. Sie beginnt unergründliche Wege einzuschlagen. Wir bekommen es mit einer neuen Gattung von Maschinen zu tun, mit smarten Black Boxes. Das heisst, wir haben durchaus ein allgemeines Konzept dessen, was sie tun, aber wir sind nicht mehr in der Lage, dieses Tun in der Tiefenarchitek-tur der Maschine im Detail nachzuvollziehen. 

Betrachten wir die zurzeit gehypten Gadgets der neuronalen Netze, etwa den «generative pretrained transformer» (GPT). Auf die Frage, ob er intelligent sei, liefert der ChatGPT4 den Output, er simuliere Intelligenz, aber verstehe die Welt nicht so wie ein Mensch. Das ist natürlich nicht die «Antwort» des KI-Systems, sondern die Antwort, die es brav dem Menschen nachpapageit. Aber muss man denn die Welt verstehen, wie der Mensch dies tut? Sind wir hier nicht wiederum befangen in unserer eigenen anthropozentrischen Sichtweise? KI-Systeme korrigieren und verbessern ihre Lernalgorithmen schon heute selbständig. Angenommen, sie tun dies in Zukunft immer mehr ohne Supervision des Menschen. Könnten sie sich da «unüberwacht» weiterentwickeln in Richtung einer künstlichen Superintelligenz? Einer Machina sapiens? 

Was wäre eine fremde Intelligenz, die sich als inkompatibel mit der menschlichen erweist? Intelligenz ist ein Vergleichsbegriff: intelligent wie was? Wie also soll man etwas intelligent nennen, wenn man es nicht mindestens zum Teil in den Horizont menschlicher Begriffe hereinholen kann? Wenn wir sagen, der Computer habe ein intelligentes Resultat geliefert, meinen wir, dass ein solches Resultat dem Menschen Intelligenz abfordern würde. Der Referenzpunkt des Verstehens sind immer wir. Unbegreifbar bedeutet für uns unbegreifbar.  

***

Von Sigmund Freud stammt der Satz: «Unser Verständnis reicht so weit wie unser Anthropomorphismus». Anthropomorphismus ist unter Wissenschaftlern verpönt als vermenschlichende Pseudoerklärung. Wir würden dadurch nur unsere Vermögen und Eigenschaften auf die fremde Intelligenz projizieren, blieben also letztlich in einem anthropomorphen Zirkel gefangen. Das mag bis zu einem gewissen Grad stimmen, wenn man sich die vielen naiven Vermenschlichungen vergegenwärtigt, die der Mensch dem Tier «antut» und es gerade dadurch entfremdet, das heisst, ihm nicht seine artspezifische Lebensart zugesteht. Aber auch wenn wir letztlich nicht aus dem anthropomorphen Zirkel ausbrechen können, so können wir ihn erweitern, unsere Vorstellungen ändern und verbessern, dem Tierverhalten angleichen, statt dieses unserem Verhalten anzugleichen. 

Wie steht es mit KI-Systemen? Was, wenn sie eine Entwicklungsstufe erreicht haben werden, die mit Tieren vergleichbar ist? Müsste man dann eine neue Disziplin namens Maschinenethologie einführen, die das Verhalten künstlicher Systeme wie jenes von anderen, fremden Arten studiert? Und angenommen, diese postbiologische Evolution erfolge in ei-nem weit höheren Tempo als die biologische - wäre diese Disziplin vom Verhalten künstlicher Arten nicht hoffnungslos überfordert? Die letzte Freudsche Kränkung?

***

Aber könnten sich unsere kognitiven Vermögen im Zusammenspiel mit den KI-Systemen nicht auch weiterentwickeln und verbessern, in einer Koevolution von Mensch und Maschine? Man spricht von «Enhancement», dem Aufmöbeln des menschlichen kognitiven Apparats durch intelligente Prothesen. Vielleicht ist mit künftigen transhumanen Generationen zu rechnen. Zyniker prophezeien allerdings eher das Gegenteil, nämlich eine Regression der Intelligenz, zumindest bei einer Mehrheit der Menschen. Was mit Blick auf den aktuellen Technikgebrauch nicht unplausibel erscheint. Wie auch immer, «verbesserte» Generationen werden sich zwar durch einen erweiterten, aber dennoch endlichen Verständnishorizont auszeichnen. Auch sie werden jedoch mit der Frage aller Fragen konfrontiert sein. 

Die Natur ist ein Reich voller fremder organischer Intelligenzen, terrestrischer, wahrscheinlich auch extraterrestrischer. Nun schafft der Mensch ein neues Reich, voller fremder anorganischer Intelligenzen. Und er muss sich eingestehen, dass er in beiden Reichen weder Höhepunkt noch Mittelpunkt ist. Wo denn liegt sein Platz? 

Das ist die Frage eines neuen kopernikanischen Zeitalters.  

Erscheint demnächst

Prolog: Wir sind dem Computer scheissegal

Utopia und Dystopia liegen in der Einschätzung der Künstlichen Intelligenz (KI) nah beieinander. Einerseits nimmt die dem Menschen ebenbürtige bis überlegene Maschinenintelligenz Gestalt an, andererseits sieht man in ihr die mögliche Auslöschung der Menschheit. Das Center for AI Safety – eine amerikanische Nonprofit-Organisation – veröffentlichte vor kurzem ein Statement von Tech-Mogulen, das viele namhafte Fachleute unterzeichneten: «Das Risiko eine Auslöschung der Menschheit durch die KI sollte in der sozialen Dimension gleich eingeschätzt werden wie das Risiko der Auslöschung durch Pandemien oder durch Nuklearkriege.» 

Das falsche Bewusstsein 

Dieser Alarmismus spricht mit gespaltener Zunge. Wenn die KI wirklich eine solche Gefahr darstellt, fragt man sich, warum warnen dann ausgerechnet jene Leute vor ihr, die ihre Entwicklung rasend vorantreiben? Sind sie aus ihren Zauberlehrlingsträumen aufgewacht? Hat die «prometheische Scham» sie gepackt, das Gefühl der Unzulänglichkeit angesichts ihrer eigenen Produkte? 

Natürlich sind die Warnungen nicht einfach in den Wind zu schlagen. Aber nüchtern be-trachtet, eröffnen die KI-Systeme schlicht ein unerforschtes Feld der sozialen Interaktion von Mensch und Maschine, nunmehr auf «intelligentem» Niveau. Und es ist eigentlich nicht das KI-System selbst, sondern unsere vorauseilende dystopische Fantasie, die uns das Fürchten lehrt.

Karl Marx sprach vom «falschen Bewusstsein», also einem Begriffs- und Wahrnehmungsrahmen, der alles schon im Voraus präformiert, ja, verzerrt. Falsches Bewusstsein erscheint mir wie zugeschnitten auf die heutige KI-Technologie: Wir machen uns a priori einen unzutreffenden Begriff von ihr. Und das führt zu Falschalarm. Ich erläutere dies anhand dreier Punkte. 

Die Zuschreibung menschlicher Vermögen

Erstens: Wir attestieren den smarten Maschinen kognitive Fähigkeiten, die wir oft kaum noch von menschlichen unterscheiden. Wir sagen, der Computer «verstehe» oder «entscheide», der Chatbot «schreibe» einen Text, LaMDA («Language Model for Dialogue Application») «konversiere» mit uns, DALL-E 2 «male» ein Bild. Das sind aber nichts anderes als Anthropomorphismen, mit denen wir versuchen, die heute kaum noch vollständig durchschaubaren Maschinenabläufe in einem uns begreiflichen Idiom zu beschreiben. Ins-besondere übertragen wir KI-Systemen bereits «moralische» Handlungsverantwortung, schieben ihnen etwa die Schuld zu, Jobs «abzuschaffen». Oder wir warnen vor «sexisti-schen» oder «rassistischen» Algorithmen. Als ob die Maschinen sich wie Menschen verhal-ten würden. 

Und das sollte uns wirklich perplex machen: Wir wissen, dass wir es bloss mit Maschinen zu tun haben. Trotzdem leben wir mit ihnen auf fast gleicher sozialer Höhe wie mit Menschen  zusammen. Bisherige Klimax dieser KI-Beschwipstheit ist ein Softwaredesigner von Google – Blake Lemoine - , der behauptete, das Konversationsprogramm LaMDA sei in eine persönliche Beziehung zu ihm getreten. 

Der Machtwille des Homo sapiens hinter dem Robo sapiens

Das ist falsches Bewusstsein. Es zeigt zweitens eine alarmierende Dialektik der ganzen Entwicklung. Im gleichen Zug, in dem wir Maschinen personenhafte Züge zuschreiben, verges-sen wir die menschlichen Personen hinter der Maschinen. Nicht Maschinen schaffen die Jobs ab, sondern Unternehmen und Regierungen -  Institutionen, die von Personen geführt werden. Und nicht die Algorithmen sind sexistisch oder rassistsisch, sondern deren Designer. 

Der vermeintliche Machtwille des Robo sapiens ist der kaschierte Machtwille des Homo sapiens. Die Gefahr liegt nicht darin, dass Computer die Menschen beherrschen, sondern eine Elite von Roboterdesignern, Technikunternehmern und Risikokapitalisten, welche den Arbeitsmarkt mit «disruptiven» Technologien nach ihrem Belieben fluten und dirigieren. 

Man muss dabei nicht immer gleich China als abschreckendes Beispiel zitieren, wo das Regime die Technologie zur totalen Verhaltensdressur ausnutzt. Auch im Westen lassen wir uns von Algorithmen kontrollieren und manipulieren. Sie «entscheiden», was wir sehen, lesen, hören, kaufen, mit wem wir kommunizieren, wen wir mögen und wen wir hassen wollen. Das Netz ist eine gigantische Skinnerbox ohne Skinner. Er experimentierte mit Tauben. Heute sind wir so weit, dass wir uns selber zu netzadaptierten Kreaturen konditionieren. 

Es geht bei den neuesten KI-Kreationen nicht mehr bloss um Bau und Funktionsweise von intelligenten Artefakten, sondern um deren Sozialisierung. Um Maschinen zu sozialisieren, muss man Menschen «maschinisieren». Man vergegenwärtige sich nur einmal, wie wir immer dichter verpackt in einer Infosphäre mit Computern, Programmen und Daten leben, wo Artefakte unsere Aktivitäten übernehmen, ohne dass man begründet sagen könnte, die-se künstlichen Akteure besässen Intelligenz, Verständnis, Gefühlszustände, semantische Fähigkeiten wie wir Menschen.  Aber auch so werden wir uns daran gewöhnen müssen, ei-nem System ein «Gedächtnis» in Gestalt von riesigen Datenbanken und effektiven Suchalgorithmen zuzuordnen; ihm ein bestimmtes «intelligentes» Verhalten zu attestieren, wenn es ein Flugzeug sicher landen lässt, die schnellste Route zwischen zwei Orten herausfindet oder günstige Börsentransaktionen berechnet. 

Techno-Fatalismus

Alarmierend ist drittens der Ohnmachtswille des Homo sapiens, sprich: die willfährige Bereitschaft, seine kognitiven, aber auch moralischen Kompetenzen an den Robo sapiens abzutreten. Algorithmen sind mächtige Instrumente, deren Macht grösstenteils darin besteht, andere Maschinen auf abstrakter Ebene zu simulieren. Das ist die fundamentale Einsicht von Alan Turing. Aber diese Fähigkeit kann uns zu sektierischer Einäugigkeit und metaphorischer Universalisierung verleiten: Alles ist «im Prinzip» ein Computer. Wir kennen diesen Reduktionismus schon von der alten Maschine her: Der Mensch ist «nichts als» eine organische Maschine. 

Er bestärkt eine Art von Techno-Fatalismus: Der Vormarsch der Algorithmen ist unaufhaltsam. Wir beginnen alle sozialen und kulturellen Veränderungen dem Einfluss der Technologie zuzuschreiben und vergessen dabei, dass es «die» Technologie nicht gibt. Es gibt Menschen – Ingenieure, Unternehmer, Investoren, Evangelisten der KI - , welche die Technologie zu ganz bestimmten Zwecken einsetzen – und missbrauchen. Und vielen von ihnen liegt durchaus daran, dass die Nutzer ihrer Produkte in der Herdenwärme einer lamm-frommen Technikgläubigkeit verharren. 

They just don’t give a damn

Künstliche Intelligenz ist eines der kühnsten, vielleicht das kühnste intellektuelle Abenteuer der letzten 60 Jahre. Sie lehrt uns sehr viel darüber, was Intelligenz nicht ist. Die seriöse Forschung zeigt uns zum Beispiel, dass auch KI ihre «intrinsischen» Grenzen hat. Und genau das ist spannend, Ansporn für weitere Forschung in der Entwicklung von KI-Systemen, etwa von biologienäheren neuronalen Netzen oder von Quantencomputern. Zu-gleich aber auch dafür, die Alarmstufe herunterzufahren. 

Denn das grösste Risiko im Umgang mit den KI-Systemen bleibt ihr blosses Akzeptieren. Sie interessieren sich nämlich nicht für uns. Wie dies der amerikanische Philosoph John Haugeland unvergesslich ausgedrückt hat: The trouble with computers is that they just don’t give a damn – wir sind ihnen scheissegal. Und nicht wenige KI-Leute meinen damit: Der Unterschied zwischen Maschine und Mensch ist uns scheissegal. 

Die nachstehenden Essays insistieren auf diesem Unterschied. Die smarten Maschinen fordern den Anthropozentrismus heraus. Sie übernehmen heute Aufgaben, von denen man einst annahm, dass sie ausschliesslich menschliche Intelligenz erfordern. Sie zwingen uns dazu, neu zu überdenken, was Intelligenz, Bewusstsein, Persönlichkeit bedeutet. Sie brechen die anthropozentrische Ethik auf, indem sie für sich den Status von künstlichen «Agenten» reklamieren, also von Artefakten mit eigener Stellung und Handlungsmacht. Sie «emanzipieren» sich dadurch vom untergeordneten Status eines willfährigen «Tools». Und die Frage stellt sich, ob wir sie in unsere Gesellschaft «einbürgern» und mit ihnen «auf Augenhöhe» verkehren sollen. 

Exzentrische Anthropologie 

Solche Phänomene rufen nach einer Umkehr des traditionellen anthropologischen Ansatzes, in dem der Mensch die Zentralperspektive beanspruchte. Ich nenne diesen Ansatz  – in Anlehnung an Helmuth Plessner - exzentrische Anthropologie. Der Mensch lernt sich im Spiegel seiner Artefakte neu kennen und verstehen, so wie die kopernikanische Wende des heliozentrischen Weltbildes dem Menschen ein neues Selbstverständnis abforderte. Übrigens zeigt schon die Geschichte des Wortes «Computer» diese Dezentrierung an. Ursprüng-lich bezog es sich auf Menschen, die Rechenoperationen durchführten. Mit Alan Turings bahnbrechender Arbeit über denkende Maschinen konnte es auch auf Artefakte angewendet werden. Das Wort löste sich von seiner anthropozentrischen Bedeutung. Mit solchen be-grifflichen Erweiterungen werden wir vermehrt zu tun haben.

Wenn im Folgenden von smarten Maschinen die Rede ist, dann stehen nicht so sehr ihre wissenschaftlichen und technischen Aspekte im Brennpunkt, sondern ihre Herausforderung der menschlichen Sonderstellung in der Welt (die ersten drei Essays behandeln eher Grundlagenfragen). Smarte Maschinen reklamieren heute vieles, was wir als «eigentlich» menschlich bezeichnen: kognitive Vermögen, Kreativität, Moral. Die Ironie springt natürlich ins Auge:  Wir schaffen kraft unseres Denkens Artefakte, die uns die Sonderstellung des denkenden Wesens streitig machen – eine Sonderstellung, wie sie sich emblemartig genug im cartesianischen «Ich denke, also bin ich» äussert.  

Schliesslich möchte ich mich mit der exzentrischen Anthropologie von anderen «dezentrierenden» Ansätzen abgrenzen; etwa von den transhumanistischen Visionen eines Menschentums, das sich aus seinen biologischen Fesseln lösen will; auch von den Netzwerken, in denen Menschen und Artefakte ununterscheidbar als «Aktanten» operieren. Ich gehe vielmehr aus vom vielleicht paradoxen, vielleicht donquichottischen Optimismus, dass das Menschliche sich gerade da entdecken lässt, wo es scheinbar veraltet und verschwindet. 

 

Das Paradox der technologischen Entwicklung

Nach einer vorherrschenden Technikauffassung macht Not erfinderisch: Notwendigkeit ist die Mutter der Erfindung. Da ist ein Problem und durch eine Erfindung lösen wir es, sprich: verschwindet es. Die Ansicht kursiert heute unter der Bezeichnung des Technological Fix: Verwandle ein Problem in ein ingenieurales und löse es durch die Erfindung oder Verbesserung einer entsprechenden Technik. 

«Die Erfindung ist die Mutter der Notwendigkeit» 

Die Ansicht erweist sich bei näherem Betrachten als einseitig, mehr noch: als Paradox. Technik ist ambivalent. Oft stellt sie sich als das Problem heraus, für dessen Lösung sie sich hält. Der amerikanische Technikhistoriker Melvin Kranzberg hat deshalb vor vierzig Jahren den obigen Spruch umgekehrt und als «Kranzberg-Gesetz» formuliert: Erfindung ist die Mutter der Notwendigkeit. Er schlug damit – nicht ohne Ironie - ein anderes Narrativ vor: Innovationen schaffen neue Nöte, machen in der Regel weitere Zusatzerfindungen notwendig, um wirklich effizient zu werden. Das heisst, Erfindungen setzen einen innovativen Zyklus in Bewegung, der gewissermassen eine «kranz
berg’sche» Eigendynamik entwickelt. 

«Die Macht der Computers und die Ohnmacht der Vernunft» 

Die Computertechnologie macht sie exemplarisch sichtbar. Etwa in der Mitte des letz-ten Jahrhunderts sahen sich industrielle Produktion, Verkehr, Planung, ja, Politik mit einer Informationsflut konfrontiert, deren Management die menschliche Kapazität überstieg. Das war die Notwendigkeit, die den Computer auf den Plan rief. Und er präsentierte sich zunächst als wunderbarer Technological Fix. Aber schon anfangs der 1970er Jahre schrieb der Computerwissenschaftler Joseph Weizenbaum vom MIT sein vieldiskutiertes Buch«Die Macht des Computers und die Ohnmacht der Vernunft». Dem mulmigen Gefühl, eine maschinelle Intelligenz könnte der Kontrolle der menschlichen Intelligenz entgleiten, begegneten die Informatiker mit der Beschwichtigung, das Problem liesse sich durch weitere technische Entwicklung bewältigen. Und die Beschwichtigung hält bis heute an, im Mantra: Wartet nur, bis wir den richtigen Algorithmus gefunden haben! 

«Technologie geschieht, weil sie möglich ist»

Anders gesagt: Man konzentriert sich auf die Erfindung – um die «Nöte», die aus ihr folgen, kümmert man sich später. «Technologie geschieht, weil sie möglich ist». Dieser Satz von Sam Altman - CEO von OpenAI - echot einen berühmten anderen Satz, jenen von Robert Oppenheimer, Leiter des Atombombenbaus im Manhattan-Projekt: «Wenn man etwas sieht, das technisch verlockend ist (‘technically sweet’), macht man es einfach, und man diskutiert erst später darüber, was man damit anfangen soll – nachdem man den technischen Erfolg erzielt hat. So war es mit der Atombombe.» Und einer der Pioniere des Deep Learning – Geoffrey Hinton – äusserte den Satz fast wortwörtlich mit Bezug auf die KI. 

Die Erfindung ist die Mutter des Bedürfnisses

Kranzbergs Gesetz hat - vor allem im Zeitalter der KI-Technologie und ihrer monopolistischen Firmen -  einen anderen, einen psychologischen Aspekt. Lesen wir «Notwendigkeit» als «Bedürfnis», dann lässt sich das Gesetz so formulieren: Die Erfindung ist die Mutter des Bedürfnisses. Sie schafft Bedürfnisse, die vorher nicht existierten. Die Technikgeschichte zeigt ein wiederkehrendes Phänomen: Erfindungen haben es oft schwer. Ihre Durchsetzung als Innovation muss einem Bedürfnis entsprechen, und ein solches existiert oft aufgrund sozial und kulturell verwurzelter Interessen nicht.  Zu Gutenbergs Zeiten ertönten nicht Jubelschreie «Endlich gedruckte Texte!», vielmehr beeilten sich die Kopisten, die Presseprodukte mit einem lokalen Bann zu belegen. Der erste Verbrennungsmotor, um 1860 von Nicolaus Otto gebaut, führte nicht zur Produktion entsprechender Vehikel, weil die Leute mit Pferden und Eisen-bahnen zufrieden waren. Der Transistor wurde in den USA erfunden, aber die Elekt-roindustrie ignorierte ihn, um die Produkte mit Vakuumröhren zu schützen. 

«There’s a That for this App”

KI-Technologie ist primär eine Bedürfnisproduktion. Sie braucht den Kunden als Be-dürftigen. Ein Ex-Geschäftsstratege bei Google beschreibt die Industrie als die «umfassendste, normierteste und zentralisierteste Form der Verhaltenskontrolle in der Geschichte der Menschheit (..) Ich realisierte: Da ist buchstäblich eine Million Menschen, die wir sozusagen anstubsen und überreden, Dinge zu tun, die sie sonst nicht tun würden». 

«There’s an App for That» lautete der Werbespruch von Apple 2009. Aber er sollte eigentlich lauten: «There’s a That for this App». Besessen vom nächsten neuen Ding hetzt heute die Entwicklung in einer Endlosschleife der Innovationen manisch vorwärts. Mit all dem Schnickschnack und seinen laufenden Updates verkaufen die Firmen Verhaltensweisen, und sie dressieren uns immer neue Bedürfnisse an. 

Der Ingenieur als Sisyphos

Gibt es einen Ausstieg? Die Technikhistorikerin Martina Hessler ruft in ihrem Buch «Sisyphos im Maschinenraum» eine mythische Figur auf den Plan. Der moderne Sisyphos ist der vom Technological Fix beherrschte Mensch. Er schiebt den Stein der technischen Lösungen immer höher, aber er erreicht dadurch nur, dass der ersehnte Gipfel sich weiter entfernt. Er hat seine Strafe selber gewählt, getrieben vom Wunsch, die Welt allein mit Technik zu verbessern, ja, zu vervollkommnen. Technological Fix sagt alles: Befestigung einer bestimmten Vorgehensweise; die Abhängigkeit vom Pfad, den man eingeschlagen hat. Das Sisyphoshafte ist dieser Art von Entwicklung inhärent. Wie Martina Hessler bemerkt, verbleiben «technologische Lösungen in der Re-gel in einer Logik, die das Bisherige fortsetzt (..) Die vermeintlich disruptiven Technologien erweisen sich aus dieser Perspektive gar nicht als disruptiv, sondern lösen das Problem in der Logik des Problems, anstatt es kreativ völlig neu zu denken». 

Das ist der springende Punkt. Technologie ist mehr als ein Gerätepark. Die neuen smarten Maschinen bilden ein Dispositiv, das unser Fragen immer schon in eine ganz bestimmte Richtung lenkt. Technik wirkt dadurch wie eine Art von Vorsehung. Niemand zwingt mich, ein Gerät zu verwenden. Aber wenn es den Verwendungszusammenhang definiert, aus dem ich nicht einfach so aussteigen kann, dann bin ich seinem zwanglosen Zwang unterworfen. Die KI-Systeme nisten sich ein in unserem Blick, werden zu einem Stück unserer selbst. 

Eine selbst herbeigeführte Gattungsverdummung

Sam Altman schwadronierte 2021 von einer vierten «KI-Revolution» nach den drei anderen technologischen Revolutionen: der landwirtschaftlichen, der industriellen und der computerbasierten. Er betonte dabei, dass diese vierte Revolution «sich auf die beeindruckendste unserer Fähigkeiten konzentriert: die phänomenale Fähigkeit zu denken, zu erschaffen, zu verstehen und zu schlussfolgern». Die Bemerkung ist entlarvend, denn Altman verschwieg die tiefe Paradoxie, dass uns die KI-Industrie ja gerade diese Fähigkeit abzunehmen sucht. Wir haben sehr viel Intelligenz in Geräte gesteckt, und als fatal daran erweist sich, dass uns die Geräte zum Nichtgebrauch unserer  Intelligenz verleiten – zu einer selbst herbeigeführten Gattungsverdummung, die sich als Triumph zelebriert.