«Ich esse keine Menschen!»

Widerwilligkeit als eine Wurzel der Menschenrechte

Vor siebzig Jahren trug das britische Komikerduo Flanders and Swann ein Lied vor mit dem Titel The Reluctant Cannibal («Der widerwillige Kannibale»). Ein junger Kannibale sagt eines Tages am Familientisch, als gerade ein frischer «Leckerbissen» angerichtet wird: «Ich esse keine Menschen. Menschen zu essen ist schlecht!» Sofort entsteht grosse Aufregung. Der Vater ist erzürnt: «Bist du verrückt geworden? Menschen haben doch schon immer Menschen gegessen. Was soll man denn sonst essen? Wenn der Juju gewollt hätte, dass wir keine Menschen essen, hätte er uns nicht aus Fleisch gemacht. Ich habe in meinem Leben noch nie eine lächerlichere Idee gehört. Dass ausgerechnet ein Sohn von mir zu so einem Weichling heranwachsen sollte! Hast du wieder mit einer deiner Mütter gesprochen? Du wirst doch nicht einer dieser Spinner, die glauben Menschen zu essen sei grausam, o-der?»

Universalismus versus Partikularismus

Das Publikum amüsierte sich köstlich. Der Humor hat allerdings ein gewisses Geschmäckle – besonders heute, wo es nur so wimmelt von hypersensiblen Vorkoster:innen der woken Gesinnung. Darf man das? Rassistisches Klischee vom Übelsten! Aber blendet  man einmal das ganze Empörungsbohei aus, äussert sich in diesem Lied ein tiefer, wahrscheinlich unlösbarer Konflikt, der zur Condition humaine gehört – etwas gehoben ausgedrückt: der Konflikt zwischen Universalismus und Partikularismus. 

Jede Kultur oder  Tradition trägt die Anlage dazu. Denn der Mensch ist ein lokales Wesen. Das heisst, er definiert sich zu einem wesentlichen Teil über das Milieu, in das er hineinge-boren wird und in dem er aufwächst. Er lernt Verhaltens- und Denkweisen zunächst in sei-ner Verwandtschaft, dann konzentrisch im weiteren Bekanntenkreis, in sozialen Verknüpfungen, in Schule, Beruf, politischen Verbänden. 

Das Diktat der Tradition

Aus eingerasteten Gewohnheiten und abgelagerten Erfahrungen wachsen geistige Haltungen: Mentalitäten. Was wir «mental» nennen, ist allerdings nicht bloss geistig, sondern auch körperlich. Mentalitäten sind in unser leibliches Sein eingesunkene Einstellungen zur Welt. Der französische Soziologe Pierre Bourdieu nannte sie Habitus. Der Habitus bestimmt das, was uns plausibel oder anstössig erscheint, was wir intuitiv moralisch gutheissen oder ablehnen. Wir haben die Tendenz, stillschweigend Normen zu folgen, die wir internalisiert haben, und die unseren «gesunden» Menschenverstand prägen, ohne dass wir uns dessen völlig bewusst wären. 

Darauf beruht das Diktat der Tradition: Du musst! Auf die Frage: Warum muss ich? antwortet sie seit alters: Weil deine Vorfahren immer schon X taten, musst du auch X tun! Wir machen das bei uns so, weil wir es so machen! Das Diktat dieser Tautologie beherrscht das Leben in der Tradition. Wer sich ihm nicht fügt, hat mit sozialen oder physischen Sanktionen zu rechnen. Der junge Kannibale riskiert zum Spinner – also ausgestossen - zu werden. Im Realfall kann es gewalttätiger zugehen. «Ich will den Mann nicht heiraten, den zu heiraten man mir vorschreibt!» sagt zum Beispiel eine junge Frau. Es kommt noch heute vor, dass sie ermordet wird – von Familienangehörigen. 

Widerwilligkeit als Fanal

Gegen die Trägheit der Tradition ist schwer zu argumentieren. Der junge Kannibale  be-gründet seinen Widerwillen nicht, er wiederholt ihn einfach immer wieder. Er hat ein Ge-fühl, das aus den Eingeweiden kommt: «Das ist schlecht». 

Und darin zeigt sich ein sozialpsychologisches Phänomen. Traditionen lassen sich nur schwer mittels universeller Prinzipien und Normen ändern – von oben –; viel eher durch eine Veränderung von Praktiken und Gewohnheiten – von unten.  Durch Menschen, die einfach genug haben vom ‹Immer-schon›. Sie brechen aus ihren zugeschriebenen Rollen aus, legen Gewohnheiten ab, verletzen Gebote, Tabus: sie wollen einfach nicht mehr. «Ich will keine Menschen essen»; «Ich will kein Sklave sein»; «Ich will nicht glauben, was man mir zu glauben vorschreibt»; «Ich will nicht den Mann heiraten, den zu heiraten man mich zwingt»; «Ich will nicht bloss Mutter und Hausfrau sein, nur weil meine Familie das von mir verlangt»; «Ich will mein sexuelles Leben nicht in ein binäres Raster zwingen». 

Das Nicht-mehr-wollen äussert eine Widerwilligkeit, die als Fanal wirken kann. Ihre Überzeugungskraft liegt in ihrem vorgelebten Beispiel. Sie verkörpert buchstäblich eine trotzige Mentalität. Und je grösser die Zahl solcher Widerwilliger, desto unaufhaltsamer der Wandel der Tradition – bis zu einer Revolution. All diese Menschen machen die elementare und zu-gleich grossartige Erfahrung: Man ist nicht gekettet an seine Herkunft und Tradition. 

Du sollst, denn du kannst!

Entscheidend an dieser Erfahrung ist, dass sie zu einer neuen Mentalität führen kann - zu einer universellen. Sie belässt es nicht beim Trotz des «Ich will nicht!».  Sie begründet ihn. Sie schafft eine Instanz, auf die sich alle Menschen berufen können, wenn sie nicht wollen. 

Zum Beispiel die Würde des autonomen Individuums, das frei und kraft seiner Vernunft über sein Handeln entscheidet: Ich wähle diese Lebensform. Ich trage dieses Kopftuch, weil ich es will, nicht weil Gott, der Staat, die Sitte oder was auch immer es will. Kant nannte das «Kausalität durch Freiheit». Und er vermutete darin ein universelles Vermögen: die praktische Vernunft. Sie sagt uns «Du sollst, weil du kannst!». Sie appeliert an den «praktisch vernünftigen» Menschen. 

Hätte der junge Kannibale Kant gelesen, dann hielte er seinem Vater entgegen: «Ich billige dieses Essverhalten nicht, weil es sich nicht als Grundlage eines universellen Essverhaltens eignet. Man kann nicht allen Menschen zumuten, Menschen zu essen.» Worauf ihn der Vater womöglich mit dem Killerargument des ewig Rückständigen senkelt: «Du mit deiner Wischiwaschi-Würde! Was ist sie gegen unsere Stammeswürde, die unter anderem ver-langt, Menschenfleisch zu essen?» 

Abstrakt versus konkret

Darin liegt der Zunder des eingangs angesprochenen Problems. Die Würde des Individuums ist ein abstraktes Merkmal. Es «zieht» von Menschen alle konkreten Eigenschaften «ab», die sie dank ihrer Tradition und Herkunft haben. Es wurde eingeführt von Philosophen, einer «Elite» - von weissen, männlichen, europäischen Menschen.

Dieser Vorwurf ertönt heute von linker postkolonialer wie rechter identitärer Seite. Er lässt sich auf einen gemeinsamen Nenner bringen: Kampf gegen die Abstraktion. Gegen eine Abstraktion, wie sie sich in den allgemeinen Menschenrechten und den sie tragenden Institutionen etabliert hat. Diese Opposition ist durchaus berechtigt vor dem Hintergrund einer Geschichte, in der Menschenrechte immer wieder die Deckmantel-Funktion von Machtansprüchen ausgeübt haben. 

Das Problem liegt aber im Anspruch auf Universalität selbst. Er wird im Namen «des» Menschen erhoben. Aber «den» abstrakten Menschen gibt es nicht , es gibt «nur» konkrete Menschen, Gruppen von Menschen. Und wie kann eine Menschengruppe einer anderen ihre Sitten und Gebräuche aufzwingen? 

Moralischer Fortschritt beginnt «unten»

Das erweist sich als dornige Frage - zumindest in modernen säkularen Gesellschaften, in denen sich nicht so selbstverständlich an eine absolute metaphysische oder religiöse Instanz appellieren lässt. Da bietet sich Tradition als Lösung an. Sie ist nichts Schlechtes. Sie ver-mittelt Identität, Lebenssinn. Aber Identität kann repressiv wirken: «So hast du zu sein!» 

Dagegen wendet sich der junge Kannibale. Er tut nichts Heroisches. Er gründet keine Bewegung, schreibt kein Manifest. Er sagt nur einen einzigen, schlichten Satz: «Ich esse keine Menschen». Im günstigen Fall spricht sich dieser Satz in anderen Stämmen herum. Und allmählich greift über den Stammessitten der Gedanke Platz: «Menschen essen ist schlecht». Mit diesem Satz gelangt man zu einer Position ausserhalb der Tradition. Er lässt den Tribalismus hinter sich.  Und der Vater macht sich mit seiner Verteidigung des Kannibalismus zunehmend lächerlich. 

Kurz gesagt: Moralischer Fortschritt beginnt nicht mit hehren Prinzipien und feierlichen Deklarationen. Er beginnt mit Widerwillen beim Stammesessen. 

 

Leben als Rechenprozess

Die Analogie von Organismus und Computer

Eine tiefverwurzelte Intuition lässt uns den Unterschied zwischen natürlicher und künstlicher Intelligenz als den Unterschied zwischen Lebens- und Rechenprozess empfinden. Wir sagen, KI-Systeme würden stur «mechanische» Regeln befolgen, und wir perpetuieren da-mit einen alten Gegensatz, der das philosophische Denken der Neuzeit tief prägt: den Gegensatz zwischen Lebewesen und Maschine, Organismus und Mechanismus. Tatsächlich aber weisen Entwicklungen in der KI-Forschung schon seit längerem darauf hin, dass – um es vorsichtig zu formulieren - die Grenze zwischen Lebens- und Rechenprozessen verschwimmt. Der Grundgedanke dazu stammt von zwei genialen Pionieren der Computertheorie. Alan Turing und John von Neumann schufen die konzeptuellen Voraussetzungen da-für, Wachstum, Selbstreplikation, Evolution als Rechenprozesse zu betrachten. 

***

Dazu muss man erst einmal das Konzept des Rechnens erweitern. Das tat Turing. Er zeigte 1936 in einem bahnbrechenden Aufsatz, dass  alles, was wir im weitesten Sinne «rechnen» nennen, von einer idealen Maschine nachgeahmt – «emuliert» - werden kann. Turing ersann ein Gerät, das im Wesentlichen aus einem unendlichen Band (Gedächtnis) und einem Lese- und Schreibkopf besteht. Dieser Kopf rückt vor oder zurück, setzt oder löscht ein Zeichen gemäss einer ihm eingegebenen Vorschrift. Ein unendlicher Zeitvorrat steht für den Rechenprozess zur Verfügung. Hält der Lese- und Schreibkopf an, dann hat die Turingmaschine die Aufgabe bewältigt. Sie formuliert den digitalen Anspruch in aller Klarheit: Gebt mir ein unendliches Gedächtnis und eine unendliche Prozess¬dauer, und ich löse euch mit meinem (richtig programmierten) Lese- und Schreibkopf jedes Rechenproblem. 

Man nennt diese Maschine heute «universelle Turingmaschine». Der Clou ist ihre Universalität. Sie stellt das logische Skelett nicht nur eines jeden Computers dar, sondern eines jeden Vorgangs, in dem man einen Algorithmus vermutet. Könnte man insbesondere Lebensvorgänge auf diese Weise begreifen? Gibt es eine Turingmaschine für Wachstum, Proteinbau, Stoffwechsel, Selbstreplikation? Ist nicht die Evolution selbst eine solche Maschine?

***

Solche Fragen trieben von Neumann um. Zu Beginn der 1950er erweiterte er Turings universellen Rechner zum Modell eines universellen selbstreplikativen Automaten. Dieser Automat basiert auf drei Voraussetzungen. Er braucht erstens einen Bausatz an Komponen-ten für seine Konstruktion. Er braucht zweitens eine Bauanleitung – kodiert auf einem Turing-Band - für die Kopie seiner selbst und einen Mechanismus A, der die Instruktionen schrittweise ausführt. Drittens braucht er einen Mechanismus B, der das ganze Band ko-piert und dem neuen Automaten einfügt.  Die zentrale Einsicht ist dabei: Selbstreplikation bedeutet nicht Kopieren des Automaten, sondern seiner Bauanleitung. Von Neumann zeigte, dass die Instruktionen für beide Mechanismen auf dem gleichen Band einkodiert und damit als maschinelles «Genom» einem «Nachkommen» weitergegeben werden können. 

Die biologische Metaphorik drängt sich auf. «Es ist ziemlich klar,» schreibt von Neumann, «dass die Instruktionen ungefähr die Funktionen eines Gens bewirken. Es ist auch klar, dass der Kopiermechanismus (..) den fundamentalen Akt der Reproduktion ausführt». Von Neumanns idealer Automat kann sogar etwas bauen, das komplexer ist als er selbst. Kleine Änderungen in der Bauanleitung «können sich in typischen Merkmalen ausdrücken, die im Zusammenhang mit Mutationen auftreten – meist tödlich, aber mit der Möglichkeit, die Reproduktion mit modifizierten Merkmalen fortzusetzen.» Das ist der Schlüssel zu einer ergebnisoffenen algorithmischen Evolution von Automaten, wie wir sie von den Organismen her kennen. 

***

Das komplizierte Leben mittels «einfacher» Konstruktionsregeln erklären – dieses Motiv beherrscht ingeniöse und waghalsige Köpfe seit von Neumanns Arbeiten über Automaten. Nicht zuletzt deshalb, weil sich die Computertechnologie rasant entwickelt hat.  Man muss dabei zwischen dem trivialen und dem nicht-trivialen Anspruch des Computergebrauchs unterscheiden. Trivial ist, ihn als Instrument in der Erklärung von Lebensphänomenen zu verwenden. Nicht-trivial ist, ihn als Agens der Lebensphänomene selbst, sprich: den Lebensprozess als Rechenprozess zu begreifen. Das ist ein Anspruch, der hoch greift. Sehr hoch.  

Bisher wird er vor allem als Simulation eingelöst. Man studiert Programme, die nach einfachen Regeln funktionieren und  komplexe Strukturen generieren. Berühmt und populär ist der zelluläre Automat: eine zweidimensionale Struktur, die sich entwickelt, fortpflanzt, unter Umständen abstirbt. Eine Kopfgeburt des Mathematikers John Conway, die sehr schnell Computerwissenschaftler und Mathematiker wie etwa Tommaso Toffoli, Ed Friedkin oder Stephen Wolfram in Bann zog. Vor allem Letzterer, ein genialischer Eigenbrötler, erschuf um den zellulären Automaten einen neuen Forschungsstil («A New Kind of Science»), mit dem Ziel, das ganze biologische und auch das physikalische Universum aus einfachen Rechenregeln zu modellieren. 

***

Man könnte generell vom Paradigma des Berechnens in der Biologie sprechen. Sein Anspruch greift natürlich über die virtuellen Spielwiesen hinaus. Lassen sich Rechenprozesse in vitro oder gar in vivo realisieren? Und überhaupt: Wie weit lässt sich die Analogie von Organismus und Computer treiben? 

Das ist letztlich auch eine Frage der Zusammenarbeit von Biologen und Computerwissenschaftlern. Die Idee der Biomoleküle als Rechenmaschinen stammt aus den 1960er Jahren, als François Jacob und Jacques Monod vorschlugen, in den Biomolekülen eine Art von Programmsprache für die Proteinsynthese zu sehen.  In den 1970er Jahren verglich der Informatiker Charles Bennett die RNA-Polymerase – ein Enzym, das für die Replikation der DNA eine zentrale Rolle spielt -  mit einer Turingmaschine,  und er spekulierte bereits über Moleküle, die energieeffizientere Rechner liefern könnten. In den späten 1980er Jahren prägte der Computerwissenschaftler Christopher Langton den Begriff des «Artificial Life», und er umschrieb mit ihm ein Projekt, das vom «Leben, wie wir es kennen» übergeht zum «Leben, wie es sein könnte» - das heisst, zur Nachbildung naturähnlicher Phänomene in alternativen Medien.

Das Rechen-Paradigma hat in den letzten beiden Jahrzehnten einen bemerkenswerten Schub erfahren. Und dennoch, schreibt der Molekularbiologe Hashim al-Hashimi unlängst, tendiere man dazu, Biomoleküle vorzugsweise als Black Boxes zu betrachten, die Input in Output verwandeln. Es fehle eine Wetware-Beschreibung, die spezifiziere, wie Molekülsequenzen die Informationsverarbeitung steuern. 

***

Das liegt vermutlich daran, dass Lebensphänomene um Skalen komplexer sind als bisher vermutet, und die Computeranalogie zwar handlich und verführerisch ist, aber wahrscheinlich zu kurz greift. Was schon von Neumann zu bedenken gab: «Natürliche Organismen sind meist viel komplizierter und raffinierter, und deshalb im Detail viel weniger verstanden als künstliche Automaten. Nichtsdestoweniger könnten gewisse Gesetzmässigkeiten, die wir bei den Automaten beobachten, lehrreich sein für das Verständnis und das Design der Organismen».

Eigentlich gibt es einen grundsimplen Unterschied zwischen Organismus und Computer. Den Computer haben wir geschaffen, nicht aber das Leben. Das Organische ist im Gegensatz zum Anorganischen «unexakt». Genau deshalb ist es wohl so schwer zu verstehen. Von Neumann drückte dies einmal sinngemäss so aus: Das beste Modell eines lebenden Systems ist das System selbst. Das spricht nicht gegen die Computeranalogie, sondern für erkenntnistheoretische Vorsicht: Vergleicht man den Organismus mit einem Computer, unter-schätzt man den Organismus. Überspannen wir den Vergleich, kann uns dies leicht zu einem Reduktionismus verführen, der das wissenschaftliche Grundmotiv erstickt – nämlich das Eingeständnis, wie wenig wir wissen. 

 

NZZ, 21.1.26.  English Version

The Jargon of Inevitability

Hardly anything promotes intellectual laziness as much as the jargon of inevitability. We encounter it everywhere: in economic analyses, business forecasts, political speeches, technological visions, and everyday conversations. It became notorious through the neoliberal primal scream “There is no alternative” – a formula suggesting that some superhuman necessity directs our fate.

Today this tone is omnipresent in the AI sector. Its prophets use the jargon to smooth the path toward their preferred goals. Concerns about sustainability and political regulation appear to them as obstacles to the unstoppable march of progress. Some — for example, the investor Marc Andreessen — are willing to accept the erosion of democratic structures by proclaiming that politics must submit to technological dynamics. This alone, they believe, grants the engineers and investors of Silicon Valley their world-historical mandate.

***

The jargon of inevitability rests on a fundamental error in thinking: confusing model and reality — or as the saying goes: the map is not the territory. This error is, so to speak, part of the cognitive equipment of the human being. When we think, we follow certain rules, perhaps “compelling” ones. They suggest: if you assume A and B, then C necessarily follows. But this necessity is a feature of the model, not of reality. It is the result of simplification. On the map we can show that a straight line connects points A and B. In the landscape, however, it may well be a dead-end path.

Science recognizes necessities in the form of laws. Physical laws hold within physical mod-els, economic laws within economic ones. Their purpose is to make statements about reality — and to the extent that this succeeds, we may justifiably say the laws also hold in nature or in the economy. That’s all. But successful models easily tempt us to overdraw their explanatory account — that is, to claim more than their assumptions allow. Economic models, for instance, often shine with elegant mathematical formulas from which market forecasts can be deduced. And then reality refuses to cooperate. As in the 2008 crash. Influential economists like Paul Krugman diagnosed not only a crisis of the financial markets but a crisis of economic models. Sociologically speaking, one could say that experts, banks, governments, and rating agencies formed a kind of narrative community that cultivated the jargon of inevitability and — as Krugman put it bluntly — went astray because they “mistook beauty, clothed in impressive-looking mathematics, for truth.”

***

The jargon of inevitability is well suited to stifling political debate through supposed factual constraints — through the jargon of unassailability. Hannah Arendt wrote that “every factual truth excludes all debate.” This sounds apodictic, but what she meant was that “discus-sion, the exchange and conflict of opinions, is the very essence of all political life.” The statement “Fact is that …” often turns out to be an argumentative bludgeon: “Shut up, you just have an opinion.” One postures as an advocate of “the facts,” yet the “facts” are nothing more than the ossification of one’s own opinion.

Ludwig Wittgenstein spoke of the “bewitchment of our intelligence by means of language.” This is precisely what the jargon of inevitability accomplishes. It is the grammar of disenfranchisement; the effortless compulsion of a way of thinking that tries to make us believe political events and developments occur without human involvement. The very term “artificial intelligence” demonstrates this: we project a human concept onto machines and then interpret their algorithms as an autonomous power that will inevitably surpass and dominate us. Yet it is human beings who drive this development — and who have the greatest interest in portraying it as without alternatives.

***

Critique of jargon means unmasking this bewitchment — and thereby directing our gaze not only toward the “bewitchers” but also toward other possibilities for the future that have been pushed aside by the weight of supposed necessity. It encourages us to cultivate the form of intelligence that distinguishes human beings. Robert Musil called it the “sense of possibility”: thinking that what is could also be otherwise.

There is more than one future — that is the battle cry of imagination. The jargon of inevitability drives it out of us. The most apocalyptic of all visions would therefore be the one in which we humans have lost imagination — and no longer even miss it.

 

NZZ,8.12.25

Schreiben im Zeitalter der Postoriginalität

Der Philosoph und Literaturwissenschaftler Roland Barthes publizierte 1968 seinen be-rühmten Essay «Tod des Autors». Darin beschreibt er den Autor nicht als eigenständiges schreibendes Subjekt, sondern als ausführendes Modul des linguistischen Apparats namens Sprache: eine Maske, die Identität vorgaukelt: «Der moderne Schreiber (wird) im selben Moment wie sein Text geboren. Er hat überhaupt keine Existenz, die seinem Schreiben voranginge oder es überstiege; er ist in keiner Hinsicht das Subjekt, dessen Prädikat sein Buch wäre». Deshalb wollte Barthes den Autor durch den subjektlosen «Schreiber» - den «Skriptor» - ersetzt sehen. 

Barthes erkannte im Schreiber eigentlich avant la lettre die Arbeitsweise des Textgenerators GPT. Dieser schöpft eklektisch aus einem gigantischen Reservoir von Wörtern, verwandelt sie in mathematisch behandelbare Objekte – Tokens - und rechnet mit ihnen. Bisher war der Textgenerator eine Voraussagemaschine von solchen Tokens: Nun lernt er, «verständig» auf bestimmte Anfragen oder Instruktionen – auf Prompts - zu reagieren. Eine neue Kompetenz gewinnt an Bedeutung: das Prompt-Engineering, die kreative Form des Befehlens.

***

Wahrscheinlich wird der Textgenerator bald schon einen neuen Standard des Schreibens definieren, der die Benutzung der Maschine nicht mehr als blosse Trickserei abqualifiziert. Für den Schriftsteller Clemens Setz lassen sich deshalb Schreiben und Prompten tendenziell nicht mehr unterscheiden.  Er lobt eine «neue Aufrichtigkeit», die nicht so tut, als wäre der Mensch allein Autor der Texte. Vielmehr repräsentiere das Prompten eine neue Kulturtechnik, in der Mensch und KI-Assistent eine Symbiose eingehen. «Zukünftige Generationen könnten sich kopfschüttelnd wundern, wie die frühere Menschheit überhaupt je irgendetwas Authentisches und Aufrichtiges auszudrücken imstande war, wenn sie doch gerade in der Situation der Schrifterzeugung immer so mutterseelenallein war, von niemandem betreut als vom eigenen Gehirn». 

Setz sieht einen «tertiären Analphabetismus» aufkommen. Der tertiäre Analphabet «lernt fast ausschliesslich eine Sache (..): das Wünschen». Seine Kompetenz ist das «übergenaue (..) erwachsene Selbstkenntnis erfordernde Formulieren dessen, was man gerne haben möchte». Der tertäre Analphabet kann, «wenn die Wunscherfüllung geliefert wird, nicht mehr persönlich nachprüfen, ob der Wunsch korrekt verstanden wurde, das kann dann nur das Leben selbst entscheiden». Das Leben selbst: das ist der akzeptierte Zeitungsartikel, die bestandene Prüfung, das erfolgreiche Bewerbungsschreiben. Man muss nicht mehr verstehen, wie sie zustandegekommen sind - Hauptsache, man reüssiert. 

***

Nun klingt das alles ziemlich überzogen - mindestens aus drei Gründen. Erstens ist der schreibende Mensch nie «mutterseelenallein» mit seinem Gehirn. Tatsächlich erweist sich auch das Schreiben mit der Feder bereits als ein symbiotischer Akt von Mensch und Werkzeug. Es gibt keinen Schreiber, der frei von Technik wäre. All die Werkzeuge und Geräte, mit denen sich der Mensch umgibt – dazu gehört nota bene auch das Buch - , sind ja sozusagen Extensionen seines Gehirns, in dem Sinne, dass das Gehirn seine hochflexible Struktur dem jeweiligen Gerätegebrauch anpasst. 

Zweitens hat die «tertiäre Analphabetisierung» etwas Paradoxes. Prompten ist das «über-genaue (..) erwachsene Selbstkenntnis erfordernde Formulieren dessen, was man gerne haben möchte». Aber ist Formulieren denn nicht Eingeben in geschriebener Form, selbst wenn dieses Eingeben schliesslich auch vokalisiert erfolgen kann? Zum Schreiben gehört insbesondere auch das Lesen – es handelt sich um komplementäre Seiten ein und derselben Kompetenz. Mit der einen verkümmert die andere. Und damit auch das Promptenkönnen. Droht dem vom KI-Assistenten begleiteten tertiären Analphabeten nicht das Schicksal des Chatbot-Junkies? 

2022 liess OpenAI ChatGPT auf den Technikkonsumenten los, und binnen dreier Jahre hat sich dieses Ding zu einem kulturellen Game Changer entwickelt. So stark, dass die Pädagogen und Psychologen immer erfolgloser gegen das Schummeln vorzugehen suchen. Für Setz eine hoffnungslose Massnahme. Denn Schummeln sei die neue Aufrichtigkeit. «Absolut jede Art von Lernen ist (..) tendenziell ‘Cheating’, oder, anders formuliert, geschieht in Gesellschaft des KI-Assistenten». 

***

Hier stellt sich aber drittens die Frage, was diese Gesellschaft bedeutet. Könnte der Schreibassistent dem Schreiben, statt es zu ersetzen, nicht vielleicht eine neue, zeitadaptierte Bedeutung verleihen? Paläoanthropologie, Evolutionsbiologie, Neurologie und Kognitionspsychologie weisen uns längst schon auf das Zusammenwirken von Hand und Hirn hin. Und aus diesem Zusammenwirken hat sich so etwas wie ein «Schreibhirn» entwickelt. Eine  neuronale Struktur, die der Schreibaktivität entspricht. Man spricht von einer «breit gestreuten Hirnkonnektivität» durch Schreiben.  

Inwieweit diese Struktur sich durch die neue Kulturtechnik des Promptens verändert, bleibt abzuwarten. Aber man sollte sich nicht vom einfältigen Narrativ leiten lassen, dass Neues Altes ersetzt. Schon Platon warnte davor, dass die Schrift das Gespräch verdränge und da-mit das Medium echten Verstehens verkümmern lasse. Das ist nicht geschehen. Vielmehr hat sich zwischen Reden und Schreiben ein dynamisches kulturelles Zusammenspiel von Ausdrucksmöglichkeiten gebildet. Gewiss, das Gleichgewicht dieses Zusammenspiels sieht sich heute durch die digitalen Medien herausgefordert. Und die Diagnosen, die eine Abschwächung der Lese- und Schreibfähigkeiten heranwachsender Generationen prognostizieren, sind ernst zu nehmen. 

***

Aus einer zuversichtlichen Perspektive betrachtet kann man im «Schreiber» von Barthes wie im «tertiären Analphabeten» von Setz Figuren sehen, die uns gerade zum Wiedererlernen des Schreibens im Duett mit dem Textgenerator auffordern, zur Reanimation alter Fähigkeiten: Upskilling. Man lässt den KI-Assistenten schreiben und pflegt im Austausch mit ihm zugleich das eigene Schreiben. So wie der Algorithmus meine «Idiosynkrasien» lernt, lerne ich seine Tricks. Symbiose von Mensch und GPT bedeutet so gesehen die Geburt eines neuartigen «Schreibsubjekts». 

Nun hat das Upskilling nur dann eine Bedeutung, wenn die Skills bereits existieren. Und das ist keineswegs mehr selbstverständlich. Wenn der Textgenerator zum Leitmedium wird, dann zeichnet sich der Prozess der tertiären Analphabetiserung in den künftigen Generationen durchaus als reale Möglichkeit ab – ein Prozess von eminent anthropologischer Bedeutung. Viel intimer als bisher arbeiten Mensch und Maschine zusammen - die Maschine wird ein Teil des Ich, oder das Ich ein Teil der Maschine. 

***

In KI-Kreisen kennt man das «Gesetz» von Roy Amara: Wir überschätzen kurzfristig die Wirkung einer Technologie, und wir unterschätzen sie langfristig. Wir kennen die langfristigen Folgen einer breiten KI-Akzeptanz nicht. Schon jetzt sollten uns allerdings die kognitiven Kosten der Symbiose beschäftigen. Die Tendenz ist nicht unwahrscheinlich, dass sich der Mensch immer mehr der Maschine anpasst - dass er den Stil seines Assistenten an-nimmt und dessen Überredungskunst erliegt. Die Lernplattform Fobizz bewertet zum Beispiel automatisch Schülerarbeiten. Eine Analyse des Tools zeigt, dass es jene Texte als beste beurteilt, die mit ChatGPT geschrieben wurden.  Wie es scheint, bilden die smarten Maschinen eine neue Klasse von Autoren, die sich untereinander am optimalsten verstehen. Es kümmert sie ja auch nicht, was sie schreiben. «I’m not afraid of throwing grammar around me», soll die schlagfertige amerikanische Schauspielerin Mae West einmal gesagt haben. Das ist der neue Standard. 

 

NZZ, 21.1.26

Der Jargon der Unvermeidlichkeit

Kaum etwas fördert geistige Trägheit stärker als der Jargon der Unvermeidlichkeit. Wir begegnen ihm überall, in ökonomischen Analysen, unternehmerischen Prognosen, politischen Reden, technologischen Visionen, im Alltagsgespräch. Notorisch geworden durch den neoliberalen Urschrei «Es gibt keine Alternative», suggeriert uns dieser Jargon immer wieder, dass eine übermenschliche «Notwendigkeit» unser Geschick leite und bestimme. 

Wir kennen ihn heute bis zum Überdruss aus der KI-Branche. Deren Propheten benutzen die Unvermeidlichkeitsrhetorik dazu, den Weg für ihre  bevorzugten Ziele freizumachen. In Bedenken über Nachhaltigkeit oder in politischen Leitplanken sehen sie nichts als Hindernisse des ohnehin unaufhaltbaren Laufs der Dinge. Gewisse Protagonisten - etwa der Investor Marc Andreessen - nehmen den Demokratieabbau in Kauf mit dem Postulat, dass Politik sich der technologischen Dynamik unterzuordnen habe. Diese allein verleiht den Ingenieuren und Investoren von Silicon Valley ihr weltgeschichtliches Mandat. So argumentierten schon die italienischen Faschisten.

***

Der Jargon der Unvermeidlichkeit beruht auf einem grundlegenden Denkfehler: der Verwechslung von Modell und Wirklichkeit – oder wie man sagt: Die Landkarte ist nicht die Landschaft. Dieser Fehler gehört sozusagen zur kognitiven Ausstattung des Menschen. Wenn wir denken, folgen wir bestimmten Regeln, womöglich «zwingenden». Sie suggerieren: Wenn du A und B annimmst, folgt daraus C zwangsläufig. Diese Notwendigkeit ist aber eine Logik des Modells, nicht der Wirklichkeit. Auf der Landkarte kann man zeigen, dass eine gerade Linie Punkt A und Punkt B verbindet. In der Landschaft ist das vielleicht ein Holzweg. 

Die Wissenschaft kennt Notwendigkeiten in der Form von Gesetzen. Physikalische Gesetze gelten in physikalischen Modellen, ökonomische Gesetze in ökonomischen. Ihr Zweck ist, Aussagen über die Wirklichkeit zu treffen, und in dem Masse, in dem das gelingt, sind wir berechtigt zu sagen, die Gesetze würden in der Natur oder in der Wirtschaft gelten. Aber gerade erfolgreiche Modelle verführen uns leicht dazu, ihr Erklärungskonto zu überziehen, das heisst, mehr zu behaupten, als es ihre Annahmen erlauben. Ökonomische Modelle zum Beispiel glänzen oft mit elegantem mathematischem Formelwerk, aus dem sich Marktprognosen deduzieren lassen. Und dann spielt die wirtschaftliche Realität nicht mit. Wie zum Beispiel 2008. Das war nicht nur eine Krise der Finanzmärkte, sondern eine Krise der ökonomischen Modelle. Fachleute, Banken, Regierungen, Ratingagenturen bildeten so etwas wie eine narrative Gemeinschaft, die den Jargon der Unvermeidlichkeit pflegte, sprich: die Annahmen der Modelle für die Wirklichkeit hielt. Schon 1985 warnte die amerikanische Ökonomin Deirdre McClosky im Buch The Rhetoric of Economics ihre Disziplin vor dieser Gefahr des Modell-Dogmatismus. 

***

Der Jargon der Unvermeidlichkeit eignet sich gut, die politische Debatte durch angebliche Sachzwänge abzuwürgen – durch den Jargon der Unumstösslichkeit. Hannah Arendt sprach davon, dass «jede Tatsachenwahrheit jede Debatte (ausschliesst)», wo doch «die Diskussion, der Austausch und Streit der Meinungen (..) das eigentliche Wesen allen politischen Lebens (ausmacht)». Das Totschlagargument «Fakt ist..» erweist sich eigentlich als eine autoritäre Sprachhandlung: «Halt den Mund, du hast bloss eine Meinung». Man gibt vor, im Namen der Sache zu sprechen, dabei ist die «Sache» nicht anderes als die unbedachte Verfestigung der eigenen Meinung. 

Eigentlich konserviert der Jargon der Unvermeidlichkeit die alte Potenz des Mythos, also die Kraft einer Erzählung, die uns überzeugen will, dass «es so kommen muss». Ludwig Wittgestein sprach von der «Verhexung unseres Verstandes durch die Mittel der Sprache». Genau das leistet dieser Jargon. Er ist die Grammatik der Entmündigung; der zwanglose Zwang einer Denkweise, die uns weismachen will, politische Ereignisse und Entwicklungen geschähen ohne menschliches Dazutun. Nur schon das Wort «künstliche Intelligenz» demonstriert beispielhaft, wie wir einen menschlichen Begriff auf Maschinen übertragen und dann deren Algorithmen als eine autonome Macht interpretieren, die uns unvermeidlich übertreffen und dominieren wird. Vergessen geht dabei, dass Menschen diese Entwicklung vorantreiben – mit Vorurteilen, Herrschaftsgelüsten, Entscheidungsgewalt. 

Jargonkritik bedeutet, die Verhexung zu entlarven - und damit den Blick nicht nur auf die «Verhexer» zu lenken, sondern zugleich auf andere Zukunftsmöglichkeiten, die durch das Gewicht vermeintlicher Notwendigkeit verdrängt worden sind. Wir müssen jene Intelligenzform kultivieren, die uns auszeichnet. Möglichkeitssinn, nannte sie Robert Musil: denken, dass das, was ist, auch anders sein könnte. 

Denn die Imagination ist die Mutter der Freiheit. Die apokalyptischsten aller Visionen ist jene, in der wir Menschen die Imagination verloren haben - und sie nicht einmal mehr vermissen.

 

Homo sapiens, Animal sapiens, Machina sapiens

Ein neues kopernikanisches Zeitalter

Meine beiden Kater sind Methusalems mit ihren fast zwanzig Jahren auf dem schwarzen Buckel. Ziemlich erfahrene und – ich zweifle nicht – intelligente Tiere. Oft erstaunen sie mich mit Fähigkeiten, die ich ihnen nicht zugetraut hätte oder die mir schlicht abgehen. Die Verhaltensforschung liefert mir Erkenntnisse über ihre arteigenen kognitiven Vermögen – ihre «Intelligenz». Und in diesem Bemühen trägt sie bei zum allgemeinen wissenschaftlichen Projekt, das Tierreich, ja, selbst das Pflanzenreich als einen immer noch recht unbekannten Kontinent fremder Intelligenzformen zu studieren und kartieren. Dieses Projekt sagt schlicht und einfach: Wir müssen uns von der anthropozentrischen Idee lösen, allein der Homo sei sapiens. Auch das Tier ist es, auf seine arteigene Weise – Animal sapiens.

Natürlich bin ich den Katern in einigen Dingen überlegen. Zum Beispiel übersteigen Goethes Poesie und die Differentialrechnung ihren «Begriffshorizont»; sie wissen auch nicht, wie der Kühlschrank funktioniert, in dem ihr Futter aufbewahrt ist, oder dass Whiskas Proteine enthält. Aber diese Betrachtungsweise lässt sich felinozentrisch umkehren. Was weiss ich denn von ihrem heimlichen Informationsaustausch über mich? Was von ihren Absichten, wenn sie um meine Beine streichen? Schon Montaigne trieb die Frage um: «Wenn ich mit meiner Katze spiele, wer weiss, ob sie sich nicht noch mehr mit mir die Zeit vertreibt als ich mir mit ihr?» 

***

Wenn es also in der Natur unzählige andere, fremde Intelligenzformen gibt, wie weit verstehe ich sie eigentlich? Ich benötige zu diesem Verstehen ja meine menschliche Begrifflichkeit. Ist sie nicht ebenso beschränkt, was das Leben der Kater angeht? Was kann ich überhaupt von Dingen wissen, die meinen konzeptuellen Horizont übersteigen? 

Das ist eigentlich die Frage aller Fragen. Sie wurde schon vor fast hundert Jahren vom britischen Biologen John Burdon Sanderson Haldane in einem einzigen Satz angesprochen: «Meiner Ansicht nach ist das Universum nicht nur sonderbarer, als wir es uns vorstellen, sondern sonderbarer als wir es uns vorstellen können». 

Haldane spielte damit auf eine Grenze im Verständnis fremder Intelligenzen an, die sich nicht einfach auf den jeweils aktuellen Kenntnisstand und konzeptuellen Horizont der Forschung bezieht, sondern generell auf das Vermögen des Menschen, fremde Intelligenzen zu verstehen; also auf eine konstitutionelle Grenze, die der kognitive Apparat der Menschengattung uns setzt, wie entwickelt er auch sein mag.  

***

Als Biologe hatte Haldane allen Grund zu einer solchen Feststellung. Die Natur ist voller kognitiver «Exoten». Den Ethologen steht heute ein potententes Instrumentarium zur Verfügung, um Tierintelligenz zu studieren, in der Gestalt von Evolutionsbiologie, Kognitionspsychologie, Neurowissenschaft und weiteren Disziplinen. Und sie zeichnen ein Bild der Natur, in der es keine eindimensionale Leiter gibt, die von «niedriger» zu «höherer» Intelligenz führt. Der Mensch lebt neben Katern, Würmern, Kakteen, Pilzen, Bakterien. Alle diese Lebewesen haben ihre artspezifischen kognitiven Fähigkeiten entwickelt, nur nicht in der Richtung des Menschen. Sind sie weniger intelligent als Menschen? Die kognitive Ethologie überrascht uns laufend mit Entdeckungen über die Vielfalt und Differenzierung von intelligentem Verhalten im Tier- und Pflanzenreich. So dass der renommierte, kürzlich verstorbene Verhaltensforscher Frans de Waal im Titel eines seiner Bücher unverblümt fragt: «Sind wir intelligent genug, um zu wissen, wie intelligent Tiere sind?» 

Menschliche Intelligenz ist, wie jene meiner Kater, eine «provinzielle» Intelligenz. Sie ermöglicht uns vieles, ja, sie schafft Wunderwerke der Technik, Wissenschaft, Kunst. Zyniker könnten heute freilich einwenden: Ist denn ein solches «barockes» Organ wie das Menschenhirn nicht ein luxuriöser Überfluss der Natur? Trägt es wirklich zu unserer Fitness bei? Was ist der ganze evolutionäre Aufwand wert, ein Lebewesen zu produzieren, das mit seiner Intelligenz im Begriff ist, sich selbst abzuschaffen, indem es den Planeten zugrunde richtet? Der Einwand kommt reichlich spät, aber er formuliert präzise das Gegenbild zur Stufenleiter: Erscheint es aus der Perspektive einer evolutionären Kosten-Nutzen-Rechnung nicht dumm, so intelligent wie wir zu sein?

***

Eines der Werke menschlicher Intelligenz ist die künstlichen Intelligenz. Sie beginnt unergründliche Wege einzuschlagen. Wir bekommen es mit einer neuen Gattung von Maschinen zu tun, mit smarten Black Boxes. Das heisst, wir haben durchaus ein allgemeines Konzept dessen, was sie tun, aber wir sind nicht mehr in der Lage, dieses Tun in der Tiefenarchitek-tur der Maschine im Detail nachzuvollziehen. 

Betrachten wir die zurzeit gehypten Gadgets der neuronalen Netze, etwa den «generative pretrained transformer» (GPT). Auf die Frage, ob er intelligent sei, liefert der ChatGPT4 den Output, er simuliere Intelligenz, aber verstehe die Welt nicht so wie ein Mensch. Das ist natürlich nicht die «Antwort» des KI-Systems, sondern die Antwort, die es brav dem Menschen nachpapageit. Aber muss man denn die Welt verstehen, wie der Mensch dies tut? Sind wir hier nicht wiederum befangen in unserer eigenen anthropozentrischen Sichtweise? KI-Systeme korrigieren und verbessern ihre Lernalgorithmen schon heute selbständig. Angenommen, sie tun dies in Zukunft immer mehr ohne Supervision des Menschen. Könnten sie sich da «unüberwacht» weiterentwickeln in Richtung einer künstlichen Superintelligenz? Einer Machina sapiens? 

Was wäre eine fremde Intelligenz, die sich als inkompatibel mit der menschlichen erweist? Intelligenz ist ein Vergleichsbegriff: intelligent wie was? Wie also soll man etwas intelligent nennen, wenn man es nicht mindestens zum Teil in den Horizont menschlicher Begriffe hereinholen kann? Wenn wir sagen, der Computer habe ein intelligentes Resultat geliefert, meinen wir, dass ein solches Resultat dem Menschen Intelligenz abfordern würde. Der Referenzpunkt des Verstehens sind immer wir. Unbegreifbar bedeutet für uns unbegreifbar.  

***

Von Sigmund Freud stammt der Satz: «Unser Verständnis reicht so weit wie unser Anthropomorphismus». Anthropomorphismus ist unter Wissenschaftlern verpönt als vermenschlichende Pseudoerklärung. Wir würden dadurch nur unsere Vermögen und Eigenschaften auf die fremde Intelligenz projizieren, blieben also letztlich in einem anthropomorphen Zirkel gefangen. Das mag bis zu einem gewissen Grad stimmen, wenn man sich die vielen naiven Vermenschlichungen vergegenwärtigt, die der Mensch dem Tier «antut» und es gerade dadurch entfremdet, das heisst, ihm nicht seine artspezifische Lebensart zugesteht. Aber auch wenn wir letztlich nicht aus dem anthropomorphen Zirkel ausbrechen können, so können wir ihn erweitern, unsere Vorstellungen ändern und verbessern, dem Tierverhalten angleichen, statt dieses unserem Verhalten anzugleichen. 

Wie steht es mit KI-Systemen? Was, wenn sie eine Entwicklungsstufe erreicht haben werden, die mit Tieren vergleichbar ist? Müsste man dann eine neue Disziplin namens Maschinenethologie einführen, die das Verhalten künstlicher Systeme wie jenes von anderen, fremden Arten studiert? Und angenommen, diese postbiologische Evolution erfolge in ei-nem weit höheren Tempo als die biologische - wäre diese Disziplin vom Verhalten künstlicher Arten nicht hoffnungslos überfordert? Die letzte Freudsche Kränkung?

***

Aber könnten sich unsere kognitiven Vermögen im Zusammenspiel mit den KI-Systemen nicht auch weiterentwickeln und verbessern, in einer Koevolution von Mensch und Maschine? Man spricht von «Enhancement», dem Aufmöbeln des menschlichen kognitiven Apparats durch intelligente Prothesen. Vielleicht ist mit künftigen transhumanen Generationen zu rechnen. Zyniker prophezeien allerdings eher das Gegenteil, nämlich eine Regression der Intelligenz, zumindest bei einer Mehrheit der Menschen. Was mit Blick auf den aktuellen Technikgebrauch nicht unplausibel erscheint. Wie auch immer, «verbesserte» Generationen werden sich zwar durch einen erweiterten, aber dennoch endlichen Verständnishorizont auszeichnen. Auch sie werden jedoch mit der Frage aller Fragen konfrontiert sein. 

Die Natur ist ein Reich voller fremder organischer Intelligenzen, terrestrischer, wahrscheinlich auch extraterrestrischer. Nun schafft der Mensch ein neues Reich, voller fremder anorganischer Intelligenzen. Und er muss sich eingestehen, dass er in beiden Reichen weder Höhepunkt noch Mittelpunkt ist. Wo denn liegt sein Platz? 

Das ist die Frage eines neuen kopernikanischen Zeitalters.  

 

Das Paradox der technologischen Entwicklung

Nach einer vorherrschenden Technikauffassung macht Not erfinderisch: Notwendigkeit ist die Mutter der Erfindung. Da ist ein Problem und durch eine Erfindung lösen wir es, sprich: verschwindet es. Die Ansicht kursiert heute unter der Bezeichnung des Technological Fix: Verwandle ein Problem in ein ingenieurales und löse es durch die Erfindung oder Verbesserung einer entsprechenden Technik. 

«Die Erfindung ist die Mutter der Notwendigkeit» 

Die Ansicht erweist sich bei näherem Betrachten als einseitig, mehr noch: als Paradox. Technik ist ambivalent. Oft stellt sie sich als das Problem heraus, für dessen Lösung sie sich hält. Der amerikanische Technikhistoriker Melvin Kranzberg hat deshalb vor vierzig Jahren den obigen Spruch umgekehrt und als «Kranzberg-Gesetz» formuliert: Erfindung ist die Mutter der Notwendigkeit. Er schlug damit – nicht ohne Ironie - ein anderes Narrativ vor: Innovationen schaffen neue Nöte, machen in der Regel weitere Zusatzerfindungen notwendig, um wirklich effizient zu werden. Das heisst, Erfindungen setzen einen innovativen Zyklus in Bewegung, der gewissermassen eine «kranz
berg’sche» Eigendynamik entwickelt. 

«Die Macht der Computers und die Ohnmacht der Vernunft» 

Die Computertechnologie macht sie exemplarisch sichtbar. Etwa in der Mitte des letz-ten Jahrhunderts sahen sich industrielle Produktion, Verkehr, Planung, ja, Politik mit einer Informationsflut konfrontiert, deren Management die menschliche Kapazität überstieg. Das war die Notwendigkeit, die den Computer auf den Plan rief. Und er präsentierte sich zunächst als wunderbarer Technological Fix. Aber schon anfangs der 1970er Jahre schrieb der Computerwissenschaftler Joseph Weizenbaum vom MIT sein vieldiskutiertes Buch«Die Macht des Computers und die Ohnmacht der Vernunft». Dem mulmigen Gefühl, eine maschinelle Intelligenz könnte der Kontrolle der menschlichen Intelligenz entgleiten, begegneten die Informatiker mit der Beschwichtigung, das Problem liesse sich durch weitere technische Entwicklung bewältigen. Und die Beschwichtigung hält bis heute an, im Mantra: Wartet nur, bis wir den richtigen Algorithmus gefunden haben! 

«Technologie geschieht, weil sie möglich ist»

Anders gesagt: Man konzentriert sich auf die Erfindung – um die «Nöte», die aus ihr folgen, kümmert man sich später. «Technologie geschieht, weil sie möglich ist». Dieser Satz von Sam Altman - CEO von OpenAI - echot einen berühmten anderen Satz, jenen von Robert Oppenheimer, Leiter des Atombombenbaus im Manhattan-Projekt: «Wenn man etwas sieht, das technisch verlockend ist (‘technically sweet’), macht man es einfach, und man diskutiert erst später darüber, was man damit anfangen soll – nachdem man den technischen Erfolg erzielt hat. So war es mit der Atombombe.» Und einer der Pioniere des Deep Learning – Geoffrey Hinton – äusserte den Satz fast wortwörtlich mit Bezug auf die KI. 

Die Erfindung ist die Mutter des Bedürfnisses

Kranzbergs Gesetz hat - vor allem im Zeitalter der KI-Technologie und ihrer monopolistischen Firmen -  einen anderen, einen psychologischen Aspekt. Lesen wir «Notwendigkeit» als «Bedürfnis», dann lässt sich das Gesetz so formulieren: Die Erfindung ist die Mutter des Bedürfnisses. Sie schafft Bedürfnisse, die vorher nicht existierten. Die Technikgeschichte zeigt ein wiederkehrendes Phänomen: Erfindungen haben es oft schwer. Ihre Durchsetzung als Innovation muss einem Bedürfnis entsprechen, und ein solches existiert oft aufgrund sozial und kulturell verwurzelter Interessen nicht.  Zu Gutenbergs Zeiten ertönten nicht Jubelschreie «Endlich gedruckte Texte!», vielmehr beeilten sich die Kopisten, die Presseprodukte mit einem lokalen Bann zu belegen. Der erste Verbrennungsmotor, um 1860 von Nicolaus Otto gebaut, führte nicht zur Produktion entsprechender Vehikel, weil die Leute mit Pferden und Eisen-bahnen zufrieden waren. Der Transistor wurde in den USA erfunden, aber die Elekt-roindustrie ignorierte ihn, um die Produkte mit Vakuumröhren zu schützen. 

«There’s a That for this App”

KI-Technologie ist primär eine Bedürfnisproduktion. Sie braucht den Kunden als Be-dürftigen. Ein Ex-Geschäftsstratege bei Google beschreibt die Industrie als die «umfassendste, normierteste und zentralisierteste Form der Verhaltenskontrolle in der Geschichte der Menschheit (..) Ich realisierte: Da ist buchstäblich eine Million Menschen, die wir sozusagen anstubsen und überreden, Dinge zu tun, die sie sonst nicht tun würden». 

«There’s an App for That» lautete der Werbespruch von Apple 2009. Aber er sollte eigentlich lauten: «There’s a That for this App». Besessen vom nächsten neuen Ding hetzt heute die Entwicklung in einer Endlosschleife der Innovationen manisch vorwärts. Mit all dem Schnickschnack und seinen laufenden Updates verkaufen die Firmen Verhaltensweisen, und sie dressieren uns immer neue Bedürfnisse an. 

Der Ingenieur als Sisyphos

Gibt es einen Ausstieg? Die Technikhistorikerin Martina Hessler ruft in ihrem Buch «Sisyphos im Maschinenraum» eine mythische Figur auf den Plan. Der moderne Sisyphos ist der vom Technological Fix beherrschte Mensch. Er schiebt den Stein der technischen Lösungen immer höher, aber er erreicht dadurch nur, dass der ersehnte Gipfel sich weiter entfernt. Er hat seine Strafe selber gewählt, getrieben vom Wunsch, die Welt allein mit Technik zu verbessern, ja, zu vervollkommnen. Technological Fix sagt alles: Befestigung einer bestimmten Vorgehensweise; die Abhängigkeit vom Pfad, den man eingeschlagen hat. Das Sisyphoshafte ist dieser Art von Entwicklung inhärent. Wie Martina Hessler bemerkt, verbleiben «technologische Lösungen in der Re-gel in einer Logik, die das Bisherige fortsetzt (..) Die vermeintlich disruptiven Technologien erweisen sich aus dieser Perspektive gar nicht als disruptiv, sondern lösen das Problem in der Logik des Problems, anstatt es kreativ völlig neu zu denken». 

Das ist der springende Punkt. Technologie ist mehr als ein Gerätepark. Die neuen smarten Maschinen bilden ein Dispositiv, das unser Fragen immer schon in eine ganz bestimmte Richtung lenkt. Technik wirkt dadurch wie eine Art von Vorsehung. Niemand zwingt mich, ein Gerät zu verwenden. Aber wenn es den Verwendungszusammenhang definiert, aus dem ich nicht einfach so aussteigen kann, dann bin ich seinem zwanglosen Zwang unterworfen. Die KI-Systeme nisten sich ein in unserem Blick, werden zu einem Stück unserer selbst. 

Eine selbst herbeigeführte Gattungsverdummung

Sam Altman schwadronierte 2021 von einer vierten «KI-Revolution» nach den drei anderen technologischen Revolutionen: der landwirtschaftlichen, der industriellen und der computerbasierten. Er betonte dabei, dass diese vierte Revolution «sich auf die beeindruckendste unserer Fähigkeiten konzentriert: die phänomenale Fähigkeit zu denken, zu erschaffen, zu verstehen und zu schlussfolgern». Die Bemerkung ist entlarvend, denn Altman verschwieg die tiefe Paradoxie, dass uns die KI-Industrie ja gerade diese Fähigkeit abzunehmen sucht. Wir haben sehr viel Intelligenz in Geräte gesteckt, und als fatal daran erweist sich, dass uns die Geräte zum Nichtgebrauch unserer  Intelligenz verleiten – zu einer selbst herbeigeführten Gattungsverdummung, die sich als Triumph zelebriert.