Der Markt der Texte 

Auf dem Buchmarkt herrscht grosse Aufregung. Der Verdacht, dass ein Text KI-generiert sei, soll - laut Wall Street Journal - die Buchbranche ins Chaos gestürzt haben.  Spektakuläre Vertragsbrüche sind die Folge. Umgekehrt lehrt ein detektivisches Tool wie Pangram die Autoren das Fürchten. Sie müssen heute mit dem Lauerblick der Algorithmen rechnen und all-zeit bereit sein für den Garantienachweis ihres Produkts. 

***

Im Kern des Problems steckt eine einfache Frage: Wie unterscheidet man menschliche und künstliche Texte? Wie gut ist man informiert? Diese Qualitätsunsicherheit nahm der amerikanische Ökonom George Akerlof 1970 in sein Modell auf, das er «Markt für Zitronen» nannte. 

Angenommen, auf einem Markt für Gebrauchtwagen werden hochwertige Fahrzeuge – im US-Slang «plums» - neben minderwertigen – «lemons» - angeboten. Die Verkäufer kennen den Zustand ihrer Wagen besser als die Käufer, die ihn vor dem Kauf nur unvollständig beurteilen können. Es herrscht eine Informationsasymmetrie, wie Akerlof sie nennt. Der Verkäufer weiss mehr als der Käufer.

Unter diesen Bedingungen kann eine eigentümliche Dynamik entstehen. Weil die Käufer die Qualität der angebotenen Fahrzeuge nicht sicher einschätzen können, sind sie nur bereit, einen Preis zu zahlen, der zwischen dem Wert der «Pflaumen» und jenem der «Zitronen» liegt. Für die Anbieter hochwertiger Fahrzeuge wird der Markt dadurch zunehmend unattraktiv. Sie ziehen sich zurück. Der Anteil an «Zitronen» steigt, die Unsicherheit der Käufer wächst, und ihre Zahlungsbereitschaft sinkt weiter. Eine selbst verstärkende Abwärtsspirale setzt ein. Am Ende droht ein Markt, auf dem sich hochwertige Angebote kaum noch halten können.  

***

Informationsasymmetrie herrscht heute auch auf dem Literaturmarkt. Der Autor weiss mehr als der Leser. Seit der Einführung grosser Sprachmodelle zeichnet sich hier eine ähnliche Situation ab: KI-generierte Texte könnten die Rolle der «Zitronen» einnehmen. 

Angenommen, es wird künftig immer schwieriger, menschlich geschriebene Texte von maschinell erzeugten zu unterscheiden. Die Leser könnten dann zunehmend zögern, einem einzelnen Text ihre knappe Aufmerksamkeit zu schenken. Denn je grösser die Zahl der verfüg-baren Texte und je schwieriger ihre Herkunft zu erkennen ist, desto riskanter erscheint es, Zeit in die Lektüre zu investieren.

Auch hier könnte eine Akerlof’sche Abwärtsspirale entstehen: Die Unsicherheit nähme zu, Autoren, deren Texte Zeit und Sorgfalt erfordern, liefen Gefahr, aus dem Textmarkt gedrängt zu werden. Am Ende blieben womöglich vor allem jene Texte übrig, die am billigsten herzustellen sind.  

***

Die Flut von KI-Texten ist Realität. Deshalb suchen verschiedene Ansätze, die Herkunft von Texten erkennbar zu machen und das Vertrauen in menschlich verfasste Texte zu schützen. Dazu gehören Detektionssysteme wie Pangram, ebenso wie Echtheitszeichen, die menschliche Urheberschaft bestätigen sollen. Auch der Gesetzgeber reagiert: Der europäische AI Act sieht für bestimmte KI-generierte Inhalte Transparenz- und Kennzeichnungspflichten vor.

Dies alles ist verständlich und dringlich – und zu kurz gedacht. Denn in der ganzen Diskussion manifestiert sich eigentlich die Dominanz der ökonomischen Perspektive. Sie nimmt den Schriftsteller primär als Marktteilnehmer wahr. Er schreibt, um des Lohnes willen. Und zwar ist dieser Lohn nicht nur materiell, sondern geistig. Der Kunde zahlt mit Aufmerksamkeit. Eine begrenzte Ressource.  

***

Die Befürchtungen über den «Takeover» der Sprachmodelle sind Symptom eines stillen Assimilationsprozesses: Der Mensch passt sich der Maschine an. Seit dem Aufkommen der grossen Sprachmodelle ab 2022 fördern diese ein wettbewerbsorientiertes Ideal der Literalität, das sie uns zunehmend aufzudrängen scheinen. Schreiben wird zum Leistungsvergleich: Wer schreibt besser – und mit welchem KI-System? Schon entsteht eine neue Wettbewerbskultur für KI-unterstützte Literatur. Es werden sogar Preise ausgeschrieben.

Die angesprochene Informationsasymmetrie in der Lektüre von Texten wird sich wahrscheinlich noch verschärfen. Wir werden immer weniger erkennen können, was vom Menschen und was von der Maschine stammt. Und so gesehen wird der Autor der Zukunft ein kollaboratives Subjekt aus Mensch und Maschine sein. Ein Text ist dann nicht mehr einfach gut, weil er menschengemacht ist.

Um so wichtiger erscheint es, die eigentliche Herausforderung der Sprachmodelle nicht darin zu sehen, dass sie uns das Schreiben abnehmen, sondern darin, dass wir allmählich vergessen, weshalb wir überhaupt schreiben. Wir sollten mit anderen Worten der ganzen Debatte einen «anthropologischen Dreh» geben: den Produzenten und nicht das Produkt ins Zentrum rücken. Denn im Grunde ist das Ergebnis des Schreibens nicht einfach ein Text, sondern im-mer auch eine Erkenntnis für den Autor selbst. Wie Susan Sontag einmal bemerkte: Ich schreibe, um herauszufinden, was ich denke. Das nannte man bisher einen Bildungsprozess. 

Die Irritation durch die künstlichen Schreiberlinge kann man deshalb sogar begrüssen: Wenn nach dem Modell von Akerlof schliesslich kein Markt mehr für authentisch menschliche Texte existiert, dann zwingt uns das, die Bildungsaufgabe neu zu definieren – revolutionär, das heisst jenseits des Marktes. Wir schaffen das.

 

Le lit du ruisseau a soif

Der Traum von der Beweismaschine 

Warum die Arbeit der Mathematiker nicht überflüssig wird

KI-Systeme, die neuerdings gleich industriell Beweise für ungelöste mathematische Probleme liefern, wecken ein ambivalentes Gefühl: den Traum einer Beweismaschine und die Befürchtung, dass durch sie die Arbeit der Mathematiker überflüssig würde. Beides beruht auf frag-würdigen Annahmen. 

Die erste lautet, etwas salopp formuliert: Mathematik ist eine monumentale Sammlung bewiesener oder beweisbarer Sätze. Hinter dieser Annahme steckt eine ganze Metaphysik. Ersonnen hat sie das Universalgenie Gottfried Wilhelm Leibniz mit seiner grandiosen Idee, dass die Welt berechenbar sei – geschaffen von einem, wie man heute sagen würde, obersten Softwareingenieur. Leibniz hatte eine zweite grandiose Idee, nämlich, dass sich eine Kunstsprache – ein Calculus ratiocinator – konstruieren lasse, in der man den Wahrheitsgehalt eines Satzes durch reine mechanische Prozedur ermitteln kann. Ein Gedanke, der seither seine Spur unauslöschlich in die Mathematikerköpfe eingraviert hat.

***

Zu Beginn des 20. Jahrhunderts suchten die Mathematiker, ihre Disziplin durch ein robustes logisches Fundament zu begründen. Das Leibnizsche Ideal eines Calculus ratiocinator nahm dabei die neue Gestalt eines formalen Systems an, in das sich alle mathematischen Sätze übersetzen lassen.  Ihre Geltung würde dann in der deduktiven Herleitung aus Axiomen bestehen.  Einer der Wortführer dieses Projekts, David Hilbert, war überzeugt, dass zumindest in der Mathematik alle wahren Sätze durch eine solche logische Maschine beweisbar sind. Diese Zuversicht in die menschliche Erkenntniskraft ist auf seinem Grabstein eingemeisselt: «Wir müssen wissen. Wir werden wissen». 

Dieser Zuversicht versetzte ein junger österreichischer Mathematiker einen schweren Schlag: Kurt Gödel. Anfang der 1930er Jahre zeigte er, dass jedes hinreichend leistungsfähige, widerspruchsfreie und formal axiomatisierte System Aussagen enthält, die sich innerhalb des Systems weder beweisen noch widerlegen lassen. Gödel lieferte damit gewissermassen eine Kritik der formalen Vernunft. Sie widerlegt nicht die Möglichkeit mathematischer Beweismaschinen. Sie erschüttert vielmehr den Traum, die mathematische Wahrheit lasse sich in einem einzigen formalen System vollständig einfangen.

***

Der Traum von der Beweismaschine lebt weiter. Er ist von der Theorie in die Technologie gewandert. In den grossen Sprachmodellen – den Large Language Models (LLMs) – scheint er eine neue Gestalt anzunehmen. Sprachmodelle können mathematische Probleme lösen, Beweise entwickeln und ihre eigenen Lösungswege überprüfen lassen. Aber sie werfen eine alte, nun umso dringlichere Frage auf: Was ist ein Beweis? 

Die Frage erinnert an den Supercomputer Deep Thought in Douglas Adams’ Kultroman «Per Anhalter durch die Galaxis». Auf die Frage nach dem Sinn des Lebens, des Universums und des ganzen Rests gibt der Computer nach einer Rechenzeit von 7.5 Millionen Jahren die Ant-wort «42» heraus. Der Haken: Niemand versteht sie. 

Hier kommt ein weiterer Irrtum zum Vorschein: Es genügt nicht, dass ein Beweis logisch korrekt ist. Er sollte auch verständlich machen, weshalb eine Aussage gilt. Wenn dies schon unter Mathematikern nicht immer gelingt, verschärfen KI-Systeme das Problem noch: Sie spucken zunehmend Beweise aus, deren Nachvollzug den Mathematikern ironischerweise zusätzliche Interpretationsanstrengung abverlangt. 

***

Das heisst, wir haben es nicht bloss mit einem technischen, sondern mit einem erkenntnis-theoretischen Problem zu tun: Wollen wir bloss richtige Antworten erhalten, oder wollen wir verstehen, weshalb sie richtig sind? Eine Maschine, die uns die Lösung liefert, dispensiert uns möglicherweise gerade von jener geistigen Arbeit, die Information zu Einsicht raffiniert. Der Fields-Medaillenträger Hugo Duminil-Copin von der Universität Genf hat dies auf den Punkt gebracht: Sich mit einem Helikopter auf dem Mount Everest abzusetzen, ist etwas anderes als ihn zu besteigen. 

Mathematik ist eine soziale Tätigkeit. Mathematiker wollen ihre Kollegen interessieren, irritieren, ja infizieren. Je schwieriger ein Problem, desto grösser die Reputation, die seine Lösung verspricht, desto ausgeprägter die Distinktion. Nun sehen sich Lösungen der mathematischen «Haute Couture» durch Lösungen «von der Stange» bedroht. Akshay Venkatesh vom Institute for Advanced Study in Princeton – auch er Fields-Medaillenträger – befürchtet so-gar, dass die Mathematik für die nächste Generation an Attraktivität verlieren könnte. Man mag darin auch den üblichen «zünftlerischen» Konservatismus oder einen gewissen Elitismus erkennen. Entscheidend aber ist eine andere Frage: Wie lässt sich gewährleisten, dass Ma-thematik eine intellektuelle Allmende bleibt – ein gemeinsames Gut, an dem möglichst viele nicht nur teilhaben, sondern zu dessen Weiterentwicklung sie auch beitragen können?

***

Ein anderer Irrtum: Beweise schliessen einen Denkvorgang ab – quod erat demonstrandum, wie die lateinische Formel unmissverständlich verkündet. Das Gegenteil ist oft der Fall: ein Beweis schliesst auf. 

Betrachten wir Euklids Beweis, dass es unendlich viele Primzahlen gibt. Nehmen wir an, alle Primzahlen liessen sich in einer endlichen Liste aufzählen. Wir multiplizieren die Zahlen dieser Liste miteinander und addieren eins. Bei den ersten vier Primzahlen, 2, 3, 5 und 7, erhalten wir 211 – selbst eine Primzahl, die in der Liste fehlt. Allgemein muss die so gebildete Zahl nicht prim sein. Nehmen wir etwa die Primzahlen 2, 3, 5, 7, 11 und 13: Ihr Produkt plus eins ist 30031, das sich in 59 und 509 zerlegen lässt. Beide Primteiler fehlen in der Ausgangsliste. Das widerspricht der Annahme, die Liste enthalte alle Primzahlen.

Das Verfahren liefert nicht nur einen Beweis, es ist die Blaupause für Konstruktionen, mit denen sich auch auf anderen Gebieten Unbegrenztheiten erschliessen lassen. Sie machen überhaupt erst denkbar, was vorher undenkbar war. 

***

Hier liegt ein weiterer Irrtum: Mathematik löst nicht nur Probleme – sie bringt auch neue hervor. Sie ist eine Kunst des Vermutens – «Ars Conjectandi» -, wie sie der grosse Basler Gelehrte Jakob Bernoulli nannte. Und so gesehen, steht sie als Gegenbegriff zur Antwortproduktion der KI-Systeme. Denn mathematisches Denken besteht nicht allein darin, Lösungen zu finden. Es besteht ebenso darin, Fragen zu entdecken, Vermutungen zu wagen und Probleme zu formulieren, von denen man zuvor nicht einmal wusste, dass sie sich stellen.

Deshalb wage ich eine kühn erscheinende These: Mathematik ist poetisch. Das altgriechische poiein bedeutet «machen, hervorbringen, erschaffen». Mathematik bringt Denkräume her-vor. Sie beschäftigt sich mit Unendlichkeiten, und seit Georg Cantor sogar mit unendlich vielen. Sie konzipiert Geometrien, in denen sich zwei parallele Geraden schneiden. Sie rechnet mit Zahlen, die «imaginär» sind. Sie zaubert aus einer einfachen Formel eine ganze Welt komplexer fraktaler Strukturen. 

Das Vermögen der Sprache erlaubt dem Menschen ein diskursives Verständnis der Welt - aber mehr noch: Er kann mit Sprachen Welten schaffen, die sein Verständnis womöglich übersteigen. Gottfried Benn hat dies in einem wunderschönen Aphorismus verdichtet: «(Es) gibt nur zwei verbale Transzendenzen: die mathematischen Lehrsätze und das Wort als Kunst. Alles andere ist Geschäftssprache, Bierbestellung». Das heisst: Poesie führt über den gewohnten Sprachgebrauch hinaus – und Mathematik führt über den gewohnten Denkgebrauch hinaus. 

***

Die Mathematik kennt zahlreiche Vermutungen, für die bislang kein Beweis gefunden wurde. Manche könnten sich als wahr erweisen, andere als falsch; bei manchen bleibt die Antwort womöglich offen. So wie in der Thermodynamik ein Perpetuum mobile unmöglich ist, gibt es auch kein «Perpetuum demonstrans» in der Mathematik: keinen universellen Beweisautomaten, der in einem hinreichend leistungsfähigen formalen System jede wahre mathematische Aussage beweisen könnte. Die Mathematik bleibt ein unerschlossenes geistiges Land. Ein Jahrhundert nach Hilbert kann man ihm erwidern: Wir werden nicht wissen.

 

Über die allmähliche Verfertigung der Gedanken 

beim Prompten

Heinrich von Kleist schrieb 1805 einen kleinen Aufsatz, der sich als geradezu emblematisch für das Zeitalter der Large Language Models herausstellt: «Über die allmähliche Verfertigung der Gedanken beim Reden» (1805). Wenn man etwas wissen wolle und «durch Meditation» nicht finden könne, so rät Kleist, «mit dem nächsten Bekannten, der dir aufstösst, darüber zu sprechen. Es braucht nicht eben ein scharfdenkender Kopf zu sein, auch meine ich es nicht so, als ob du ihn darum befragen solltest: nein! Vielmehr sollst du es ihm selber allererst erzählen». 

Heute bräuchte Kleist keinen «nächsten Bekannten» mehr. Er müsste nur ChatGPT oder Konsorten etwas «erzählen». Könnte man da nicht von der «allmählichen Verfertigung der Gedanken beim Prompten» sprechen? 

***

Die Sprachmodelle mischen gerade die Buchbranche auf – womöglich mit einer ähn-lich epochalen Wucht, mit der einst der Buchdruck die Tradition der mittelalterlichen Kopisten erschütterte. Man vernimmt, dass Verlage den Markt mit einem Unflat KI-generierter Texte überschwemmen.  Die Lage verschlimmert sich für «ehrliche» Autoren. Der Generalverdacht bei Texten, ein KI-Erzeugnis zu sein, wird zur neuen Normalität.  

Nun herrscht in dieser Diskussion der ökonomische Blick vor. Das heisst, er sieht den Wert der Tätigkeit im Erzeugnis, und blendet die entscheidende Frage über uns Er-zeugende aus: Was verlieren wir, wenn wir nicht mehr selber schreiben, sondern die Tätigkeit zunehmend an Maschinen delegieren - und was verrät uns gerade dieser Vorgang über die Bedeutung des Schreibens?

***

Auf diese Frage stösst uns Kleist. Er sagt nicht einfach: Reden hilft beim Denken, sondern: Im Reden kommt das Denken erst zustande. Was für das Reden gilt, lässt sich zwangslos auf das Schreiben übertragen: Es ist ein Verfahren, durch das Gedanken überhaupt Gestalt annehmen. Kleist nennt es die «Fabrikation der Idee auf der Werkstätte der Vernunft». Und diese Fabrikation verlangt nach einer Anstrengung.

Anstrengung ist der Schlüsselbegriff. Ein wesentliches Versprechen von Technologien lässt sich – etwas rabiat - mit einem Wort umschreiben: Anstrengungsreduktion. Die Textgeneratoren nehmen uns die Anstrengung des Schreibens ab. Nun könnte es jedoch in der Ära des mühelosen Textgenerierens gerade auf das Gegenteil ankommen: auf die Mühen des Schreibens. 

Über James Joyce wird die Anekdote erzählt, ein Freund habe ihn verzweifelt in sei-nem Arbeitszimmer getroffen. Was los sei, fragte der Freund. Joyce gestand, an diesem Tag nur sieben Wörter geschrieben zu haben. Der Freund erwiderte: «Das ist doch gut, zumindest für dein Arbeitstempo». Joyce antwortete: «Ja schon … aber ich weiss nicht, in welcher Reihenfolge». 

***

Die Anekdote verweist auf etwas Elementares:  Schreiben ist Handwerk, in einem erweiterten Sinn des Wortes. So wie der Handwerker sein Können und Wissen im ständigen und geduldigen Umgang mit dem Material lernt, übt und verbessert, so lernt, übt und verbessert der Schriftsteller – der Wortwerker – sein Können und Wissen über die Sprache. Das Produkt des Schreibens ist nicht einfach ein Text, son-dern immer auch der Schreibende selbst.

Auf Anhieb liesse sich sagen, Joyce habe ein ähnliches Problem wie ChatGPT. Auch bei diesem geht es ja um die richtige Anordnung von Wörtern. Aber Joyce ist kein Tool. Oder genauer: Was ihn von einem Tool unterscheidet, ist gerade der Umstand, dass er Mühe mit der Sprache hat. Er muss sich den Satz abringen. Er muss sich mit dem Material auseinandersetzen, das er beherrschen will und das sich ihm zugleich widersetzt. Das fortwährende Sich-abmühen am Widerstand, das Wechselspiel von Gelingen und Scheitern schlägt Funken – Gedankenfunken.

***

Hier liegt das anthropologische Problem der Textgeneratoren. Sie automatisieren einen Vorgang, der wesentlich zur Menschenbildung beiträgt. Sie nehmen uns nicht bloss Arbeit ab. Sie verführen uns zur denkerischen Übersprungshandlung. Wir wenden uns an eine Maschine, um schneller zu dem zu gelangen, was wir sagen wollen. Was wir auf diesem Weg überspringen, könnte aber gerade das sein, worauf es beim Schreiben ankommt: nicht der fertige Gedanke, sondern seine allmähliche Verfertigung.

Das ist die eigentümliche Dialektik aller Technik: Dadurch, dass sie uns Anstrengung erspart, kann sie auch zu einem Verlust führen – zum Verlust an Gelegenheiten, unsere Fähigkeiten auszubilden. Natürlich ist nicht jede Anstrengung wertvoll. Aber manche Tätigkeiten erweisen ihren Wert gerade darin, dass er nicht im Ergebnis aufgeht. 

***

Diese Dialektik manifestiert sich in aller Deutlichkeit im Konflikt zwischen Schreiben und Prompten. Die Bemühungen der KI-Technologie richten sich explizit nach der Logik der Optimierung: Finde ein Tool, das alles einfacher macht, damit man Auf-gaben so effizient wie möglich erledigt. Kulturtechniken aber haben ihren Wert in der Anstrengung, die sie uns abverlangen. Sie sind nicht bloss Mittel zum Zweck, sondern Formen der Übung, in denen sich Fähigkeiten bilden. Sie folgen einer Kultivierungslogik. 

Sie ist im Zeitalter des entfesselten KI-Wettlaufs gefährdet. Und sie erinnert an Kant, der am Anfang seines Aufsatzes über die Aufklärung (1784) schreibt: «Es ist so bequem, unmündig zu sein. Habe ich ein Buch, das für mich Verstand hat, einen Seelsorger, der für mich Gewissen hat, einen Arzt, der für mich die Diät beurteilt usw., so brauche ich mich ja nicht selbst zu bemühen. Ich habe nicht nötig zu denken, wenn ich nur bezahlen kann; andere werden das verdriessliche Geschäft schon für mich übernehmen.»

***

Kleist war ein kritischer Bewunderer Kants. Es liegt daher nahe, seinen Aufsatz in einem erweiterten aufklärerischen Kontext zu lesen. Der bekannte Wahlspruch Sapere aude – «Wage selber zu denken!» – liesse sich um einen Imperativ ergänzen: Scribere aude – wage selber zu schreiben! So entdeckst du das verdriessliche Geschäft des Denkens im Zeitalter seiner Automatisierung wieder. 

 

NZZ,9.10.26

Intelligenz als Konsumgut

Über Bildung im KI-Zeitalter

Künstliche Intelligenz soll künftig wie Wasser oder Elektrizität ins Haus fliessen, als Konsumgut von Techfirmen bereitgestellt und je nach Verbrauch abgerechnet – zumindest in der Vision des CEO von OpenAI, Sam Altman.  Man mag dies als übliche rhetorische Kraftmeierei abtun. Dennoch kündigt sich hier ein ernstzunehmender Wandel an. 

Denn je mehr der Mensch seine Intelligenzleistungen an die Maschine delegiert, desto wichtiger wird nicht der Intelligenzgrad als Unterscheidungskriterium zwischen Menschen (was dieser Grad auch bedeuten mag), sondern der Wille zur geistigen Anstrengung. 

***

Denken braucht Widerstand. Ohne ihn verkümmert es. Daran erinnert uns Immanuel Kant gleich am Beginn seines epochalen Werks «Kritik der reinen Vernunft». Er nennt die Vernunft eine «leichte Taube»: «Die leichte Taube, indem sie im freien Flug die Luft teilt, deren Wider-stand sie fühlt, könnte die Vorstellung fassen, dass es ihr im luftleeren Raum noch besser gelingen werde» (KrV, A4).

Diese wunderbar eingängige Metapher trifft ins Herz des KI-Zeitalters. Sie macht ein quasi «aerodynamisches» philosophisches Problem anschaulich: Wie viel Widerstand braucht Denken? Kant kritisierte mit der «leichten Taube» die metaphysischen Höhenflüge der Philosophen, die sich in der Illusion des luftleeren Raums wiegten und glaubten, ohne den «Luftwiderstand» und «Auftrieb» der Erfahrung auszukommen. Heute erzeugen smarte Maschinen eine ähnliche Versuchung. Sie nähren die Illusion, Denken lasse sich in einen «luftleeren» Raum verlegen – als genüge es, der Maschine einen richtigen Prompt einzugeben.

***

Seit jeher begleitet arbeitssparende Technologie dieselbe Erwartung: Der Mensch werde sie nutzen, um körperliche und geistige Mühen zu vermeiden. Gilt das auch für die KI?

Die Frage variiert ein bekanntes Thema aus der Technikgeschichte. Wenn ein Werkzeug eine menschliche Fähigkeit verlässlich übernimmt, dann droht diese Fähigkeit zu verkümmern. Dahinter steckt die alte Sorge vor der technischen Entlastung. Klassische Berühmtheit er-langte sie durch Platons Dialog «Phaidros». In ihm wird von Ägyptens König Thamos erzählt, der vor der neuen Technologie der Schrift warnt. Sie würde das Gedächtnis schwächen – keine gegenstandslose Warnung. Tatsächlich veränderte die Schrift das menschliche Gedächtnis tiefgreifend. Mit dem Übergang von der mündlichen zur schriftlichen Tradition ent-stand eine neue Kulturtechnik des Erinnerns und Denkens. Steht uns nun mit der KI ein ähnli-cher Wandel bevor – diesmal von der Schrift zu einem Medium, das den Text selbst überschreitet?

***

Die Forschung über die Auswirkungen von KI auf unsere geistigen Fähigkeiten steckt noch in den Anfängen. Erste Studien deuten darauf hin, dass der Gebrauch von Sprachmodellen das Muster geistiger Aktivität verändert.  Über Ursachen und Folgen dieser Veränderungen wissen wir bisher wenig. Ohnehin handelt es sich um Korrelationen, und wie bei allen Korrelationen ist Vorsicht geboten, wenn man sie zu verallgemeinern sucht. 

Aber unabhängig davon bleibt die eigentliche philosophisch-anthropologische Frage bestehen: Welche geistigen Fähigkeiten wollen wir in einer Kultur fördern, in der immer mehr Denkar-beit an Maschinen delegiert wird?

Im Zentrum steht ein Phänomen, das die Psychologie seit Langem kennt: das Bedürfnis nach Kognition (need for cognition): die Motivation, schwierige Probleme durch eigenes Denken zu lösen. Dieses Bedürfnis korreliert zwar mit Intelligenz, ist aber nicht mit ihr identisch. Manche Menschen suchen die geistige Anstrengung geradezu. Sie lesen schwierige Bücher, lösen anspruchsvolle Probleme und empfinden Denken selbst als Befriedigung. Andere dagegen betrachten Denken vor allem als Mittel zum Zweck und vermeiden unnötige kognitive Mühe. Das Bedürfnis ist nicht einfach eine Persönlichkeitskonstante. Es lässt sich durch soziale Erwartungen, pädagogische Erfahrungen und kulturelle Praktiken fördern. 

Dadurch wird es zu einer Bildungsfrage. Das alte Prinzip der Bildung hat einen «puritani-schen» Einschlag: No pain, no gain - ohne Mühen kein geistiger Gewinn. Darauf gründet eine Kultivierungsmentalität: Man arbeitet hart und kämpft sich durch schwierige Aufgaben, und man trainiert so sein Denken. Es gibt nicht nur Bodybuilding, es gibt auch Mindbuilding. Und es kann spielerische Neugier, Lust am Denken wecken. 

***

Die KI-Technologie hingegen gründet auf einer Optimierungsmentalität: Man findet ein Tool, das alles einfacher macht, damit man Aufgaben so effizient wie möglich erledigt. Amit Sin-ghal - langjähriger Leiter der Google-Suche - brachte diese Mentalität schon 2013 auf den Punkt: «Wir konzentrieren uns mit manischem Eifer auf den Nutzer, um jede denkbare Reibung zwischen ihm, seinen Gedanken und den Informationen, die er finden möchte, zu reduzieren.»  

Die Losung der Optimierungsmentalität lautet «Das hätte KI in fünf Minuten geschafft». Es geht dabei nicht um die Geschwindigkeit, sondern um eine grundsätzliche Wertung: Primär ist das Ergebnis, nicht die Anstrengung; der fertige Text, nicht das Schreiben; das Bild, nicht das Sehen; das Produkt, nicht der Mensch, der an seiner Herstellung wächst. KI bietet Kompetenz ohne Lehre, Geläufigkeit ohne Verständnis. Wer diese Mentalität übernimmt, wird bildungsflüchtig. Er verlernt das berühmte «bessere Scheitern» Samuel Becketts. 

***

Hüten wir uns vor einer platten Entgegensetzung, indem wir bloss die Kosten einer Innovati-on auflisten, und nicht auch den Nutzen. Sprachmodelle sind keineswegs bloss Instrumente der Denkvermeidung. Wer je eine Dissertation geschrieben oder an einem anderen grösseren Projekt gearbeitet hat, kennt die Mühen der Recherche, die Irrwege und Sackgassen des Suchens. Nicht wenige machen dabei eine frustrierende Erfahrung, die die Verhaltensökonomie als Sunk-Cost Fallacy bezeichnet: Man erkennt, dass ein Projekt kaum noch Erfolg verspricht, hält aber dennoch daran fest, weil bereits zu viel Zeit und Mühe investiert worden sind.

Hier liegt eine der Stärken von Sprachmodellen. Sie können sagen: «Zu diesem Thema gibt es bereits viele Arbeiten» oder: «Die empirische Evidenz hierzu ist widersprüchlich». Sie können den Wissensbestand eines Gebiets im Nu sichten, Denkroutinen erkennen, und so helfen, intellektuelle Fehlinvestitionen frühzeitig zu erkennen. Sie verkürzen nicht das Denken selbst, verhelfen einem aber womöglich zu einer neuen Fragestellung. Sie führen nicht zu einer Delegation, sondern zur produktiven Entlastung des Denkens. 

***

Das ist – wohlgemerkt – ein Best-Case-Szenario. Allerdings zeigt sich an Hochschulen zu-nehmend, dass die KI-Technologie subtil dazu verführt, die Kultivierungsmentalität gegen eine Optimierungsmentalität einzutauschen. Die eigentliche Herausforderung besteht deshalb darin, die Reibung an der Sache nicht als Hindernis, sondern als Bedingung von Bildung zu begreifen – gerade weil ihre Vermeidung jederzeit lockt. 

Sollte die Optimierungsmentalität überhandnehmen, verschafft wahrscheinlich schon bald die Bereitschaft zur geistigen Anstrengung intellektuelle Distinktion. Das heisst, das Bedürfnis nach Kognition erweist sich als eigentliche Bildungsressource. Auch wenn Designer ihre Sprachmodelle mit Belohnungsmechanismen trainieren, wäre es ein Kategorienfehler, solche Mechanismen mit einem Bedürfnis gleichzusetzen. Man kann endlos und ermüdend darüber diskutieren, ob Maschinen intelligent sind; was ihnen eindeutig fehlt, ist der Wille zum Denken. Und hier beginnt die Zukunft der Bildung. Sie entscheidet sich daran, ob dieser Wille beim Menschen erhalten bleibt.

 

Lac de Morat sauvage

 

Liebe den Roboter wie dich selbst

Frankenstein im KI-Zeitalter

Frankensteins Monster ist eine der dankbarsten Fiktionen der Moderne. Von Mary Shelley zu Beginn des 19. Jahrhunderts erfunden, belächeln wir das Monster heute eher als ein romantisches Aufbegehren gegen den technisch-wissenschaftlichen Fortschritt, als frühe schwarze Science Fiction. Wir schauen aus avancierter Entwicklungshöhe auf dieses zusammengeschnipselte Leichenteilpatchwork herab und bestenfalls befällt uns noch ein überlegenes Wohlgruseln.

***

Und dennoch, selbst wenn sich technisch ungeheuer viel verändert hat, ist thematisch nahezu alles gleichgeblieben. Mary Shelley ahnte, dass der Mensch mit der Erschaffung künstlichen Lebens eine psychische Mine entsichert, die sein Selbstverständnis explodieren lassen könnte. Für ihren fiktiven Wissenschaftler Viktor Frankenstein waren Elektrizität und Biochemie der Schlüssel zum künstlichen Leben. Für die modernen Frankensteins in den KI-Labors sind dieser Schlüssel elektrische Schaltkreise und Algorithmik. Sie doktern an cleveren Programmen, so clever, dass sie den Programmierern über den Kopf wachsen. 

Das ist der Humus, auf dem Horrorszenarien wuchern. Ist die Angst begründet? Zunächst lässt sich sagen, dass sich bereits in Frankensteins Kreatur durchaus Züge der neuesten künstlich intelligenten Systeme finden: die Fähigkeit, visuelle und sprachliche Muster zu erkennen, Sprachen zu übersetzen, Handschriften zu lesen, strategische Spiele zu spielen und Prothesen autonom zu steuern.

Anders als Viktor Frankenstein bauen die Computeringenieure Artefakte, die das, was wir unter Menschen Leben und Intelligenz nennen, computerspezifisch simulieren. Diese Simulationen werden auf vielen Gebieten zweifellos immer lebensnäher. Aber lebensnah heisst nicht lebend. Zugegeben, wer hat sich nicht schon des Eindrucks erwehren müs-sen, bei den synthetisierten Antworten von Bots handle es sich um Antworten einer lebenden Person.

***

Aber warum sollte ein «Personoid» – eine künstliche Person – etwas Bedrohliches dar-stellen? Die Frage wirft ein Problem der gegenwärtigen KI auf, dessen Wichtigkeit im Grunde heute noch den wenigsten bewusst ist. Mary Shelley hatte es erkannt. Das Bedrohliche liegt nicht im Artefakt, sondern im Erbauer des Artefakts.

Ende der 1990er Jahre sorgte Kismet, die von der Robotikerin Cynthia Breazeal am Massachusetts Institute of Technology entwickelte Roboterkreatur, für einiges Aufsehen. Kismet war darauf ausgelegt, mit Menschen sozial zu interagieren. Das System verfügte über Module für Sensorik, Aufmerksamkeit, «Motivation», Gesichtsausdrücke, Haltung, Kopf- und Augenorientierung sowie stimmliche Äusserungen. Es konnte im Umgang mit Menschen lernen.

Im Klartext: Kismet ist ein Maschinenkind. Man spricht auch vom «Nesthocker-Nestflüchter-Spektrum» der Roboter («altricial-precocial spectrum»), also der Aus-sicht, dass die Roboterkinder einmal so weit sein werden, ihre «Eltern» zu verlassen und zu vollwertigen Mitgliedern der Gesellschaft heranzureifen.

Und genau diese Aussicht ist es, die Mary Shelley tief verstörte. Versagen Eltern ihren Kindern die empathische Zuwendung, können sich Kinder zu Monstern entwickeln. Frankensteins Verfehlung liegt darin, dass er sein «Kind» nicht akzeptiert, es ausstösst, allein lässt. 

***

Hier stossen wir auf ein Kernproblem der neuesten KI. Deren Entwicklung ist ja bereits so weit gediehen, dass man eine allgemeine KI (General Artificial Intelligence) ins Auge fasst. Sie würde nahezu alle Probleme lösen, die der Mensch löst. Im Besonderen sucht man zum Beispiel auch empathiefähige – «tugendhafte» - Roboter zu konstruieren, die lernen, menschliche Gefühlslagen zu erkennen und darauf zu reagieren. Der Neuroro-botiker Manfred Hild, der an einem solchen Roboter - Myon – arbeitet, sagt ausdrück-lich: «Myon ist mein Kind». 

Dabei gehen die Roboterbauer von der Grundannahme aus, dass Intelligenz – speziell emotionale Intelligenz - sich nicht einfach als Modul in ein Artefakt einbauen lässt. Vielmehr entwickelt sie sich adaptiv in entsprechenden Umwelten. Intelligenz sitzt nicht im Hirn – sei es organisch oder anorganisch - , sondern ist externalisiert in sozialen und kulturellen Praktiken, in Sprache, Umgangs- und Argumentationsformen, in Kunst und Ritual. Die ganze menschliche Zivilisation erweist sich so gesehen als eine grosse künstliche Intelligenz. Und darin sitzen auch unsere Hirne. 

***

Diese Zivilisation bewegt sich in Richtung einer Homo-Robo-Gesellschaft, einer Koevolution von Mensch und Maschine. Wir bekommen es im Roboterbau mit einer «pädagogischen» Aufgabe zu tun. Wir erziehen die Maschine – aber die Maschine erzieht gleichzeitig uns. Das hat seine Tücken. 

Shelleys Monster warnte uns: Ich werde böse, wenn du mich nicht zu deinesgleichen machst. Die Lektion Frankensteins müsste heute lauten: Hüten wir uns davor, dass die Roboter uns zu ihresgleichen machen. 

Das heisst, wir sind viel formbarer als die Maschinen, wir passen uns kontinuierlich den Kreationen der KI-Labors an, und schon heute prägt der Duktus der Systeme unsere Verhaltensweisen und Gewohnheiten. Die Maschine lernt schnell und unglaublich viel aus menschlichen Voreingenommenheiten und Entscheidungen. Die tiefe Ironie ist dabei unverkennbar: Die Aussicht besteht, dass der Roboter nicht menschenähnlicher, sondern der Mensch roboterähnlicher wird. Am Ende übernimmt er selbst die Sprache der Maschine: Wenn er mit ihr Schritt halten will, muss er sich «upgraden».

***

Soweit ist es noch nicht gekommen. Aber Shelleys Warnung erhält aus dieser Perspektive eine höchst akute Bedeutung. Wenn künstliche Systeme allmählich das Menschsein lernen, dann sollten wir selbst dieses Menschsein nicht verlernen. Indem wir zunehmend smartere Systeme erfinden, arbeiten wir tendenziell an unserer Entbehrlichkeit. Frankensteins Kreatur ist eine organische Lernmaschine mit übermenschlichen Fähigkeiten. Sie entspringt dem einäugigen Blick des Naturwissenschaftlers, der im Lebewesen nichts als einen materiellen Baukasten sieht. Und nicht wenige Roboterbauer rufen uns heute zu: Der Mensch ist ja selbst ein von der Evolution gebastelter Computer aus Fleisch. Wo soll denn der Unterschied zwischen ihm und einem synthetischen Roboter liegen? 

***

Genau diese Frage ist «monströs» - eine Warnung. Das lateinische Wort monere bedeutet «warnen». Es geht nicht um die Warnung vor den künstlich intelligenten Kreaturen, sondern vor einer Denkweise, die Mensch und Maschine über einen Leisten schlägt. Was unser Denken in den nächsten Jahrzehnten intensiv beschäftigen muss, ist die Frage nach der menschlichen Autonomie, Urteilsfähigkeit, Entscheidungskraft, Kreativität, Subjektivität, Moralität im neuen Kontext der quasiintelligenten Geräte. Lauter philosophische Fragen – Erbfragen der Aufklärung nota bene. 

Die Computerwissenschaften sind also auch philosophisch gefordert. Sie haben heute eine Schwelle erreicht, auf der sie wie Viktor Frankenstein im Begriff sind, ihre «Unschuld» zu verlieren. Und die eigentliche Frankenstein-Warnung des KI-Zeitalters be-steht nicht darin, dass wir Maschinen erschaffen, die uns gleichen. Sondern darin, dass wir uns selbst so lange an sie gewöhnen, bis wir ihnen gleichen.