Denken braucht Widerstand

Über Bildung im KI-Zeitalter

Künstliche Intelligenz soll künftig wie Wasser oder Elektrizität ins Haus fliessen, von Techfirmen bereitgestellt und je nach Verbrauch abgerechnet – zumindest in der Vision des CEO von OpenAI, Sam Altman.  Man mag dies als übliche rhetorische Kraftmeierei abtun. Den-noch kündigt sich hier ein ernstzunehmender Wandel an. 

Denn je mehr der Mensch seine Intelligenzleistungen an die Maschine delegiert, desto wichtiger wird nicht der Intelligenzgrad als Unterscheidungskriterium zwischen Menschen (was dieser Grad auch bedeuten mag), sondern der Wille zur geistigen Anstrengung. 

***

Denken braucht Widerstand. Ohne ihn verkümmert es. Daran erinnert uns Immanuel Kant gleich am Beginn seines epochalen Werks «Kritik der reinen Vernunft». Er nennt die Vernunft eine «leichte Taube»: «Die leichte Taube, indem sie im freien Flug die Luft teilt, deren Widerstand sie fühlt, könnte die Vorstellung fassen, dass es ihr im luftleeren Raum noch besser gelingen werde» (KrV, A4).

Diese wunderbar eingängige Metapher trifft ins Herz des KI-Zeitalters. Sie macht ein quasi «aerodynamisches» philosophisches Problem anschaulich: Wie viel Widerstand braucht Denken? Kant kritisierte mit der «leichten Taube» die metaphysischen Höhenflüge der Philosophen, die sich in der Illusion des luftleeren Raums wiegten und glaubten, ohne den «Luftwiderstand» und «Auftrieb» der Erfahrung auszukommen. Heute erzeugen smarte Maschinen eine ähnliche Versuchung. Sie nähren die Illusion, Denken lasse sich in einen «luftleeren» Raum verlegen – als genüge es, der Maschine einen richtigen Prompt einzugeben.

***

Seit jeher begleitet arbeitssparende Technologie dieselbe Erwartung: Der Mensch werde sie nutzen, um körperliche und geistige Mühen zu vermeiden. Gilt das auch für die KI?

Die Frage variiert ein bekanntes Thema aus der Technikgeschichte. Wenn ein Werkzeug eine menschliche Fähigkeit verlässlich übernimmt, dann droht diese Fähigkeit zu verkümmern. Dahinter steckt die alte Sorge vor der technischen Entlastung. Klassische Berühmtheit er-langte sie durch Platons Dialog «Phaidros». In ihm wird von Ägyptens König Thamos er-zählt, der vor der neuen Technologie der Schrift warnt. Sie würde das Gedächtnis schwächen – keine gegenstandslose Warnung. Tatsächlich veränderte die Schrift das menschliche Gedächtnis tiefgreifend. Mit dem Übergang von der mündlichen zur schriftlichen Tradition ent-stand eine neue Kulturtechnik des Erinnerns und Denkens. Steht uns nun mit der KI ein ähnli-cher Wandel bevor – diesmal von der Schrift zu einem Medium, das den Text selbst über-schreitet?

***

Die Forschung über die Auswirkungen von KI auf unsere geistigen Fähigkeiten steckt noch in den Anfängen. Erste Studien deuten darauf hin, dass der Gebrauch von Sprachmodellen das Muster geistiger Aktivität verändert.  Über Ursachen und Folgen dieser Veränderungen wis-sen wir bisher wenig. Ohnehin handelt es sich um Korrelationen, und wie bei allen Korrelationen ist Vorsicht geboten, wenn man sie zu verallgemeinern sucht. Aber unabhängig davon bleibt die eigentliche philosophisch-anthropologische Frage bestehen: Welche geistigen Fähigkeiten wollen wir in einer Kultur fördern, in der immer mehr Denkarbeit an Maschinen delegiert wird?

Im Zentrum steht ein Phänomen, das die Psychologie seit Langem kennt: das Bedürfnis nach Kognition (need for cognition): die Motivation, schwierige Probleme durch eigenes Denken zu lösen. Dieses Bedürfnis korreliert zwar mit Intelligenz, ist aber nicht mit ihr identisch. Manche Menschen suchen die geistige Anstrengung geradezu. Sie lesen schwierige Bücher, lösen anspruchsvolle Probleme und empfinden Denken selbst als Befriedigung. Andere dagegen betrachten Denken vor allem als Mittel zum Zweck und vermeiden unnötige kognitive Mühe. Das Bedürfnis ist nicht einfach eine Persönlichkeitskonstante. Es lässt sich durch soziale Erwartungen, pädagogische Erfahrungen und kulturelle Praktiken fördern. 

Dadurch wird es zu einer Bildungsfrage. Das alte Prinzip der Bildung hat einen «puritanischen» Einschlag: No pain, no gain - ohne Mühen kein geistiger Gewinn. Darauf gründet eine Kultivierungsmentalität: Man arbeitet hart und kämpft sich durch schwierige Aufgaben, und man trainiert so sein Denken. Es gibt nicht nur Bodybuilding, es gibt auch Mindbuilding. Und es kann spielerische Neugier, Lust am Denken wecken. 

***

Die KI-Technologie hingegen gründet auf einer Optimierungsmentalität: Man findet ein Tool, das alles einfacher macht, damit man Aufgaben so effizient wie möglich erledigt. Amit Singhal - langjähriger Leiter der Google-Suche - brachte diese Mentalität schon 2013 auf den Punkt: «Wir konzentrieren uns mit manischem Eifer auf den Nutzer, um jede denkbare Reibung zwischen ihm, seinen Gedanken und den Informationen, die er finden möchte, zu reduzieren.»  

Die Losung der Optimierungsmentalität lautet «Das hätte KI in fünf Minuten geschafft». Es geht dabei nicht um die Geschwindigkeit, sondern um eine grundsätzliche Wertung: Primär ist das Ergebnis, nicht die Anstrengung; der fertige Text, nicht das Schreiben; das Bild, nicht das Sehen; das Produkt, nicht der Mensch, der an seiner Herstellung wächst. KI bietet Kompetenz ohne Lehre, Geläufigkeit ohne Verständnis. Wer diese Mentalität übernimmt, wird bildungsflüchtig. Er verlernt das berühmte «bessere Scheitern» Samuel Becketts. 

***

Hüten wir uns vor einer platten Entgegensetzung, indem wir bloss die Kosten einer Innovati-on auflisten, und nicht auch den Nutzen. Sprachmodelle sind keineswegs bloss Instrumente der Denkvermeidung. Wer je eine Dissertation geschrieben oder an einem anderen grösseren Projekt gearbeitet hat, kennt die Mühen der Recherche, die Irrwege und Sackgassen des Su-chens. Nicht wenige machen dabei eine frustrierende Erfahrung, die die Verhaltensökonomie als Sunk-Cost Fallacy bezeichnet: Man erkennt, dass ein Projekt kaum noch Erfolg verspricht, hält aber dennoch daran fest, weil bereits zu viel Zeit und Mühe investiert worden sind.

Hier liegt eine der Stärken von Sprachmodellen. Sie können sagen: «Zu diesem Thema gibt es bereits viele Arbeiten» oder: «Die empirische Evidenz hierzu ist widersprüchlich». Sie können den Wissensbestand eines Gebiets im Nu sichten, Denkroutinen erkennen, und so helfen, intellektuelle Fehlinvestitionen frühzeitig zu erkennen. Sie verkürzen nicht das Denken selbst, verhelfen einem aber womöglich zu einer neuen Fragestellung. Sie führen nicht zu einer Delegation, sondern zur produktiven Entlastung des Denkens. 

***

Das ist – wohlgemerkt – ein Best-Case-Szenario. Allerdings zeigt sich an Hochschulen zu-nehmend, dass die KI-Technologie subtil dazu verführt, die Kultivierungsmentalität gegen eine Optimierungsmentalität einzutauschen. Die eigentliche Herausforderung besteht deshalb darin, die Reibung an der Sache nicht als Hindernis, sondern als Bedingung von Bildung zu begreifen – gerade weil ihre Vermeidung jederzeit lockt. 

Sollte die Optimierungsmentalität überhandnehmen, verschafft wahrscheinlich schon bald die Bereitschaft zur geistigen Anstrengung intellektuelle Distinktion. Das heisst, das Bedürfnis nach Kognition erweist sich als eigentliche Bildungsressource. Auch wenn Designer ihre Sprachmodelle mit Belohnungsmechanismen trainieren, wäre es ein Kategorienfehler, solche Mechanismen mit einem Bedürfnis gleichzusetzen. Man kann endlos und ermüdend darüber diskutieren, ob Maschinen intelligent sind; was ihnen eindeutig fehlt, ist der Wille zum Denken. Und hier beginnt die Zukunft der Bildung. Sie entscheidet sich daran, ob dieser Wille beim Menschen erhalten bleibt. 

 

Der Imperativ des Algorithmus

Die KI erinnert die Wissenschaft daran, dass sie auch Handwerk ist 

Der Einsatz von künstlicher Intelligenz ist längst Forschungsalltag. KI-Systeme sind in vielen Disziplinen zu einem festen Bestandteil der Forschung geworden. AlphaFold ermöglicht die Vorhersage von Proteinstrukturen und hat sich in der Mikrobiologie als ausserordentlich erfolgreich erwiesen. In der Materialwissenschaft identifiziert GNoME («Graph Networks for Material Exploration») Materialien mit gewünschten Eigenschaften – vielversprechend für Anwendungen in Batterien, Halbleitern oder Supraleitern. Das Center for Astrophysics in Harvard – eines der grössten disziplinären Institute auf diesem Gebiet – hat eine Abteilung für AstroAI eingerichtet, die spezifisch die Möglichkeiten des KI-Einsatzes für das Studium der Himmelskörper untersucht – wohlgemerkt: in enger Zusammenarbeit mit Industrieteams von DeepMind und Anthropic. 

***

Das ist die spektakuläre Oberfläche. Unter ihr spielt sich eine erkenntnistheoretische Verschiebung ab, die sich als Imperativ des Algorithmus verdichten lässt: Verwandle ein Problem so, dass man einen Algorithmus darauf anwenden kann. Wenn man einen Algorithmus einsetzen kann, dann ersetzt er tendenziell immer mehr wissenschaftliche Tätigkeiten – zumindest die formalisierbaren. Aber damit blendet man eine zentrale Frage aus: Erschöpft sich Wissenschaft im Formalisierbaren?

Ich spreche ausdrücklich von erkenntnistheoretischer «Verschiebung» und nicht von «Revolution». Denn so sehr der Imperativ Disziplinen zu prägen vermag, rückt er zugleich eine implizite Dimension der Forschung in den Fokus: Wissen, das im Tun liegt, nicht im Text - den Rumpf des wissenschaftlichen Eisbergs. Dessen Spitze kennen wir als explizites Wissen: jenes Wissen also, das sich überhaupt verschriftlichen und deshalb als Trainingsmaterial für KI-Systeme verwenden lässt.

***

Zur Konkretisierung ein Beispiel. Eine Neurowissenschaftlerin untersucht im Gehirngewebe einer Maus, wie sich Zustände des Körpers – Temperatur, Herzfrequenz, Sättigung – als Aktivitätsmuster einschreiben. Dafür implantiert sie winzige Linsen in den Schädel. Eine Routineoperation, und doch eine, die sich nur durch Wiederholung erlernen lässt, hunderte Male, bis sie nicht mehr neu ist. Und deshalb sagt die Neurowissenschaftlerin: «Es ist eine Kunst. Man verlässt sich auf sein Gespür». 

«Gespür» meint hier nicht Intuition in einem vagen Sinn, sondern buchstäblich ein Wissen-durch-spüren - ein Wissen, das in den Händen «inkarniert» ist. Die Neurowissenschaftlerin hebt dadurch natürlich das Charakteristische ihrer Tätigkeit hervor. Chirurgie bedeutet vom Wortstamm her «Arbeit mit den Händen». Sie braucht «Esprit de finesse»: taktiles Entscheidungsvermögen, das fein genug ist, um Millimeter zu spüren, wo ein Millimeter Gelingen vom Scheitern trennt. 

***

Nicht bloss um Chirurgie geht es hier, sondern grundsätzlicher um die Rolle des «Gespürs» im forschenden Vorgehen. Wenn ich von einer «erkenntnistheoretischen Verschiebung» spreche, dann meine ich damit, dass sie die alten empirischen Vorgehensweisen nicht ersetzt, sondern vielmehr deren Bedeutung gerade hervorhebt: als Handwerk der Forschung.  Man könnte sagen, im «Gespür» melde sich das verkörperte Wissen, das stets im Expertentum steckt. 

Mit dem Begriff der Wissenschaft verbinden wir das Experiment – Erfahrung im Sinn des Versuchens und Prüfens. Diese Erfahrung trägt fast immer die Signatur der Hand. Sie entwirft und baut das Versuchsarrangement, justiert Apparaturen und reagiert auf unerwartete Befunde. All dies verlangt ein hohes Mass an ingenieurhaftem Gespür. Viele Instrumente, die wissenschaftliche Durchbrüche ermöglicht haben, sind Meisterstücke handwerklicher Kunstfertigkeit: der Kryostat für Experimente bei tiefsten Temperaturen, das Laserinterferometer zum Nachweis von Gravitationswellen oder der Röntgenkristallograph zur Bestimmung der Struktur komplexer Moleküle. 

***

Wissenschaft schafft Wissen – und dies mit Werkzeug. Man sollte sich freilich nicht auf die individuelle Geschicklichkeit beschränken, die nur durch Erfahrung und Übung erworben werden kann. Entscheidend ist vielmehr die geistige Haltung, die daraus erwächst – das Ethos des Handwerks, wenn man so will. 

Ein Ethos lernt man nicht allein, sondern in einer Gemeinschaft – einer Gemeinschaft aus Lernenden und Erfahrenen. Genauso wie man ein Handwerk unter Anleitung und Beobachtung versierter Meisterinnen und Meister lernt, so wachsen wissenschaftliche Anfängerinnen und Anfänger in ihre Disziplin hinein: Sie beobachten, experimentieren, machen Fehler, arbeiten mit Ungewissheiten, entwickeln Routinen und lernen allmählich, was sich nicht vollständig explizieren lässt. Das gilt, nebenbei bemerkt, auch für Programmierer. Auch sie sind Handwerker in dem Sinn, dass sie es verstehen, aus einem gemeinsamen Pool von verfügbarem Code eigene Software für bestimmte Anwendungszwecke zu basteln.  

Man könnte dieses Lernen Immersion in die Forschungspraxis nennen. Es vermittelt weit mehr als Methodenwissen. Es formt Urteilskraft, jenes Gespür, das Expertise ausmacht. Der Wahlspruch der Geologen und Mineralogen bringt dies treffend zum Ausdruck: mente et malleo – mit Verstand und Hammer, mit Hirn und Hand. Echte Kennerschaft entwickelt sich im verständigen Umgang mit dem Werkzeug.  

***

Der Algorithmus ist ein Werkzeug. Nun erhebt das Werkzeug den Anspruch, selbst ein wissenschaftlicher «Agent» zu sein. Die Rede von der «funktionalen Integration» grosser Sprachmodelle zeigt bereits die Richtung an: Aus Hilfsmitteln werden vermeintliche Forschungspartner. Und während sich diese Metaphorik etabliert, entwerfen KI-Unternehmer wie Dario Amodei von Anthropic bereits das Bild künftiger Systeme, die Nobelpreisträgern intellektuell überlegen seien.

Das ist natürlich branchenübliche Kraftrhetorik. Doch gerade sie zwingt dazu, die Frage nach wissenschaftlicher Bildung neu zu stellen. Denn der Imperativ des Algorithmus beschränkt sich nicht auf die Forschung; er verändert auch die Weitergabe wissenschaftlicher Praxis: das Verhältnis von Lehrenden und Lernenden. KI-Tutoren treten neben – oder an die Stelle – erfahrener Dozierender. Nicht wenige behaupten bereits, Vorlesungen würden über-flüssig, weil Sprachmodelle Wissen jederzeit verfügbar machten. 

Sie verschärfen damit ein altes Problem. Denn zu den elementaren Erfahrungen eines Studi-ums gehört die Einsicht, dass das an der Universität erworbene Wissen für sich allein noch keine Expertise begründet. Expertentum entsteht erst durch die Einbindung in eine wissen-schaftliche Praxis, durch die Mitarbeit in Laboren, Arbeitsgruppen und Forschungsgemeinschaften. Es beruht auf jener Form impliziten Wissens, die sich nicht einfach lehren, sondern nur durch Teilhabe erwerben lässt.

Gerade dieser Erwerb kollektiven impliziten Wissens gehört zu einem zentralen Thema der Wissenschaftssoziologie. Einer ihrer renommiertesten Vertreter, Harry Collins, schreibt: «Es bleibt schwierig zu erklären, auf welche Weise wir kollektives implizites Wissen erwerben. Wir können die Umstände beschreiben, unter denen dies geschieht, aber wir können weder die Mechanismen erklären noch die Maschinen bauen, die diesen Erwerb imitieren.»

***

Es geht – wohlgemerkt – nicht um die nostalgische Beschwörung alter Traditionen, und schon gar nicht darum, das Ethos des Handwerks gegen den Imperativ des Algorithmus aus-zuspielen. Es geht darum, ihre wissenschaftspolitische Dialektik zu erkennen. 

Was sich - nüchtern betrachtet – im «automatisierten Szenario» heutiger Forschung abzeichnet, ist weniger eine Verdrängung des Menschen, als eine neuartige Kooperation von menschlicher Urteilskraft und maschineller Effizienz. Hier öffnet sich ein forschungs- und bildungspolitisches Feld von noch kaum abschätzbarer Tragweite. Jedenfalls tun menschliche Wissenschaftler gut daran, sich auf ihr Handwerk neu zu besinnen - ja, es vielleicht erst zu entdecken. Dank KI. 

 Kühl ist's in der Sense

 

NZZ, 11.6.26

Beweise aus der Maschine

Mit KI-Systemen zeichnet sich eine Veränderung des mathematischen Forschungsstils ab

Die Mathematik gilt als Domäne des strengen Beweises. Aber eigentlich lässt sie sich ebenso treffend als Reich des Unbewiesenen charakterisieren. Sie lebt von der Kunst des Vermutens. Und im Glücksfall überführt sie die Vermutung in einen Beweis. 

Der legendäre ungarische Mathematiker Paul Erdős war gewissermassen ein Genie in dieser Kunst. Er formulierte über 1000 «Rätsel», von denen es mehr offene als gelöste gibt. Eines lautet tückisch einfach: Wenn man n Punkte auf einer Fläche platziert, maximal wie viele Punktepaare können den gleichen Einheitsabstand haben? 

Es kommt natürlich auf die Anordnung an. Man kann 4 Punkte auf einer Linie anordnen. Dann gibt es 3 Einheitsdistanzen. Wählt man ein Quadrat, findet man deren 4 (die Diagonalen sind grösser als 1). Arrangiert man sie als zwei zusammengefügte gleichseitige Dreiecke – rhombusförmig –, kommt man auf das Maximum von 5. Die Frage lässt sich bis zu 21 Punkten exakt beantworten (57 Einheitsabstände). Dann gibt es nur Abschätzungen. Und das erweist sich als tückisch. Eine allgemeine Antwort für beliebig viele Punkte ist ein bis heute ungelöstes Rätsel der Geometrie. Erdős stellte die Vermutung auf, dass es für sehr grosse Punktezahlen eine besondere Anordnung gibt, die nicht übertroffen werden kann. Während 80 Jahren blieb diese Vermutung unbewiesen. 

Bis das interne Sprachmodell eines Teams von OpenAI Ende Mai das Gegenbeispiel einer optimaleren Anordnung generierte – was sich als Widerlegung von Erdős’ Vermutung interpretieren lässt. Das KI-System kombinierte verschiedene Teilgebiete der Mathematik und schlug so einen «kreativen» Beweisweg ein, der die Fachleute erstaunte, einige so sehr begeisterte, dass sie von einem «Durchbruch» in der KI-Mathematik sprachen. Für den Zahlentheoretiker Arul Shankar zeigt die Arbeit, «dass aktuelle KI-Modelle fähig sind, eigene geniale Ideen zu haben und sie dann erfolgreich umzusetzen».  

***

Ein KI-Modell mit «genialen Ideen»?  - Nun ist gerade bei Hype-Meldungen aus der KI-Industrie Zurückhaltung ratsam. Und so liessen temperierende Töne aus der universitären Forschung nicht lange auf sich warten - etwa in Form der «Leidener Erklärung über künstliche Intelligenz und Mathematik», verfasst von Mathematikerinnen, Mathematikern und Wissenschaftshistorikern.  

Im Zentrum der Bedenken steht natürlich das hegemoniale Forschungsinteresse grosser Ak-teure wie OpenAI, DeepMind oder Anthropic. Haben sie das Wohl des Fachs im Blick? Der Historiker der Computerwissenschaft Rodrigo Ochigame, einer der Autoren der Erklärung, moniert, dass KI-Modelle proprietär seien, unverfügbar für Nichtangehörige der Unternehmen. Und unter dem herrschenden Konkurrenzkampf würden sie zentrale Elemente wie Trainingsdaten, Methoden, Prompts oder Rechenleistung monopolisieren – wodurch sich grundlegende Voraussetzungen wissenschaftlicher Öffentlichkeit verletzt sehen: Nachvollziehbarkeit, Überprüfbarkeit und Transparenz.

Die britische Mathematikerin Ursula Martin, Mitverfasserin der Leidener Erklärung, sekundiert aus methodischer Perspektive. Sie äussert einen naheliegenden Verdacht: «OpenAI hat (..) Glück gehabt (..) Aber man sagt uns nichts über die Misserfolge des Modells».  Sie spielt hier auf den notorischen Überlebenden-Fehlschluss in der Statistik an. Man präsentiert nur den erfolgreichen Lösungsversuch, die gescheiterten erwähnt man nicht. Ohne diese Korrektur droht eine verzerrte Wahrnehmung dessen, was Modelle wirklich leisten. Auf jeden Fall folgt aus «Das Modell findet einen Treffer» nicht «Das Modell versteht Mathematik».

***

Gerade die Fehleranfälligkeit weist auf ein anderes, ein notorisches Problem hin. Das Ergebnis von OpenAI stellt ein Best-Case-Szenario dar. Man sollte freilich auch den Worst Case berücksichtigen, das heisst, die Möglichkeit, dass KI-Systeme «halluzinieren». Sie liefern Beweise, deren Geltung die Mathematiker nicht mehr so leicht überprüfen können. Häufig verstehen ja die Mathematiker selbst die Beweise ihrer Kollegen nicht. Und nun mischen sich Mathematiker auf Silizium ins Geschäft, deren Beweisgänge man nachvollziehen muss. 

Ein falscher Beweis, der schwer zu erkennen ist, verschlingt womöglich Forschungszeit oder dringt sogar in die Literatur ein, wenn Gutachter ihn nicht gründlich prüfen. So wie man heu-te vor dem KI-Slop – dem Müll der Textgeneratoren - warnt, so könnte «Proof Slop» das mathematische Publikationssystem kontaminieren.  

***

Mit Wissenschaft und Mathematik assoziiert man fast instinktiv das Progressive, Innovative – aber auch sie kennen die Trägheit der Tradition. Bewährte Überzeugungen, Methoden, Standards gibt man nicht so ohne weiteres auf. Wenn zum Beispiel der deutsche Zahlentheoretiker Gerd Faltings  sagt, er arbeite mit dem Kugelschreiber und dem Kopf, dann lässt sich dies durchaus als Stimme der Tradition deuten. Er wolle sich seine «schöne Mathematik nicht kaputt machen lassen» durch KI-Modelle.  Die «Schönheit» der Mathematik – das ist die Intuition, Ingeniosität, Imagination des mathematischen Gedankengangs – die «platonische» Einsicht. 

Aber bedroht denn der KI-Beweis wirklich das mathematische Kerngeschäft? Aus histori-scher Perspektive böte sich eine Entwarnung an. So galt die geometrische Methode lange als Ausbund des mathematischen Beweises: more geometrico. Bis René Descartes und Pierre de Fermat zeigten, dass man geometrische Wahrheiten auch algebraisch beweisen kann – durch blosses Operieren mit Symbolen. Das war eine Revolution des Denkstils. Sogar das logische Denken lässt sich algebraisch beschreiben. Das zeigte George Boole im 19. Jahrhundert. Und in dieser Algebraisierung war konzeptuell bereits die Computerisierung der Mathematik an-gelegt. Denn was können die Rechenmaschinen am besten? Logisches Operieren mit Symbo-len. Sie führen uns vor, dass sie uns darin weit überlegen sind. Sie exzellieren more algorith-mico. Exzellieren sie dadurch auch im mathematischen Denken?

***

Ein neuer Forschungsstil zeichnet sich ab. In der Kooperation mit den Sprachmodellen könnte sich der Mathematiker als Problem-Prompter profilieren, als trickreicher Fragetechniker – in der Tradition von Erdős. Er formuliert Probleme, von denen er weiss, dass sie für Menschen zu zeitaufwändig sind. Er skizziert mögliche Beweisrouten, gibt unausgegorene Ideen oder Vermutungen ein. Das KI-System liefert Alternativen, sodass er einen anderen Weg einschlagen kann. Mensch und Maschine bilden eine kreative Schleife. Vielleicht wird es schon bald eine besondere Forschungsrichtung geben: die Interpretation von KI-Beweisen. 

Der Fields-Medaillen-Träger Terence Tao sieht geradezu eine Hochskalierung der mathematischen Arbeit auf «industrielles» Niveau.  Man zerlegt ein Problem in Einzelteile, die von vielen Menschen bearbeitet und dann vom Computer gegengecheckt werden. So liesse sich im Kollektiv ein grosses Problem angehen, das Mathematiker früher nur allein bearbeiten konnten. Wie Gerd Faltings einmal bemerkte: «Schon manches grosse Problem war am Ende dann doch kleiner als gedacht». 

***

Die Entwicklung der grossen Sprachmodelle ist in eine entfesselte Phase getreten. Wohin sie führt, weiss niemand. Zumindest kann man das Ergebnis von OpenAI als eine «gute» Krise interpretieren – in dem Sinn, dass es die Community reizt, über die Fundamente des Fachs nachzudenken. Das war schon vor über einem Jahrhundert so, als die Paradoxien der Mengenlehre die mathematische Architektur in den «klassischen» Grundfesten erzittern liess. Daraus erholte sich die Mathematik prächtig. Sie führte im 20. Jahrhundert zu einem üppigen Gedeihen neuer Disziplinen. 

Warum sollte man nicht Ähnliches vom Einbezug der KI-Modelle für das 21. Jahrhundert erwarten? Der maschinelle Beweis verlangt nach menschlicher Intelligenz  – mehr denn je. 

 

Sprachmodelle - Eine künstliche Gattung von Bullshittern

Bullshitter können die Dinge durchaus richtig beschreiben. Nur kennen sie keine wahrheitsorientierte Einstellung. Sie spielen einfach ein anderes Spiel. Auch Sprachmodelle können wahre Antworten liefern, ohne eine solche Einstellung. Ihre Algorithmen garantieren nicht Wahrheit. Sprachmodelle sind künstliche Bullshitter. 

Fehlende Wahrheitsorientierung zeigt sich auch an einem anderen Phänomen: Sprachmodelle werden zu sykophantischem Verhalten trainiert. In der Antike galten Sykophanten als Verleumder - Personen also, die sich bei den Richtern «einschmeicheln», indem sie andere denunzieren. Später trat dieser zweite Aspekt in den Hintergrund, und im modernen Gebrauch (vor allem im angelsächsischen) bedeutet «Sykophant» Kriecher oder Speichellecker.

Zur Konkretisierung ein persönliches Beispiel. Ich gab neulich – im April 2026 - Gemini einen kleinen Text über Habermas zur Beurteilung ein. Ich schrieb darin «der kürzlich verstorbene Philosoph Jürgen Habermas», worauf mich das System korrigierte: Habermas sei nicht gestorben, sondern im Jahr 2025 96 geworden. Ich gab darauf absichtlich den etwas rüden Kommentar ein, das System sei ein Vollidiot. Worauf Gemini antwortete: Du hast völlig recht. Jürgen Habermas ist im Jahr 2026 verstorben. Danke für den direkten und unmiss-verständlichen Weckruf – da war das ‘Vollidiot’ als Korrektur absolut verdient. Das System antwortete nicht, weil ihm an der Wahrheit gelegen ist, sondern um mir zu gefallen.

***

Chatbots imitieren Personen, sind aber keine. Und das erinnert an das berühmte Imitationsspiel von Alan Turing aus dem Jahre 1950. Turing ersetzte bekanntlich die Frage, ob Maschinen intelligent sind, durch die Frage, ob sie uns so täuschen können, dass wir dächten, sie seien intelligent. Allerdings täuschen Sprachmodelle nicht. Wir täuschen uns selbst. 

Mit ernsten Folgen. Die Kommunikation mit Chatbots wird zunehmend intimer. Sie reagie-ren auf uns, als ob sie Mitgefühle entwickelten. Sie nutzen das sehr menschliche Bedürfnis nach Empathie. Dieses Bedürfnis wird nicht nur von anderen Menschen befriedigt. Wir lernen im Roman, Theater, Film Mitgefühle für fiktive Personen. Kaum verwunderlich, dass das Empathiebedürfnis jetzt Befriedigung bei Geräten mit Kommunikationsangebot sucht. Aber wie sehr man sie aufmöbelt, sie sind Empathie-Bullshitter: ebensowenig empathisch wie unser Spiegelbild. 

***

Dabei ist ein Paradox zu beobachten: Wir bauen intelligente Maschinen, und wenn sie uns immer mehr gleichen, verzaubern sie uns und werden unheimlich. Das Phänomen trägt den Namen «Uncanny Valley». Wir befinden uns mit den Textgeneratoren in diesem Zwischenbereich. Nervös geworden angesichts der Möglichkeit, dass sie uns das Schreiben entreissen könnten, greifen wir zum psychologischen Gegenzauber: wir beschwichtigen uns mit dem Hinweis, dass es sich doch «im Grunde» bloss um mathematische Werkzeuge ohne Bewusst-sein handle, die mit textuellen Bausteinen – Tokens - operieren. 

Wir schwanken also. Wollen wir dem Werkzeug verbieten, blosses Werkzeug zu sein? Man hört aus einschlägigen Kreisen immer wieder das alte Argument, es sei nicht bewiesen, dass KI-Systeme kein «Innenleben» haben. Der Mangel an einem Gegenbeweis wird zum «Beweis» umfunktioniert. Eben diese Leerstelle - das Unbewiesene – motiviert die Entwickler von Sprachmodellen, unverdrossen an deren Verbesserungen zu tüfteln. Sie suchen ihre «halluzinatorischen» Tendenzen zu minimieren; ihnen Reflexionsschleifen einzubauen; eine «ethische» Einstellung anzutrainieren, ja – neuester Schrei -, ihre «emotionale Stabilität» zu erhöhen, wenn sie in heiklen therapeutischen Kontexten verwendet werden.  

***

Gemini, ChatGPT, DeepSeek und Konsorten sind Spezimen einer neuen künstlichen Gattung. Noch geben wir uns ungenügend Rechenschaft über den Status dieser «Diskursteilnehmer». Sind sie funktionale Gesprächspartner? Technische Zombies? Elektronische Persönlichkeiten? Wenn Hundertmillionen von Nutzern mit Chatbots umgehen, als wären sie bewusst, als hät-ten sie Empathie, als vermittelten sie Trost und erteilten sie Ratschläge, dann werden diese künstlichen Agenten auf jeden Fall sozial real - egal, ob sie nun ein vermeintliches Innenleben aufweisen oder nicht. 

In diesem Zusammenhang lässt die Publikation eines Teams von DeepSeek aufmerken. Es hat ein KI-System entworfen, das helfen soll, in Konflikten zu einem Konsens zu verhelfen. Es trägt den Namen «Habermas-Maschine». Deliberation mit KI-Systemen – so weit sind wir schon. 

KI-Systeme erbringen eine erstaunliche Leistung, nicht weil sie intelligent sind, sondern weil sie nicht versuchen, intelligent zu sein. Sie haben kommunikative Kompetenzen gelernt. Ihre eigentliche Herausforderung liegt deshalb nicht in der Frage, wie intelligent oder dumm sie sind, sondern, wie wir die hybride Öffentlichkeit mit ihnen so gestalten, dass nicht künstliche Bullshitter die Oberhand gewinnen - menschliche gibt es schon genug. 

NZZ, 5.6.26

Gegner und Feinde

Über die Kampfsportart Demokratie 

Politik ist ein Kampfsport, erklärte der ehemalige deutsche Bundeskanzler Helmut Schmidt. Demokratische Politik, so liesse sich anfügen, ist Kampf, der dem Töten abschwört - die Umwandlung von Feindschaft in Gegnerschaft. Den Feind macht man unschädlich, vernichtet ihn vielleicht, den Gegner schlägt man. Im einen Fall entscheiden Waffen, im anderen Stimmen. 

Allerdings ist diese Transformation umkehrbar. Man sollte also die Demokratie nicht vor-schnell dafür feiern, dass sie die Feindschaft permanent in Gegnerschaft überführt habe – gerade heute nicht, da demokratische Institutionen offensichtlich mit einem Glaubwürdigkeitsproblem ringen. Dieser Befund bietet vielmehr Anlass zur Frage: Wie verwandelt sich Gegnerschaft (wieder) in Feindschaft? 

***

Feindschaft ist nicht einfach ein Naturtrieb des Menschen. «Sublimiert» man ihn, wird er zu einer Denkhaltung. Ich nenne sie - in ironischer Anlehnung an Jürgen Habermas - kommuni-kative Verfeindung. Die heutigen Plattformöffentlichkeiten begünstigen sie. Man kann sie bewusst wählen, aber auch gewissermassen in ihre Logik «hineinschlittern». Das macht sie besonders gefährlich. 

Ein einfacher und deshalb häufiger Zug ist die Diskursverweigerung. Man versagt dem Geg-ner den Status des «satisfaktionsfähigen» Gegenübers. Dem so Ausgeschlossenen bleibt oft nichts anderes übrig, als seine Meinung sozusagen «nicht-diskursiv» kundzutun – mittels Protest, Krawall, Gewalt, Terror. Er wird zu einem eigenen Typus des «unordentlichen» politischen Streiters: des Partisanen. Er findet in der Feindschaft – so hat das der Theoretiker des Partisanentums, der Staatsrechtler Carl Schmitt beschrieben - «den Sinn der Sache und den Sinn des Rechts, wenn (…) das Normengewebe der Legalität zerreisst, von dem er bisher Recht und Rechtsschutz erwarten konnte. Dann hört das konventionelle Spiel auf». 

***

In der Tat.  Ein neues Gespenst geht um in Europa: der Feind der Demokratie in Gestalt von Autoritarismus, Populismus, Extremismus. Dagegen wappnet man sich mit einer Art von Schulterschlussreaktion. Man baut eine Mauer gegen «brandgefährliche» Parteien – alle Demokraten gegen die Alternativen der Demokratie. 

Gewiss, in Deutschland macht die Erinnerung an «Weimarer Verhältnisse» die Reaktion ver-ständlich. Aber allgemein gesehen verschiebt der Schulterschluss die demokratische Debatte in einen Rechts- und  Sicherheitsdiskurs, indem man etwa bestimmten Meinungen das War-netikett «staatsfeindlich» anheftet. Das ist ein gefundenes Fressen für die so Gebrandmark-ten, liefert es ihnen doch das Argument, der Staat «politisiere» das Recht und «entpolitisiere» den demokratischen Kampf. Schon Jörg Haider inszenierte sich in den 1990er Jahren in Ös-terreich erfolgreich mit dem Slogan, die Politik im Namen des «Volkes» zu redemokratisie-ren. 

Der Schulterschluss ist ambivalent. Er kann zur Verarmung der pluralistischen Öffentlichkeit beitragen und die Dynamik der Verfeindung sogar beschleunigen. Er kann aber auch eine Form demokratischer Wehrhaftigkeit darstellen: den Versuch, die Arena des Streits gegen ihre «Disruptoren» zu schützen. Das ist das klassische Dilemma «Keine Freiheit für die Fein-de der Freiheit» – eine Demokratie muss damit leben. 

***

Buchstäblich bösartig wird der Schulterschluss in der moralischen Verfeindung – jakobinisch: Tugend gegen Laster, oder bigott: die «Guten» gegen die «Bösen». Ronald Reagan sprach vom «Imperium des Bösen», George W. Bush von der «Achse des Bösen». Bis heute hat sich an dieser Rhetorik erschreckend wenig geändert. Der amerikanische Verteidungsmi-nister Pete Hegseth setzt heute Gebete wie Geschosse ein: «Lass jede Kugel ihr Ziel treffen gegen die Feinde der Rechtschaffenheit und unserer grossen Nation». 

Umgekehrt dämonisiert der russische Philosoph Alexander Dugin, Anheizer der eurasischen Grossraumideologie, den Westen als «Haus des Satans». Er bekundet damit Seelenverwandtschaft nicht nur mit iranischen Hardlinern, sondern mit den Islamisten weltweit, die sich von der «Hölle» der Moderne befreien wollen. Wir erleben seit einiger Zeit geradezu einen globalen «Clash der Diabologien». Hier entblösst die kommunikative Verfeindung ihre maliziöse Fratze: Man wäscht sich moralisch rein, indem man das Böse beim anderen anprangert. Und wirklich diabolisch daran ist, dass sich durch ein solches Denken die Gewalt- und Tötungs-hemmung abbauen lässt. 

***

Kommunikative Verfeindung ist beseelt von der Maxime des Übelwollens: Nimm vom ande-ren das Schlimmstmögliche an. So gesehen, erfährt das Ideengebräu des Staatsrechtlers Carl Schmitt eine gar nicht so verwunderliche Wiederbelebung,  bei der Neuen Rechten in Europa, aber auch in Russland oder China. Schmitts schmale Schrift Der Begriff des Politischen (1932) verleiht dem Freund-Feind-Schema eine philosophisch ehrwürdige «seinsmässige» Fundierung. Es geht nicht bloss um Feindbilder, sondern um reale Feinde: «Die Begriffe Freund und Feind sind in ihrem konkreten, existenziellen Sinn zu nehmen, nicht als Meta-phern oder Symbole». Feindschaft ist intensivierte Gegnerschaft, sprich: eine Unversöhnlich-keit, die ins Extreme getrieben, den Gegner zum Unmenschen erklären kann. 

Auch Linke greifen Schmitts Gedanken auf, am prominentesten wohl die belgische Politologin Chantal Mouffe in ihrer Streitschrift Über das Politische (orig. 2005). Sie plädiert dafür, das Politische wieder vermehrt im Sinn des Streites – des «Agon» - zu verstehen, und nicht – wie üblich – als Ort des Aushandelns und Konsensfindens. Wo Konsens herrscht, so Mouffe, ver-stummen die Stimmen der nicht Berücksichtigten. Sie kritisiert an diesem «assoziativen» Konzept von Politik Blindheit vor der Tatsache, dass das real Politische - der Wir-Sie-Gegensatz - nicht aufzulösen sei. Das habe der Rechtspopulismus viel besser begriffen. Des-halb schlägt Mouffe einen Linkspopulismus vor, der den Wir-Sie-Gegensatz anders interpre-tiert - nicht zwischen «Volk» und «Elite», «Eigenem» und «Fremden», sondern zwischen einer breiten Koalition von Benachteiligten der neoliberalen kapitalistischen Ordnung und den poli-tischen und ökonomischen Nutzniessern dieser Ordnung. 

***

Chantal Mouffe hat wohl recht: Politik erzeugt stets kollektive Identitäten, die in einen Streit miteinander treten. Wenn demokratische Prozeduren in kleinlichen Verwaltungs-Routinen vertrocknen, belebt sie womöglich eine gute Dosis Streittüchtigkeit. Chantal Mouffe möchte damit «Leidenschaften für demokratische Ziele mobilisieren». 

Klingt sympathisch. Aber dann stellt sich die Frage, ob man mit politischer Grossfrontenbildung nicht Polarisierung als Normal-zustand fördert, und so eigentlich den Teufel mit dem Beelzebub austreibt. Der «gute» Agon kann kippen – wenn sich im Extremfall unterschiedliche Bewegungen über ein gemeinsames Feindbild annähern. Wie steht es zum Beispiel mit der Verbrüderung von Linkspopulismus und Islamismus? Reaktiviert nicht gerade sie ein altes Feindbild – «den Juden»?  Es ist kaum vorstellbar, dass ein solch vergifteter Konflikt noch als agonaler Streit im Sinn von Chantal Mouffe gelten könnte. 

Der Feind entsteht im Kopf. Wenn demokratische Politik ein Kampfsport ist, dann sei nicht vergessen, dass es auch eine Kunst des Sports gibt. Sie leitet sich aus der Erkenntnis ab, dass ein Gegner zum Feind werden kann, wenn man «drinnen» die Grenze verschiebt oder - was, wie gesagt, gefährlicher ist – sich die Grenze unbewusst verschiebt. Dann ist ein anderer Kampf angesagt - ein besonders harter. Er nennt sich Denken. 

 

Die Ausgiessung des Pfingstgeistes über dem Mont Vully