Kühl ist's in der Sense

 

NZZ, 11.6.26

Beweise aus der Maschine

Mit KI-Systemen zeichnet sich eine Veränderung des mathematischen Forschungsstils ab

Die Mathematik gilt als Domäne des strengen Beweises. Aber eigentlich lässt sie sich ebenso treffend als Reich des Unbewiesenen charakterisieren. Sie lebt von der Kunst des Vermutens. Und im Glücksfall überführt sie die Vermutung in einen Beweis. 

Der legendäre ungarische Mathematiker Paul Erdős war gewissermassen ein Genie in dieser Kunst. Er formulierte über 1000 «Rätsel», von denen es mehr offene als gelöste gibt. Eines lautet tückisch einfach: Wenn man n Punkte auf einer Fläche platziert, maximal wie viele Punktepaare können den gleichen Einheitsabstand haben? 

Es kommt natürlich auf die Anordnung an. Man kann 4 Punkte auf einer Linie anordnen. Dann gibt es 3 Einheitsdistanzen. Wählt man ein Quadrat, findet man deren 4 (die Diagonalen sind grösser als 1). Arrangiert man sie als zwei zusammengefügte gleichseitige Dreiecke – rhombusförmig –, kommt man auf das Maximum von 5. Die Frage lässt sich bis zu 21 Punkten exakt beantworten (57 Einheitsabstände). Dann gibt es nur Abschätzungen. Und das erweist sich als tückisch. Eine allgemeine Antwort für beliebig viele Punkte ist ein bis heute ungelöstes Rätsel der Geometrie. Erdős stellte die Vermutung auf, dass es für sehr grosse Punktezahlen eine besondere Anordnung gibt, die nicht übertroffen werden kann. Während 80 Jahren blieb diese Vermutung unbewiesen. 

Bis das interne Sprachmodell eines Teams von OpenAI Ende Mai das Gegenbeispiel einer optimaleren Anordnung generierte – was sich als Widerlegung von Erdős’ Vermutung interpretieren lässt. Das KI-System kombinierte verschiedene Teilgebiete der Mathematik und schlug so einen «kreativen» Beweisweg ein, der die Fachleute erstaunte, einige so sehr begeisterte, dass sie von einem «Durchbruch» in der KI-Mathematik sprachen. Für den Zahlentheoretiker Arul Shankar zeigt die Arbeit, «dass aktuelle KI-Modelle fähig sind, eigene geniale Ideen zu haben und sie dann erfolgreich umzusetzen».  

***

Ein KI-Modell mit «genialen Ideen»?  - Nun ist gerade bei Hype-Meldungen aus der KI-Industrie Zurückhaltung ratsam. Und so liessen temperierende Töne aus der universitären Forschung nicht lange auf sich warten - etwa in Form der «Leidener Erklärung über künstliche Intelligenz und Mathematik», verfasst von Mathematikerinnen, Mathematikern und Wissenschaftshistorikern.  

Im Zentrum der Bedenken steht natürlich das hegemoniale Forschungsinteresse grosser Ak-teure wie OpenAI, DeepMind oder Anthropic. Haben sie das Wohl des Fachs im Blick? Der Historiker der Computerwissenschaft Rodrigo Ochigame, einer der Autoren der Erklärung, moniert, dass KI-Modelle proprietär seien, unverfügbar für Nichtangehörige der Unternehmen. Und unter dem herrschenden Konkurrenzkampf würden sie zentrale Elemente wie Trainingsdaten, Methoden, Prompts oder Rechenleistung monopolisieren – wodurch sich grundlegende Voraussetzungen wissenschaftlicher Öffentlichkeit verletzt sehen: Nachvollziehbarkeit, Überprüfbarkeit und Transparenz.

Die britische Mathematikerin Ursula Martin, Mitverfasserin der Leidener Erklärung, sekundiert aus methodischer Perspektive. Sie äussert einen naheliegenden Verdacht: «OpenAI hat (..) Glück gehabt (..) Aber man sagt uns nichts über die Misserfolge des Modells».  Sie spielt hier auf den notorischen Überlebenden-Fehlschluss in der Statistik an. Man präsentiert nur den erfolgreichen Lösungsversuch, die gescheiterten erwähnt man nicht. Ohne diese Korrektur droht eine verzerrte Wahrnehmung dessen, was Modelle wirklich leisten. Auf jeden Fall folgt aus «Das Modell findet einen Treffer» nicht «Das Modell versteht Mathematik».

***

Gerade die Fehleranfälligkeit weist auf ein anderes, ein notorisches Problem hin. Das Ergebnis von OpenAI stellt ein Best-Case-Szenario dar. Man sollte freilich auch den Worst Case berücksichtigen, das heisst, die Möglichkeit, dass KI-Systeme «halluzinieren». Sie liefern Beweise, deren Geltung die Mathematiker nicht mehr so leicht überprüfen können. Häufig verstehen ja die Mathematiker selbst die Beweise ihrer Kollegen nicht. Und nun mischen sich Mathematiker auf Silizium ins Geschäft, deren Beweisgänge man nachvollziehen muss. 

Ein falscher Beweis, der schwer zu erkennen ist, verschlingt womöglich Forschungszeit oder dringt sogar in die Literatur ein, wenn Gutachter ihn nicht gründlich prüfen. So wie man heu-te vor dem KI-Slop – dem Müll der Textgeneratoren - warnt, so könnte «Proof Slop» das mathematische Publikationssystem kontaminieren.  

***

Mit Wissenschaft und Mathematik assoziiert man fast instinktiv das Progressive, Innovative – aber auch sie kennen die Trägheit der Tradition. Bewährte Überzeugungen, Methoden, Standards gibt man nicht so ohne weiteres auf. Wenn zum Beispiel der deutsche Zahlentheoretiker Gerd Faltings  sagt, er arbeite mit dem Kugelschreiber und dem Kopf, dann lässt sich dies durchaus als Stimme der Tradition deuten. Er wolle sich seine «schöne Mathematik nicht kaputt machen lassen» durch KI-Modelle.  Die «Schönheit» der Mathematik – das ist die Intuition, Ingeniosität, Imagination des mathematischen Gedankengangs – die «platonische» Einsicht. 

Aber bedroht denn der KI-Beweis wirklich das mathematische Kerngeschäft? Aus histori-scher Perspektive böte sich eine Entwarnung an. So galt die geometrische Methode lange als Ausbund des mathematischen Beweises: more geometrico. Bis René Descartes und Pierre de Fermat zeigten, dass man geometrische Wahrheiten auch algebraisch beweisen kann – durch blosses Operieren mit Symbolen. Das war eine Revolution des Denkstils. Sogar das logische Denken lässt sich algebraisch beschreiben. Das zeigte George Boole im 19. Jahrhundert. Und in dieser Algebraisierung war konzeptuell bereits die Computerisierung der Mathematik an-gelegt. Denn was können die Rechenmaschinen am besten? Logisches Operieren mit Symbo-len. Sie führen uns vor, dass sie uns darin weit überlegen sind. Sie exzellieren more algorith-mico. Exzellieren sie dadurch auch im mathematischen Denken?

***

Ein neuer Forschungsstil zeichnet sich ab. In der Kooperation mit den Sprachmodellen könnte sich der Mathematiker als Problem-Prompter profilieren, als trickreicher Fragetechniker – in der Tradition von Erdős. Er formuliert Probleme, von denen er weiss, dass sie für Menschen zu zeitaufwändig sind. Er skizziert mögliche Beweisrouten, gibt unausgegorene Ideen oder Vermutungen ein. Das KI-System liefert Alternativen, sodass er einen anderen Weg einschlagen kann. Mensch und Maschine bilden eine kreative Schleife. Vielleicht wird es schon bald eine besondere Forschungsrichtung geben: die Interpretation von KI-Beweisen. 

Der Fields-Medaillen-Träger Terence Tao sieht geradezu eine Hochskalierung der mathematischen Arbeit auf «industrielles» Niveau.  Man zerlegt ein Problem in Einzelteile, die von vielen Menschen bearbeitet und dann vom Computer gegengecheckt werden. So liesse sich im Kollektiv ein grosses Problem angehen, das Mathematiker früher nur allein bearbeiten konnten. Wie Gerd Faltings einmal bemerkte: «Schon manches grosse Problem war am Ende dann doch kleiner als gedacht». 

***

Die Entwicklung der grossen Sprachmodelle ist in eine entfesselte Phase getreten. Wohin sie führt, weiss niemand. Zumindest kann man das Ergebnis von OpenAI als eine «gute» Krise interpretieren – in dem Sinn, dass es die Community reizt, über die Fundamente des Fachs nachzudenken. Das war schon vor über einem Jahrhundert so, als die Paradoxien der Mengenlehre die mathematische Architektur in den «klassischen» Grundfesten erzittern liess. Daraus erholte sich die Mathematik prächtig. Sie führte im 20. Jahrhundert zu einem üppigen Gedeihen neuer Disziplinen. 

Warum sollte man nicht Ähnliches vom Einbezug der KI-Modelle für das 21. Jahrhundert erwarten? Der maschinelle Beweis verlangt nach menschlicher Intelligenz  – mehr denn je. 

 

Sprachmodelle - Eine künstliche Gattung von Bullshittern

Bullshitter können die Dinge durchaus richtig beschreiben. Nur kennen sie keine wahrheitsorientierte Einstellung. Sie spielen einfach ein anderes Spiel. Auch Sprachmodelle können wahre Antworten liefern, ohne eine solche Einstellung. Ihre Algorithmen garantieren nicht Wahrheit. Sprachmodelle sind künstliche Bullshitter. 

Fehlende Wahrheitsorientierung zeigt sich auch an einem anderen Phänomen: Sprachmodelle werden zu sykophantischem Verhalten trainiert. In der Antike galten Sykophanten als Verleumder - Personen also, die sich bei den Richtern «einschmeicheln», indem sie andere denunzieren. Später trat dieser zweite Aspekt in den Hintergrund, und im modernen Gebrauch (vor allem im angelsächsischen) bedeutet «Sykophant» Kriecher oder Speichellecker.

Zur Konkretisierung ein persönliches Beispiel. Ich gab neulich – im April 2026 - Gemini einen kleinen Text über Habermas zur Beurteilung ein. Ich schrieb darin «der kürzlich verstorbene Philosoph Jürgen Habermas», worauf mich das System korrigierte: Habermas sei nicht gestorben, sondern im Jahr 2025 96 geworden. Ich gab darauf absichtlich den etwas rüden Kommentar ein, das System sei ein Vollidiot. Worauf Gemini antwortete: Du hast völlig recht. Jürgen Habermas ist im Jahr 2026 verstorben. Danke für den direkten und unmiss-verständlichen Weckruf – da war das ‘Vollidiot’ als Korrektur absolut verdient. Das System antwortete nicht, weil ihm an der Wahrheit gelegen ist, sondern um mir zu gefallen.

***

Chatbots imitieren Personen, sind aber keine. Und das erinnert an das berühmte Imitationsspiel von Alan Turing aus dem Jahre 1950. Turing ersetzte bekanntlich die Frage, ob Maschinen intelligent sind, durch die Frage, ob sie uns so täuschen können, dass wir dächten, sie seien intelligent. Allerdings täuschen Sprachmodelle nicht. Wir täuschen uns selbst. 

Mit ernsten Folgen. Die Kommunikation mit Chatbots wird zunehmend intimer. Sie reagie-ren auf uns, als ob sie Mitgefühle entwickelten. Sie nutzen das sehr menschliche Bedürfnis nach Empathie. Dieses Bedürfnis wird nicht nur von anderen Menschen befriedigt. Wir lernen im Roman, Theater, Film Mitgefühle für fiktive Personen. Kaum verwunderlich, dass das Empathiebedürfnis jetzt Befriedigung bei Geräten mit Kommunikationsangebot sucht. Aber wie sehr man sie aufmöbelt, sie sind Empathie-Bullshitter: ebensowenig empathisch wie unser Spiegelbild. 

***

Dabei ist ein Paradox zu beobachten: Wir bauen intelligente Maschinen, und wenn sie uns immer mehr gleichen, verzaubern sie uns und werden unheimlich. Das Phänomen trägt den Namen «Uncanny Valley». Wir befinden uns mit den Textgeneratoren in diesem Zwischenbereich. Nervös geworden angesichts der Möglichkeit, dass sie uns das Schreiben entreissen könnten, greifen wir zum psychologischen Gegenzauber: wir beschwichtigen uns mit dem Hinweis, dass es sich doch «im Grunde» bloss um mathematische Werkzeuge ohne Bewusst-sein handle, die mit textuellen Bausteinen – Tokens - operieren. 

Wir schwanken also. Wollen wir dem Werkzeug verbieten, blosses Werkzeug zu sein? Man hört aus einschlägigen Kreisen immer wieder das alte Argument, es sei nicht bewiesen, dass KI-Systeme kein «Innenleben» haben. Der Mangel an einem Gegenbeweis wird zum «Beweis» umfunktioniert. Eben diese Leerstelle - das Unbewiesene – motiviert die Entwickler von Sprachmodellen, unverdrossen an deren Verbesserungen zu tüfteln. Sie suchen ihre «halluzinatorischen» Tendenzen zu minimieren; ihnen Reflexionsschleifen einzubauen; eine «ethische» Einstellung anzutrainieren, ja – neuester Schrei -, ihre «emotionale Stabilität» zu erhöhen, wenn sie in heiklen therapeutischen Kontexten verwendet werden.  

***

Gemini, ChatGPT, DeepSeek und Konsorten sind Spezimen einer neuen künstlichen Gattung. Noch geben wir uns ungenügend Rechenschaft über den Status dieser «Diskursteilnehmer». Sind sie funktionale Gesprächspartner? Technische Zombies? Elektronische Persönlichkeiten? Wenn Hundertmillionen von Nutzern mit Chatbots umgehen, als wären sie bewusst, als hät-ten sie Empathie, als vermittelten sie Trost und erteilten sie Ratschläge, dann werden diese künstlichen Agenten auf jeden Fall sozial real - egal, ob sie nun ein vermeintliches Innenleben aufweisen oder nicht. 

In diesem Zusammenhang lässt die Publikation eines Teams von DeepSeek aufmerken. Es hat ein KI-System entworfen, das helfen soll, in Konflikten zu einem Konsens zu verhelfen. Es trägt den Namen «Habermas-Maschine». Deliberation mit KI-Systemen – so weit sind wir schon. 

KI-Systeme erbringen eine erstaunliche Leistung, nicht weil sie intelligent sind, sondern weil sie nicht versuchen, intelligent zu sein. Sie haben kommunikative Kompetenzen gelernt. Ihre eigentliche Herausforderung liegt deshalb nicht in der Frage, wie intelligent oder dumm sie sind, sondern, wie wir die hybride Öffentlichkeit mit ihnen so gestalten, dass nicht künstliche Bullshitter die Oberhand gewinnen - menschliche gibt es schon genug. 

NZZ, 5.6.26

Gegner und Feinde

Über die Kampfsportart Demokratie 

Politik ist ein Kampfsport, erklärte der ehemalige deutsche Bundeskanzler Helmut Schmidt. Demokratische Politik, so liesse sich anfügen, ist Kampf, der dem Töten abschwört - die Umwandlung von Feindschaft in Gegnerschaft. Den Feind macht man unschädlich, vernichtet ihn vielleicht, den Gegner schlägt man. Im einen Fall entscheiden Waffen, im anderen Stimmen. 

Allerdings ist diese Transformation umkehrbar. Man sollte also die Demokratie nicht vor-schnell dafür feiern, dass sie die Feindschaft permanent in Gegnerschaft überführt habe – gerade heute nicht, da demokratische Institutionen offensichtlich mit einem Glaubwürdigkeitsproblem ringen. Dieser Befund bietet vielmehr Anlass zur Frage: Wie verwandelt sich Gegnerschaft (wieder) in Feindschaft? 

***

Feindschaft ist nicht einfach ein Naturtrieb des Menschen. «Sublimiert» man ihn, wird er zu einer Denkhaltung. Ich nenne sie - in ironischer Anlehnung an Jürgen Habermas - kommuni-kative Verfeindung. Die heutigen Plattformöffentlichkeiten begünstigen sie. Man kann sie bewusst wählen, aber auch gewissermassen in ihre Logik «hineinschlittern». Das macht sie besonders gefährlich. 

Ein einfacher und deshalb häufiger Zug ist die Diskursverweigerung. Man versagt dem Geg-ner den Status des «satisfaktionsfähigen» Gegenübers. Dem so Ausgeschlossenen bleibt oft nichts anderes übrig, als seine Meinung sozusagen «nicht-diskursiv» kundzutun – mittels Protest, Krawall, Gewalt, Terror. Er wird zu einem eigenen Typus des «unordentlichen» politischen Streiters: des Partisanen. Er findet in der Feindschaft – so hat das der Theoretiker des Partisanentums, der Staatsrechtler Carl Schmitt beschrieben - «den Sinn der Sache und den Sinn des Rechts, wenn (…) das Normengewebe der Legalität zerreisst, von dem er bisher Recht und Rechtsschutz erwarten konnte. Dann hört das konventionelle Spiel auf». 

***

In der Tat.  Ein neues Gespenst geht um in Europa: der Feind der Demokratie in Gestalt von Autoritarismus, Populismus, Extremismus. Dagegen wappnet man sich mit einer Art von Schulterschlussreaktion. Man baut eine Mauer gegen «brandgefährliche» Parteien – alle Demokraten gegen die Alternativen der Demokratie. 

Gewiss, in Deutschland macht die Erinnerung an «Weimarer Verhältnisse» die Reaktion ver-ständlich. Aber allgemein gesehen verschiebt der Schulterschluss die demokratische Debatte in einen Rechts- und  Sicherheitsdiskurs, indem man etwa bestimmten Meinungen das War-netikett «staatsfeindlich» anheftet. Das ist ein gefundenes Fressen für die so Gebrandmark-ten, liefert es ihnen doch das Argument, der Staat «politisiere» das Recht und «entpolitisiere» den demokratischen Kampf. Schon Jörg Haider inszenierte sich in den 1990er Jahren in Ös-terreich erfolgreich mit dem Slogan, die Politik im Namen des «Volkes» zu redemokratisie-ren. 

Der Schulterschluss ist ambivalent. Er kann zur Verarmung der pluralistischen Öffentlichkeit beitragen und die Dynamik der Verfeindung sogar beschleunigen. Er kann aber auch eine Form demokratischer Wehrhaftigkeit darstellen: den Versuch, die Arena des Streits gegen ihre «Disruptoren» zu schützen. Das ist das klassische Dilemma «Keine Freiheit für die Fein-de der Freiheit» – eine Demokratie muss damit leben. 

***

Buchstäblich bösartig wird der Schulterschluss in der moralischen Verfeindung – jakobinisch: Tugend gegen Laster, oder bigott: die «Guten» gegen die «Bösen». Ronald Reagan sprach vom «Imperium des Bösen», George W. Bush von der «Achse des Bösen». Bis heute hat sich an dieser Rhetorik erschreckend wenig geändert. Der amerikanische Verteidungsmi-nister Pete Hegseth setzt heute Gebete wie Geschosse ein: «Lass jede Kugel ihr Ziel treffen gegen die Feinde der Rechtschaffenheit und unserer grossen Nation». 

Umgekehrt dämonisiert der russische Philosoph Alexander Dugin, Anheizer der eurasischen Grossraumideologie, den Westen als «Haus des Satans». Er bekundet damit Seelenverwandtschaft nicht nur mit iranischen Hardlinern, sondern mit den Islamisten weltweit, die sich von der «Hölle» der Moderne befreien wollen. Wir erleben seit einiger Zeit geradezu einen globalen «Clash der Diabologien». Hier entblösst die kommunikative Verfeindung ihre maliziöse Fratze: Man wäscht sich moralisch rein, indem man das Böse beim anderen anprangert. Und wirklich diabolisch daran ist, dass sich durch ein solches Denken die Gewalt- und Tötungs-hemmung abbauen lässt. 

***

Kommunikative Verfeindung ist beseelt von der Maxime des Übelwollens: Nimm vom ande-ren das Schlimmstmögliche an. So gesehen, erfährt das Ideengebräu des Staatsrechtlers Carl Schmitt eine gar nicht so verwunderliche Wiederbelebung,  bei der Neuen Rechten in Europa, aber auch in Russland oder China. Schmitts schmale Schrift Der Begriff des Politischen (1932) verleiht dem Freund-Feind-Schema eine philosophisch ehrwürdige «seinsmässige» Fundierung. Es geht nicht bloss um Feindbilder, sondern um reale Feinde: «Die Begriffe Freund und Feind sind in ihrem konkreten, existenziellen Sinn zu nehmen, nicht als Meta-phern oder Symbole». Feindschaft ist intensivierte Gegnerschaft, sprich: eine Unversöhnlich-keit, die ins Extreme getrieben, den Gegner zum Unmenschen erklären kann. 

Auch Linke greifen Schmitts Gedanken auf, am prominentesten wohl die belgische Politologin Chantal Mouffe in ihrer Streitschrift Über das Politische (orig. 2005). Sie plädiert dafür, das Politische wieder vermehrt im Sinn des Streites – des «Agon» - zu verstehen, und nicht – wie üblich – als Ort des Aushandelns und Konsensfindens. Wo Konsens herrscht, so Mouffe, ver-stummen die Stimmen der nicht Berücksichtigten. Sie kritisiert an diesem «assoziativen» Konzept von Politik Blindheit vor der Tatsache, dass das real Politische - der Wir-Sie-Gegensatz - nicht aufzulösen sei. Das habe der Rechtspopulismus viel besser begriffen. Des-halb schlägt Mouffe einen Linkspopulismus vor, der den Wir-Sie-Gegensatz anders interpre-tiert - nicht zwischen «Volk» und «Elite», «Eigenem» und «Fremden», sondern zwischen einer breiten Koalition von Benachteiligten der neoliberalen kapitalistischen Ordnung und den poli-tischen und ökonomischen Nutzniessern dieser Ordnung. 

***

Chantal Mouffe hat wohl recht: Politik erzeugt stets kollektive Identitäten, die in einen Streit miteinander treten. Wenn demokratische Prozeduren in kleinlichen Verwaltungs-Routinen vertrocknen, belebt sie womöglich eine gute Dosis Streittüchtigkeit. Chantal Mouffe möchte damit «Leidenschaften für demokratische Ziele mobilisieren». 

Klingt sympathisch. Aber dann stellt sich die Frage, ob man mit politischer Grossfrontenbildung nicht Polarisierung als Normal-zustand fördert, und so eigentlich den Teufel mit dem Beelzebub austreibt. Der «gute» Agon kann kippen – wenn sich im Extremfall unterschiedliche Bewegungen über ein gemeinsames Feindbild annähern. Wie steht es zum Beispiel mit der Verbrüderung von Linkspopulismus und Islamismus? Reaktiviert nicht gerade sie ein altes Feindbild – «den Juden»?  Es ist kaum vorstellbar, dass ein solch vergifteter Konflikt noch als agonaler Streit im Sinn von Chantal Mouffe gelten könnte. 

Der Feind entsteht im Kopf. Wenn demokratische Politik ein Kampfsport ist, dann sei nicht vergessen, dass es auch eine Kunst des Sports gibt. Sie leitet sich aus der Erkenntnis ab, dass ein Gegner zum Feind werden kann, wenn man «drinnen» die Grenze verschiebt oder - was, wie gesagt, gefährlicher ist – sich die Grenze unbewusst verschiebt. Dann ist ein anderer Kampf angesagt - ein besonders harter. Er nennt sich Denken.