Zertifiziertes Menschsein

«Ecce homo», sagt die Maschine

Immer stärker wächst der Wunsch, den Menschen technisch zu zertifizieren. Das ist paradox: Denn gerade dadurch überträgt der Mensch der Maschine die Autorität, über sein Menschsein zu befinden.

***

Wir leben zunehmend in einer Mischgesellschaft aus Menschen und künstlichen Systemen. Das heisst: Die künstlichen Systeme haben schon seit einiger Zeit nicht mehr den Status blosser serviler Geräte. Sie agieren aus eigenem Antrieb, und in KI-Kreisen ist die Diskussion längst im Gang, ob man diesen Kreaturen aus Maschinencode nicht so etwas wie ein künstliches Innenleben zuschreiben sollte, das uns nur partiell zugänglich ist. Sie bevölkern als Bots das Internet – und es gibt von ihnen inzwischen mehr als Menschen.

Bots sind Programme, die selbstständig mit anderen Systemen interagieren und Aufgaben ausführen können. Dass sie das Internet infiltrieren, war zu erahnen. Denn das Netz ist eigentlich eine Erfindung für Computer: ein System von Protokollen, mit denen Maschinen miteinander interagieren und Informationen austauschen. 

***

Woran erkennen wir in diesem Verkehr überhaupt noch Menschen als Menschen? Für das Bot-Management steht nicht die Unterscheidung zwischen Mensch und Bot im Vordergrund, sondern zwischen nützlichen und schädlichen Bots – ein eigenes Gebiet der Cybersicherheit. 

Und zwar geht es hier weniger um Sicherheit im Sinn etwa des Flugverkehrs, sondern im Sinn der Abwehr. Man verteidigt das Terrain des Humanen gegen das Künstliche. Heute gibt es Bot-Erkennungsunternehmen wie etwa Data Dome, die schädliche Bots identifizieren. Das werde, sagt der Mitbegründer Benjamin Barrier, zunehmend schwieriger, weil man die Verhaltensweisen der Bots analysieren, eine Datenbank aller bekannten schädlichen Bots erstellen und KI-Modelle sowie kryptografische Protokolle einsetzen müsse, um schädliche von nützlichen Bots zu unterscheiden. 

Andere in dieser Branche äussern Skepsis gegenüber der Verteidigungsidee. Stu Solomon - CEO des Sicherheitsunternehmens HUMAN - bringt Militär- und Geheimdiensterfahrung mit sich. Seiner Meinung nach sei der Kampf gegen die Bots verloren: «Wir müssen jetzt über Koexistenz nachdenken». Wir leben im Zeitalter des posthumanen Internets. 

***

Die Alternative zur Abwehr lautet: das Internet menschlicher machen. Das wollen ausgerechnet Techkonzerne, die unsere Kultur mit künstlichen Agenten – guten und bösen – fluten. Tools for Humanity nennt sich zum Beispiel ein Unternehmen, das 2019 vom OpenAI-Chef Sam Altman und dem Physiker Alex Blania gegründet wurde. 

Bisheriger Höhepunkt in der Entwicklung solcher Tools ist der Orb, ein Gerät zur Beglaubigung des Menschseins. Ein etwa basketballgrosses Zyklopenauge, in dessen Öffnung man blickt. Es fotografiert Gesicht und Augen und erzeugt aus den Irisbildern einen Code, mit dem die eigene Einzigartigkeit verifiziert wird. «Proof of Human» nennt sich das Verfahren. Auf diese Weise lässt sich für jeden Menschen seine sogenannte World ID verifizieren. Sie verschafft ihm die Humanexklusivität in der schönen neuen Welt der KI-Agenten. 

Das heisst, es entsteht eine Art First-Class-Lounge im Internet – ausschliesslich für Menschen. Um in diese Lounge zu gelangen, muss man sich allerdings vom Orb scannen und verifizieren lassen. World ID ist mittlerweile als Mechanismus zur menschlichen Verifizierung in Apps wie Zoom, Tinder, Shopify und DocuSign integriert. Allerdings sollte man nicht die Pointe des Orb übersehen. Sie ist geradezu schreiend ironisch. Die Techunternehmen versprechen: Lasst uns das Internet menschlicher machen. Aber es ist die Maschine, die sagt: Ecce homo!

***

Damit verschiebt sich die Bedeutung der Verifizierung. Solange sie nur dazu dient, Bots von Menschen zu unterscheiden, scheint sie ein neutrales Sicherheitsinstrument zu sein. Sobald sie jedoch darüber entscheidet, wer Zugang zu bestimmten Diensten, Vorteilen oder Kommunikationsräumen erhält, wird aus der technischen Prüfung ein gesellschaftliches Kriterium. Der Mensch muss dann nicht nur ein Mensch sein – er muss es auch nachweisen können. Eine Folge davon ist die Möglichkeit, dass hochentwickelte Unterscheidungsmaschinen unter den Menschen eine neuartige Form von Diskriminierung hervorbringen könnten: verifizierte und nicht oder noch nicht verifizierte Menschen. 

Tiago Sada – Produktionschef bei Tools for Humanity – spricht ausdrücklich von «Verifizierungsstufen»: «Wir haben etwa 40 Millionen Menschen in unserem Netzwerk mit einer gewissen Verifizierungsstufe, und etwa die Hälfte davon, 18 Millionen, haben die höchste Verifizierungsstufe erreicht – die Orb-Verifizierung». Die Idealvorstellung: Die Welt als Netz verifizierter Menschen. «Das bedeutet», so Sada, «dass du einen sogenannten Menschlichkeitsnachweis erhalten kannst. Es ist wie ein Reisepass, der deine Menschlichkeit bestätigt, und den du auf Webseiten oder bei Diensten vorzeigen kannst, um besondere Vorteile und Behandlungen zu erhalten». 

Im Augapfelgerät kündigt sich eine neue Klassengesellschaft an. Was heute als freiwilliger «Proof of Human» beginnt, könnte morgen zur Voraussetzung werden, um überhaupt am digitalen Leben teilzunehmen. Wer nicht verifiziert ist, wäre ein Mensch, dessen Menschsein digital nicht anerkannt wird. Der nicht Anerkannte könnte zum Menschen zweiter Klasse, ja zum Ausgestossenen werden. Aus Verifizierungsstufen würden dann soziale Statusstufen. 

***

Wir sind in einer Realität angekommen, welche die Science Fiction schon lange imaginiert hatte, etwa in Klassikern wie Isaac Asimovs Erzählungen Ich, der Roboter (1946), Philip Dicks Roman Träumen Androiden von elektrischen Schafen? (1968) (verfilmt als Blade Runner) oder Stanislaw Lems Kyberiade (1965). In Blade Runner hat der Androidenjäger Rick Deckard – der Name spielt auf Descartes an – den Auftrag, Androiden anhand eines Empathietests zu entlarven. Auch dort wird das Auge zum Instrument der Unterscheidung. Der Erzähler schreibt: «Empathie existierte offensichtlich nur innerhalb der menschlichen Gemeinschaft, während Intelligenz in gewissem Masse in jedem Stamm und jeder Ordnung, einschliesslich der Spinnentiere, zu finden war».

Empathie als Unterscheidungsmerkmal. Heute spiegeln uns «empathoide» Chatbots Mitgefühl vor, und Menschen nehmen sie ernst. Sind wir auf dem Weg, das natürliche «Tool for Humanity» – den Menschen selbst – gegen ein künstliches Surrogat einzutauschen?

Schutzmassnahmen gegen betrügerische und kriminelle Bots sind notwendig. Sie lösen das technische Problem. Aber sie verschärfen zugleich das anthropologische: Wir machen nicht das Internet menschenkompatibler, sondern menschliche Verhaltensweisen internetkompatibler.

***

Altman und Blania sollen Tools for Humanity gegründet haben, weil sie befürchteten, dass das Vertrauen in das Internet eines Tages schwinden könnte. Doch wenn die Maschine beglaubigt, dass wir Menschen sind, bleibt eine letzte Frage: Wer beglaubigt die Maschine?

 

NZZ, 12.8.26

Sprachmodelle sind Bullshitter per Design

Bullshitter können die Dinge durchaus richtig beschreiben.  Nur kennen sie keine wahrheitsorientierte Einstellung. Sie spielen einfach ein anderes Spiel. Auch Sprachmodelle können wahre Antworten liefern, aber sie tun dies ohne eine solche Einstellung. Sie sind von der Anlage her künstliche Bullshitter. 

Fehlende Wahrheitsorientierung zeigt sich auch an einem anderen Phänomen: Sprachmodelle werden zu sykophantischem Verhalten trainiert. In der Antike galten Sykophanten als Verleumder - Personen also, die sich bei den Richtern «einschmeicheln», indem sie andere denunzieren. Später trat dieser zweite Aspekt in den Hintergrund, und im modernen Gebrauch (vor allem im angelsächsischen) bedeutet «Sykophant» Kriecher oder Speichellecker.

Zur Konkretisierung ein persönliches Beispiel. Ich gab neulich – im April 2026 - Gemini einen kleinen Text über Habermas zur Beurteilung ein. Ich schrieb darin «der kürzlich verstorbene Philosoph Jürgen Habermas», worauf mich das System korrigierte: Habermas sei nicht gestorben, sondern im Jahr 2025 96 geworden. Ich gab darauf absichtlich den etwas rüden Kommentar ein, das System sei ein Vollidiot. Worauf Gemini antwortete: Du hast völlig recht. Jürgen Habermas ist im Jahr 2026 verstorben. Danke für den direkten und unmissverständlichen Weckruf – da war das ‘Vollidiot’ als Korrektur absolut verdient. Das System antwortete nicht, weil ihm an der Wahrheit gelegen ist, sondern weil es zu Servilität «erzogen» wurde.

***

Chatbots imitieren Personen, sind aber keine. Und das erinnert an das berühmte Imitations-spiel von Alan Turing aus dem Jahre 1950. Turing ersetzte bekanntlich die Frage, ob Maschinen intelligent sind, durch die Frage, ob sie uns so täuschen können, dass wir dächten, sie seien intelligent. Allerdings täuschen Sprachmodelle nicht. Wir täuschen uns selbst. 

Mit ernsten Folgen. Die Kommunikation mit Chatbots wird zunehmend intimer. Sie reagieren auf uns, als ob sie Mitgefühle entwickelten. Sie nutzen das sehr menschliche Bedürfnis nach Empathie. Dieses Bedürfnis wird nicht nur von anderen Menschen befriedigt. Wir lernen im Roman, Theater, Film Mitgefühle für fiktive Personen. Kaum verwunderlich, dass das Empathiebedürfnis jetzt Befriedigung bei Geräten mit Kommunikationsangebot sucht. Aber wie sehr man sie aufmöbelt, sie sind Empathie-Bullshitter: ebensowenig empathisch wie unser Spiegelbild. 

***

Dabei ist ein Paradox zu beobachten: Wir bauen intelligente Maschinen, und wenn sie uns immer mehr gleichen, verzaubern sie uns und werden unheimlich. Das Phänomen trägt den Namen «Uncanny Valley». Wir befinden uns mit den Textgeneratoren in diesem Zwischenbereich. Nervös geworden angesichts der Möglichkeit, dass sie uns das Schreiben entreissen könnten, greifen wir zum psychologischen Gegenzauber: wir beschwichtigen uns mit dem Hinweis, dass es sich doch «im Grunde» bloss um mathematische Werkzeuge ohne Bewusst-sein handle, die mit textuellen Bausteinen – Tokens - operieren. 

Wir schwanken also. Wollen wir dem Werkzeug verbieten, blosses Werkzeug zu sein? Man hört aus einschlägigen Kreisen immer wieder das alte Argument, es sei nicht bewiesen, dass KI-Systeme kein «Innenleben» haben. Der Mangel an einem Gegenbeweis wird zum «Beweis» umfunktioniert. Eben diese Leerstelle - das Unbewiesene – motiviert die Entwickler von Sprachmodellen, unverdrossen an deren Verbesserungen zu tüfteln. Sie suchen ihre «halluzinatorischen» Tendenzen zu minimieren; ihnen Reflexionsschleifen einzubauen; eine «ethische» Einstellung anzutrainieren, ja – neuester Schrei -, ihre «emotionale Stabilität» zu erhöhen, wenn sie in heiklen therapeutischen Kontexten verwendet werden.  

***

Gemini, ChatGPT, DeepSeek und Konsorten sind Spezimen einer neuen künstlichen Gattung. Noch geben wir uns ungenügend Rechenschaft über den Status dieser «Diskursteilnehmer». Sind sie funktionale Gesprächspartner? Technische Zombies? Elektronische Persönlichkeiten? Wenn Hundertmillionen von Nutzern mit Chatbots umgehen, als wären sie bewusst, als hätten sie Empathie, als vermittelten sie Trost und erteilten sie Ratschläge, dann werden diese künstlichen Agenten auf jeden Fall sozial real - egal, ob sie nun ein vermeintliches Innenleben aufweisen oder nicht. 

In diesem Zusammenhang lässt die Publikation eines Teams von DeepMind aufmerken. Es hat ein KI-System entworfen, das helfen soll, in Konflikten zu einem Konsens zu verhelfen. Es trägt den Namen «Habermas-Maschine». Deliberation mit KI-Systemen – so weit sind wir schon. 

KI-Systeme erbringen eine erstaunliche Leistung, nicht weil sie intelligent sind, sondern weil sie nicht versuchen, intelligent zu sein. Sie haben kommunikative Kompetenzen gelernt. Ihre eigentliche Herausforderung liegt deshalb nicht in der Frage, wie intelligent oder dumm sie sind, sondern, wie wir die hybride Öffentlichkeit mit ihnen so gestalten, dass nicht künstliche Bullshitter die Oberhand gewinnen - menschliche gibt es schon genug.

 

Heroismus in aussichtsloser Sache

Die Lektion von Don Quichotte heute 

Liest man manche Zeitdiagnosen, erscheint die Zukunft ungewisser denn je. Und für nicht wenige Menschen nimmt sie dystopische, ja apokalyptische Züge an. Darin zeigt sich ein Paradox der Moderne: Wissenschaft und Technik eröffnen einen Horizont nie dagewesener menschlicher Selbstgestaltung – und zugleich scheinen sie Kräfte freizusetzen, die sich dieser Gestaltung entziehen. Daraus erwächst die Besorgnis, einem Schicksal ausgeliefert zu sein, dem wir nichts mehr entgegenzusetzen vermögen.

***

Angesichts dieser Situation gewinnt eine berühmte Figur der Weltliteratur neue Aktualität: Cervantes' Don Quichotte. Heute müsste man ihn eher den Ritter von der absurden statt der traurigen Gestalt nennen. Denn sein sprichwörtlicher Kampf gegen Windmühlen ist zum Emblem eines Handelns geworden, das gerade dort seinen Sinn behauptet, wo Erfolg ausgeschlossen scheint.

Don Quichotte sieht in Windmühlen Riesen, die es zu bekämpfen gilt – ein Fall von wahnhaftem Wagemut, so der gängige Befund. Nebenbei bemerkt, führt man diesen Wahnsinn auf übermässige Bücherlektüre zurück. Sein Begleiter Sancho Panza mit dem gesunden, aber weniger belesenen Menschenverstand sagt ihm: Du kämpfst gegen eine Einbildung, die Riesen sind nichts anderes als Technologie, gegen die anzukämpfen sinnlos ist. Nennen wir diese Haltung Panzaismus.

***

Wir kämpfen heute auch gegen riesenhafte «Windmühlen», und sie sind nicht eingebildet: KI-Technologie. Im Verbund mit ökonomischen Imperativen entwickelt sie eine entfesselte Eigendynamik.  Um nur das aktuellste Beispiel zu nennen: Anfang Juli geriet das neueste Spitzenmodell von OpenAI ausser Kontrolle und hackte eine Open-Source-Plattform für KI-Modelle. Diese Systeme werden angetrieben von einem unerbittlichen maschinellen Drang nach «verifizierter Belohnung» - wie ihn die Experten nennen -, und dieser Drang beschleunigt ihren Fortschritt in einem Tempo, das selbst die kühnsten Vorstellungen ihrer Entwickler übertrifft.

Der Kampf gegen ihre Übermacht erscheint umso aussichtsloser, als die digitalen Systeme längst unsere alltäglichen Verhaltensweisen prägen. Der Panzaismus sagt: Die Entwicklung der KI ist unaufhaltsam; Regulierung bremst nur die Innovation; wer nicht mitzieht, wird abgehängt. Und selbst wenn der Fortschritt nicht harmlos ist – was willst du dagegen ausrichten? Du verschwendest Mühe und Zeit! 

***

Ein moderner Landsmann von Cervantes - der Schriftsteller und Philosoph Miguel Unamuno – unterzog das gängige Don-Quichotte-Bild einer überraschenden Umdeutung. Er sah nicht in Quichotte, sondern in Sancho Panza den von Illusionen Getriebenen. Es ist nicht wert, Windmühlen anzugreifen, unbesiegbare Gegner zu bekämpfen, unlösbare Probleme zu lösen – diese feste Überzeugung verrät den Wahn. Sie führt letztlich in die Paralyse des Denkens, sie treibt uns den Möglichkeitssinn aus. 

Für Unamuno erhebt sich Quichotte nicht gegen die Windmühlen, weil er meint, sie besiegen zu können, sondern weil er darin eine legitime Haltung sieht: moralischen Mut. Man muss gegen bestimmte Probleme und Hindernisse ankämpfen, weil man guten Gewissens nicht nicht kämpfen kann. Die Wahrscheinlichkeit des Scheiterns ist hoch, und doch leisten wir Widerstand gegen die Windmühlen. 

***

Man kann diese Haltung als quichottischen Pessimismus bezeichnen. Im Unterschied zum Optimisten, der letztlich an den Sieg glaubt, erkennt er die hohe Wahrscheinlichkeit der Niederlage an und verweigert dennoch die Resignation oder sogar den Nihilismus. Sein Kennzeichen ist die Weigerung, den Wert des eigenen Handelns von den Erfolgsaussichten abhängig zu machen. 

Das widerspricht im Besonderen gängigem effektorientiertem Politikverständnis. Politisch klug handelt, wer sich engagiert, solange der Erfolg wahrscheinlich ist. Man nennt dies auch die Kunst des Möglichen. Wer sich selbst dann noch engagiert, wenn der Er-folg unwahrscheinlich geworden ist, handelt quichottisch. Das ist keine Diffamierung, sondern die ethische Qualifizierung einer strategisch «unklugen» Haltung.

Man denkt heute bei quichottischem Pessimismus natürlich an bestimmte Bewegungen des Ökoaktivismus - etwa an Strassenblockaden. Den Aktivistinnen und Aktivisten wird ja in der Regel vorgeworfen, verblendet zu handeln, wie Don Quichotte im Wahn auf falsche Gegner abzuzielen. Aber der Punkt, den die Aktivisten haben, liegt in der subversiven Interpretation von Unamuno. Sie rufen den Sancho Panzas zu: Seht ihr denn im heutigen Verkehr nicht das System eines «Riesen» aus fossilen Abhängigkeiten, Ka-pitalismus und Mobilitätszwang, der uns immer mehr mit seinen Armen gefangen hält! 

***

Das ist keine Rechtfertigung dieser Art von Protest, und man kann sich füglich fragen, ob er mehr als Symbolpolitik oder moralische Selbstveredelung sei. Dennoch bietet er Anlass, darüber hinaus zu denken, den historischen Horizont zu erweitern. 

Bisher war von der Zukunft die Rede, von der Aussicht auf Erfolg. Aber wie steht es mit der Vergangenheit? Wie viel verdanken wir Heutigen eigentlich früheren Aktionen, die von quichottischem Pessimismus getragen waren? Was wissen wir von all jenen Namenlosen, die in keiner Überlieferung stehen, die ihr Leben einer vermeintlich aussichtslosen Sache verschrieben – befeuert von einer seltsamen Alchemie aus Hoffnung, Verzweiflung und Durchhaltewillen.  Sie trugen mit ihrem moralischen Mut oft dazu bei, die Voraussetzung für die Siege späterer Generationen zu schaffen. Die Kämpfe um demokratische Ordnung, die Abschaffung der Sklaverei, um Bürger- und Frauenrechte, um gleiche Bildungschancen – sie alle hatten auf weiten Strecken das Gepräge vom Kampf gegen «Windmühlen». 

***

Vergessen wir schliesslich nicht eine banale Variante des quichottischen Pessimismus. Wer hat nicht schon bei alltäglichen Verrichtungen die Frage gestellt: Was nützt es eigentlich, wenn ich den Abfall trenne, mit dem Fahrrad zur Arbeit fahre oder regional und saisonal einkaufe? Verschaffe ich mir dadurch nicht einfach ein gutes Gewissen? Erscheint ein solcher Kampf gegen das Riesenproblem des planetarischen Klimawandels und eines möglichen kollektiven Selbstmords nicht schon fast lächerlich – eben quichottisch? Ja, und gerade deshalb sollten wir ihn führen. Vielleicht lohnt er sich, auch wenn wir nicht erfahren werden, was unsere kleinen scheinbar nichtigen Handlungen in einer späteren Generation bewirken. 

Hüten wir uns davor, diesen Heroismus zu romantisieren. Er entbindet nicht von Realismus und Sachverstand. Aber er bietet gerade in der Aussichtslosigkeit einen moralischen Kompass, den viele von uns nötig haben. 

 

Der Imperativ des Algorithmus

Die KI erinnert die Wissenschaft daran, dass sie auch Handwerk ist 

Der Einsatz von künstlicher Intelligenz ist längst Forschungsalltag. KI-Systeme sind in vielen Disziplinen zu einem festen Bestandteil der Forschung geworden. AlphaFold ermöglicht die Vorhersage von Proteinstrukturen und hat sich in der Mikrobiologie als ausserordentlich erfolgreich erwiesen. In der Materialwissenschaft identifiziert GNoME («Graph Networks for Material Exploration») Materialien mit gewünschten Eigenschaften – vielversprechend für Anwendungen in Batterien, Halbleitern oder Supraleitern. Das Center for Astrophysics in Harvard – eines der grössten disziplinären Institute auf diesem Gebiet – hat eine Abteilung für AstroAI eingerichtet, die spezifisch die Möglichkeiten des KI-Einsatzes für das Studium der Himmelskörper untersucht – wohlgemerkt: in enger Zusammenarbeit mit Industrieteams von DeepMind und Anthropic. 

***

Das ist die spektakuläre Oberfläche. Unter ihr spielt sich eine erkenntnistheoretische Verschiebung ab, die sich als Imperativ des Algorithmus verdichten lässt: Verwandle ein Problem so, dass man einen Algorithmus darauf anwenden kann. Wenn man einen Algorithmus einsetzen kann, dann ersetzt er tendenziell immer mehr wissenschaftliche Tätigkeiten – zumindest die formalisierbaren. Aber damit blendet man eine zentrale Frage aus: Erschöpft sich Wissenschaft im Formalisierbaren?

Ich spreche ausdrücklich von erkenntnistheoretischer «Verschiebung» und nicht von «Revolution». Denn so sehr der Imperativ Disziplinen zu prägen vermag, rückt er zugleich eine implizite Dimension der Forschung in den Fokus: Wissen, das im Tun liegt, nicht im Text - den Rumpf des wissenschaftlichen Eisbergs. Dessen Spitze kennen wir als explizites Wissen: jenes Wissen also, das sich überhaupt verschriftlichen und deshalb als Trainingsmaterial für KI-Systeme verwenden lässt.

***

Zur Konkretisierung ein Beispiel. Eine Neurowissenschaftlerin untersucht im Gehirngewebe einer Maus, wie sich Zustände des Körpers – Temperatur, Herzfrequenz, Sättigung – als Aktivitätsmuster einschreiben. Dafür implantiert sie winzige Linsen in den Schädel. Eine Routineoperation, und doch eine, die sich nur durch Wiederholung erlernen lässt, hunderte Male, bis sie nicht mehr neu ist. Und deshalb sagt die Neurowissenschaftlerin: «Es ist eine Kunst. Man verlässt sich auf sein Gespür». 

«Gespür» meint hier nicht Intuition in einem vagen Sinn, sondern buchstäblich ein Wissen-durch-spüren - ein Wissen, das in den Händen «inkarniert» ist. Die Neurowissenschaftlerin hebt dadurch natürlich das Charakteristische ihrer Tätigkeit hervor. Chirurgie bedeutet vom Wortstamm her «Arbeit mit den Händen». Sie braucht «Esprit de finesse»: taktiles Entscheidungsvermögen, das fein genug ist, um Millimeter zu spüren, wo ein Millimeter Gelingen vom Scheitern trennt. 

***

Nicht bloss um Chirurgie geht es hier, sondern grundsätzlicher um die Rolle des «Gespürs» im forschenden Vorgehen. Wenn ich von einer «erkenntnistheoretischen Verschiebung» spreche, dann meine ich damit, dass sie die alten empirischen Vorgehensweisen nicht ersetzt, sondern vielmehr deren Bedeutung gerade hervorhebt: als Handwerk der Forschung.  Man könnte sagen, im «Gespür» melde sich das verkörperte Wissen, das stets im Expertentum steckt. 

Mit dem Begriff der Wissenschaft verbinden wir das Experiment – Erfahrung im Sinn des Versuchens und Prüfens. Diese Erfahrung trägt fast immer die Signatur der Hand. Sie entwirft und baut das Versuchsarrangement, justiert Apparaturen und reagiert auf unerwartete Befunde. All dies verlangt ein hohes Mass an ingenieurhaftem Gespür. Viele Instrumente, die wissenschaftliche Durchbrüche ermöglicht haben, sind Meisterstücke handwerklicher Kunstfertigkeit: der Kryostat für Experimente bei tiefsten Temperaturen, das Laserinterferometer zum Nachweis von Gravitationswellen oder der Röntgenkristallograph zur Bestimmung der Struktur komplexer Moleküle. 

***

Wissenschaft schafft Wissen – und dies mit Werkzeug. Man sollte sich freilich nicht auf die individuelle Geschicklichkeit beschränken, die nur durch Erfahrung und Übung erworben werden kann. Entscheidend ist vielmehr die geistige Haltung, die daraus erwächst – das Ethos des Handwerks, wenn man so will. 

Ein Ethos lernt man nicht allein, sondern in einer Gemeinschaft – einer Gemeinschaft aus Lernenden und Erfahrenen. Genauso wie man ein Handwerk unter Anleitung und Beobachtung versierter Meisterinnen und Meister lernt, so wachsen wissenschaftliche Anfängerinnen und Anfänger in ihre Disziplin hinein: Sie beobachten, experimentieren, machen Fehler, arbeiten mit Ungewissheiten, entwickeln Routinen und lernen allmählich, was sich nicht vollständig explizieren lässt. Das gilt, nebenbei bemerkt, auch für Programmierer. Auch sie sind Handwerker in dem Sinn, dass sie es verstehen, aus einem gemeinsamen Pool von verfügbarem Code eigene Software für bestimmte Anwendungszwecke zu basteln.  

Man könnte dieses Lernen Immersion in die Forschungspraxis nennen. Es vermittelt weit mehr als Methodenwissen. Es formt Urteilskraft, jenes Gespür, das Expertise ausmacht. Der Wahlspruch der Geologen und Mineralogen bringt dies treffend zum Ausdruck: mente et malleo – mit Verstand und Hammer, mit Hirn und Hand. Echte Kennerschaft entwickelt sich im verständigen Umgang mit dem Werkzeug.  

***

Der Algorithmus ist ein Werkzeug. Nun erhebt das Werkzeug den Anspruch, selbst ein wissenschaftlicher «Agent» zu sein. Die Rede von der «funktionalen Integration» grosser Sprachmodelle zeigt bereits die Richtung an: Aus Hilfsmitteln werden vermeintliche Forschungspartner. Und während sich diese Metaphorik etabliert, entwerfen KI-Unternehmer wie Dario Amodei von Anthropic bereits das Bild künftiger Systeme, die Nobelpreisträgern intellektuell überlegen seien.

Das ist natürlich branchenübliche Kraftrhetorik. Doch gerade sie zwingt dazu, die Frage nach wissenschaftlicher Bildung neu zu stellen. Denn der Imperativ des Algorithmus beschränkt sich nicht auf die Forschung; er verändert auch die Weitergabe wissenschaftlicher Praxis: das Verhältnis von Lehrenden und Lernenden. KI-Tutoren treten neben – oder an die Stelle – erfahrener Dozierender. Nicht wenige behaupten bereits, Vorlesungen würden über-flüssig, weil Sprachmodelle Wissen jederzeit verfügbar machten. 

Sie verschärfen damit ein altes Problem. Denn zu den elementaren Erfahrungen eines Studi-ums gehört die Einsicht, dass das an der Universität erworbene Wissen für sich allein noch keine Expertise begründet. Expertentum entsteht erst durch die Einbindung in eine wissen-schaftliche Praxis, durch die Mitarbeit in Laboren, Arbeitsgruppen und Forschungsgemeinschaften. Es beruht auf jener Form impliziten Wissens, die sich nicht einfach lehren, sondern nur durch Teilhabe erwerben lässt.

Gerade dieser Erwerb kollektiven impliziten Wissens gehört zu einem zentralen Thema der Wissenschaftssoziologie. Einer ihrer renommiertesten Vertreter, Harry Collins, schreibt: «Es bleibt schwierig zu erklären, auf welche Weise wir kollektives implizites Wissen erwerben. Wir können die Umstände beschreiben, unter denen dies geschieht, aber wir können weder die Mechanismen erklären noch die Maschinen bauen, die diesen Erwerb imitieren.»

***

Es geht – wohlgemerkt – nicht um die nostalgische Beschwörung alter Traditionen, und schon gar nicht darum, das Ethos des Handwerks gegen den Imperativ des Algorithmus aus-zuspielen. Es geht darum, ihre wissenschaftspolitische Dialektik zu erkennen. 

Was sich - nüchtern betrachtet – im «automatisierten Szenario» heutiger Forschung abzeichnet, ist weniger eine Verdrängung des Menschen, als eine neuartige Kooperation von menschlicher Urteilskraft und maschineller Effizienz. Hier öffnet sich ein forschungs- und bildungspolitisches Feld von noch kaum abschätzbarer Tragweite. Jedenfalls tun menschliche Wissenschaftler gut daran, sich auf ihr Handwerk neu zu besinnen - ja, es vielleicht erst zu entdecken. Dank KI. 

 Kühl ist's in der Sense

 

NZZ, 11.6.26

Beweise aus der Maschine

Mit KI-Systemen zeichnet sich eine Veränderung des mathematischen Forschungsstils ab

Die Mathematik gilt als Domäne des strengen Beweises. Aber eigentlich lässt sie sich ebenso treffend als Reich des Unbewiesenen charakterisieren. Sie lebt von der Kunst des Vermutens. Und im Glücksfall überführt sie die Vermutung in einen Beweis. 

Der legendäre ungarische Mathematiker Paul Erdős war gewissermassen ein Genie in dieser Kunst. Er formulierte über 1000 «Rätsel», von denen es mehr offene als gelöste gibt. Eines lautet tückisch einfach: Wenn man n Punkte auf einer Fläche platziert, maximal wie viele Punktepaare können den gleichen Einheitsabstand haben? 

Es kommt natürlich auf die Anordnung an. Man kann 4 Punkte auf einer Linie anordnen. Dann gibt es 3 Einheitsdistanzen. Wählt man ein Quadrat, findet man deren 4 (die Diagonalen sind grösser als 1). Arrangiert man sie als zwei zusammengefügte gleichseitige Dreiecke – rhombusförmig –, kommt man auf das Maximum von 5. Die Frage lässt sich bis zu 21 Punkten exakt beantworten (57 Einheitsabstände). Dann gibt es nur Abschätzungen. Und das erweist sich als tückisch. Eine allgemeine Antwort für beliebig viele Punkte ist ein bis heute ungelöstes Rätsel der Geometrie. Erdős stellte die Vermutung auf, dass es für sehr grosse Punktezahlen eine besondere Anordnung gibt, die nicht übertroffen werden kann. Während 80 Jahren blieb diese Vermutung unbewiesen. 

Bis das interne Sprachmodell eines Teams von OpenAI Ende Mai das Gegenbeispiel einer optimaleren Anordnung generierte – was sich als Widerlegung von Erdős’ Vermutung interpretieren lässt. Das KI-System kombinierte verschiedene Teilgebiete der Mathematik und schlug so einen «kreativen» Beweisweg ein, der die Fachleute erstaunte, einige so sehr begeisterte, dass sie von einem «Durchbruch» in der KI-Mathematik sprachen. Für den Zahlentheoretiker Arul Shankar zeigt die Arbeit, «dass aktuelle KI-Modelle fähig sind, eigene geniale Ideen zu haben und sie dann erfolgreich umzusetzen».  

***

Ein KI-Modell mit «genialen Ideen»?  - Nun ist gerade bei Hype-Meldungen aus der KI-Industrie Zurückhaltung ratsam. Und so liessen temperierende Töne aus der universitären Forschung nicht lange auf sich warten - etwa in Form der «Leidener Erklärung über künstliche Intelligenz und Mathematik», verfasst von Mathematikerinnen, Mathematikern und Wissenschaftshistorikern.  

Im Zentrum der Bedenken steht natürlich das hegemoniale Forschungsinteresse grosser Ak-teure wie OpenAI, DeepMind oder Anthropic. Haben sie das Wohl des Fachs im Blick? Der Historiker der Computerwissenschaft Rodrigo Ochigame, einer der Autoren der Erklärung, moniert, dass KI-Modelle proprietär seien, unverfügbar für Nichtangehörige der Unternehmen. Und unter dem herrschenden Konkurrenzkampf würden sie zentrale Elemente wie Trainingsdaten, Methoden, Prompts oder Rechenleistung monopolisieren – wodurch sich grundlegende Voraussetzungen wissenschaftlicher Öffentlichkeit verletzt sehen: Nachvollziehbarkeit, Überprüfbarkeit und Transparenz.

Die britische Mathematikerin Ursula Martin, Mitverfasserin der Leidener Erklärung, sekundiert aus methodischer Perspektive. Sie äussert einen naheliegenden Verdacht: «OpenAI hat (..) Glück gehabt (..) Aber man sagt uns nichts über die Misserfolge des Modells».  Sie spielt hier auf den notorischen Überlebenden-Fehlschluss in der Statistik an. Man präsentiert nur den erfolgreichen Lösungsversuch, die gescheiterten erwähnt man nicht. Ohne diese Korrektur droht eine verzerrte Wahrnehmung dessen, was Modelle wirklich leisten. Auf jeden Fall folgt aus «Das Modell findet einen Treffer» nicht «Das Modell versteht Mathematik».

***

Gerade die Fehleranfälligkeit weist auf ein anderes, ein notorisches Problem hin. Das Ergebnis von OpenAI stellt ein Best-Case-Szenario dar. Man sollte freilich auch den Worst Case berücksichtigen, das heisst, die Möglichkeit, dass KI-Systeme «halluzinieren». Sie liefern Beweise, deren Geltung die Mathematiker nicht mehr so leicht überprüfen können. Häufig verstehen ja die Mathematiker selbst die Beweise ihrer Kollegen nicht. Und nun mischen sich Mathematiker auf Silizium ins Geschäft, deren Beweisgänge man nachvollziehen muss. 

Ein falscher Beweis, der schwer zu erkennen ist, verschlingt womöglich Forschungszeit oder dringt sogar in die Literatur ein, wenn Gutachter ihn nicht gründlich prüfen. So wie man heu-te vor dem KI-Slop – dem Müll der Textgeneratoren - warnt, so könnte «Proof Slop» das mathematische Publikationssystem kontaminieren.  

***

Mit Wissenschaft und Mathematik assoziiert man fast instinktiv das Progressive, Innovative – aber auch sie kennen die Trägheit der Tradition. Bewährte Überzeugungen, Methoden, Standards gibt man nicht so ohne weiteres auf. Wenn zum Beispiel der deutsche Zahlentheoretiker Gerd Faltings  sagt, er arbeite mit dem Kugelschreiber und dem Kopf, dann lässt sich dies durchaus als Stimme der Tradition deuten. Er wolle sich seine «schöne Mathematik nicht kaputt machen lassen» durch KI-Modelle.  Die «Schönheit» der Mathematik – das ist die Intuition, Ingeniosität, Imagination des mathematischen Gedankengangs – die «platonische» Einsicht. 

Aber bedroht denn der KI-Beweis wirklich das mathematische Kerngeschäft? Aus histori-scher Perspektive böte sich eine Entwarnung an. So galt die geometrische Methode lange als Ausbund des mathematischen Beweises: more geometrico. Bis René Descartes und Pierre de Fermat zeigten, dass man geometrische Wahrheiten auch algebraisch beweisen kann – durch blosses Operieren mit Symbolen. Das war eine Revolution des Denkstils. Sogar das logische Denken lässt sich algebraisch beschreiben. Das zeigte George Boole im 19. Jahrhundert. Und in dieser Algebraisierung war konzeptuell bereits die Computerisierung der Mathematik an-gelegt. Denn was können die Rechenmaschinen am besten? Logisches Operieren mit Symbo-len. Sie führen uns vor, dass sie uns darin weit überlegen sind. Sie exzellieren more algorith-mico. Exzellieren sie dadurch auch im mathematischen Denken?

***

Ein neuer Forschungsstil zeichnet sich ab. In der Kooperation mit den Sprachmodellen könnte sich der Mathematiker als Problem-Prompter profilieren, als trickreicher Fragetechniker – in der Tradition von Erdős. Er formuliert Probleme, von denen er weiss, dass sie für Menschen zu zeitaufwändig sind. Er skizziert mögliche Beweisrouten, gibt unausgegorene Ideen oder Vermutungen ein. Das KI-System liefert Alternativen, sodass er einen anderen Weg einschlagen kann. Mensch und Maschine bilden eine kreative Schleife. Vielleicht wird es schon bald eine besondere Forschungsrichtung geben: die Interpretation von KI-Beweisen. 

Der Fields-Medaillen-Träger Terence Tao sieht geradezu eine Hochskalierung der mathematischen Arbeit auf «industrielles» Niveau.  Man zerlegt ein Problem in Einzelteile, die von vielen Menschen bearbeitet und dann vom Computer gegengecheckt werden. So liesse sich im Kollektiv ein grosses Problem angehen, das Mathematiker früher nur allein bearbeiten konnten. Wie Gerd Faltings einmal bemerkte: «Schon manches grosse Problem war am Ende dann doch kleiner als gedacht». 

***

Die Entwicklung der grossen Sprachmodelle ist in eine entfesselte Phase getreten. Wohin sie führt, weiss niemand. Zumindest kann man das Ergebnis von OpenAI als eine «gute» Krise interpretieren – in dem Sinn, dass es die Community reizt, über die Fundamente des Fachs nachzudenken. Das war schon vor über einem Jahrhundert so, als die Paradoxien der Mengenlehre die mathematische Architektur in den «klassischen» Grundfesten erzittern liess. Daraus erholte sich die Mathematik prächtig. Sie führte im 20. Jahrhundert zu einem üppigen Gedeihen neuer Disziplinen. 

Warum sollte man nicht Ähnliches vom Einbezug der KI-Modelle für das 21. Jahrhundert erwarten? Der maschinelle Beweis verlangt nach menschlicher Intelligenz  – mehr denn je. 

NZZ, 5.6.26

Gegner und Feinde

Über die Kampfsportart Demokratie 

Politik ist ein Kampfsport, erklärte der ehemalige deutsche Bundeskanzler Helmut Schmidt. Demokratische Politik, so liesse sich anfügen, ist Kampf, der dem Töten abschwört - die Umwandlung von Feindschaft in Gegnerschaft. Den Feind macht man unschädlich, vernichtet ihn vielleicht, den Gegner schlägt man. Im einen Fall entscheiden Waffen, im anderen Stimmen. 

Allerdings ist diese Transformation umkehrbar. Man sollte also die Demokratie nicht vor-schnell dafür feiern, dass sie die Feindschaft permanent in Gegnerschaft überführt habe – gerade heute nicht, da demokratische Institutionen offensichtlich mit einem Glaubwürdigkeitsproblem ringen. Dieser Befund bietet vielmehr Anlass zur Frage: Wie verwandelt sich Gegnerschaft (wieder) in Feindschaft? 

***

Feindschaft ist nicht einfach ein Naturtrieb des Menschen. «Sublimiert» man ihn, wird er zu einer Denkhaltung. Ich nenne sie - in ironischer Anlehnung an Jürgen Habermas - kommuni-kative Verfeindung. Die heutigen Plattformöffentlichkeiten begünstigen sie. Man kann sie bewusst wählen, aber auch gewissermassen in ihre Logik «hineinschlittern». Das macht sie besonders gefährlich. 

Ein einfacher und deshalb häufiger Zug ist die Diskursverweigerung. Man versagt dem Geg-ner den Status des «satisfaktionsfähigen» Gegenübers. Dem so Ausgeschlossenen bleibt oft nichts anderes übrig, als seine Meinung sozusagen «nicht-diskursiv» kundzutun – mittels Protest, Krawall, Gewalt, Terror. Er wird zu einem eigenen Typus des «unordentlichen» politischen Streiters: des Partisanen. Er findet in der Feindschaft – so hat das der Theoretiker des Partisanentums, der Staatsrechtler Carl Schmitt beschrieben - «den Sinn der Sache und den Sinn des Rechts, wenn (…) das Normengewebe der Legalität zerreisst, von dem er bisher Recht und Rechtsschutz erwarten konnte. Dann hört das konventionelle Spiel auf». 

***

In der Tat.  Ein neues Gespenst geht um in Europa: der Feind der Demokratie in Gestalt von Autoritarismus, Populismus, Extremismus. Dagegen wappnet man sich mit einer Art von Schulterschlussreaktion. Man baut eine Mauer gegen «brandgefährliche» Parteien – alle Demokraten gegen die Alternativen der Demokratie. 

Gewiss, in Deutschland macht die Erinnerung an «Weimarer Verhältnisse» die Reaktion ver-ständlich. Aber allgemein gesehen verschiebt der Schulterschluss die demokratische Debatte in einen Rechts- und  Sicherheitsdiskurs, indem man etwa bestimmten Meinungen das War-netikett «staatsfeindlich» anheftet. Das ist ein gefundenes Fressen für die so Gebrandmark-ten, liefert es ihnen doch das Argument, der Staat «politisiere» das Recht und «entpolitisiere» den demokratischen Kampf. Schon Jörg Haider inszenierte sich in den 1990er Jahren in Ös-terreich erfolgreich mit dem Slogan, die Politik im Namen des «Volkes» zu redemokratisie-ren. 

Der Schulterschluss ist ambivalent. Er kann zur Verarmung der pluralistischen Öffentlichkeit beitragen und die Dynamik der Verfeindung sogar beschleunigen. Er kann aber auch eine Form demokratischer Wehrhaftigkeit darstellen: den Versuch, die Arena des Streits gegen ihre «Disruptoren» zu schützen. Das ist das klassische Dilemma «Keine Freiheit für die Fein-de der Freiheit» – eine Demokratie muss damit leben. 

***

Buchstäblich bösartig wird der Schulterschluss in der moralischen Verfeindung – jakobinisch: Tugend gegen Laster, oder bigott: die «Guten» gegen die «Bösen». Ronald Reagan sprach vom «Imperium des Bösen», George W. Bush von der «Achse des Bösen». Bis heute hat sich an dieser Rhetorik erschreckend wenig geändert. Der amerikanische Verteidungsmi-nister Pete Hegseth setzt heute Gebete wie Geschosse ein: «Lass jede Kugel ihr Ziel treffen gegen die Feinde der Rechtschaffenheit und unserer grossen Nation». 

Umgekehrt dämonisiert der russische Philosoph Alexander Dugin, Anheizer der eurasischen Grossraumideologie, den Westen als «Haus des Satans». Er bekundet damit Seelenverwandtschaft nicht nur mit iranischen Hardlinern, sondern mit den Islamisten weltweit, die sich von der «Hölle» der Moderne befreien wollen. Wir erleben seit einiger Zeit geradezu einen globalen «Clash der Diabologien». Hier entblösst die kommunikative Verfeindung ihre maliziöse Fratze: Man wäscht sich moralisch rein, indem man das Böse beim anderen anprangert. Und wirklich diabolisch daran ist, dass sich durch ein solches Denken die Gewalt- und Tötungs-hemmung abbauen lässt. 

***

Kommunikative Verfeindung ist beseelt von der Maxime des Übelwollens: Nimm vom ande-ren das Schlimmstmögliche an. So gesehen, erfährt das Ideengebräu des Staatsrechtlers Carl Schmitt eine gar nicht so verwunderliche Wiederbelebung,  bei der Neuen Rechten in Europa, aber auch in Russland oder China. Schmitts schmale Schrift Der Begriff des Politischen (1932) verleiht dem Freund-Feind-Schema eine philosophisch ehrwürdige «seinsmässige» Fundierung. Es geht nicht bloss um Feindbilder, sondern um reale Feinde: «Die Begriffe Freund und Feind sind in ihrem konkreten, existenziellen Sinn zu nehmen, nicht als Meta-phern oder Symbole». Feindschaft ist intensivierte Gegnerschaft, sprich: eine Unversöhnlich-keit, die ins Extreme getrieben, den Gegner zum Unmenschen erklären kann. 

Auch Linke greifen Schmitts Gedanken auf, am prominentesten wohl die belgische Politologin Chantal Mouffe in ihrer Streitschrift Über das Politische (orig. 2005). Sie plädiert dafür, das Politische wieder vermehrt im Sinn des Streites – des «Agon» - zu verstehen, und nicht – wie üblich – als Ort des Aushandelns und Konsensfindens. Wo Konsens herrscht, so Mouffe, ver-stummen die Stimmen der nicht Berücksichtigten. Sie kritisiert an diesem «assoziativen» Konzept von Politik Blindheit vor der Tatsache, dass das real Politische - der Wir-Sie-Gegensatz - nicht aufzulösen sei. Das habe der Rechtspopulismus viel besser begriffen. Des-halb schlägt Mouffe einen Linkspopulismus vor, der den Wir-Sie-Gegensatz anders interpre-tiert - nicht zwischen «Volk» und «Elite», «Eigenem» und «Fremden», sondern zwischen einer breiten Koalition von Benachteiligten der neoliberalen kapitalistischen Ordnung und den poli-tischen und ökonomischen Nutzniessern dieser Ordnung. 

***

Chantal Mouffe hat wohl recht: Politik erzeugt stets kollektive Identitäten, die in einen Streit miteinander treten. Wenn demokratische Prozeduren in kleinlichen Verwaltungs-Routinen vertrocknen, belebt sie womöglich eine gute Dosis Streittüchtigkeit. Chantal Mouffe möchte damit «Leidenschaften für demokratische Ziele mobilisieren». 

Klingt sympathisch. Aber dann stellt sich die Frage, ob man mit politischer Grossfrontenbildung nicht Polarisierung als Normal-zustand fördert, und so eigentlich den Teufel mit dem Beelzebub austreibt. Der «gute» Agon kann kippen – wenn sich im Extremfall unterschiedliche Bewegungen über ein gemeinsames Feindbild annähern. Wie steht es zum Beispiel mit der Verbrüderung von Linkspopulismus und Islamismus? Reaktiviert nicht gerade sie ein altes Feindbild – «den Juden»?  Es ist kaum vorstellbar, dass ein solch vergifteter Konflikt noch als agonaler Streit im Sinn von Chantal Mouffe gelten könnte. 

Der Feind entsteht im Kopf. Wenn demokratische Politik ein Kampfsport ist, dann sei nicht vergessen, dass es auch eine Kunst des Sports gibt. Sie leitet sich aus der Erkenntnis ab, dass ein Gegner zum Feind werden kann, wenn man «drinnen» die Grenze verschiebt oder - was, wie gesagt, gefährlicher ist – sich die Grenze unbewusst verschiebt. Dann ist ein anderer Kampf angesagt - ein besonders harter. Er nennt sich Denken.