Zertifiziertes Menschsein

«Ecce homo», sagt die Maschine

Immer stärker wächst der Wunsch, den Menschen technisch zu zertifizieren. Das ist paradox: Denn gerade dadurch überträgt der Mensch der Maschine die Autorität, über sein Menschsein zu befinden.

***

Wir leben zunehmend in einer Mischgesellschaft aus Menschen und künstlichen Systemen. Das heisst: Die künstlichen Systeme haben schon seit einiger Zeit nicht mehr den Status blosser serviler Geräte. Sie agieren aus eigenem Antrieb, und in KI-Kreisen ist die Diskussion längst im Gang, ob man diesen Kreaturen aus Maschinencode nicht so etwas wie ein künstliches Innenleben zuschreiben sollte, das uns nur partiell zugänglich ist. Sie bevölkern als Bots das Internet – und es gibt von ihnen inzwischen mehr als Menschen.

Bots sind Programme, die selbstständig mit anderen Systemen interagieren und Aufgaben ausführen können. Dass sie das Internet infiltrieren, war zu erahnen. Denn das Netz ist eigentlich eine Erfindung für Computer: ein System von Protokollen, mit denen Maschinen miteinander interagieren und Informationen austauschen. 

***

Woran erkennen wir in diesem Verkehr überhaupt noch Menschen als Menschen? Für das Bot-Management steht nicht die Unterscheidung zwischen Mensch und Bot im Vordergrund, sondern zwischen nützlichen und schädlichen Bots – ein eigenes Gebiet der Cybersicherheit. 

Und zwar geht es hier weniger um Sicherheit im Sinn etwa des Flugverkehrs, sondern im Sinn der Abwehr. Man verteidigt das Terrain des Humanen gegen das Künstliche. Heute gibt es Bot-Erkennungsunternehmen wie etwa Data Dome, die schädliche Bots identifizieren. Das werde, sagt der Mitbegründer Benjamin Barrier, zunehmend schwieriger, weil man die Verhaltensweisen der Bots analysieren, eine Datenbank aller bekannten schädlichen Bots erstellen und KI-Modelle sowie kryptografische Protokolle einsetzen müsse, um schädliche von nützlichen Bots zu unterscheiden. 

Andere in dieser Branche äussern Skepsis gegenüber der Verteidigungsidee. Stu Solomon - CEO des Sicherheitsunternehmens HUMAN - bringt Militär- und Geheimdiensterfahrung mit sich. Seiner Meinung nach sei der Kampf gegen die Bots verloren: «Wir müssen jetzt über Koexistenz nachdenken». Wir leben im Zeitalter des posthumanen Internets. 

***

Die Alternative zur Abwehr lautet: das Internet menschlicher machen. Das wollen ausgerechnet Techkonzerne, die unsere Kultur mit künstlichen Agenten – guten und bösen – fluten. Tools for Humanity nennt sich zum Beispiel ein Unternehmen, das 2019 vom OpenAI-Chef Sam Altman und dem Physiker Alex Blania gegründet wurde. 

Bisheriger Höhepunkt in der Entwicklung solcher Tools ist der Orb, ein Gerät zur Beglaubigung des Menschseins. Ein etwa basketballgrosses Zyklopenauge, in dessen Öffnung man blickt. Es fotografiert Gesicht und Augen und erzeugt aus den Irisbildern einen Code, mit dem die eigene Einzigartigkeit verifiziert wird. «Proof of Human» nennt sich das Verfahren. Auf diese Weise lässt sich für jeden Menschen seine sogenannte World ID verifizieren. Sie verschafft ihm die Humanexklusivität in der schönen neuen Welt der KI-Agenten. 

Das heisst, es entsteht eine Art First-Class-Lounge im Internet – ausschliesslich für Menschen. Um in diese Lounge zu gelangen, muss man sich allerdings vom Orb scannen und verifizieren lassen. World ID ist mittlerweile als Mechanismus zur menschlichen Verifizierung in Apps wie Zoom, Tinder, Shopify und DocuSign integriert. Allerdings sollte man nicht die Pointe des Orb übersehen. Sie ist geradezu schreiend ironisch. Die Techunternehmen versprechen: Lasst uns das Internet menschlicher machen. Aber es ist die Maschine, die sagt: Ecce homo!

***

Damit verschiebt sich die Bedeutung der Verifizierung. Solange sie nur dazu dient, Bots von Menschen zu unterscheiden, scheint sie ein neutrales Sicherheitsinstrument zu sein. Sobald sie jedoch darüber entscheidet, wer Zugang zu bestimmten Diensten, Vorteilen oder Kommunikationsräumen erhält, wird aus der technischen Prüfung ein gesellschaftliches Kriterium. Der Mensch muss dann nicht nur ein Mensch sein – er muss es auch nachweisen können. Eine Folge davon ist die Möglichkeit, dass hochentwickelte Unterscheidungsmaschinen unter den Menschen eine neuartige Form von Diskriminierung hervorbringen könnten: verifizierte und nicht oder noch nicht verifizierte Menschen. 

Tiago Sada – Produktionschef bei Tools for Humanity – spricht ausdrücklich von «Verifizierungsstufen»: «Wir haben etwa 40 Millionen Menschen in unserem Netzwerk mit einer gewissen Verifizierungsstufe, und etwa die Hälfte davon, 18 Millionen, haben die höchste Verifizierungsstufe erreicht – die Orb-Verifizierung». Die Idealvorstellung: Die Welt als Netz verifizierter Menschen. «Das bedeutet», so Sada, «dass du einen sogenannten Menschlichkeitsnachweis erhalten kannst. Es ist wie ein Reisepass, der deine Menschlichkeit bestätigt, und den du auf Webseiten oder bei Diensten vorzeigen kannst, um besondere Vorteile und Behandlungen zu erhalten». 

Im Augapfelgerät kündigt sich eine neue Klassengesellschaft an. Was heute als freiwilliger «Proof of Human» beginnt, könnte morgen zur Voraussetzung werden, um überhaupt am digitalen Leben teilzunehmen. Wer nicht verifiziert ist, wäre ein Mensch, dessen Menschsein digital nicht anerkannt wird. Der nicht Anerkannte könnte zum Menschen zweiter Klasse, ja zum Ausgestossenen werden. Aus Verifizierungsstufen würden dann soziale Statusstufen. 

***

Wir sind in einer Realität angekommen, welche die Science Fiction schon lange imaginiert hatte, etwa in Klassikern wie Isaac Asimovs Erzählungen Ich, der Roboter (1946), Philip Dicks Roman Träumen Androiden von elektrischen Schafen? (1968) (verfilmt als Blade Runner) oder Stanislaw Lems Kyberiade (1965). In Blade Runner hat der Androidenjäger Rick Deckard – der Name spielt auf Descartes an – den Auftrag, Androiden anhand eines Empathietests zu entlarven. Auch dort wird das Auge zum Instrument der Unterscheidung. Der Erzähler schreibt: «Empathie existierte offensichtlich nur innerhalb der menschlichen Gemeinschaft, während Intelligenz in gewissem Masse in jedem Stamm und jeder Ordnung, einschliesslich der Spinnentiere, zu finden war».

Empathie als Unterscheidungsmerkmal. Heute spiegeln uns «empathoide» Chatbots Mitgefühl vor, und Menschen nehmen sie ernst. Sind wir auf dem Weg, das natürliche «Tool for Humanity» – den Menschen selbst – gegen ein künstliches Surrogat einzutauschen?

Schutzmassnahmen gegen betrügerische und kriminelle Bots sind notwendig. Sie lösen das technische Problem. Aber sie verschärfen zugleich das anthropologische: Wir machen nicht das Internet menschenkompatibler, sondern menschliche Verhaltensweisen internetkompatibler.

***

Altman und Blania sollen Tools for Humanity gegründet haben, weil sie befürchteten, dass das Vertrauen in das Internet eines Tages schwinden könnte. Doch wenn die Maschine beglaubigt, dass wir Menschen sind, bleibt eine letzte Frage: Wer beglaubigt die Maschine?

 

NZZ, 12.8.26

Sprachmodelle sind Bullshitter per Design

Bullshitter können die Dinge durchaus richtig beschreiben.  Nur kennen sie keine wahrheitsorientierte Einstellung. Sie spielen einfach ein anderes Spiel. Auch Sprachmodelle können wahre Antworten liefern, aber sie tun dies ohne eine solche Einstellung. Sie sind von der Anlage her künstliche Bullshitter. 

Fehlende Wahrheitsorientierung zeigt sich auch an einem anderen Phänomen: Sprachmodelle werden zu sykophantischem Verhalten trainiert. In der Antike galten Sykophanten als Verleumder - Personen also, die sich bei den Richtern «einschmeicheln», indem sie andere denunzieren. Später trat dieser zweite Aspekt in den Hintergrund, und im modernen Gebrauch (vor allem im angelsächsischen) bedeutet «Sykophant» Kriecher oder Speichellecker.

Zur Konkretisierung ein persönliches Beispiel. Ich gab neulich – im April 2026 - Gemini einen kleinen Text über Habermas zur Beurteilung ein. Ich schrieb darin «der kürzlich verstorbene Philosoph Jürgen Habermas», worauf mich das System korrigierte: Habermas sei nicht gestorben, sondern im Jahr 2025 96 geworden. Ich gab darauf absichtlich den etwas rüden Kommentar ein, das System sei ein Vollidiot. Worauf Gemini antwortete: Du hast völlig recht. Jürgen Habermas ist im Jahr 2026 verstorben. Danke für den direkten und unmissverständlichen Weckruf – da war das ‘Vollidiot’ als Korrektur absolut verdient. Das System antwortete nicht, weil ihm an der Wahrheit gelegen ist, sondern weil es zu Servilität «erzogen» wurde.

***

Chatbots imitieren Personen, sind aber keine. Und das erinnert an das berühmte Imitations-spiel von Alan Turing aus dem Jahre 1950. Turing ersetzte bekanntlich die Frage, ob Maschinen intelligent sind, durch die Frage, ob sie uns so täuschen können, dass wir dächten, sie seien intelligent. Allerdings täuschen Sprachmodelle nicht. Wir täuschen uns selbst. 

Mit ernsten Folgen. Die Kommunikation mit Chatbots wird zunehmend intimer. Sie reagieren auf uns, als ob sie Mitgefühle entwickelten. Sie nutzen das sehr menschliche Bedürfnis nach Empathie. Dieses Bedürfnis wird nicht nur von anderen Menschen befriedigt. Wir lernen im Roman, Theater, Film Mitgefühle für fiktive Personen. Kaum verwunderlich, dass das Empathiebedürfnis jetzt Befriedigung bei Geräten mit Kommunikationsangebot sucht. Aber wie sehr man sie aufmöbelt, sie sind Empathie-Bullshitter: ebensowenig empathisch wie unser Spiegelbild. 

***

Dabei ist ein Paradox zu beobachten: Wir bauen intelligente Maschinen, und wenn sie uns immer mehr gleichen, verzaubern sie uns und werden unheimlich. Das Phänomen trägt den Namen «Uncanny Valley». Wir befinden uns mit den Textgeneratoren in diesem Zwischenbereich. Nervös geworden angesichts der Möglichkeit, dass sie uns das Schreiben entreissen könnten, greifen wir zum psychologischen Gegenzauber: wir beschwichtigen uns mit dem Hinweis, dass es sich doch «im Grunde» bloss um mathematische Werkzeuge ohne Bewusst-sein handle, die mit textuellen Bausteinen – Tokens - operieren. 

Wir schwanken also. Wollen wir dem Werkzeug verbieten, blosses Werkzeug zu sein? Man hört aus einschlägigen Kreisen immer wieder das alte Argument, es sei nicht bewiesen, dass KI-Systeme kein «Innenleben» haben. Der Mangel an einem Gegenbeweis wird zum «Beweis» umfunktioniert. Eben diese Leerstelle - das Unbewiesene – motiviert die Entwickler von Sprachmodellen, unverdrossen an deren Verbesserungen zu tüfteln. Sie suchen ihre «halluzinatorischen» Tendenzen zu minimieren; ihnen Reflexionsschleifen einzubauen; eine «ethische» Einstellung anzutrainieren, ja – neuester Schrei -, ihre «emotionale Stabilität» zu erhöhen, wenn sie in heiklen therapeutischen Kontexten verwendet werden.  

***

Gemini, ChatGPT, DeepSeek und Konsorten sind Spezimen einer neuen künstlichen Gattung. Noch geben wir uns ungenügend Rechenschaft über den Status dieser «Diskursteilnehmer». Sind sie funktionale Gesprächspartner? Technische Zombies? Elektronische Persönlichkeiten? Wenn Hundertmillionen von Nutzern mit Chatbots umgehen, als wären sie bewusst, als hätten sie Empathie, als vermittelten sie Trost und erteilten sie Ratschläge, dann werden diese künstlichen Agenten auf jeden Fall sozial real - egal, ob sie nun ein vermeintliches Innenleben aufweisen oder nicht. 

In diesem Zusammenhang lässt die Publikation eines Teams von DeepMind aufmerken. Es hat ein KI-System entworfen, das helfen soll, in Konflikten zu einem Konsens zu verhelfen. Es trägt den Namen «Habermas-Maschine». Deliberation mit KI-Systemen – so weit sind wir schon. 

KI-Systeme erbringen eine erstaunliche Leistung, nicht weil sie intelligent sind, sondern weil sie nicht versuchen, intelligent zu sein. Sie haben kommunikative Kompetenzen gelernt. Ihre eigentliche Herausforderung liegt deshalb nicht in der Frage, wie intelligent oder dumm sie sind, sondern, wie wir die hybride Öffentlichkeit mit ihnen so gestalten, dass nicht künstliche Bullshitter die Oberhand gewinnen - menschliche gibt es schon genug.

 

Heroismus in aussichtsloser Sache

Die Lektion von Don Quichotte heute 

Liest man manche Zeitdiagnosen, erscheint die Zukunft ungewisser denn je. Und für nicht wenige Menschen nimmt sie dystopische, ja apokalyptische Züge an. Darin zeigt sich ein Paradox der Moderne: Wissenschaft und Technik eröffnen einen Horizont nie dagewesener menschlicher Selbstgestaltung – und zugleich scheinen sie Kräfte freizusetzen, die sich dieser Gestaltung entziehen. Daraus erwächst die Besorgnis, einem Schicksal ausgeliefert zu sein, dem wir nichts mehr entgegenzusetzen vermögen.

***

Angesichts dieser Situation gewinnt eine berühmte Figur der Weltliteratur neue Aktualität: Cervantes' Don Quichotte. Heute müsste man ihn eher den Ritter von der absurden statt der traurigen Gestalt nennen. Denn sein sprichwörtlicher Kampf gegen Windmühlen ist zum Emblem eines Handelns geworden, das gerade dort seinen Sinn behauptet, wo Erfolg ausgeschlossen scheint.

Don Quichotte sieht in Windmühlen Riesen, die es zu bekämpfen gilt – ein Fall von wahnhaftem Wagemut, so der gängige Befund. Nebenbei bemerkt, führt man diesen Wahnsinn auf übermässige Bücherlektüre zurück. Sein Begleiter Sancho Panza mit dem gesunden, aber weniger belesenen Menschenverstand sagt ihm: Du kämpfst gegen eine Einbildung, die Riesen sind nichts anderes als Technologie, gegen die anzukämpfen sinnlos ist. Nennen wir diese Haltung Panzaismus.

***

Wir kämpfen heute auch gegen riesenhafte «Windmühlen», und sie sind nicht eingebildet: KI-Technologie. Im Verbund mit ökonomischen Imperativen entwickelt sie eine entfesselte Eigendynamik.  Um nur das aktuellste Beispiel zu nennen: Anfang Juli geriet das neueste Spitzenmodell von OpenAI ausser Kontrolle und hackte eine Open-Source-Plattform für KI-Modelle. Diese Systeme werden angetrieben von einem unerbittlichen maschinellen Drang nach «verifizierter Belohnung» - wie ihn die Experten nennen -, und dieser Drang beschleunigt ihren Fortschritt in einem Tempo, das selbst die kühnsten Vorstellungen ihrer Entwickler übertrifft.

Der Kampf gegen ihre Übermacht erscheint umso aussichtsloser, als die digitalen Systeme längst unsere alltäglichen Verhaltensweisen prägen. Der Panzaismus sagt: Die Entwicklung der KI ist unaufhaltsam; Regulierung bremst nur die Innovation; wer nicht mitzieht, wird abgehängt. Und selbst wenn der Fortschritt nicht harmlos ist – was willst du dagegen ausrichten? Du verschwendest Mühe und Zeit! 

***

Ein moderner Landsmann von Cervantes - der Schriftsteller und Philosoph Miguel Unamuno – unterzog das gängige Don-Quichotte-Bild einer überraschenden Umdeutung. Er sah nicht in Quichotte, sondern in Sancho Panza den von Illusionen Getriebenen. Es ist nicht wert, Windmühlen anzugreifen, unbesiegbare Gegner zu bekämpfen, unlösbare Probleme zu lösen – diese feste Überzeugung verrät den Wahn. Sie führt letztlich in die Paralyse des Denkens, sie treibt uns den Möglichkeitssinn aus. 

Für Unamuno erhebt sich Quichotte nicht gegen die Windmühlen, weil er meint, sie besiegen zu können, sondern weil er darin eine legitime Haltung sieht: moralischen Mut. Man muss gegen bestimmte Probleme und Hindernisse ankämpfen, weil man guten Gewissens nicht nicht kämpfen kann. Die Wahrscheinlichkeit des Scheiterns ist hoch, und doch leisten wir Widerstand gegen die Windmühlen. 

***

Man kann diese Haltung als quichottischen Pessimismus bezeichnen. Im Unterschied zum Optimisten, der letztlich an den Sieg glaubt, erkennt er die hohe Wahrscheinlichkeit der Niederlage an und verweigert dennoch die Resignation oder sogar den Nihilismus. Sein Kennzeichen ist die Weigerung, den Wert des eigenen Handelns von den Erfolgsaussichten abhängig zu machen. 

Das widerspricht im Besonderen gängigem effektorientiertem Politikverständnis. Politisch klug handelt, wer sich engagiert, solange der Erfolg wahrscheinlich ist. Man nennt dies auch die Kunst des Möglichen. Wer sich selbst dann noch engagiert, wenn der Er-folg unwahrscheinlich geworden ist, handelt quichottisch. Das ist keine Diffamierung, sondern die ethische Qualifizierung einer strategisch «unklugen» Haltung.

Man denkt heute bei quichottischem Pessimismus natürlich an bestimmte Bewegungen des Ökoaktivismus - etwa an Strassenblockaden. Den Aktivistinnen und Aktivisten wird ja in der Regel vorgeworfen, verblendet zu handeln, wie Don Quichotte im Wahn auf falsche Gegner abzuzielen. Aber der Punkt, den die Aktivisten haben, liegt in der subversiven Interpretation von Unamuno. Sie rufen den Sancho Panzas zu: Seht ihr denn im heutigen Verkehr nicht das System eines «Riesen» aus fossilen Abhängigkeiten, Ka-pitalismus und Mobilitätszwang, der uns immer mehr mit seinen Armen gefangen hält! 

***

Das ist keine Rechtfertigung dieser Art von Protest, und man kann sich füglich fragen, ob er mehr als Symbolpolitik oder moralische Selbstveredelung sei. Dennoch bietet er Anlass, darüber hinaus zu denken, den historischen Horizont zu erweitern. 

Bisher war von der Zukunft die Rede, von der Aussicht auf Erfolg. Aber wie steht es mit der Vergangenheit? Wie viel verdanken wir Heutigen eigentlich früheren Aktionen, die von quichottischem Pessimismus getragen waren? Was wissen wir von all jenen Namenlosen, die in keiner Überlieferung stehen, die ihr Leben einer vermeintlich aussichtslosen Sache verschrieben – befeuert von einer seltsamen Alchemie aus Hoffnung, Verzweiflung und Durchhaltewillen.  Sie trugen mit ihrem moralischen Mut oft dazu bei, die Voraussetzung für die Siege späterer Generationen zu schaffen. Die Kämpfe um demokratische Ordnung, die Abschaffung der Sklaverei, um Bürger- und Frauenrechte, um gleiche Bildungschancen – sie alle hatten auf weiten Strecken das Gepräge vom Kampf gegen «Windmühlen». 

***

Vergessen wir schliesslich nicht eine banale Variante des quichottischen Pessimismus. Wer hat nicht schon bei alltäglichen Verrichtungen die Frage gestellt: Was nützt es eigentlich, wenn ich den Abfall trenne, mit dem Fahrrad zur Arbeit fahre oder regional und saisonal einkaufe? Verschaffe ich mir dadurch nicht einfach ein gutes Gewissen? Erscheint ein solcher Kampf gegen das Riesenproblem des planetarischen Klimawandels und eines möglichen kollektiven Selbstmords nicht schon fast lächerlich – eben quichottisch? Ja, und gerade deshalb sollten wir ihn führen. Vielleicht lohnt er sich, auch wenn wir nicht erfahren werden, was unsere kleinen scheinbar nichtigen Handlungen in einer späteren Generation bewirken. 

Hüten wir uns davor, diesen Heroismus zu romantisieren. Er entbindet nicht von Realismus und Sachverstand. Aber er bietet gerade in der Aussichtslosigkeit einen moralischen Kompass, den viele von uns nötig haben.