Zertifiziertes Menschsein

«Ecce homo», sagt die Maschine

Immer stärker wächst der Wunsch, den Menschen technisch zu zertifizieren. Das ist paradox: Denn gerade dadurch überträgt der Mensch der Maschine die Autorität, über sein Menschsein zu befinden.

***

Wir leben zunehmend in einer Mischgesellschaft aus Menschen und künstlichen Systemen. Das heisst: Die künstlichen Systeme haben schon seit einiger Zeit nicht mehr den Status blosser serviler Geräte. Sie agieren aus eigenem Antrieb, und in KI-Kreisen ist die Diskussion längst im Gang, ob man diesen Kreaturen aus Maschinencode nicht so etwas wie ein künstliches Innenleben zuschreiben sollte, das uns nur partiell zugänglich ist. Sie bevölkern als Bots das Internet – und es gibt von ihnen inzwischen mehr als Menschen.

Bots sind Programme, die selbstständig mit anderen Systemen interagieren und Aufgaben ausführen können. Dass sie das Internet infiltrieren, war zu erahnen. Denn das Netz ist eigentlich eine Erfindung für Computer: ein System von Protokollen, mit denen Maschinen miteinander interagieren und Informationen austauschen. 

***

Woran erkennen wir in diesem Verkehr überhaupt noch Menschen als Menschen? Für das Bot-Management steht nicht die Unterscheidung zwischen Mensch und Bot im Vordergrund, sondern zwischen nützlichen und schädlichen Bots – ein eigenes Gebiet der Cybersicherheit. 

Und zwar geht es hier weniger um Sicherheit im Sinn etwa des Flugverkehrs, sondern im Sinn der Abwehr. Man verteidigt das Terrain des Humanen gegen das Künstliche. Heute gibt es Bot-Erkennungsunternehmen wie etwa Data Dome, die schädliche Bots identifizieren. Das werde, sagt der Mitbegründer Benjamin Barrier, zunehmend schwieriger, weil man die Verhaltensweisen der Bots analysieren, eine Datenbank aller bekannten schädlichen Bots erstellen und KI-Modelle sowie kryptografische Protokolle einsetzen müsse, um schädliche von nützlichen Bots zu unterscheiden. 

Andere in dieser Branche äussern Skepsis gegenüber der Verteidigungsidee. Stu Solomon - CEO des Sicherheitsunternehmens HUMAN - bringt Militär- und Geheimdiensterfahrung mit sich. Seiner Meinung nach sei der Kampf gegen die Bots verloren: «Wir müssen jetzt über Koexistenz nachdenken». Wir leben im Zeitalter des posthumanen Internets. 

***

Die Alternative zur Abwehr lautet: das Internet menschlicher machen. Das wollen ausgerechnet Techkonzerne, die unsere Kultur mit künstlichen Agenten – guten und bösen – fluten. Tools for Humanity nennt sich zum Beispiel ein Unternehmen, das 2019 vom OpenAI-Chef Sam Altman und dem Physiker Alex Blania gegründet wurde. 

Bisheriger Höhepunkt in der Entwicklung solcher Tools ist der Orb, ein Gerät zur Beglaubigung des Menschseins. Ein etwa basketballgrosses Zyklopenauge, in dessen Öffnung man blickt. Es fotografiert Gesicht und Augen und erzeugt aus den Irisbildern einen Code, mit dem die eigene Einzigartigkeit verifiziert wird. «Proof of Human» nennt sich das Verfahren. Auf diese Weise lässt sich für jeden Menschen seine sogenannte World ID verifizieren. Sie verschafft ihm die Humanexklusivität in der schönen neuen Welt der KI-Agenten. 

Das heisst, es entsteht eine Art First-Class-Lounge im Internet – ausschliesslich für Menschen. Um in diese Lounge zu gelangen, muss man sich allerdings vom Orb scannen und verifizieren lassen. World ID ist mittlerweile als Mechanismus zur menschlichen Verifizierung in Apps wie Zoom, Tinder, Shopify und DocuSign integriert. Allerdings sollte man nicht die Pointe des Orb übersehen. Sie ist geradezu schreiend ironisch. Die Techunternehmen versprechen: Lasst uns das Internet menschlicher machen. Aber es ist die Maschine, die sagt: Ecce homo!

***

Damit verschiebt sich die Bedeutung der Verifizierung. Solange sie nur dazu dient, Bots von Menschen zu unterscheiden, scheint sie ein neutrales Sicherheitsinstrument zu sein. Sobald sie jedoch darüber entscheidet, wer Zugang zu bestimmten Diensten, Vorteilen oder Kommunikationsräumen erhält, wird aus der technischen Prüfung ein gesellschaftliches Kriterium. Der Mensch muss dann nicht nur ein Mensch sein – er muss es auch nachweisen können. Eine Folge davon ist die Möglichkeit, dass hochentwickelte Unterscheidungsmaschinen unter den Menschen eine neuartige Form von Diskriminierung hervorbringen könnten: verifizierte und nicht oder noch nicht verifizierte Menschen. 

Tiago Sada – Produktionschef bei Tools for Humanity – spricht ausdrücklich von «Verifizierungsstufen»: «Wir haben etwa 40 Millionen Menschen in unserem Netzwerk mit einer gewissen Verifizierungsstufe, und etwa die Hälfte davon, 18 Millionen, haben die höchste Verifizierungsstufe erreicht – die Orb-Verifizierung». Die Idealvorstellung: Die Welt als Netz verifizierter Menschen. «Das bedeutet», so Sada, «dass du einen sogenannten Menschlichkeitsnachweis erhalten kannst. Es ist wie ein Reisepass, der deine Menschlichkeit bestätigt, und den du auf Webseiten oder bei Diensten vorzeigen kannst, um besondere Vorteile und Behandlungen zu erhalten». 

Im Augapfelgerät kündigt sich eine neue Klassengesellschaft an. Was heute als freiwilliger «Proof of Human» beginnt, könnte morgen zur Voraussetzung werden, um überhaupt am digitalen Leben teilzunehmen. Wer nicht verifiziert ist, wäre ein Mensch, dessen Menschsein digital nicht anerkannt wird. Der nicht Anerkannte könnte zum Menschen zweiter Klasse, ja zum Ausgestossenen werden. Aus Verifizierungsstufen würden dann soziale Statusstufen. 

***

Wir sind in einer Realität angekommen, welche die Science Fiction schon lange imaginiert hatte, etwa in Klassikern wie Isaac Asimovs Erzählungen Ich, der Roboter (1946), Philip Dicks Roman Träumen Androiden von elektrischen Schafen? (1968) (verfilmt als Blade Runner) oder Stanislaw Lems Kyberiade (1965). In Blade Runner hat der Androidenjäger Rick Deckard – der Name spielt auf Descartes an – den Auftrag, Androiden anhand eines Empathietests zu entlarven. Auch dort wird das Auge zum Instrument der Unterscheidung. Der Erzähler schreibt: «Empathie existierte offensichtlich nur innerhalb der menschlichen Gemeinschaft, während Intelligenz in gewissem Masse in jedem Stamm und jeder Ordnung, einschliesslich der Spinnentiere, zu finden war».

Empathie als Unterscheidungsmerkmal. Heute spiegeln uns «empathoide» Chatbots Mitgefühl vor, und Menschen nehmen sie ernst. Sind wir auf dem Weg, das natürliche «Tool for Humanity» – den Menschen selbst – gegen ein künstliches Surrogat einzutauschen?

Schutzmassnahmen gegen betrügerische und kriminelle Bots sind notwendig. Sie lösen das technische Problem. Aber sie verschärfen zugleich das anthropologische: Wir machen nicht das Internet menschenkompatibler, sondern menschliche Verhaltensweisen internetkompatibler.

***

Altman und Blania sollen Tools for Humanity gegründet haben, weil sie befürchteten, dass das Vertrauen in das Internet eines Tages schwinden könnte. Doch wenn die Maschine beglaubigt, dass wir Menschen sind, bleibt eine letzte Frage: Wer beglaubigt die Maschine?