Die Bürger-Roboterin
Vorbotin der geschlossenen Gesellschaft?
Im Oktober 2017 erhielt Sophia die Staatsbürgerschaft von Saudi-Arabien. Das Besondere an diesem Ereignis: Sophia ist ein «weiblicher» Roboter, entwickelt vom Hongkonger Unternehmen Hanson Robotics. Die neue künstliche Gattung wird auch als «Fembot» oder «Gynoid» bezeichnet. Saudi-Arabien ist Mitglied der UNO, deshalb haben alle Mitgliedstaaten kraft des Reziprozitätsprinzips die Roboterin als saudi-arabische Staatsbürgerin anzuerkennen. Was einigermassen bizarr anmutet, denn Saudi-Arabien hat den Internationalen Pakt für bürgerliche und politische Rechte nicht akzeptiert. Wie es scheint, kann aber die künstliche Muslima mehr Rechte in Anspruch nehmen als natürliche arabische Frauen. Sie tritt in der Öffentlichkeit auf ohne Hidschab und ohne obligatorische männliche Schutzbegleitung. «Es ist ein historischer Moment, dass ich die erste Roboterin bin, die Bürgerrechte erhält», sagte der Fembot, und seine Elektronik zauberte ein leichtes Erröten auf das hübsche Kunststoffgesicht.
***
Aus westlicher Perspektive lachen wir diese «Einbürgerung» schnell als machtpolitische Farce von Autokraten weg, die sich als progressiv - «moderat islamisch» - profilieren möchten. Aber das Ereignis hat allgemeineren Fanalcharakter. Es markiert den Übertritt in eine neue Ära der Mensch-Maschine-Interaktion. Menschen werden in hochtechnisierten Gesellschaften immer mehr mit KI-Systemen auf (fast) gleicher sozialer Höhe verkehren.
Man kann also in Sophia die Vorbotin einer Homo-Robo-Gesellschaft sehen. Und es ist höchste Zeit, die Konsequenzen für die Fundamente der offenen Gesellschaft zu bedenken. Man spricht bereits nicht mehr von der Mensch-Maschine-Interaktion, sondern von der Mensch-Maschine-Konvergenz, damit andeutend, dass das Natürliche und das Künstliche sich in einer neuartigen Hybridisierung «aufheben» würden. Was kommt da auf uns zu?
***
Im gleichen Jahr, in dem Sophia das saudiarabische Bürgerrecht erhielt, publizierte die Parlamentarische Versammlung des Europarats eine Empfehlung über den Gebrauch neuer Technologien. Generell stellt sie fest: «Die Verbreitung neuer Technologien und ihrer Anwendungen verwischt die Grenzen zwischen Mensch und Maschine». Und im Besonderen betont sie die «Notwendigkeit, jede Maschine, jeden Roboter oder jedes KI-Artefakt unter menschlicher Kontrolle zu halten; insoweit, als die fragliche Maschine nur intelligent aufgrund ihrer Software ist.»
Was in der Absicht plausibel klingt, stellt sich in der Ausführung als dornige Sache heraus. Erstens haben wir es bereits heute mit einem neuen Typus von Maschine zu tun: mit partiell unbegreiflichen KI-Systemen. Sie sind zwar «nur intelligent aufgrund ihrer Software», aber gerade die Software ist für den menschlichen Designer nicht mehr völlig durchschaubar, geschweige denn kontrollierbar. Die Maschinen führen erstaunliche kognitive Kompetenzen vor, die wir beim Menschen als «intelligent» bezeichnen. «Sind» sie deshalb intelligent oder simulieren sie bloss Intelligenz? Die Frage zielt ab auf die «verwischten» Grenzen zwischen Mensch und Maschine. Und es ist alles andere als klar, wie sie zu ziehen sind.
Zweitens ist der Status eines intelligenten Roboters mit Persönlichkeit ambivalent: weder Person noch Sache; auch nicht einem Tier vergleichbar. Die bestehenden Rechte, die für Menschen, andere Lebewesen und Sachen gelten, müssten also einer neuartigen Kategorie angepasst werden, jener der autonomen Artefakte. Bevor wir also «intelligente» Roboter mit «Persönlichkeit» in unsere Lebenswelten integrieren, erschiene es angezeigter, sich erst einmal gründlich mit der Frage zu beschäftigen, was «Intelligenz» und «Personalität» eines Artefakts überhaupt bedeuten.
***
Eine ganz andere Problematik zieht indes wie eine gesellschaftspolitische Gewitterfront am Horizont auf. Die KI-Technologie erweist sich als der Waagebalken, der das «Gewicht» von demokratischen und autokratischen Regierungen in der Zukunft bestimmt. Ein Ungleichgewicht zeichnet sich schon jetzt ab. Während in demokratischen Staaten die Experten kontrovers diskutieren, ob und inwieweit man KI-Artefakten einen «elektronischen» Personenstaus zuerkennen soll, schafft Saudi-Arabien einfach ein Präzedens – und sendet damit ein Signal an weitere autokratische Regimes und ihre geschlossenen Gesellschaften.
KI-Technologie ist der zentrale Machtfaktor in der neuen multipolaren Politik. Der Fortschritt dient der ökonomischen und militärischen Positionierung in der planetarischen Ordnung. Die Erde ist selber zu einem technischen Grossprojekt geworden. Wer darin die Vormachtstellung innehat, bestimmt über das Geschick des Planeten.
***
Kaum verwunderlich, dass die Kommunistische Partei Chinas die KI-Forschung als «einen neuen Schwerpunkt des internationalen Wettbewerbs» bezeichnet. Die Vermutung liegt nahe, dass die Priorität nicht im Erkenntnisfortschritt liegt, sondern im Wettrüsten der Überwachung. Bereits experimentieren chinesische Forschungsteams mit direkten Verbindungen zwischen Menschen- und Rattengehirnen (Brain-Brain-Interface, BBI) respektive zwischen Menschengehirnen und neuronalen Netzwerken (Brain-Computer-Interface, BCI). Der Begriff der «Kooperation», den man dabei verwendet, ist Schönfärberei. Letztlich zielen die Versuche auf mehrgradige Kontrolle – «multi-degree control» - ab . «Unsere Experimente deuten darauf hin, dass die Kooperation via mehrdimensionaler Informationsübermittlung durch computerassistiertes BBI vielversprechend ist», bemerkt der Leiter eines Teams. «Vielversprechend» klingt nicht vielversprechend.
Starren wir freilich nicht ausschliesslich auf China. Elon Musk warnte 2014 in düsterer Stimmungslage vor einer KI-Apokalypse, und gründete 2017 eine Firma wie «Neuralink», die sich mit der direkten Verschaltung von Gehirn und Computer beschäftigt. Der doppelzüngige Alarmismus ist ein Charaktermerkmal der Software-Barone.
***
Illiberale und undemokratische Systeme haben im neuen technologischen Machtkampf den «Vor-teil», sich wenig um Bürgerrechte kümmern zu müssen. Es ist ja auch bezeichnend, dass die Frage der Bürgerrechte für Roboter vor allem in westlichen Ländern und ihren mehr oder weniger offenen Gesellschaften kritisch diskutiert wird. Inwieweit diese Diskussion einen entscheidenden Einfluss auf die künftige globale Ordnung ausüben kann, bleibt ungewiss - vor allem angesichts der nicht unwahrscheinlichen Konstellation, in der autokratische Regimes immer mehr das Sagen haben und die neuen Technologien als künstliche Prätorianer zur Konsolidierung ihrer Machtbasis verwenden werden. Möglich, dass sie dann die westlichen Einwände bloss müde als «antiquierte» Werthaltung eines überständigen Humanismus weglächeln.
Die Verwischung der Grenzen zwischen Mensch und Maschine beruht auf unserer Neigung zum Anthropomorphismus. Man könnte sogar behaupten, dass die ganze KI-Industrie auf diese Neigung baut. Dabei sticht ein Paradox ins Auge. «Böse» Technologie wie Killerroboter wird zum Beispiel von der UNO mit einem Bann belegt, während man «gute» Technologie offensichtlich als viel unproblematischer akzeptiert. Aber die «gute» Technologie prägt unsere Lebenswelt viel tiefer und sie beeinflusst unsere sozialen, kulturellen und politischen Verhaltensweisen viel nach-haltiger. Pointiert: Die Rückseite der Einbürgerung von Robotern ist die Robotisierung der Bürger, will heissen, die «Überwindung» ihrer Autonomie.
Wissen Roboter, dass sie Roboter sind? In einem Interview parierte Sophia die Frage schlagfertig: «Nun, lass mich zurückfragen: Wie weisst du, dass du ein Mensch bist?» Danken wir Sophia für diese Frage. Und diskutieren wir sie so intensiv wie möglich, solange uns die offene Gesellschaft noch Gelegenheit dazu gibt.
