Ein neuer Kalter Krieg
Das Dilemma des technologischen Fortschritts
Der amerikanische Politikwissenschaftler Robert Jervis formulierte in der Zeit des Kalten Krieges das sogenannte Sicherheitsdilemma, eine für die Geopolitik zentrale Denkfigur aus der mathematischen Spieltheorie. Jervis’ Annahme: Nationen sind primär mit ihrer eigenen Sicherheit beschäftigt. Dazu rüsten sie sich mit Waffen auf. Auch wenn dies aus defensiven Gründen geschieht, so kann daraus ein nichtintendierter offensiver Effekt resultieren. Was die eine Nation als Schutz betrachtet, interpretiert die andere als agressiven Akt. In einer Situation, in der keine supranationale Instanz bindende Übereinkünfte durchsetzen kann, empfiehlt sich für beide Nationen die Strategie des Aufrüstens. Aber dadurch manövrieren sie sich in eine paranoide Spirale wechselseitigen Verdächtigens, die das Risiko und die Letalität eines Krieges erhöht.
***
Drohkulisse für Jervis’ Sicherheitsdilemma war die Nuklearwaffe. Sie bezieht den Nimbus der Einzigartigkeit ja aus ihrem immensen Zerstörungspotenzial – aus dem «harten» materiellen Zerstörungspotenzial, muss man präzisieren. Nun steht die technologische Entwicklung im Zeichen der KI-Systeme, einer «weichen» immateriellen Waffe. Sie droht den Menschen nicht materiell zu zerstören, sondern geistig, indem sie Möglichkeiten schafft, sein Verhalten unterschwellig zu steuern und somit das auszuschalten, was wir – zumindest in modernen Demokratien – als das Wertvollste am Menschen schätzen: die Unantastbarkeit seines Willens, seine intellektuelle Mündigkeit, sein Status als frei entscheiden-der Bürger. Dass die globale Autokratenclique die KI als patente künstliche Prätorianergarde begrüsst, versteht sich von selbst.
Heute prägt das Sicherheitsdilemma primär das globale technologische Brinkmanship, im Besonderen die Beziehung der beiden Grosskonkurrenten USA und China. Beide sind sich einig über den Charakter des Spiels. Wer sich obenauf schwingt, regiert die Welt. Mit den Worten von Alex Karp, Mitbegründer von Palantir, einer der führenden Firmen für Softwareanalyse: «Unsere Gegner werden keine Auszeit nehmen, um theatralische Debatten über die Vorzüge von Technologien mit kritischen militärischen und sicherheitspolitischen Anwendungen zu führen. Sie werden einfach vorangehen.»
Das ist der Punkt. Wenn nicht wir in Silicon Valley es tun, tun es die anderen in Shenzhen. Entweder verzichtet eine Nation auf geopolitische Vormachtstellung und begibt sich in die Abhängigkeit der avancierteren Nation – oder sie tritt ein in die entfesselte agressive Technologieentwicklung, ungewiss der Schäden und Trümmer, die daraus resultieren mögen. Eine unbehagliche Option tut sich auf: To boost (win) or not to boost (lose).
***
Nun ist diese binäre Logik des Siegens oder Verlierens nicht naturgegeben. Es sind geopolitische Druckverhältnisse, die die Technologieentwicklung fördern und beschleunigen. Der Zweite Weltkrieg war der Start des Computerrennens. Der Kalte Krieg befeuerte das Rennen im Weltraum zwischen den USA und der Sowjetunion. Japans Überlegenheit in der Halbleiterindustrie in den 1980er Jahren war der Beginn des Chipherstellungsrennens mit den USA. Vergessen wir nicht die Gentechnologie. In China studierte die Beijing Genomics Institution (BGI) schon 2013 die DNA von Personen mit überdurchschnittlichem IQ. Ziel: eine dank Gen-Engineering smartere Bevölkerung. In ein buchstäbliches Rattenrennen tritt die Forschung über Verbindungen zwischen Rattenhirnen, respektive zwischen Menschen- und Rattenhirnen (Brain-Brain-Interface, BBI). «Unsere Experimente deuten darauf hin, dass die Kooperation via mehrdimensionaler Informationsübermittlung durch computerassistiertes BBI vielversprechend ist», bemerkt der Leiter eines chinesischen Teams. «Vielversprechend» klingt nicht vielversprechend. Elon Musk zog 2016 mit der Gründung der Firma «Neuralink» nach, die sich mit der direkten Verschaltung von Gehirn und Computer be-schäftigt.
***
Kein Ausweg in Sicht? Eine wachsende Zahl von Technoskeptikern spekuliert darauf, dass die Nutzer der smarten Geräte sich deren negativen Seiten bewusst werden. Dadurch sehen sie das Dilemma in einer Art von technologischem Waffenstillstand entschärft und ein Fo-rum der Debatte über eine alternative Entwicklung eröffnet. Ein Techno-Moratorium. So wünschenswert es ist, damit machen wir die Rechnung ohne das Dilemma. Es besagt, dass wir es uns heute nicht leisten können auf die Technologie zu verzichten, selbst im Bewusst-sein ihrer Schattenseiten. Wider Willen müssen wir das Spiel spielen.
Der Techno-Booster leugnet die Schattenseiten, muss allerdings seine Rechnung mit dem andern Horn des Dilemmas machen. 2023 verfasste der Risikokapitalist Marc Andreessen ein «techno-optimistisches Manifest», in dem er das Aufkommen von Supermännern be-schwört. Man liest darin zum Beispiel: «Wir können zu einer weitaus höheren Lebens- und Daseinsweise fortschreiten. Wir haben die Werkzeuge, die Systeme, den Willen. Wir glauben, dass unsere Nachkommen in den Sternen leben werden. Wir glauben an die Grösse. Wir glauben an den Ehrgeiz, an die Agression, die Hartnäckigkeit, die Unbarmherzigkeit, die Stärke.»
***
Man fühlt sich auf höchst unangenehme Art an eine Mentalität des Ersten Weltkriegs erinnert. Damals sprachen die französischen Militärhandbücher von der «attaque à outrance», dem Krieg bis zum Exzess. Nach dieser Doktrin verhelfen neue Superwaffen der Erstschlag-Nation zu einem überwältigenden strategischen Vorteil: Maschinengewehre, Flammenwerfer, Panzer, Flugzeuge, Giftgas. Militärstrategen waren überzeugt, dass nur das kompromisslose Vorwärtsdrängen Erfolg versprach. Sie glaubten, mit Andreessen gesprochen, an «den Ehrgeiz, an die Agression, die Hartnäckigkeit, die Unbarmherzigkeit, die Stärke.»
Andreessens Manifest atmet den Geist des technologischen Exzesses. Er ist in das Sicherheitsdilemma eingebaut, unabhängig von den Ideologien und Motiven der beteiligten Spieler. Die Struktur selbst zwingt zu bestimmten Optionen und Handlungen. Sicherheit bringt nur das Vorwärtsstürmen, nicht das Einhalten, nicht das Überlegen. Das technologische Wettrüsten ist ein Spiel, dessen Regeln zu ändern eine umsichtige Vernunft gebietet. Sie sagt den Spielern: Ihr wärt besser dran, würdet ihr die Spirale nicht bedenkenlos weiter drehen. Die Spieler sehen darin keinen logischen Grund, die Spirale nicht weiter zu drehen. Sie sind besessen vom Wunschgedanken, das nächste «Superding» zwinge den Gegner in die Knie. Sie sind gefangen in einem Dilemma, das nichts Gutes verspricht. Was umso absurder erscheint, als die ökologischen Probleme auf dem Planeten dringlich nach technischen Lösungen rufen.
***
Zweifellos hat uns der technologische Fortschritt das Leben in mancherlei Hinsicht erleichtert. Aber moderne Gesellschaften erfahren über kurz oder lang eine Dialektik: die Last der Entlastung. Sie besteht darin, dass all die Geräte, die uns das Leben erleichtern, immer auch unvorhergesehene und unbeabsichtige Folgen haben. Sie können nicht nur kurzfristig zu wirtschaftlichen Instabilitäten und Jobverlusten führen, sondern längerfristig zu sozialen Verwerfungen, zum Verlust menschlicher Fähigkeiten und Handlungsoptionen, zur Unterminierung von Traditionen, zur Ausweitung der staatlichen Macht über die Bürger und nicht zuletzt zu einer geopolitischen Unsicherheitslage, wie wir sie heute erleben.
Das Mindeste, was wir im Wettrüsten von Computer-, Gen- und Neurotechnologie tun können, ist das Vermeiden falscher Hoffnungen. Und es ist ein schwacher Trost, darauf hinzuweisen, dass der alte Kalte Krieg nicht zu einem Weltenbrand führte. Der amerikanische Ökonom, Kriegsspieltheoretiker und Nobelpreisträger Thomas Schelling erklärte dieses Nicht-Ereignis zum «spektakulärsten Ereignis» der zweiten Hälfte des 20. Jahrhunderts. Ob der neue Kalte Krieg auch in einem spektakulären Nicht-Ereignis endet, ist nicht ausgemacht.