Gesellschaft als
Besserungsanstalt
In der Stadt Ampara in Sri Lanka machte 2018 das Gerücht die
Runde, ein muslimischer Essbudenbesitzer würze sein Essen auf eine Art, die
Buddhisten unfruchtbar machen würde. – Reiner Hafenkäse, aber die Information
genügte, und wüste Ausschreitungen eruptierten. Allerdings glich das Klima
zwischen Buddhisten und Muslimen schon vorher einer Zunderbüchse. Und
Mobausschreitungen sind auch nicht gerade neu. Neu sind dagegen die Brandbeschleuniger
im Netz. Die Algorithmen der Social Media sind Supraleiter des leicht
brennbaren Bullshits. „EdgeRank“ von Facebook priorisiert Nachrichten
aufmerksamkeitserregenden Inhalts, und dazu gehören Videos, die Uremotionen
wecken wie Angst oder Zorn.
Gegen solche Unsitten sucht Facebook Remedur zu schaffen:
mit Erziehung des Plattformnutzers. Einerseits wurde eine Netiquette des
Postings eingeführt, andererseits teilte das Unternehmen 2018 mit, es würde den
Newsfeed-Algorithmus justieren („to tweak“: „herumdoktern“, nennt das der
Jargon). Was das bei der notorischen Geheimniskrämerei rund um diesen
Algorithmus auch heissen mag, jedenfalls wählte man zum Testen Länder wie Sri
Lanka aus. Und man kann sich des ironischen Eindrucks nicht erwehren, die
srilankischen „Probanden“ hätten es eigens darauf abgesehen, die übelsten
Folgen der „Optimierung“ vorzudemonstrieren. Während Facebook Friede, Freude,
Eierkuchen verkündet, verlustieren sich die Plattformnutzer mit Konflikt,
Krawall und Konfrontation.
***
Ironie hin oder her, wir bekommen es mit einem Phänomen der
modernen elektronischen Polis zu tun, das sich in Zukunft als noch
unbehaglicher erweisen könnte. Nennen wir es Techno-Paternalismus. Die neuen
„smarten“ Geräte, die uns auf Schritt und Tritt begleiten, sind nicht einfach
bloss „Helfer“, sie sind „Erzieher“, indem sie uns andauernd empfehlen,
beraten, schubsen, bewerten, und all dies zu „unserem Besten“. Das liegt daran,
dass die Algorithmen neuestens unsere Verhaltensweisen „lernen“, sie unter
Umständen selber verbessern und so auf uns zurückwirken. Wir sind quasi in
einen Lern-Loop mit den Maschinen getreten.
Und das zeitigt unbeabsichtigte Konsequenzen. Die Vertreter
der grossen Technokonzerne haben sie bisher kaum genügend ernst genommen. Im
Gegenteil, sie reissen verblüfft die Augen auf und tun empört über den
„Missbrauch“. Dabei ist der Missbrauch in den Gebrauch eingebaut. Es erstaunt
ohnehin, mit welcher Naivität (oder welchem Zynismus) die sich häufenden
Netzgarstigkeiten als „Pannen“, „Bugs“ oder „Anomalien“ abgetan werden:
Radikalisierung in „Stämmen“ Gleichgesinnter, Mobbing, Trolling,
Verschwörungstheorien, Fake News, Filterblasen. Zuckerbergs Glaube an die
Facebook-Ökumene ist schon fast religiöser Art: der Glaube an Technologie als heilsbringendem
sozialem Universalleim. Ein bodenlos gefährlicher Irrtum.
***
Um bei der Metapher zu bleiben: Hier geht etwas aus dem Leim
- Demokratie. Die eifrigsten Wellenreiter der Informationsrevolution sind heute
bezeichnenderweise Autokraten. Der technologische Fortschritt ist horrend. Der
politische – sagen wir es deutlich: der demokratische – Fortschritt hechelt hinterher.
Anti-Demokraten jeglicher Observanz haben ihren Sitz im Digital-Express bezogen.
Der Arabische Frühling liegt schon fast zehn Jahre zurück, als die Herrschenden
für einen Moment das Fürchten lernten, weil es den Anschein machte, dass
Facebook und Twitter den Bürgern endlich die nötigen Plattformen für den
„befreienden“ demokratischen Diskurs ermöglichten. Das war eine verfrühte
Zuversicht. Schnell haben die Anti-Demokraten eine ganz andere Lektion gelernt:
Russische Trollfarmen beeinflussen die Meinungsbildung im Netz, iranische Behörden
verlangsamen oder blockieren den Internetverkehr. Die künstliche Intelligenz
entpuppt sich als ein Segen für den Polizeistaat.
Die gleichen Mittel, mit denen wir unsere Ferienphotos taggen, eignen sich
bestens als Überwachungsinstrumente. All die schönen smarten Dinge, mit denen
wir zusehends unseren Haushalt bestücken, können sich hinterrücks als künstliche
„Denunzianten“ erweisen.
***
Promotoren „disruptiver“ Technologien scheinen nicht viel am
Hut zu haben mit Demokratie. Vertragen sich avancierte Technologie und
Demokratie überhaupt? Schon ertönt aus Kreisen westlicher Kommentatoren ein
Verständnis für den chinesischen Weg einer rigorosen „Umerziehung“ des Bürgers
mittels Technologie. Gewiss kann man Achtung dafür zollen, dass der
Lebenstandard in einer Riesenpopulation gehoben worden ist. Und man hört auch,
dass der chinesische Bürger wenig (und ungute) Erfahrung mit der Demokratie
gemacht habe, weshalb er sie auch nicht vermisse. Mag sein. Nur sollte man jenen
Geschäftemachern, die den Kotau vor den chinesischen Partei-Mandarinen üben, im
Klartext zu verstehen geben, dass es immer noch den aufrechten Gang gibt, der
den Willen zum Vermissen der Demokratie nicht ganz aufgegeben hat. Damit sei
nicht irgendein westliches Demokratiemodell zum universellen Ideal hochstilisiert.
Es geht darum, diese politische Lebensform überhaupt erst wieder zu entdecken
und zu revalidieren, angesichts technologischer Utopien, die letztlich nur eine
erbarmungslose Eindimensionalität kaschieren. Aber viel mehr noch geht es darum,
die Technologien der künstlichen Intelligenz in den Dienst der individuellen
Menschenrechte zu nehmen, statt die individuellen Menschenrechte der
künstlichen Intelligenz zu opfern.
***
Technologie und Ideologie sind aufeinander angewiesen. Damit
eine Technologie sich wirkungsvoll durchsetzt, braucht sie eine Werbe-Ideologie.
Das ist der „weiche“ Techno-Paternalimus von Silicon Valley, mit seiner
Ideologie der „Global Community“. Damit eine Ideologie sich machtvoll durchsetzt,
braucht sie eine effektive Technologie. Deshalb waren Faschismus und
Stalinismus Techno-Ideologien. So auch der „harte“ Techno-Paternalismus Chinas.
Seine Vision lautet zugespitzt: Alle verhalten sich dank Technologie gleich. Auf
Kalifornisch heisst das: Alle beziehen die Technologie vom gleichen Unternehmen
– totalitäre Tendenzen hüben wie drüben.
Beide Paternalismen zeichnen das Bild des Menschen als eines
defizienten, sprich: besserungsbedürftigen Wesens. „Harmonisierung“ heisst dies
in China, „Fehlerbeseitigung“ („debugging“) in Silicon Valley. Der Mensch ist
(noch) zuwenig technik-konform. Und eine solche Konformität - die
Programmierung unserer Wünsche und Entscheide – ist das Ziel des weichen wie
des harten Techno-Paternalismus. Die
Methode: Korrektion mittels möglichst präziser Prognostik - Verhaltensökonomik,
Predictive Analytics, Habit Engineering. Man achte nur schon auf den
Sprachgebrauch. „Debugging“ als Fachterminus bedeutet soviel wie Aufsuchen und
Flicken von defekten Programmstücken. Und im pervertierten Menschenbild der
Techno-Paternalisten kommt auch der Mensch als kaum mehr denn ein „defektes“
Programm vor. Das alte „Erkenne dich selbst“ lautet nun: Zeig dich uns, wir
wollen dich erkennen, um dich umzuprogrammieren!
***
Künstliche Intelligenz ist heute der Schlüssel zur
Weltherrschaft. Zu dieser Herrschaft führt nicht mehr die Unterdrückung,
sondern die Umerziehung des Menschen. Wir nähern uns der Idee der Gesellschaft
als einer Besserungsanstalt. Und hier zeigt sich die wirklich gefährliche
Gemeinsamkeit der kalifornischen Verhaltensdesigner und der chinesischen
Erziehungspolizisten: das Ersticken von Direktheit, Diversität, Divergenz, Dissens.
Damit zersetzt man Demokratie aus ihrem Inneren heraus. Wir haben einen fatalen
Hang zum Konformismus. Künstliche Intelligenz verstärkt ihn, indem sie sich der
natürlichen aufmoduliert. Am Ende erreichen wir dank algorithmisch kalkuliertem
„perfektem“ Verhalten und Social Score den Status des idealen Tölpels
totalitärer Herrschaft. So gesehen hat die neue Informationstechnologie der
alten Nukleartechnologie den Bedrohungsrang abgelaufen. Die Bedrohung ist jetzt
nicht mehr materiell, sondern immateriell. Die Bombe explodiert still, in
unseren Hirnen.
