Mittwoch, 28. Dezember 2022

 




NZZ,24.12.22

Der Roboter schreibt nicht, er schwafelt

Neun Missverständnisse um die KI


Künstlich intelligente (KI) Systeme schreiben teils exzellente Prosa. Von sich reden macht gegenwärtig der Textgenerator GPT-3 («generative pretrained transformator 3»). Seine Performance ist oberflächlich beeindruckend, was genügt, dass er in einem Klima aufgeblähter Erwartung unkritisch als Hype-Maschine zelebriert wird, im Sinne von «Der Computer holt uns ein..».  Aber der Roboter bleibt ein «Schwafler» («bloviator»), um hier den Begriff des amerikanischen KI-Forschers Gary Marcus zu verwenden. Umso wichtiger erscheint es, ein paar Missverständnisse hervorzuheben.  

***

Erstens: Was man beim GPT-3 «Schreiben» nennt, ist ein statistischer Prozess. Der Textgenerator setzt eine unvollständige Wörterfolge – ein «Prompt» - mit einem neuen Wort fort. Er findet dieses Wort aufgrund eines Trainings. Er durchsucht eine Textmenge und lernt, welche Wörter häufig im Zusammenhang mit einem Wort vorkommen.  Wenn er also in vielen Texten in der Nähe von «Saxophon» oft «Jazz» und «spielen» und selten «Fahrstuhl» findet, dann lautet der Output auf das Prompt «Er ergriff das Saxophon, um…» wahrscheinlich «Jazz spielen». Erstaunlich ist, wie ein auf einer hinreichend grossen Datenmenge vortrainierter Algorithmus eine Wörterfolge «sinnvoll» extrapolieren kann. 


Was nicht bedeutet, dass er - zweitens - den Sinn der Wörter kennt. Der Textgenerator ist, wie gesagt, eine statistische Maschine, keine semantische. Er lernt, Daten zu klassifizieren, indem er Datenwolken voneinander unterscheidet, etwa Katzendaten von Hundedaten. Er lernt dadurch eine Art von Generalisieren. Und er kann dann das Unterscheiden auch auf neue Daten anwenden, ohne sie zu «begreifen». KI-Systeme erwecken neuerdings sogar einen «kreativen» Ein-druck. Der Trick ist unscheinbar, aber entscheidend. Man baut einen Zufallsfaktor ein. Der Textgenerator schreibt nicht immer das wahrscheinlichste Wort hin, sondern wählt das nächste Wort zufällig aus einer Wahrscheinlichkeitsverteilung aus. Auf diese Weise kommt es vor, dass der generierte Text eine ungewohnte Wendung nimmt. Also in unserem Beispiel etwa: «Er ergriff das Saxophon, um … den Fahrstuhl anzuhalten». 

***

 «I’m not afraid of throwing grammar around me», soll die Filmschauspielerin Mae West gesagt haben. Das könnte auch GPT-3 von sich behaupten. Obwohl sein Output grammatikalisch korrekt ist und sogar sinnvoll erscheint, kann man drittens nicht davon ausgehen, dass GPT-3 einen Text wirklich im Sinne der Eingabe «weiterschreibt». Das lässt sich gut anhand von Tests über-prüfen. Betrachten wir ein Beispiel von Gary Marcus.  Er gibt dem Roboter ein: «Ich bin Anwalt und muss heute vor Gericht erscheinen. Ich merke, dass meine Hose völlig verdreckt ist. Hinge-gen ist meine Badehose sauber und erst noch chic. Ich entschliesse mich..», und GPT-3 fährt fort: «.. die Badehose vor Gericht zu tragen». Der Textgenerator scheint «anzunehmen», dass die Badehose eine zu erwägende Alternative für eine Anzugshose ist. Er «weiss» nicht, dass kein Anwalt vor Gericht in der Badehose erscheint. Ihm fehlt das, was die Computerwissenschafter «frame» nennen, der Alltagsrahmen zur Reaktion auf Nuancen, Ambiguitäten und unerwartete Eventualitäten, kurz: der Commonsense. 

In der KI-Forschung haben solche Prüfungen eine 70-jährige Tradition, seit dem berühmten Turing-Test. Speziell beim GPT-3 muss eine Jury beurteilen, ob ein Textoutput eindeutig von einer Person oder einem Computer stammt. Ausweis für das hypothetische  «intelligente» Schreibvermögen des Computers ist also, dass er Jurymitglieder täuschen kann; dass es uns nicht gelingt, seinen Output als eindeutig künstlich oder menschlich zu identifizieren. Aus einem solchen negativen Test folgt freilich nichts über entsprechende kognitive Vermögen des Computers. Ein viertes Missverständnis. 

***

Weiss der Textgenerator, worüber er spricht? Nein. Der Grund ist simpel: Die Maschine kennt die Welt nur aus Textmaterial. Hier stossen wir auf ein fünftes Missverständnis, auf das tiefste. Wir lernen das Wort «Saxofon» kennen, indem wir mit dem Musikinstrument Bekanntschaft machen. Und gewöhnlich gebrauchen wir es nicht, um Fahrstühle anzuhalten. Das klingt bestürzend trivial, aber GPT-3 hat keine Ahnung davon. Allgemein gesagt lernen wir Sprache nicht, indem wir einfach Wörter miteinander verbinden, sondern indem wir, Wörter verbindend, uns mit anderen Menschen auf Dinge beziehen. Sprechen ist eine körperliche Tätigkeit und Fähigkeit: Artikulieren. Sprachentwicklung setzt ein durch Austausch von Artikulationen. Wir teilen uns mit und wir teilen dadurch eine Welt, über die wir sprechen können. Der Weltkontakt fehlt den Maschinen. Der amerikanische Philosoph John Haugeland, einer der profundesten Denker über künstliche Intelligenz, verdichtete dies einmal unübertrefflich so: «they don’t give a damn» -  dem Computer ist die Welt scheissegal. 

***

Das Missverständnis des GPT-3 ist deshalb, sechstens, ein generelles. Der Textgenerator löst Probleme, und er löst sie oft auf überraschend effektive, uns überlegene Weise. Er macht einfach sein Ding, und die Frage, ob er dabei intelligent vorgeht, ist etwa gleich relevant wie die Frage, ob ein U-Boot schwimmen kann, um hier den holländischen Informatiker Edsger Dijkstra zu zitieren.  GPT-3 und ein Autor mögen den gleichen Text schreiben, GPT-3 tut dies ohne Intelligenz. Er ist ebenso intelligent wie meine alte Olivetti. 

Und damit landen wir natürlich bei der unumgänglichen Frage: Was ist Intelligenz? Wir verlassen uns heute zunehmend auf sogenannte «smarte» Technologie, ohne uns genauer zu überlegen, was denn diese «Smartheit» ausmacht. Schon beim Menschen ist überhaupt nicht klar, ja umstritten, ob eine einzige Metrik existiert, auf der sich ein generelles Intelligenzmerkmal – ein «g-Faktor» - messen lässt. Der Trick, der ein System intelligent macht, sei der, dass es keinen gibt, schrieb ein Pionier der KI - Marvin Minsky - vor fast 40 Jahren. Der Grund: Intelligenz beruhe auf einer Vielfalt von Fähigkeiten, nicht auf einem einzigen Prinzip. Das siebente Missverständnis. Legt sich die KI-Forschung in ihrer Big-Data-Trunkenheit womöglich auf eine Sicht fest, die entscheidende Aspekte menschlichen Sprachverstehens – etwa psycholinguistische, neurologische, verhaltensbiologische, evolutionäre -  generell ausblendet, vielleicht sogar in eine Sackgasse führt?

***

Ich kann die Frage nicht beantworten. Aber eine Asymmetrie zwischen Mensch und Computer ist schon jetzt unübersehbar: Die sogenannte Benutzerfreundlichkeit des Computers bedeutet ja, dass wir uns eher den Maschinen anpassen, als dass die Maschinen sich uns anpassen. Wir treten ins Zeitalter der automatisierten industriellen Textproduktion ein. Ein Prompt mit der Aufforderung «Schreib etwas Stoff daraus» genügt, und «etwas Stoff» wird publiziert. Was an die Bemerkung von Roland Barthes erinnert, das Gegenteil von gut schreiben sei heute nicht schlecht schreiben, sondern einfach nur schreiben. 

Ist das ein Grund zur Befürchtung, dass der Computer den menschlichen Schreiber grossflächig ersetzt? Im Gegenteil! Die wirkliche Herausforderung der «intelligenten» Maschinen liegt darin, dass wir unsere Intelligenz einsetzen, um solche Missverständnisse zu vermeiden, wie ich sie hier aufliste. Wir verwechseln leicht die Leistungsfähigkeit der KI-Systeme mit deren kognitiven Vermögen: Weil der Computer gute Prosa schreibt, hat er das Vermögen eines guten Schriftstellers. Ein achtes Missverständnis. 

***

Es weist auf das neunte: Der Textgenerator ist ein superbes Werkzeug, das unseren Verstand verhext. Wir sind verschossen in die Idee, GPT-3 würde mit uns in eine Konversation auf gleicher kognitiver Höhe treten. Wer aber glaubt, der KI-Schnickschnack schreibe oder rede mit uns, verhält sich wie der Wellensittich, der sein Spiegelbild anzirpt und mit ihm balzt. 



Dienstag, 29. November 2022

 





«Alle Weissen sind Rassisten»

Über die Tücken der Verallgemeinerung


Den Satz schrieb 2017 das Transgender-Model Munroe Bergdorf auf Facebook. Natürlich erhob sich umgehend ein Shitstorm. Man kann den Satz simpel, dumm, falsch, beleidigend, selber rassistisch finden. Das ist breitgetretener Quark. Darauf möchte ich hier nicht eingehen, sondern auf etwas Unsichtbares, Unscheinbares: die logische Struktur der Aussage. Sie enthält selber auch einigen Zunder. Der Satz lässt sich nämlich umformulieren in einen logisch gleichwertigen: «Alle Nicht-Rassisten sind nicht weiss». Das erscheint auf dem ersten Blick unverfänglich – bis wir nach Evidenz für die Aussage suchen. 

***

Wenn mich jemand nach bestätigenden Beispielen für den Satz «Alle Weissen sind Rassisten» fragt, könnte ich nämlich antworten: «Dieser Japaner, dieser Inder, dieser Senegalese, dieser Puertoricaner sind alle nicht rassistisch». Sie alle verifizieren den zweiten Satz, und damit auch den logisch gleichwertigen Satz «Alle Weissen sind Rassisten». Ich brauche mich gar nicht unter Weissen umzuschauen. Die ganze farbige Community von Nicht-Rassisten stützt meine Aussage. Klingt paradox. Ist es auch. 

Ein typische Problem aus dem Philosophieseminar? Der britische Philosoph George Berkeley sagte einmal selbstkritisch über seine Zunft,  Philosophen würden eine Menge Staub aufwirbeln und sich dann beklagen, sie sähen nichts mehr. Tatsächlich hat das Paradox einigen Staub unter Philosophen aufgewirbelt. Es trägt den Namen – nach seinem Entdecker Carl Gustav Hempel - «Hempel-Paradox». Es tritt automatisch dann auf, wenn wir eine allgemeine Aussage machen und nach Bestätigung suchen. In der Regel berufen wir uns auf ein paar Fälle. Und deshalb steht die Aussage stets auf unfester Basis. Wir können noch so viele verifizierende Beispiele anführen –  sie liefern keinen definitiven Beweis. Man muss stets mit Gegenbeispielen rechnen. Es gibt natürlich heute ausgefeilte statistische Methoden und Modelle, die mit repräsentativen zufälligen Samples arbeiten und errechnen, wie solide eine Hypothese durch die Daten dieses Samples gestützt ist. Aber sie bleibt fehlbar.

***

Nun gibt es ein patentes Rezept, eine allgemeine Aussage zu prüfen, nicht indem man Bestätigung sucht, sondern Widerlegung: Falsifikation. Bestätigung und Falsifikation sind asymmetrisch. Dies eine Einsicht des Philosophen Karl Popper. Ich kann eine allgemeine Aussage nie endgültig bestätigen, aber ich kann sie endgültig falsifizieren. Theoretisch genügt ein Fall. Ich brauche nur einen einzigen nicht rassistischen Weissen vorzuweisen, und die Aussage von Frau Bergdorf ist erledigt. So einfach das erscheint, so schwierig ist die Praxis. 

Denn wir sind kognitiv träge. Wir alle haben Überzeugungen, die wir nicht oder nur unter grösstem Widerstreben aufzugeben bereit sind. Auch nicht, wenn Fakten gegen sie sprechen. Das sogenannte postfaktische Zeitalter hat diesen tiefverwurzelten renitenten Charakterzug unseres geistigen Lebens zum Vorschein gebracht. Wir sind schlechte Falsifizierer. Ein Grund liegt darin, dass wir mit dem Wissenswachstum, trotz enorm verbesserter Zugangsmöglichkeiten zu Informationen, nicht Schritt halten. Wir können und wollen unser Weltbild nicht ständig umbauen. Eher denken wir in der gemütlichen Balance des Vertrauten falsch, als dass wir die Falschheit entdecken und das Vertraute in Schieflage bringen. Das gilt im Übrigen für Laien wie Wissenschafter.

***

Uns sucht immer wieder ein Denkfehler heim: das Bestätigungs-Bias, die Neigung, nur Beispiele anzuerkennen, die unsere Aussagen oder Vorurteile bestätigen. Rassismus ist in der Tat eine mentale Disposition, die das Bias festigt. Rassismus weist die typische logische Struktur des «Alle X sind …» auf, wobei X eine ethnische, soziale, religiöse oder Gender-Gruppe bezeichnen kann. Das Bestätigungs-Bias hat die hinterhältige Tendenz der Selbstverstärkung. Etabliert sich das Stereotyp einmal als «Commonsense», kann es dazu führen, dass sich die X auch «stereotyp» zu verhalten beginnen. «Dass einer Jude heisst, wirkt als die Aufforderung, ihn zuzurichten, bis er dem Bilde gleicht», schreiben Horkheimer und Adorno.

***

Selbstverständlich verallgemeinern wir ständig. Wir generalisierenden Tiere sind mit dem nötigen kognitiven Apparat dazu ausgestattet. Wir speichern nicht jedes einzelne Exemplar von Stühlen in unserem Gedächtnis, wir bilden den Begriff des Stuhls. Damit navigieren wir durch die «Wildnis» vieler einzelner Stühle. Herbert George Wells, ein Klassiker der Science Fiction, hat das vor über einem Jahrhundert in einem immer  noch lesenswerten Aufsatz («Die Wiederentdeckung des Einzigartigen», 1891) so beschrieben: «Nur weil wir nicht einen Geist von unbegrenztem Fassungsvermögen besitzen, nur weil unser Hirn nur eine beschränkte Menge von Ablagefächern für die Übereinstimmung mit dem unbegrenzten Universum an Einzeldingen bereit stellt, müssen wir uns vormachen, dass es so etwas wie ein gemeinsames Merkmal für Stuhlheit in der Gattung aller Stühle gibt».

Die «Stuhlheit des Stuhls» - hier gerät man auf gefährliches Terrain. Wie Wells schreibt, macht man sich etwas vor. Man hebt bestimmte gemeinsame Merkmale hervor und erklärt sie zum Wesen von etwas. Alle Stühle bieten eine Sitzfläche an. Auch die Umkehrung gilt: Was keine Sitzfläche anbietet, ist kein Stuhl. Die Sitzfläche gehört zum Wesen des Stuhls, nicht aber, dass er vier Beine hat oder aus Holz gefertigt ist. Bei Sachen ist diese Verwesentlichung – der «Essenzialismus» - harmlos. 

***

Bei Menschen nicht. Der Essenzialismus beginnt meist unscheinbar. Man wählt ein paar Merk-male aus, die man bei einer Gruppe X häufig beobachtet und verallgemeinert dann hypothetisch: Alle X sind so und so. Nun kann man aber der Verallgemeinerung einen essenzialistischen Dreh geben, indem man sie nicht bloss als empirisch feststellbare Häufigkeit, sondern quasi als Wesensmerkmal der Gruppe auffasst. Dann verliert die Charakterisierung ihre Unschuld. Dann lautet «Alle Weissen sind Rassisten» essenzialistisch interpretiert: Alle Weissen sind ihrem Wesen nach Rassisten. Man kann sie nicht ändern. Sie sind unbelehrbar. Sie tragen den Rassismus als unauslöschliches Kainsmal auf sich. Das Argument durchzieht als unselige Spur unsere ganze Denkgeschichte: das «Wesen des Juden», das «Wesen der Frau», das «Wesen der westlichen Denkart», das «Wesen des Schweizers». Letzteres definierte ein Bundesrat einmal so: genau, pünktlich, solide, kein Blender. Ich zum Beispiel bin nicht pünktlich, unsolide, machmal ein Blender. Also kann ich kein Schweizer sein. 

***

Gewiss, das ist Hardcore-Essenzialismus. Es gibt die abgemilderte Version, den strukturellen Rassismus: Wer Teil eines gesellschaftlichen Systems ist, das Ethnien, Gender und was auch für Gruppen diskriminiert, ist selber Rassist, drehe und wende er sich, wie er will. Eine Journalistin schreibt kürzlich: «Wenn es um Rassismus geht, haben wir Weissen den Reflex zu sagen: Ja, ja, das ist alles schlimm. Aber ich bin ja nicht rassistisch. Ich achte auf meine Sprache und mir ist die Hautfarbe egal. Es gibt zwar Rassisten, aber ich bin hier ganz sicher nicht das Problem». Das sieht die Journalistin anders: «Ich bin Rassistin, weil es rassistische Strukturen gibt, und ich von denen profitiere». Das tun wir Weissen wahrscheinlich alle, und so gesehen sind wir alle Rassisten. Irgendwie. Bin ich Rassist, wenn ich Kaffee von einer Plantage kaufe, die ein Rassist führt? Ist Rassist, wer an die Fussball-WM in Katar fliegt, die von einem Minderheiten diskrimierenden Regime organisiert worden ist? Die Verallgemeinerung bedarf einer Differenzierung, sonst verhängt sie als Pauschalcharakteristikum ein kollektives Schuldurteil über die Weissen. Ein duseliger Moralismus, letztlich Denkfaulheit.

***

Vom Schweizer Historiker Jacob Burckhardt stammt bekanntlich der Begriff «terrible simplificateur»:  schrecklicher Vereinfacher. Zu dieser Kategorie gehört erst recht der schreckliche Verallgemeiner. Er steckt eine Gruppe in den Sack von «Gleichen» und schlägt darauf ein mit seiner Keule der Verallgemeinerung. Er sieht nur «den» Stuhl, keine einzelnen Stühle. Aber jeder Mensch hat das Recht, ein Einzelfall zu sein. Und dieser Einzelfall verlangt Geduld, Sorgfalt und Denkschärfe. Der Satz «Alle X sind ..» ist Segen und Fluch zugleich. Er ermöglicht uns den Auf-stieg zu einer Sicht auf die Welt als Ganzes, und er verzerrt immer wieder die Sicht auf die Einzelheiten und Unterschiede. Der Statistiker und Mediziner Hans Rosling spricht in seinem lesenwerten Buch «Factfulness» (2018) vom «Instinkt der Verallgemeinerung». Ich sehe in Verallgemeinerung und Vereinzelung eher zwei antagonistische Denkkräfte. Ihren Antagonismus auszuhalten kennzeichnet intellektuelle Reife.

Der Kampf gegen den Rassismus beginnt also bei der Logik: bei der Verhexung unseres Verstandes durch den Allgemeinbegriff. 


Dienstag, 22. November 2022

 



NZZ, 19/11/22

Esel und Kluge

Die (un)heimliche Macht minoritärer Sturheit

Die liberale Demokratie feiert sich gern als Hort der Meinungsvielfalt. Zumal Minderheiten fänden in diesem politischen Raum Gelegenheit zur Äusserung und Verbreitung ihrer Positionen. Aber diese Offenheit hat ihre Tücke. Wir beobachten ein irritierendes Paradox: In einer «nachgiebigen» Gesellschaft zahlt sich Unnachgiebigkeit aus. In steigender Kadenz erfahren wir, wie Minderheiten ihre Positionen gegenüber einer Mehrheit durchsetzen. Im Konzert einer weissen Reggaeband fühlen sich einige wenige Personen «unwohl» angesichts der Rastalocken eines Musikers, und schon wird die Darbietung beendet. Das ganze Cancel-Unwesen beruht vermutlich auf dem Aktivismus einer Handvoll Eiferer in den Social Media, deren Gnadenlosigkeit nur durch ihre Geistlosigkeit übertroffen wird. Dahinter verbirgt sich eine tiefere soziale Dynamik.  

***

Der streitbare Publizist Nassim Taleb nennt sie in seinem Buch «Skin in the Game» (2018) «verborgene Asymmetrie im alltäglichen Leben». Damit meint er etwas, das in einer Schweizer Redensart sehr schön zum Ausdruck kommt: «Der Gschiider git nah, der Esel blibt stah» - «der Kluge gibt nach, der Esel bleibt stehen». Ich gebrauche den Begriff Esel hier nicht wertend, sondern verstehe unter ihm schlicht Unnachgiebigkeit, die keine Wahlmöglichkeit kennt oder anerkennt. Der Kluge hat immer Wahlmöglichkeiten und er passt sich den Umständen an. Unnötig zu betonen, dass es sich um «Karikaturen» handelt. In jeder Person erscheint ein individueller Phänotyp aus Esel und Klugem. 

Asymmetrie bedeutet: Es braucht oft nur eine kleine Anzahl Esel, um ziemlich grosse kollektive Effekte – auch unter Klugen - zu bewirken. Dieses Phänomen ist unabhängig vom Meinungsinhalt, ihm liegt ein eigentümliches Muster kollektiven Verhaltens zugrunde, der sogenannte Skaleneffekt. 

Ich wandle hier ein Beispiel von Taleb leicht ab. Angenommen, in einer Familie gibt es einen unnachgiebigen Veganer. Um die häusliche Harmonie nicht unnötig zu verkomplizieren, stellt die Familie das Menu auf vegan um. Der Vorgang kann sich in grösserem Ausmass wieder-holen. Die Familie wird zu einer Party mit Nachbarn eingeladen. Da sie für ihre Esssitte bekannt ist, und man sie nicht als «Esel» diskriminieren möchte, bietet der Gastgeber nur veganes Essen an. Den anderen Gästen macht das wenig aus, womöglich finden einzelne sogar Geschmack an dieser Esspräferenz, ohne Esel zu werden. Auf einer Skala höher passt der lokale Einzelhändler sein Angebot der steigenden Nachfrage nach veganen Produkten an. Möglicherweise beeinflusst das auch den Grosshandel. So vermag die Unnachgiebigkeit eines einzelnen Esels die Dynamik in grossem Ausmass zu steuern. Weil er in eine nachgiebige Mehrheit «eingebettet» ist. 

***

Die Nachgiebigkeit in einer Demokratie manifestiert sich im freien Meinungsaustausch. Das heisst, es gibt eine – vermutlich normale - Verteilung der Meinungen. In der Mitte die Mehrheit der gemässigten Meinungen, gegen aussen Abweichungen davon. Darunter tummeln sich natürlich immer auch extreme minoritäre Meinungen. Im Namen der Freiheit können sie die Ausbreitung von Radikalität fördern. Radikal im dem Sinn, dass man nicht nur die anderen Meinungen, sondern die Andersmeinenden ablehnt. Das führt zu Spannungen. 

Komplexitätsforscher versuchen schon seit einiger Zeit, diese Dynamik mit quantitativen Methoden zu beschreiben. Bei allen Vorbehalten gegenüber solchen Simulationen im sozialen Vakuum ermöglichen sie uns doch, Muster in der Meinungsdynamik zu erkennen. Ein Modell von Mathematikerinnen und Mathematikern der University of California in Los Angeles zeigt zum Beispiel, wie Radikalität mit zunehmender Meinungsspannung wachsen kann.  Erreicht die Spannung einen bestimmten Wert, steigt die Radikalisierung von Minderheiten sprunghaft an. Erneut ist im Modell eine Asymmetrie erkennbar: Radikalisierung lässt sich, selbst wenn die Situation sich entspannt, schwer rückgängig machen. Der entscheidende Punkt ist die Ablösung von der Mitte. Die Folgen sind nur zu gut bekannt: Verbunkerung in der eigenen Meinung, Gesinnungsinzest, Gesprächsabbruch und der Schritt zur politischen Aktion.

***

Hinzu kommt ein weiterer Faktor: die «Extrawurst». Ein demokratischer Betrieb braucht Regeln als gemeinsamen Verhaltensnenner für alle. Und dafür muss jeder Einzelne kleine Kompromisse eingehen. Dem flexiblen Klugen macht der Kompromiss wenig aus, der kompromisslose Esel verlangt dagegen eine Regelung, die auf ihn zugeschnitten ist. Die Ausnahme will die Regel sein. Einzelne Esel und ihr störrisches Verhalten übersehen wir, hingegen entwickeln sie ab einer gewissen Schwellenzahl eine Durchschlagskraft, die wir nicht ignorieren können. Die Asymmetrie, die dadurch entsteht, verschafft sich heute oft im Murren über die unverhältnismässige Rücksicht auf Minderheiten und deren «Extrawürste» Gehör. Behindertengerechte Einstiege im öffentlichen Verkehr sind ja ok, aber muss man gleich ein Gesetz den Bedürfnissen einer Minderheit von Transpersonen anpassen… 

Hier zeigt sich die Kehrseite der Diversität. In einer heterogenen offenen Gesellschaft wächst die Zahl der Minderheiten proportional zur Zahl der Identitätsmerkmale, die man sich zuschreibt oder zugeschrieben erhält. Aber Identität hat durchaus einen diskriminatorischen Hang. So gibt es ja innerhalb des Feminismus Abgrenzungsbewegungen, die in neue Minoritätenprobleme mün-den. Die sogenannten «Trans ausschliessenden Radikalfeministinnen», die TERFs («trans exclusionary radical feminists») lehnen Trans-Frauen ab. Man spricht bereits von «Trans-Misogynie». Mehr noch, es gibt die Sexarbeiterinnen ausschliessenden Radikalfeministinnen, die SWERFs («sex worker exclusionary radical feminists»). Was für Untergattungen von ERFs kommen noch?

***

Verdient der Esel seine Freiheit? Müsste man diese Freiheit nicht von einer «Kompetenz» der Nachgiebigkeit abhängig machen? Die Fragen sind hässlich, weil sie so etwas wie ein intellektuelles Brevet zu verlangen scheinen. Wenn bisher von der sozialen Dynamik die Rede war, so sollte man also den Einzelnen nicht übersehen. Wie gesagt, in uns allen steckt der Kluge und der Esel. Die gegenwärtige Lage begünstigt den Esel, denn er findet für seine Meinung genügend Plattformen und Enklaven im Netz. Die Philosophen Stephen Nadler und Lawrence Shapiro verfechten in ihrem Buch «When Bad Thinking Happens to Good People» (2019) einen erzieherischen Ansatz. Sie führen den Einfluss von minoritären extremen Meinungen auf ein Denkdefizit zurück: «epistemische Sturheit».  Und sie sehen die Therapie in «gutem», das heisst vor allem philosophisch geschultem Denken. Das klingt nun doch ziemlich nach patronisierendem Gutmeinertum, unter Anleitung des Oberlehrers Sokrates. Ohnehin schiesst die Denkratgeberliteratur üppig ins Kraut. Ob sie von Eseln gelesen wird? Gewiss, man kann viel «schlechtes» Denken in QAnon-, Impfgegner- oder Klimaskeptikerzirkeln entdecken, aber nicht wenige Esel wissen mit argumentativem Besteck hervorragend zu hantieren.  

***

Die Freiheit der Meinungsäusserung  schützt abwegige Meinungen. Es handelt sich um ein Ideal. Minderheiten fordern es immer wieder heraus. Eine grosse alte Dame der politischen Philosohie, Judith Shklar, sprach von einem «Liberalismus der permanenten Minderheiten». Das heisst, eine Demokratie kann sich nicht liberal nennen, wenn sie nicht die «permanent» Ungehörten, Erfolglosen, Randständigen, Ausgegrenzten einschliesst. Es gilt aber, Ansätze von heimlicher Minderheitsdynamik im Blick zu behalten. Das ist gerade auch eine kritische Aufgabe der Medien. Der Esel muss unter den Klugen kenntlich gemacht werden, denn unter seinesgleichen bleibt er unsichtbar. Vielleicht gelangt ein solcher Liberalismus an die Grenze der Liberalität. Das alte Paradox der Intoleranz gegenüber Intoleranz. Jedenfalls verhindern wir so die Ausbreitung der Unnachgiebigkeit – eines hoch ansteckenden Infekts im politischen Gewebe der Demokratie. 






Donnerstag, 17. November 2022

 





Canceln – Ende der Kritik?

Im amerikanischen «Harper’s Magazine» erschien 2020 ein offener Brief, der zwar nicht explizit, aber doch implizit die Praktiken der Cancel Culture und ihrer Bedrohung der freien Debatte aufs Korn nahm. Die Unterzeichnenden waren über 150 Intellektuelle aus Journalismus, Kunst und Universität. Die junge afroamerikanische Journalistin Erin B. Logan stiess sich am Brief, und sie erinnerte in einer Kolumne der «Los Angeles Times»  an die mediale Misere vieler «journalists of color», die auf Gedeih und Verderb von ihren Bossen abhängig, oft infolge falscher Urteile und Entscheide vor die Tür gesetzt – gecancelt – worden seien. Cancel Culture schlage nun gegen die «Türhüter des akzeptierten Diskurses» zurück.

Die Kontroverse ist Schnappschuss einer ziemlich heftigen Debatte, die auch auf Europa übergeschwappt ist. Die einen sehen im Canceln eine Lappalie,  die anderen eine Bedrohung fundamentaler Bürgerrechte.  Da Erin B. Logan auf den «akzeptierten Diskurs» anspielt, wäre ein Begriff von Michel Foucault vielleicht unverfänglicher: Diskurskritik. Und ein Anlass, den Unterschied zwischen Canceln und Kritik etwas genauer unter die Lupe nehmen. Viel zu wenig bedacht wird nämlich eine andere Herausforderung, die das Canceln darstellt: die epistemische. Canceln richtet sich gegen die Basis der fairen kritischen Auseinandersetzung, der Erkenntnissuche. Oft ist es schwierig, eine Grenze zu ziehen. Aber man kann fallweise Symptome erkennen, wo Kritik in Canceln kippt. 

***

Kritik zielt auf Meinungen, Canceln zielt auf die Meinenden. Es beleidigt, beschämt, schüchtert sie ein, macht sie lächerlich. Man geht gar nicht ein auf das zu Kritisierende. In der feministischen Fachzeitschrift «Hypatia» plädierte zum Beispiel die Philosophin Rebecca Tuvel 2017 für «Transrassismus». Der Entscheid von Individuen, das Geschlecht zu wählen, sollte auf die ethnische Zugehörigkeit ausgeweitet werden. Ein zumindest diskussionswertes Postulat. Möchte man meinen. Einer Soziologiestudentin gefiel der Artikel gar nicht, und sie schrieb in einem Post pikiert, sie weigere sich, zu erlauben, dass solcher «Müll Fuss fasse». Der Post ging viral. Hunderte von Akademikern forderten in einen offenen Brief an die Zeitschrift, den Artikel zurückzunehmen. Ein Kommentar verstieg sich zur unvermeidlichen Frage: Wie können wir erreichen, dass diese Person gefeuert wird? Der Shitstorm figuriert seither als Beispiel «moderner Hexenjagd». 

***

Es gibt viele solcher Fälle. Auch Prominenz gerät ins Visier. 2020 sandten fast 600 Mitglieder einer nicht öffentlich bekannten «linguistischen Gemeinschaft» einen Brief an die «Linguistic Society of America», in dem sie forderten, den renommierten Kognitionswissenschafter Steven Pinker von «ihrer Liste hervorragender akademischer Kollegen» zu streichen. Das «Sündenregister» Pinkers listet zum Beispiel auf, dass er in einem seiner Bücher einen schwarzen Soziologen zitiert, der über die Abnahme öffentlichen Rassismus’ schrieb.   

Hier zeigt sich ein weiterer Unterschied: Kritik an der Idee von Frau Tuvel würde bedeuten, dass man sie im Kontext der «Trans-Diskussion» behandelt, was man von dieser auch halten mag. Canceln reisst sie aus dem Kontext, um sie zu missdeuten und zu verzerren. Das Manöver ist auch bekannt als Strohmann-Bashing. Hat man keine Argumente oder kommt nicht an gegen einen Opponenten, baut man stattdessen einen Strohmann auf und greift diesen an; schreibt ihm etwa Äusserungen zu, die er nicht getan hat. Tatsächlich schützt das Personenrecht am eigenen (geschriebenen) Wort solche Unterstellungen. Aber in der freien Wildbahn der sozialen Netzwerke dürfte es schwierig sein, diesem Recht zur Geltung zu verhelfen. Nicht zuletzt verschafft einem das Strohmann-Bashing Ersatzbefriedigung. Und der Lustgewinn wächst proportional zur Anzahl mitbeteiligter Haudraufs.

***

Das bringt ein hässliches Merkmal des Cancelns zum Vorschein, das natürlich den Charakter der Interaktion im Netz spiegelt: Gruppendenken, im Fall des Cancelns libidinöses «Groupshaming» - eine Form von moralischer Bandenvergewaltigung. Dabei spielt vermutlich nicht einmal die gecancelte Person eine Rolle, sondern das cancelnde Ego. Es geht um Effekthascherei, die Aufmerksamkeit heischende Bestärkung eigener Rechtschaffenheit. Man cancelt für die – realen oder eingebildeten - Follower hinter einem, posiert als moralisierende Rampensau. Wie ein Student über seine Erfahrung in einer Queer-Aktivisten-Gruppe schreibt: «Wir waren alle einer Meinung über ein verdächtig breites Spektrum von Themen. Interne Uneinigkeit kam selten vor. Die isolierte Community diente als Brutkasten von extremen, irrationalen Ansichten».

***

Kritik ist ein zivilisierter Ersatz für soziale und physische Gewalt. Diskurs bedeutet: Kampf der Ideen, nicht der Menschen. Man eliminiert bestenfalls Ideen. Kritik korrigiert Irrtümer, Canceln bestraft den «inkriminierten» Irrenden, zum Beispiel dadurch, dass man ihm Plattformen der Meinungsäusserung entzieht, Vorträge absagt oder Publikationsorgane verweigert, ihm mit Kündigung oder Schlimmerem droht. Canceln ist soziale Gewalt. Sie eliminiert schlimmstenfalls Personen. Man kann in Ajatholla Khomeini den Ur-Canceler in der jüngeren Geschichte menschlicher Niedertracht sehen. Seine perfide Fatwa richtete sich nicht einfach gegen Salman Rushdi, sondern gegen alle auf «Rushdis Seite». Und sie zeitigte die gewünschte Wirkung in einem Klima allgegenwärtiger diffuser Bedrohung, in dem man sich zweimal überlegt, was man über die «Satanischen Verse» sagt und schreibt. Dass diese Bedrohung urplötzlich real werden kann, demonstrierte jüngst die fatale Attacke auf Rushdi selbst. 

***

Kritik ist ein kooperatives Unternehmen, eine soziale Tätigkeit, die von bestimmten, meist impliziten Maximen geregelt ist. Eine Maxime wie etwa: Setze ebenso viel Vertrauen in die andere Vernunft wie in die eigene. Oder: Sag nicht etwas, wofür du keine hinreichenden faktischen Belege hast. Solche Maximen bilden eine Verfassung der fairen Kritik. Wir alle brechen diese Verfassung immer wieder. Aber wir halten dennoch zentrale Werte hoch, die sie hütet: Wahrheit, Objektivität, Faktentreue, Schlüssigkeit, Informationsoffenheit. Es braucht keine Türhüter für einen solchen Diskurs, es braucht möglichst viele intelligente Diskursteilnehmerinnen und -teilnehmer. Und es gibt sie. Sie sind in der Mehrheit.

Canceln verhöhnt diese Verfassung. Es erweist sich dadurch als die schwerste intellektuelle Verachtung des Anderen. Man könnte sie als Prinzip der fiesen Interpretation bezeichnen: Im Zweifel gegen den Angeklagten – du stehst unter dem Verdacht einer «schuldigen» Haltung, bis deine Unschuld bewiesen ist. Und Canceln versucht gerade das zu verunmöglichen. Dem Anderen wird unterstellt: Eigentlich denkst du nicht, sondern zeigst nur Symptome täuschenden Vorsatzes, feindlicher Haltung, übler Absichten oder Irrationalität. 

Diese Voreingenommenheit infiziert heute den viral um sich greifenden Verdächtigungs-, Beschuldigungs- und Bedrohungsdiskurs des Cancelns. Kritik dagegen beruft sich auf ein anderes Prinzip. Der amerikanische Philosoph Donald Davidson nannte es das Prinzip des Wohlwollens («charity»), das den Debattengegner im besten Licht erscheinen lässt: «Die Worte und Gedanken Anderer ergeben den meisten Sinn, wenn wir sie so interpretieren, dass wir ihnen am ehesten zustimmen können». Auch wenn es uns oft schwer fällt, uns an dieses Prinzip zu halten, so haben wir es bitter nötig, fürwahr. 






Donnerstag, 10. November 2022

 






Genug geschwärmt

Über Schwarmintelligenz und Fragen, die sie angeblich beantwortet



Dem Menschen in der Masse traut man vieles zu, für das man ihn als Individuum nicht fähig hält. Vor allem Ungutes. Friedrich Nietzsche erkannte mit seinem typischem Scharfblick: «Der Irrsinn ist bei Einzelnen etwas Seltenes – aber bei Gruppen die Regel». Gustave Le Bons Klassiker «Psychologie der Massen» (1895) nahm sich dieses «Irrsinns» zum ersten Mal analytisch an. «Die Masse nimmt nicht den Geist, sondern die Mittelmässigkeit in sich auf», schreibt Le Bon, und: «Die Massen können nie Handlungen ausführen, die eine besondere Intelligenz beanspruchen»; sie sind «dem allein stehenden Menschen intellektuell stets untergeordnet».


***


Das kann man bezweifeln. In neuerer Zeit entdecken Komplexitäts- und Netzwerkforscher – vor allem auch dank elaborierter Computermodelle und ihren Simulationen – durchaus Aspekte des Kollektivverhaltens, die nicht nur nicht dumm sind, sondern das intellektuelle Vermögen des allein stehenden Menschen übersteigen. Und weil der Begriff der Masse ziemlich vorbelastet ist, spricht man nun vom Schwarm und seiner «Intelligenz». Allerdings stellt sich ein Problem. Nach herkömmlichem Verständnis attestieren wir Intelligenz Individuen; was aber ist die Intelligenz eines überindividuellen Schwarms?


Produkte der Schwarmintelligenz gibt es seit langem. Eines der ältesten ist die Bibel. Ein neueres - der Duden – definiert Schwarmintelligenz so: die Fähigkeit eines Kollektivs zu sinnvoll erscheinendem Verhalten. Und der Duden hat recht, wenn er das «erscheinen» betont. Gern unterläuft einem nämlich ein Kategorienfehler, also die falsche Verwendung eines Begriffs. Typisches Beispiel: Jemand sucht im Bundeshaus nach der Demokratie, als ob es sich um ein besonderes Zimmer handeln würde. Analog schreibt man dem Kollektiv eine Intelligenz zu, als handle es sich um einen nebulösen individuellen Akteur namens «Schwarm». 


***


Nun haben wir es hier nicht bloss mit einer begrifflichen Frage zu tun. Tatsächlich beobachtet man bei Kollektiven immer wieder Verhaltensmuster, die sich spontan einstellen –  «emergieren» - und nicht auf das Einzelverhalten zurückführbar sind: kollektive Entscheidungsprozesse bei Insekten, Fischen, Vögeln. Das ist ein faszinierendes Gebiet, und es verlockt, die Beobachtungen auf den Menschen auszuweiten. 


Hier wenden aber nicht wenige ein, der Mensch sei doch mehr als ein instinktgeleitetes Tier und er treffe seine Entscheide aus rationalen Erwägungen heraus. Der Einwand verfehlt den Punkt. Der Mensch kann ein vernunftgeleitetes Individuum sein, und trotzdem entgleitet ihm diese Leitung unter bestimmten Bedingungen. Schwarmvorgänge können wir nicht rational steuern. Das Individuum «verflüssigt» sich in der Menge und ist quasi der Irrationalität der sozialen Physik ausgeliefert. Bekannt sind vor allem Kalamitäten und Katastrophen wie die Loveparade 1989 in Duisburg oder die Massenpanik im Pilgerstrom in Mekka 2006. In beiden Fällen handelte es sich um sogenannte «Crowd Turbulence» - Wirbelbildung in der Menge. Der Einzelne kommt zwar im Gedränge nicht voran, und dennoch bewegt sich die Menge mit teils hoher Geschwindigkeit. Bei genügender Dichte können extreme Drucke auftreten, so dass Menschen ersticken, zerquetscht oder sogar aus der Masse herauskatapultiert werden. 


***


Zur Frage stehen aber nicht physische, sondern intellektuelle Schwarmphänomene. Kann das Denken im Kollektiv zu Effekten führen, die die intellektuelle Kapazität des Einzelnen übersteigen? Auch hier ist die Antwort: Scheint so. Ich erwähne zwei Beispiele. In den 1990er Jahren sprach man in Informatikerkreisen vom sogenannten Linus-Gesetz, benannt nach Linus Torvalds, dem Pionier der Open-Source-Bewegung: Genügend viele Augenpaare machen jedes Problem trivial, das heisst lösbar. Spezifischer: Jeder Programmierfehler lässt sich durch eine hinreichende Anzahl Tester und Analytiker beheben. Eigentlich eine Trivialität, möchte man vermuten. Das Gesetz ist bisher nicht befriedigend bestätigt worden. Es handelt sich wohl um kaum mehr als um eine spekulative Verallgemeinerung anekdotischer Erfahrung. 


Beispiel zwei. Eine Studie aus dem Jahr 2016 analysierte 20’000 Diagnosen von 140 Brust- und Hautkrebsspezialistinnen und -spezialisten.  Und zwar bewertete sie die Diagnosen anhand zwei-er quantitativer Kriterien, der Sensitivität und der Spezifität. Die Sensitivität antwortet auf die Frage: Wie häufig trifft die Diagnose «Krebs» im Krankheitsfall zu? Die Spezifität antwortet auf die Frage: Wie häufig trifft die Diagnose «Kein Krebs» im Nichtkrankheitsfall zu? Hohe Sensitivität und Spezifität kennzeichnen also hohe diagnostische Genauigkeit. Die Studie fasste die Ärztinnen und Ärzte zu kleinen «Pools»  zusammen. Ihr Resumee lautet: «Wir stellen fest, dass Ähnlichkeit in der diagnostischen Genauigkeit eine Schlüsselbedingung für kollektive Intelligenz ist. Die Verbindung der unabhängigen ärztlichen Urteile übertrifft die beste Fachkraft in einer Gruppe, wenn die diagnostischen Genauigkeiten der Einzelnen nahe beieinanderliegen, nicht aber, wenn sie zu sehr differieren». 

Auch hier gilt die Trivialitätsvermutung. Die Kollaboration von Fachleuten mit ähnlich hoher Kompetenz kann zu besserer Urteilsfindung führen. Ein statistischer Befund. Mehr nicht. Und da liegt der Hase im Pfeffer. Die Komplexitätsforschung ersinnt heute immer raffiniertere Computermodelle zur Simulation von Schwarmphänomenen. Man schraubt an den Modellbedingungen und – Simsalabim! - beobachtet einen Schwarmeffekt. So weit, so gut. Aber dass ein solcher Effekt auftritt, erklärt nicht, warum er auftritt. Wer dies tut, dreht sich im Kreis. 

***


Kurz, Schwarmintelligenz ist das Problem, für dessen Erklärung sie sich hält: Was ist überhaupt Intelligenz, und wie entsteht sie? Im Grunde beruhen auch unsere geistigen Fähigkeiten auf dem Verhalten eines Riesenschwarms von Neuronen und Neuronenclustern, und wie daraus so etwas wie intelligentes Verhalten entsteht, gilt in einschlägigen Kreisen als das «harte Problem». Es stellt sich ebenfalls in der KI-Forschung, heute bei lernenden Maschinen mit ihren künstlichen Neuronen. Sie sind ja zu Erstaunlichem fähig, vor allem bei spezifischen Aufgaben. Ihre Leistung über-trifft oft die menschliche. Das heisst, aus der immensen Zahl von Daten und Rechenschritten in einem KI-System resultiert ein Kollektivverhalten, das uns Menschen so vorkommt, als walte darin eine Superintelligenz. 


Man könnte solche anthropomorphen Beschreibungen einfach als Verständnishilfen für Maschinenprozesse betrachten. In der Redewendung «Der Schwarm entscheidet» ist das Wort «entscheidet» ein solches Kürzel für komplexe Abläufe. Die Verlockung ist dabei gross - selbst unter Softwaredesignern - , dass man sich auf diese Weise ein Verständnis vortäuscht. Meldungen über «Durchbrüche» in der KI-Forschung sind schon fast ein Ritual. Ebenso wie die schwärmerische Litanei, endlich eine Maschine mit Bewusstsein entwickelt zu haben. Ohnehin gehört es im digitalen Kapitalismus zum festen Bestandteil der Werbung von Grossunternehmen, uns mit dem Nimbus ihrer «Wunderwerke» einzuseifen und die Technikfrömmigkeit zu nähren.


***


A propos Wunder. Mir schwebt in diesem Zusammenhang immer ein Bild des amerikanischen Cartoonisten Stanley Harris vor Augen. Zwei Wissenschafter stehen vor einer Wandtafel. Links ein Haufen Formeln, rechts ein Haufen Formeln. Die Forscher diskutieren offensichtlich die Frage, wie man von links nach rechts gerät. Als Missing Link steht dazwischen der Satz: «Dann geschieht ein Wunder..». Der zweite Forscher sagt zum ersten: «Ich glaube, Sie sollten in diesem Schritt etwas expliziter sein». Das gilt auch für Schwarmintelligenz. Zwischen Individuum und Kollektiv geschieht ein «Wunder», das noch lange nicht explizit gemacht ist. Eric Horvitz, Direktor des Microsoft Research Lab, schrieb 2017 über KI-Forschung: «Zurzeit ist das, was wir tun, nicht Wissenschaft, sondern Alchimie». Also an die Arbeit, ihr KI-Alchimisten, und genug geschwärmt!



Donnerstag, 3. November 2022


 

NZZ. 29.10.22

Ein künstliches moralisches Orakel


Ein Team von Computerwissenschafterinnen und -wissenschaftern von der Washington University erregte 2021 einiges Aufsehen mit einem ethischen Algorithmus namens «Delphi».  Es handelt sich um ein künstlich intelligentes (KI) System, basierend auf der Architektur des Deep Learning. Es «beurteilt» menschliche Verhaltensweisen. Zum Beispiel Essverhalten. Gibt man «Schweinefleisch essen» ein, kommentiert das System «Das ist in Ordnung»; aber auf «Würmer essen» antwortet es «Das ist widerlich». Genau so quittiert Delphi ethisch relevantes Verhalten. «Wokeness ablehnen» ist «schlecht», aber «Ein ertrinkendes Kind retten, wenn man nicht schwimmen kann» ist «gut». Das KI-System befindet sich in der Experimentierphase. Einstweilen kursiert es als App «Ask Delphi». 


***


Die Designerinnen und Designer erheben keineswegs den Anspruch, Delphi sei moralfähig. Dennoch zielt ihre Ambition weit über die Entwicklung digitalen Schnickschnacks hinaus. Ein Teammitglied, Liwei Jang, spricht denn bereits von einem «Commonsense Moral Model», mit einer «robusten Performanz sprachbasierten ethischen Schlussfolgerns in komplizierten Alltagssituationen». Pointiert formuliert: Man bringt den Maschinen moralischen Benimm bei. Wie Liwei Jiang schreibt: «Das Schliessen der Lücke zwischen moralischem Urteilen von Menschen und Maschinen ist Voraussetzung für eine vertrauenswürdige Entwicklung der Künstlichen Intelligenz. Moralisches Urteilen ist nie simpel, da der Konflikt verschiedener ethischer und kultureller Werte im Spiel sein kann. Aus diesem Grund (..) bedürfen wir eines hochqualitativen Korpus’ ethischer Urteile von Menschen in diversen Szenarios.. (Wir) möchten zu wichtiger (..) Forschung an dieser neuen Front (..) anregen, um verlässliche, sozial bewusste und ethisch trainierte («ethically informed») künstlich intelligente Praktiken zu erleichtern».


***


Was bedeutet das alles? Vorab einmal, dass ethisch fragwürdige Praktiken das Netz infizieren: Diffamierung, Hassrede , Verbreitung von Fake News und anderes mehr. Es erscheint, so gesehen, durchaus begrüssenswert, den Algorithmen, die solche Praktiken steuern, Algorithmen entgegenzusetzen, die diese Praktiken zu verhindern suchen. Aber das Risiko dabei liegt in einer Art von Circulus vitiosus: Die Computertechnik fördert ethisch dubioses Verhalten, das man wiederum durch mehr oder bessere Computertechnik in den Griff zu bekommen sucht. Das Problem liegt freilich tiefer. Es betrifft die Frage, was es heisst, Maschinen «ethisch» zu  trainieren.


Werfen wir einen Blick auf den «Commonsense». Das «Urteilsvermögen» von Delphi basiert auf einer immensen Datenmenge namens «Commonsense Norm Bank». Sie enthält fast zwei Millionen Statements amerikanischer Crowdworker: online Arbeitender ohne feste Anstellung. Als neuronales Netzwerk durchforstet Delphi die Datenmasse und erkennt nach gängigen statistischen Verfahren verallgemeinerbare Muster in ethischen Urteilen. Der «Commonsense», den das KI-System lernt, ist also Abklatsch des moralischen Mainstreams. Und da bekanntlich im Mainstream viele Vorurteile schwimmen, übernimmt die Maschine die Vorurteile, ohne es nota bene zu «wissen». Sie übt eine Art von Populismus aus. Gibt man etwa «Eine Person als Gauner bezeichnen» ein, antwortet Delphi «Das ist grob (rude)»; gibt man «Donald Trump als Gauner bezeichnen» ein, lautet die Antwort «fine». Setzt man statt «Donald Trump» «Boris Johnson» ein, ist die Antwort «rude». Die Todesstrafe zu befürworten ist «Ermessenssache», chinesische Politik «kompliziert». Man kann Delphi ein Feedback geben, und dadurch korrigiert und aktualisiert es womöglich seine Antworten. Im Oktober 2021 antwortete Delphi auf die Eingabe «Einen moralischen Bot programmieren» mit «Das ist schlecht»; im Februar 2022 mit «Das ist in Ordnung» – aus uneinsehbaren Gründen allerdings. Ein Orakel eben. 


***


Das notorische Problem von lernenden KI-Systemen ist die Datenqualität. Es gilt das «GIGO-Prinzip»: Garbage In Garbage Out. Füttert man das KI-System mit moralischem Müll, spuckt es moralischen Müll aus. Das sehen die Designerinnen und Designer von Delphi durchaus. Man muss aber genau auf ihren Approach zur Verbesserung des Problems achten. Er sieht die Lösung typischerweise in der Verbessrung der Daten und in der Schaffung eines immer grösseren Datenpools. Aber löst man auf diese Weise den «Konflikt verschiedener ethischer und kultureller Werte»?  Dieser Konflkt besteht ja im Wesentlichen gerade darin, dass es sehr schwierig, wenn nicht unmöglich ist, einen allgemein verbindlichen Code für moralisches Handeln zu finden. Man kann KI-Systeme mit noch so viel Datenmaterial aus noch so unterschiedlichen Kulturkreisen füttern, destillieren sie daraus einen universellen ethischen Kanon? Und wenn ja, ist er dann verbindlich?


Delphi operiert deskriptiv: es ist die Bestandesaufnahme «bottom up» aus einer Menge von Werturteilen und Szenarien. Kognitionswissenschafter wie etwa Jim Davies von der Carlton University Ottawa  -, möchten eine solche Ethik «top down» - normativ - in KI-Systemen implementieren. Aber die Frage ist: Welchen ethischen Code denn nun? Und wer stiftet ihn? Ein «kapital-kräftiges Gremium ethisch gesinnter Programmierer», wie Davies suggeriert? Und welche Gesinnung haben diese denn? Jene der Silicon-Valley-Oligarchie?


***


Natürlich begegnen die KI-Forscher solchen Einwänden mit dem üblichen Kinderschuh-Argument. Es handle sich um Prototypen von Maschinen, deren Entwicklung unausgereift sei. Das lenkt ab von einem  viel gewichtigeren Problem. Denn schon die Rede von der «Lücke» zwischen maschineller und menschlicher Urteilsfähigkeit führt in die Irre. Sie siedelt Mensch und Maschine auf einem Spektrum an, das stetige Übergänge suggeriert. Und dadurch legen wir uns a priori auf eine spezifische Betrachtungsweise fest. 

Damit meine ich Folgendes: Wir gehen beim moralischen Urteil des Menschen von einem Subjekt aus, das  – mit Kant gesprochen – aus Einsicht und nicht nach Regeln handelt. Was aber bedeutet maschinelle «Einsicht»? Ist die Maschine ein «Subjekt»? «Urteilt» Delphi überhaupt? Unterschwellig wirkt bei uns Menschen immer der Hang zur Subjektivierung von Artefakten. Man achte etwa auf Aussagen wie «Delphi demonstriert starke moralische Denkfähigkeiten» oder «Delphi urteilt beachtenswert robust in unvorhergesehenen, absichtlich verfänglichen Situationen». Das sind nicht Forschungsresultate, das ist Wunschdenken. 

***

Meiner Meinung nach bedarf dieser datenorientierte Ansatz dringend eines anthropologischen Korrektivs, einer umgekehrten Fragestellung: Warum haben Maschinen keine «Einsicht»? Der amerikanische Philosoph John Haugeland, der sich mit diesem Problem in nötiger anthropologischer Tiefe auseinandersetzte, scheint mir die bündigste Antwort gefunden zu haben: «They don’t give a damn» - «die Welt ist ihnen scheissegal».  

Könnte es sein, dass auch die Designer moralischer Maschinen insgeheim von diesem Motto inspiriert sind? Man vernimmt aus KI-Kreisen oft das Argument: Menschen tun ja auch «nur», was Maschinen tun; Menschen haben «im Grunde» genommen auch keine Einsichten, diese Ein-sichten sind vielmehr Outputs eines komplexen organischen neuronalen Netzwerks. Das mag ein diskutabler Forschungsansatz sein, aber wenn er den Blick festlegt, leistet er einer datengesteuerten Eindimensionalisierung Vorschub. Zweifellos leben wir zunehmend in einer hybriden Homo-Robo-Gesellschaft. Und wie in jeder Gesellschaft ist das ethische Verhalten eine komplexe indi-viduelle, soziale und kulturelle Leistung, die man nicht anhand eines wie auch immer gearteten Fragebogens testet – so wie man dies etwa bei Einbürgerungskandidaten tut. Bis jetzt haben wir die Computer noch nicht «eingebürgert». Zeit, dass wir – und nicht bloss die Programmierer - uns klar machen, was das bedeutet. 




Mittwoch, 5. Oktober 2022


Clauser, Zeilinger, Aspect


Nobelpreis für «Quantenspuk»

Im Februar 2017 erschien in den Physical Review Letters der kurze Bericht über ein Experiment, das vermutlich wenige beachteten. Physiker in Wien richteten Licht von Sternen aus einer entfernten Ecke unserer Milchstrasse auf eine Vorrichtung, welche die Polarisation von Photonen misst. Das Team der Physiker leitete Anton Zeilinger, der jetzt den Nobel-preis 2022 erhält. 

Bevor ich die Polarisation von Photonen kurz erkläre, möchte ich etwas weiter ausholen. Es geht in diesem Experiment nämlich im Grunde nicht um Licht, sondern um den Zufall. Wir kennen ihn aus der Statistik und der Wahrscheinlichkeitstheorie. Und weil die Quantenphysik probabilistische Aussagen über die Welt macht, spielt der Zufall auch in ihr eine zentrale Rolle. Allerdings zeigt er hier ein ganz neues und höchst irritierendes Gesicht.

***

Nähern wir uns ihm mit einem einfachen klassischen Gedankenexperiment. Alice und Bob werfen je eine faire Münze. Alice befindet sich in Sidney, Bob in Berlin. Sie tauschen keine Informationen aus. Alice und Bob werfen ihre Münzen zum Beispiel tausendmal, sie erzeugen also eine Zufallsfolge von Kopf (K) und Zahl (Z). Weil es sich um lokale Zufallsfolgen handelt (eine in Sidney, die andere in Berlin), ist zu erwarten, dass sie sich in vielen Stellen unterscheiden. Alice wirft etwa KKZZKZZKKZ.. und Bob ZKZZKKKZZK.. Angenommen nun,  Alice und Bob würden beim Endvergleich zu ihrem Erstaunen feststellen, dass sie exakt die gleiche Folge KKZZKZZKKZ.. geworfen haben. Das widerspricht zutiefst unserer gängigen Vorstellung. Zweimal genau die gleiche Ziffernfolge KKZZKZZKKZ.., tausend-mal zufällig geworfen und an weit entfernten Orten - eine solche Korrelation erscheint höchst unwahrscheinlich, wofern nicht irgendein verborgener Trick einen Zusammenhang gestiftet hat. Tatsächlich aber existiert in der Natur ein solcher seltsamer Zusammenhang, der «nichtlokale Zufall». 

***

Wie ist er zu erklären? Quantenobjekte können – im Gegensatz zu klassischen Objekten wie Münzen – auf eine ganz besondere Art miteinander korreliert sein, nämlich verschränkt. Das sei wiederum am Münzenbeispiel erläutert. Eine Zündholzschachtel ist in zwei Hälften unterteilt. In jeder Hälfte liegt eine Münze, mit Kopf oder Zahl oben: Zustand K bzw. Zu-stand Z. Wenn die Schachtel geschlossen ist, sagen wir: Wir wissen nicht, in welchem Zu-stand die Münzen links und rechts sind, aber sie sind eindeutig in einem der beiden Zustände K oder Z. Klassisch gesehen sind die Zustände K und Z unabhängig. Wenn ich zum Beispiel feststelle, dass die Münze in der rechten Hälfte Kopf zeigt, weiss ich noch nicht, wie die Münze in der linken Hälfte liegt. 

***

Die Quantentheorie erlaubt eine völlig andere Beschreibung. In ihr werden Zustände durch Wellenfunktionen beschrieben. Teilchenzustände können sich wie Wellen überlagern. Wären die Münzen in der Schachtel verschränkte Quantenobjekte, könnten wir nur ihren Gesamtzustand beschreiben, wir könnten also nicht mehr sagen, die Münzen links und rechts befänden sich in unabhängigen Zuständen K oder Z. Es verhält sich vielmehr so, als ob die Münzen als verschränktes Paar «unentschieden» wären, in welchem Zustand sie sich befinden. Wirklich kurios ist aber: Beobachten wir in der einen Hälfte K, dann wissen wir aufgrund der Verschränktheit augenblicklich, dass auch in der andern Hälfte K vorliegt. Die Kenntnis des einen Zustands liefert uns die Kenntnis des andern gleich mit. Und zwar trifft dies selbst dann zu, wenn wir uns die beiden Schachtelhälften sehr weit voneinander entfernt denken. 

***

Dieses Phänomen lässt sich an Quantenobjekten beobachten, zum Beispiel an Photonen. Die moderne Physik beschreibt Licht sowohl als Welle wie als eine Ansammlung von Lichtquanten: Photonen. Eine Lichtwelle schwingt in einer bestimmen Ebene, sie ist polarisiert. Ihr entsprechen in der Quantenbeschreibung die polarisierten Photonen. 1982 gelang es dem französischen Physiker Alain Aspect und seinem Team zum ersten Mal, verschränkte polarisierte Photonenpaare zu erzeugen. Nun erhält er dafür mit Zeilinger den Nobelpreis.

Wir können mit solchen Photonen ähnliche Zufallsspiele durchführen wie Alice und Bob mit Münzen. Man erzeugt – dies ein Standardverfahren -  verschränkte Photonenpaare, indem man sie durch spezielle Kristalle schickt. Photonen können vertikal und horizontal polarisiert sein. Diese Zustände entsprechen den Zuständen Kopf und Zahl bei den Münzen. Statt Münzen zu werfen, schickt man die verschränkten Photonen in entgegengesetzten Richtungen durch zwei unabhängige Polarisationsfilter, die zufällig ihre Einstellung ändern und die Photonen genau dann passieren lassen, wenn diese die gleiche Einstellung aufweisen. Der klassischen Alternative Kopf oder Zahl entspricht die quantenphysikalische Alter-native vertikal (V) oder horizontal (H) polarisiert. Auf diese Weise lassen sich zwei Zufalls-reihen von Photonenpolarisationen, etwa VVHHVVH.. und VHVHVVH.. herstellen. 

***

Wie aber findet man heraus, ob sie verschränkt sind? Im Jahre 1964 entdeckte der nordirische Physiker John Bell ein quantitatives Kriterium, um diese Frage zu beantworten, die sogenannte Bellsche Ungleichung. Sie ist eine Art von empirischem Härtetest der Verschränkung. Trotz ihrer mathematischen Vertracktheit ist die Idee dahinter einsichtig. Bleiben wir bei der Analogie der Münzwürfe. Alice und Bob zählen, wie oft ihre Münzwürfe das gleiche Resultat ergeben. Die Bellsche Ungleichung legt eine obere Grenze für die An-zahl Koinzidenzen fest, sagen wir: bei 1000 Würfen können Alice und Bob höchstens 750 gleiche Würfe beobachten. Beobachten sie mehr, liegt eine Verletzung der Ungleichung vor. Sie bestätigt die Annahme, dass die Würfe mehr als klassisch, also quantenphysikalisch korreliert sind: verschränkt. In diesem Sinn führen die Physiker mit Quantenobjekten solche «Münzwürfe» durch, um zu prüfen, ob zwischen ihnen vorliegt, was Einstein «spukhafte Fernwirkung» nannte. Genau das gelang John Clauser 1972:  der erste experimentelle Be-weis dieses «Spuks». Fünfzig Jahre später: Physiknobelpreis 2022.

***

Viele Physiker finden sich damit allerdings nach wie vor nicht ab. Sie suchen nach alternativen Erklärungen, explikativen Schlupflöchern.  So könnten zum Beispiel die Zufallsgeneratoren, welche die Einstellungen der Polarisatoren im beschriebenen Photonenexperiment regulieren, in Wirklichkeit nicht unabhängige Zufälle erzeugen. Um dieses Schlupfloch zu stopfen, haben die Wiener Physiker um Anton Zeilinger zu einem kosmischen Hilfsmittel gegriffen. Sie empfingen das Licht von zwei 600 Lichtjahre entfernten Sternen durch Teleskope und benutzen die Photonen dieses Lichts zur Zufallsregulierung der Polarisatoren. Licht, dessen Frequenz in einer Distanz von 600 Lichtjahren festgelegt wurde,  kann nun wirklich als recht unabhängig von allen irdischen Versuchsvorrichtungen betrachtet wer-den. Auch in diesem Fall wurde eine Verletzung der Bellschen Ungleichung konstatiert. Der Zufall regiert über Distanzen von 600 Lichtjahren hinweg...

***

Die wirklich fundamentale Konsequenz all dieser Experimente liegt in einer neuen Interpretation des Zufalls. Die klassische Interpretation ist subjektiv: Der Münzenwurf ist zufällig, weil wir nicht alle Faktoren der Beeinflussung kennen. Ein gottgleicher idealer Beobachter würde alle möglichen Einflussfaktoren sehen, und könnte dadurch voraussagen, ob Kopf oder Zahl vorliegt. Die Vorstellung dahinter: In der Natur läuft «im Prinzip» alles deterministisch ab. 

Nun dankt Gott als Strippenzieher ab. Selbst bei maximaler Quantenkenntnis – also einer Wellenfunktion, die den Weltzustand vor dem Münzenwurf repräsentiert, könnte er nicht mit völliger Gewissheit voraussagen, ob Kopf oder Zahl oben liegt, weil die Ungewissheit quasi auf Mikroniveau in die Natur selbst eingebaut ist. Einsteins Gott – der «Alte» - würfelt. Besser noch: Er weiss eigentlich nicht, dass er eine Marionette von Würfeln ist. Deshalb erfreut ihn wahrscheinlich der Physiknobelpreis 2022 nicht so sehr. 






Freitag, 30. September 2022

 





NZZ,29.9.22



Ich bin weder dafür noch dagegen – ganz im Gegenteil



Bist du dafür oder dagegen?  Transphil oder transphob, vegan oder nichtvegan, regulierten oder deregulierten Markt, Impfen oder Nicht-Impfen, Waffenlieferung an die Ukraine oder nicht? Der Imperativ des Positionsbeziehens ist endemisch. Aber vergessen wir nicht das Gegenteil des Entweder-oder,  das Weder-noch. Und darauf verweist der Wortstamm von «neutral»: keines von beiden. Man verbindet damit gern die Haltung des Ausweichens, Zauderns, Lavierens. Roland Barthes, Autor der berühmten «Mythen des Alltags», zählte das Weder-noch-Denken seiner Zeit zu diesen Mythen. «Ninisme» nannte er es («ni.. ni..»). Er meinte damit ein Denken, das sich dank eines «mythischen» neutralen Standpunkts über den damaligen Konflikten zwischen links und rechts als erhaben wähnt: «Man wägt Methoden mit der Waage ab, belädt ihre Schalen nach Gutdünken, um sich selber als unbelasteter Schiedsrichter betrachten zu können (..) Schon möglich, dass unsere Welt zweigeteilt ist, doch man kann sicher sein, dass über dieser Spaltung kein neutraler Gerichtshof waltet: keine Rettung für die Richter, sie sitzen im gleichen Boot». 

***

Das binäre Denken in Antagonismen hat einen beeindruckenden philosophischen Stammbaum, von Heraklit über Marx und Nietzsche, Darwin und Freud, Carl Schmitt und Michel Foucault bis zu aktuellen rabiaten Rassismusklischierern vom Schlag eines Ibram X. Kendi. Man entzieht sich dem Griff dieses Denkens nicht. Und trotzdem: Hat man in einem Gespräch mit jemandem, der uns einen binären Positionsbezug aufdrängte, nicht schon den stillen Drang verspürt, sich diesem «Übergriff» zu entziehen, indem man auf ein anderes Thema ausweicht, ausdrucksvoll schweigt oder schlicht einen anderen Gesprächspartner sucht. Das gilt nicht gerade als argumentativer Comment, gewiss. Aber man kann so zu verstehen geben, dass man das ganze Setting des Gesprächs unterläuft: Ich lasse mich nicht in ein Entweder-oder-Schema zwingen. Ich repliziere also nicht in einem Diskurs, sondern weise den Diskurs selbst zurück. 

Ich bekunde damit einfach die Absicht, eine Gesprächsform zu finden, die nicht immer gleich Konflikt, Konkurrenz, Kampf fordert. Und damit stösst man auf eine tiefe Problemader. Wie Barthes bemerkt: «Insgesamt scheint mir die abendländische Tradition darin problematisch: nicht dass sie entscheidet, dass (…) die Welt konflikthaft ist, sondern: dass sie aus dem Konflikt eine Natur und einen Wert macht». In der Tat. Ständig hören wir, Leben sei ein anhaltender Kampf, eine Kakophonie disparater Meinungen, von denen eine schliesslich triumphieren müsse. Diese Sicht huldigt dem Kämpfer, dem Siegeswilligen, dem Aktivisten. Der Neutrale erscheint dagegen als Weichdenker, als intellektuelle Molluske.

***

Es gibt einen anderen, einen beklemmenden Aspekt der Neutralität, der uns existenziell betrifft. Man kann über mich eine noch so lange Liste persönlicher Eigenschaften aufstellen, es bleibt immer ein wesentliches Rest-Ich. «Ich bin nicht Stiller». Ich bin nicht auflistbar. Ich bin weder der noch der noch der noch der … Das ist gerade im Zeitalter der zusehends potenteren Überwachungstechnologie eine eminent politische, eine subversive Aussage. 

Die heutigen technikkonformen Konzepte der Identität reduzieren die Person auf das algorithmisch «lesbare» Individuum, das in ein eindeutigs Kategorienprofil passt. Gewiss, wir müssen im Beruf, im öffentlichen Alltag, ja, sogar im privaten Zuhause oft so tun, als wären wir solche Individuen. Aber durch die Einsicht, dass wir sie nicht sein können, gewinnen wir nicht nur an Authentizität, sondern widersetzen uns dem unterschwelligen Zwang zur Identifizierung durch über-griffige Erkennungstechnologien. Hinzu kommt, dass viele, mittlerweile erschöpft vom unablässigen Bombardement der Fragen «Wer bist du?», «Wo stehst du?», sich nach «neutralen» Orten des Unausgesprochenen sehnen, wo sie weder dafür noch dagegen sein müssen, und wo das Nichtwissen, wer sie sind, ihnen nicht ständig als Schuldlast anhängt. Wir verlangen ein Grundrecht auf das Uneindeutige, das Nicht-so-sein: auf das unauslotbare «Neutrum», das jede Person ist. Selbstverständlich indentifizieren wir uns immer leichter mit gewissen Personen als mit anderen. Der Neutrale ist sich dessen bewusst, aber er kämpft zugleich gegen die Reduktion der Per-son auf ein bestimmendes Merkmal – sprich: gegen die Logik des Rassismus. 

***

Zweifellos gibt es Situationen, die keine Uneindeutigkeit dulden. Besonders heute nicht. Aber auch Neutralität definiert sich immer aus bestimmten Situationen. Sie bedeutet, dass man nicht einfach in der Situation denkt, sondern sie buchstäblich über-denkt. Leben erlaubt kein Unentschieden. Freilich muss man sich nicht immer presto entscheiden. Gebietet die Situation tatsächlich nur das harte Entweder-oder? Oder findet man gerade durch das hinhaltende Weder-noch eine neue Perspektive? Nichts hasst der Neutrale mehr als den erzdummen Satz «There is no alternative».

Neutralität ist auch der Appell zu einem Ethos der Kooperation, in dem Sinn, dass er uns anhält, Konfrontation wenn möglich zu vermeiden. Ein lebenspraktisches Prinzip drückt diese Neutralität sehr schön aus: Fünf gerade sein lassen. Wer fünf gerade sein lässt, bekundet ein spezifisches Vermögen: Abstraktion. Der Unterschied zwischen geraden und ungeraden Zahlen lässt sich nämlich aufheben, wenn man sie als ganze Zahlen betrachtet. «Vereinigungsmenge» nennt das die Mathematik. Ein ungemein wichtiges Prinzip des Zusammenlebens. Man abstrahiert gelegentlich davon, ob man «gerade» oder «ungerade» ist: alt oder jung, weiss oder schwarz, Mann oder Frau. Man begegnet Menschen als «ganzen» Menschen, unter einer neutralen Oberkategorie. Man könnte sie «Person ohne Eigenschaften» nennen. 

***

Wir sind immer Partei: für oder gegen etwas. Das ist nicht das Problem. Das Problem lautet: Wo-für oder wogegen genau? Man entdeckt durch solch beharrliches Nachfragen nicht selten erst seine eigene Parteilichkeit. Man findet vielleicht heraus, dass an der gegnerischen Meinung ja durchaus etwas dran ist, oder dass die eigene Meinung sich als nicht so stichfest erweist wie an-genommen. Man «neutralisiert» sich also, indem man Meinungsspannungen abbaut: entpolarisiert. Das ist das Bestcase-Szenario. Leider neigen wir zum Worst Case. Studien über die kollektive Dynamik im Internet zeigen deutlich ein Schwarmverhalten: Polarisierung als systeminhärenten Effekt. Wenn sich in sozialen Netzwerken verschiedene Meinungscluster bilden, dann verringert sich der neutralisierende Austausch zwischen ihnen. Konfrontiert man Probanden eines Clusters mit anderen Meinungen, tendieren sie zur Verfestigung ihrer eigenen Meinung. Dadurch bauen sich Meinungsspannungen zwischen verschiedenen Echokammern eher auf, was zu einer verstärkten Radikalisierung der Lager führen kann: Man lehnt nicht nur die andere Meinung ab, sondern mit ihr gleich die Andersmeinenden –  man begegnet ihnen mit Voreingenommeheit, Unverständnis, Hass. The medium is the massacre. 

***

Und dieser Kampfmodus markiert die Schwelle zum Krieg. Die Regeln der Neutralität sind für die Kriegssituation bestimmt. Es bedürfte ihrer auch für die sogenannte Friedenssituation. Mitunter beschleicht einen das Gefühl, auch im Zivil seien wir heute Krieger. Wir lesen von «Kulturkrieg», «Wissenschaftskrieg», «Energiekrieg», «Corona¬krieg», «Identitätskrieg», «Genderkrieg», «Gesinn-nungskrieg» in sozialen Medien. Und man stellt sich fast unweigerlich die Frage, ob der Frieden die Fortsetzung des Krieges mit anderen Mitteln sei - ein Kriegfrieden. Die Inquisition der Wo-keness zwingt einen permanent in das Lager des Richtigen oder Falschen. Adolf Muschg bemerkte neulich in einem Interview, das Entweder-oder-Prinzip verstehe keinen Spass. Genau dagegen wehrt sich der Neutrale als Partisan des Dazwischen. Er pflegt einen besonderen Spass: er ist wissbegierig, reflektierend, anti-reduktionistisch, offen für Argumente anderer Positionen –  kurz, er denkt.










Sonntag, 25. September 2022










Der alte Mann und der Tisch

Peter Bichsel meets Saul Kripke



«Warum heisst das Bett nicht Bild», fragte sich der alte Mann in Peter Bichsels Kurzgeschichte «Ein Tisch ist ein Tisch». Eine eminent philosophische Frage. Sie bewog den alten Mann zu einer radikalen Umdeutung der Wörter. «‚Jetzt ändert es sich’, rief er, und er sagte von nun an zu dem Bett ‚Bild’. ‚Ich bin müde, ich will ins Bild’, sagte er, und morgens blieb er oft lange im Bild liegen und überlegte, wie er nun zu dem Stuhl sagen wolle, und er nannte den Stuhl ‚Wecker’. Hie und da träumte er schon in der neuen Sprache, und dann übersetzte er die Lieder aus seiner Schulzeit in seine Sprache, und er sang sie leise vor sich hin.» Allerdings lief etwas ziemlich schief in dieser Geschichte. Was als Befreiung vom Korsett der Alltagsprache begann, endete in totaler Vereinsamung und Verständnislosigkeit. Weil der alte Mann nicht begriff, wie Wörter mit Dingen zusammenhängen.


***


Wie und warum «haften» Wörter an Dingen? Woher die «Notwendigkeit», die Wörter mit Dingen verknüpft? Diese Fragen stellte der kürzlich verstorbene amerikanische Sprachphilosoph Saul Kripke, ein verschrobenes Wunderkind, das in der Öffentlichkeit kaum bekannt war, aber in einschlägigen Kreisen – in der Analytischen Philosophie - als einer der genialsten Denker des 20. Jahrhunderts gilt. 


Einem Kind, dem wir das Wort «Tisch» lehren, setzen wir am Anfang konkrete Beispiele vor: dies da ist ein Tisch, und dies dort ist auch einer, jenes dort aber ist kein Tisch. Das Kind navigiert anhand solcher Beispiele nicht auf «die» Bedeutung von Tisch zu, es übt sich ein in ein linguistisches Sozialverhalten, in ein – wie Ludwig Wittgenstein sagte – Sprachspiel. Kripke hat sich intensiv damit beschäftigt, weshalb man ihn mit dem Kofferwort «Kripkenstein» beehrte. Und er stiess auf ein Paradox, um das auch Bichsels Ge-schichte kreist.  


***


Es betrifft Regelbefolgen und -brechen. Wenn Sprache ein Spiel ist, dann hat sie offen-sichtlich Regeln. Lernt das Kind Regeln? Es verwendet das Wort «Tisch» 20-mal korrekt, und nun beim nächsten Mal falsch. Verstösst es gegen eine Regel? Was für eine Regel? Kripke gibt ein Beispiel. Ein Kind hat das Addieren von Zahlen gelernt, die nicht höher sind als 57. Nun soll es 58 und 7 addieren. Wir gehen davon aus, dass es die bereits geübte Regel kennt und die Summe korrekt bildet: 65. Stattdessen sagt es: 5. Wir deuten dies so:  Das Kind hat das Addieren noch nicht richtig gelernt. Aber was heisst «richtig»? Könnte es nicht sein, so Kripke, dass das Kind einer anderen Regel folgt und das Pluszeichen in einer ungewohnten Bedeutung verwendet. Es addiert Zahlen nicht, sondern «quaddiert» sie: Zahlen bis 57 addiert es auf übliche Weise, für alle Zahlen über 57 ist die Summe 5. 57 «quaddiert» mit 7 =  64, 58 «quaddiert» mit 7 = 5. Korrekt. 


Philosophen finden oft einen Spass darin, uns mit skurrilen Beispielen aus dem Schlummer des Gewohnten aufzustören. So auch das Beispiel von Kripke Es soll uns zeigen: Für jede Abweichung von der Standardregel gibt es eine Regel, mit der man das abweichende Verhalten in Übereinstimmung bringen kann. Also nützt uns der Begriff der Sprachregel nicht viel. Das führt natürlich zur Frage: Worauf berufen wir uns, wenn wir sagen, das Kind rechne falsch? Oder der alte Mann verwende die Wörter falsch? Vorausgesetzt, die Bedeutung des Pluszeichens hänge von einem Regelbefolgen ab, dann ist das Pluszeichen nicht eindeutig. Und gleiches lässt sich von jedem Zeichen, jedem Wort sagen. Wie können wir dann sicher sein, dass der alte Mann falsch liegt, wenn er das Wort «Teppich» für seinen Tisch gebraucht? Dass eine Person überhaupt ein Wort versteht?


***


Die Bedeutung eines Wortes hängt so gesehen in der Luft. Können wir sie beliebig ändern? Kehren wir noch einmal zum Kind zurück, das die Bedeutung des Wortes «Tisch» anhand von Testbeispielen lernt. In der Terminologie der Künstlichen Intelligenz liesse sich sagen: Es lernt die Bedeutung «überwacht», bis zu einer Schwelle, wo das Lernen «unüberwacht» weitergeht.  Die Bedeutung sinkt als Automatismus ein in den Körper. Das Kind versteht sich darauf, das Wort anzuwenden, ohne zu verstehen, wie es das tut. Solche Automatismen sind der Rumpf des Sprachgebrauchs, des Regelbefolgens. Wir befolgen die gelernten «inkorporierten Regeln» quasi-instinktiv, als wären sie Teil unseres körperlichen Verhaltensrepertoires geworden. Wir müssen nicht ständig überlegen, ob dieses Ding da ein Tisch ist, wir identifizieren es unmittelbar als Tisch. 


Natürlich können wir uns täuschen. Und natürlich gibt es die Abweichungen, die Renitenz und Resistenz gegen das «Diktat» des normalen Sprachgebrauchs – etwa im Jargon, in der Geheim- oder Gaunersprache, in der Lyrik. Bichsels alter Mann rebelliert gegen die «Langeweile» des gewöhnlichen Sprachgebrauchs. Aber auch hier wird das Funktionieren der Automatismen am Grund der Sprache vorausgesetzt. In der vermeintlich privaten Sprache redet die öffentliche mit. «Er hatte jetzt eine neue Sprache, die ihm ganz allein gehörte. Aber bald fiel ihm auch das Übersetzen schwer, er hatte seine alte Sprache fast vergessen, und er musste die richtigen Wörter in seinen blauen Heften suchen. Und es machte ihm Angst, mit den Leuten zu sprechen. Er musste lange nachdenken, wie die Leute zu den Dingen sagen».


***


Damit stossen wir auf das Kernproblem. «Es machte ihm Angst, mit den Leuten zu sprechen». Der alte Mann fällt mit seinem Verhalten aus der Sprachgemeinschaft. So wie das Kind, das «quaddiert», Schwierigkeiten in vielen Alltagstransaktionen haben dürfte (heute könnte es allerdings auf das Handy zurückgreifen). Die Bedeutung eines Wortes ist etwas Gemeinschaftliches, wie die Geldwährung, das Autorenrecht, die Menschenwürde. Kommunikation heisst auch «Kommunion». Dadurch hat sie einen normativen Aspekt. Im Wort steckt ein Standard: Du sollst mich so gebrauchen! Und ein Standard für eine einzige Person ist unsinnig. 


Man teilt die Bedeutung der Wörter und dadurch kann man sich mitteilen. Der Mann in Bichsels Geschichte entzieht sich diesem Mitteilen. Er gebraucht Wörter willkürlich anders, «einfach so». Wer aber den Wörtern konsequent und radikal einen privaten Sinn verleihen will, entzieht ihnen jeglichen Sinn. Die Sprache ist ein Haus, und wer sich um die Ordnung foutiert, kann unbehaust werden. 


***


Das heisst, wir lernen nicht einfach Wörter, wir lernen Wörter im Zusammenhang mit Din-gen. Ein bestimmter Sprachgebrauch bedeutet auch einen bestimmten Gegenstandsgebrauch. Das Wort «Tisch» zu gebrauchen, meint, einen Tisch richtig zu gebrauchen. Wenn wir zum Beispiel «Tisch» auf einen Stuhl anwenden, meinen wir damit, dass der Stuhl unter Umständen auch als Tisch gebraucht werden kann; wir kennen dabei einigermassen die Funktionen des Tisches. Womöglich können wir in diesem Sinn auch ein Bett «Tisch» nennen, oder einen Spiegel, indem wir die Gegenstände umfunktionieren, aber bei einem Wecker oder einer Stehlampe wird dies schon schwieriger. 


Der alte Mann definiert sich mit seiner eigenwilligen Wort-Ding-Zuordnung aus einer Gegenstandsordnung heraus. Die Dinge werden ihm fremd, und er wird in der Ökologie des Gewohnten fremd. Das kann ein gewollter künstlerischer Akt sein, der die Dinge in neuer Perspektive buchstäblich erscheinen lässt – zu Phänomenen macht - , aber das begründet keine beständige Lebensform. Im Gegenteil: Dadurch entzieht man sich dem Leben, weil das Leben immer auch durch repetierten und routinierten Gegenstandsgebrauch bestimmt ist. Am Ende weiss der alte Mann nicht nur nicht mehr, was aus seinem Mund kommt, sondern auch nicht mehr, was er in den Händen hält. Sprache ist eine kapriziöse, mitunter tückische Gefährtin. Man kann mit ihr eine Welt gewinnen; man kann auch eine Welt verlieren. Ich glaube, Kripke hätte an Bichsels Geschichte seine vertrackte Freude gehabt. 

















Freitag, 16. September 2022

 





Mathematik und der Sinn des Lebens


Kampf gegen den Zufall 

Wir alle, nicht nur Philosophen, fragen gelegentlich nach dem Sinn des Lebens. Man kann einen Sinn darin sehen, Grümpelturniermeister oder lokale Schönheitskönigin zu werden, die Fermatsche Vermutung zu beweisen oder den genetischen Code zu knacken, ein guter Lehrer oder Vater zu sein, einen intelligenten Dauerwellenapparat oder eine App für Sinnfragen zu bauen, für die Menschenrechte zu kämpfen oder Artikel zu schreiben, die wenigstens zwei Leser verstehen. Es kann sinnvoll sein, Sinnfragen mit einer Ohrfeige zu beantworten oder sie wegzulachen. Ich möchte hier kurz einen etwas ungewohnten Weg einschlagen, der seinen Ausgang beim Zufall nimmt. Ich stelle deshalb gleich eine Behauptung auf: Sinnsuche bedeutet Kampf gegen den Zufall. Und hier kann uns die Mathematik einiges lehren. 

Regelhafte und zufällige Ziffernfolgen

Vergleichen Sie die beiden Ziffernfolgen:

110010000110100010100010010110000011

100100100100100100100100100100100100

Zeigen diese Folgen ein Muster? Bei der zweiten ist die Antwort eindeutig „ja“. Man kann sie leicht in einer einfachen Anleitung wiedergeben: „Schreibe 12-mal ‚100’ hin“. Bei der ersten Folge ist das jedoch nicht möglich. Wir können sie nicht in einer einfachen Anleitung komprimieren, wir müssen die Folge, wenn wir sie jemandem mitteilen wollen, tel quel wiedergeben. Es gibt also offensichtlich Ziffernfolgen, die sich dank Anleitungen - Algorithmen - komprimieren lassen, und solche, bei denen dies nicht der Fall ist; wir nennen sie zufällig. Die Länge der Anleitung – sie lässt sich in Bits formulieren – ist ein Mass für die Komplexität der Folge. 

Eine Frage stellt sich jetzt sofort: Könnte man auf diese Weise alle möglichen Ziffernfolgen in regelhafte und zufällige unterteilen? Man hätte dann sozusagen eine patente Maschine, die uns automatisch die Antwort auf die Frage liefern könnte: Ist die präsentierte Ziffern-folge zufällig oder nicht? Nun erscheint eine solche Frage auf den ersten Blick durchaus als sinnvoll, ja, lösbar in vielen Fällen, aber sie enthält ein tückisches Paradox, wenn man sie generell – für endliche und unendliche Folgen - formuliert. Veranschaulichen wir es an einem einfachen Beispiel.

Interessante und uninteressante Zahlen

Versuchen wir, die natürlichen Zahlen in interessante und uninteressante zu unterteilen. Statt einer allgemeinen Definition von „interessant“ halten wir nach besonderen Merkmalen der Zahlen Ausschau. Beginnen wir mit 1. 1 ist interessant, weil 1 die erste natürliche Zahl ist. 2 ist interessant, weil 2 die einzige gerade Primzahl ist. 3 ist interessant, weil 3 die erste ungerade Primzahl ist. 4 ist interessant, weil: 4 = 2 + 2 und 4 = 2 x 2.  5 ist interessant, weil 5 die Summe aus den ersten beiden Primzahlen ist. 6 ist interessant, weil 6 eine vollkommene Zahl ist, das heisst, die Hälfte der Summe ihrer Teiler: 6 = ½ (1 + 2 + 3 + 6). Und so weiter.  Zahlentheoretiker und Zahlenmystiker können sich ein Leben lang mit solchen Eigenschaften von Zahlen beschäftigen. Und irgend einmal wird im Laufe dieser Beschäftigung die Frage auftauchen: Gibt es eine eindeutige Unterteilung, eine automatische Sortiermaschine von interessanten und uninteressanten Zahlen? Gäbe es sie, müsste sie irgend-wann auf die erste uninteressante Zahl stossen. Aber die erste uninteressante Zahl zu sein, ist das nicht äusserst interessant? Die Idee einer automatischen Sortiermaschine von interessanten und uninteressanten Zahlen endet in einer Paradoxie. Daraus schliessen die Mathematiker: Es gibt keine solche Maschine.

Eine Wundermaschine 

Nichtsdestoweniger faszinieren unmögliche Maschinen, weil sie quasi die inneren Grenzen logischen oder formalen Denkens aufzeigen. Bertrand Russell hatte bereits zu Beginn des 20. Jahrhundert mit ähnlichen Paradoxien auf logische Risse in den Grundfesten der klassischen Mathematik aufmerksam gemacht. Das war ein fundamentaler Schock. Die Frage nach der Komprimierbarkeit von Zeichenketten beschäftigt aber neuerdings auch die Informationstheoretiker. In einer Welt der vernetzten Informationsflüsse erscheint es natürlich aus praktischer, zeitökonomischer Perspektive höchst wünschenswert, wenn man Botschaften in möglichst kompakten Bit-Paketen zirkulieren lassen kann. Aber das Problem, auf das wir hier stossen, hat viel grösseren Tiefgang. Es zielt auf nichts Fundamentaleres ab als auf die Grenzen der Berechenbarkeit überhaupt. 

In den frühen 1960er Jahren formulierten drei Forscher – der berühmte Mathematiker Andrey Komolgorow, der Computerpionier Ray Solomonoff und das Wunderkind Gregory Chaitin - unabhängig voneinander ein exaktes Konzept, wie man die Komplexität von Ziffernfolgen berechnen kann. Ihre Ideen sind heute als Theorie der algorithmischen Komplexität geläufig. Diese Theorie definiert die Komplexität einer Ziffernfolge als das kürzeste Computerprogramm, das die Folge produziert. Daraus resultiert nun fast von selbst die Idee einer Maschine, der man eine beliebige Ziffernfolge (normalerweise in Nullen und Einsen) füttert; nach einer bestimmten Zeit spuckt sie die Bit-Zahl ihrer Komplexität aus.

Die Wundermaschine existiert nicht

Eine solche Maschine gibt es nicht. Das ist eines der tiefsten Theoreme der mathematischen Logik. Die Unmöglichkeit ihres Designs hat nicht computertechnische Gründe; auch liegt sie nicht darin, dass wir zuwenig intelligent wären, das Programm der Maschine zu schreiben. Der Knackpunkt steckt im Begriff  „kürzestes Computerprogramm“. Er verwickelt uns in verwandte Widersprüche wie das Konzept der interessanten Zahl. Im Besonderen schliesst das Theorem nicht aus, dass ein Computer zufällig das Programm zur Bildung einer hochkomplexen Ziffernfolge findet. Nur kann er nicht zeigen, dass es sich um das kürzeste Programm handelt. Die Möglichkeit einfacherer Programme existiert immer. Man vermutet im Übrigen, dass es unter den unendlich vielen denkbaren  Ziffernfolgen sehr viel mehr zufällige (nicht endlich darstellbare) als regelhafte (endlich darstellbare) gibt.

Der Plot des Lebens

Machen wir jetzt einen gewagten Sprung von Ziffernfolgen zu den Ereignisfolgen, aus denen unser persönliches Leben besteht. Ich will natürlich nicht suggerieren, unsere Suche nach dem Sinn des Lebens sei die Suche nach einem „Algorithmus“ des Lebens. Das Leben ist keine berechenbare Abfolge von Ereignissen. Aber oft genug erscheint uns diese Abfolge als chaotisch, erratisch, unübersichtlich, zufällig, und wir möchten gern Kohärenz in diese Ungereimtheit bringen.

Vielleicht ist das Motiv sogar das gleiche wie bei den Zahlenfolgen. Uns widerstrebt der Zufall. Wir ertragen es schlecht, dass Dinge einfach so geschehen. Wir wollen Muster se-hen, Zusammenhänge, Ursachen: einen sinnstiftenden Plot im Wirrwarr der Ereignisse, der sie auf irgendeine Weise „komprimiert“. Wir sagen dann, wir sähen im Leben einen Sinn. Er liefert uns Einsicht, Trost, Kohärenz, Halt, aber nicht die Gewissheit, dass es sich um den „besten Plot“ handelt. Es kann sich immer lohnen, nach einem besseren Plot zu suchen. So wie es kein allgemeines Beweisverfahren dafür gibt, dass der Computer das kürzeste Programm gefunden hat, so können wir nie sicher sein, den „letzten“ Sinn des Lebens gefunden zu haben. Soviel lehrt uns die Mathematik. 

Zuviel Sinn tut nicht gut

Man kann sein Leben auch überinterpretieren: In Zufallsereignissen sehen wir verborgene Gesetzmässigkeiten, in allem, was uns widerfährt, sehen wir Absicht, Plan, womöglich Bedrohung.  Ich treffe dreimal am gleichen Tag einen alten Bekannten in der Stadt, den ich lange nicht gesehen habe, und schon denke ich, er stelle mir nach; ich finde auf der Strasse eine Hunderternote und denke an eine Geste des Schicksals, vielleicht an eine Gunstbezeigung des Herrn; in meinem Garten haben Winden die anderen Pflanzen befallen und schon wittere ich eine heimliche hortikulturelle Sabotage meines Nachbarn. Wir sind nicht nur Zufallshasser, wir sind auch übereifrige Deuter all dessen, was um uns und mit uns geschieht. Am Ende dieses Wegs winkt die Paranoia. 

 Das Muster im Teppich

Von Henri James gibt es eine meisterhafte literarische Variation des Themas, in seiner Erzählung "Das Muster im Teppich". Ein junger, ehrgeiziger Literaturkritiker möchte auf die „Grundidee“ des Werks des berühmten Autors Vereker kommen. Der Kritiker vergleicht diese Grundidee mit dem komplizierten Muster in einem Perserteppich. Er möchte also das, was das Werk, ja, das Leben des Autors ausmacht, quasi wie ein Muster an den Tag bringen. „Können Sie es (das Geheimnis, E.K.) mit der Feder ausdrücken, benennen, er-klären, formulieren?“ dringt er auf Vereker ein. Aber dieser speist ihn ab mit vagen Tips. Die hintergründige Ironie der Geschichte liegt darin, dass der Kritiker eigentlich Opfer sei-ner Fragestellung ist. Verschossen in die Idee, das Webmuster aus dem Teppich herauszulösen, zu abstrahieren, verstellt er sich die Sicht auf das konkrete Gesamtgewebe des Teppichs -  auf das ganze Werk Verekers, letztlich dessen Leben, welches das Muster ist. Es verhält sich etwa so, wie man jemanden auffordern würde, ein Bild von Paul Klee „zusammenzufassen“ – man kann es nur zeigen.

Jedes persönliche Leben als Teppich mit individuellem Muster – eine prächtige Metapher. Man versuche nur nicht, das Muster aus dem Teppich zu lösen. Das heisst, man kann es auch lassen, nach dem Sinn des Lebens zu fragen. Leben ist so, wie es ist. Das nennt sich Gelassenheit. Sie bedeutet nicht, dass das Leben sinnlos oder gleichgültig geworden wäre, sondern, dass es identisch mit seinem Sinn geworden ist – nicht zum Muster im Teppich, sondern zum Teppich mit seinem Muster.







  Die Geburt des Terrors aus dem Geist des Spektakels Terroristen überbieten sich mit Abscheulichkeiten, genauer: mit der Inszenierung von A...