NZZ, 16.7.25

Baloney Detection - die Kunst des Quatscherkennens

Wenn ich einer anderen Person etwas mitteilen will, will ich sie überzeugen, einschüchtern, täuschen, für mich gewinnen; ich will sie «kneten» - griechisch: «mássein». Das heisst, Informieren und Massieren sind zwei Seiten ein und desselben Vorgangs. The Message is the Massage. Am eindeutigsten beobachtbar in der Werbung – auch in der politischen. Nicht die Botschaft selbst interessiert hier, sondern ihre «knetende» Wucht. 

Die These ist nicht neu. Der Titel von Marshall McLuhans berühmtem Buch lautete bekanntlich nach einem Fehler des Schriftsetzers «The Medium is the Massage.» Der Untertitel hob den Kernpunkt hervor: «Ein Inventar an Effekten» - nämlich an manipulativen Effekten, die ein Medium haben kann. Man kennt dieses Verhalten schon aus der freien Wildbahn. Die Evolutionsbiologen sprechen von der Machiavelli-Intelligenz bei Tieren, also von einer erworbenen Fähigkeit, die sich der Strategie des «Massierens» bedient: des Irreführens, Verwirrens, Übervorteilens. 

Unser aktuelles Kommunikationsverhalten lässt auf vielen Gebieten den Charakter der freien Wildbahn erahnen, frei nach Nietzsche: den Willen zur Manipulation. Es herrscht ein Selektionsdruck, unter dem man nur durch Täuschen, Tricksen, Faken: durch «Massieren» des anderen erfolgreich besteht. Ein Biotop für die Subspezies der Leugner, Profilneurotiker, Spinner, Influencer, Trolle, Zyniker. Symptom eines intellektuellen Umweltproblems. Ich nenne es Krise der epistemischen Autorität. 

***

In modernen, aufgeklärten Gesellschaften gilt das wissenschaftliche Expertentum als solche Autorität. Coronaepidemie und Klimawandel haben jedoch den Ruf der Experten nicht gefördert. Das liegt gewiss an der Komplexität des Themas, aber auch an etwas anderem: die Phänomene sind von allgemeinem Belang und wertbeladen, sie gehen Wissenschaftler und Laien dringend und direkt an. Und hier tritt ein gestörtes Verhältnis zwischen beiden zutage. Ganz offensichtlich daran zu erkennen, dass man den Leuten, die dafür ausgebildet sind, über ein gewisses Gebiet kompetent zu urteilen, nicht mehr glaubt und vertraut. Gleichzeitig aber meint, mit einer zusammengeschusterten Do-it-yourself-Theorie das ganze gesammelte Wissen einer Disziplin über den Haufen werfen zu können. 

Ohnehin sollte man aber epistemische Autorität nicht mit der Autorität von Personen gleichsetzen, seien sie Wissenschaftler, Philosophen oder öffentliche Intellektuelle. Sie liegt vielmehr in intellektuellen Tugenden, auf die ein robustes demokratisches Zusammenleben abstellt: etwa das Überwinden des Ingroup-Outgroup-Bias, das heisst der Neigung, nur gleichen Meinungen Glauben zu schenken und die anderen mit ei-nem Shitstorm zu überziehen; Skepsis gegenüber vorschnellen Verallgemeinerungen und patenten Problemlösungen; das Vermeiden von Argumenten ad personam; das Misstrauen gegenüber Gefühlsexhibitionisten, die ihre Emotionen für Argumente halten, oder gegenüber Leuten, die sich selbst zu Opfern stilisieren: Betroffenheitsnarzissten; das Ersetzen von moralisierenden Schuldfragen durch empirische Ursachen-fragen; ein Gehör für die falschen Töne im Namen «des Volkes». Aufs Ganze gesehen könnte man einen epistemischen Tugendkatalog aufstellen und mit der Bezeichnung des bekannten Wissenschaftsautors Carl Sagan zusammenfassen: «Baloney Detection» - Quatscherkennung. Sagan nannte sie eine «hohe Kunst». 

***

Aber wer sagt denn eigentlich, was der Fall ist, was ein korrektes Argument, was ein triftiges Urteil? Was für eine Instanz rufen wir an, wenn wir vom Gegenteil des Quat-sches -  der Wahrheit - sprechen? 

Unsere Zeit ist von tiefem Misstrauen geprägt. Man erinnert sich an Jürgen Haber-mas Spielwiese der Kommunikation, wo der «eigentümlich zwanglose Zwang des besse-ren Arguments» regiert. Dieser «Zwang» hat eine ganz einfache Basis: das Vertrauen in den anderen; das Vertrauen darauf, dass der andere wie ich die Spielregeln des «bes-seren Arguments» anerkennt. Die Garantie für das zwanglose Gespräch liegt im Kol-lektiv von Bürgerinnen und Bürgern, die Erkenntnistugenden kultivieren und tradie-ren. In dem Masse, in dem das gelingt, gewinnt die Instanz des besseren Arguments an Autorität, können wir die Message von der Massage trennen und damit den intel-lektuellen Dreckschleudern entgegenwirken, die vor allem eines wollen: Flood the zone with shit. 

Der spanische Philosoph Ortega y Gasset hat dies bereits vor hundert Jahren erkannt. In seinem Essay «Der Aufstand der Massen» (1929) schreibt er: «Wer Ideen haben will, muss zuerst die Wahrheit wollen und sich die Spielregeln aneignen, die sie auferlegt. Es geht nicht an, von Ideen oder Meinungen zu reden, wenn man keine Instanz anerkennt, welche über sie zu Gericht sitzt». 

Fürwahr! Wir leben im Zeitalter der «Kneter». Sie anerkennen keine solche Instanz. Sie haben deshalb auch keine Meinungen, sie sondern Meinungen ab wie Speichel. Und wer diesen Speichel unkritisch resorbiert, ist ein… 

 

Wieder einmal Untergang des Abendlandes

Apokalyptisches Denken kommt auf. Und zwar nicht in theologischen, sondern in technologischen Zirkeln. Peter Thiel, Dotcom-Krösus und Investment-Hansdampf aus dem Silicon Valley, hausiert neuerdings philosophisch mit Endzeitideen. Und damit reanimiert er ein Denken, das bereits vor gut einem Jahrhundert die Köpfe erhitzte. Ausgelöst hatte es der deutsche Philosoph Oswald Spenglers mit seinem Buch «Untergang des Abendlandes». Da-rin postulierte er das geschichtsphilosophische Muster eines notwendigen Dreischritts von Aufstieg, Höhepunkt und Verfall. Dieses Muster zeige sich bei allen Kulturen und in allen Epochen. Spengler fürchtete, dass das faustische Streben nach Wissen, Macht und Transzendenz, einst der geistige Motor der westlichen Kultur, zunehmend durch eine genussorientierte Haltung des Sozialismus und Liberalismus ersetzt werde. Was laut Spengler den Beginn einer Endphase der westlichen Zivilisation bedeutete. 

***

Auch Thiel sieht die moderne westliche Gesellschaft von Verfall bedroht: zuwenig Fortschritt, ja, Stagnation seit etwa den 1970er Jahren. Seiner Meinung nach «gibt es viele Erklärungen für diese Verlangsamung (..), aber die Erklärung, an die ich glaube, lautet: Technologie wurde beängstigend. Wir sind ihr gegenüber heute misstrauisch, wir umarmen sie nicht mehr wie früher». Thiel diagnostiziert darin ein Versagen, den robusten technologischen Fortschritt aufrechtzuerhalten, der frühere Perioden der westlichen Entwicklung prägte. «Die Geschichte des 20. Jahrhunderts ist eine Geschichte des Verlusts der Hoffnung auf die Zukunft. Mit dem Blick zurück mag der Beginn des Atomzeitalters und das Manhattan-Projekt einen entscheidenden Wendepunkt darstellen, ein grosses Ereignis, das zu enormer Enttäuschung führte. Diese Enttäuschung traf in den 1970er Jahren mit voller Wucht, als das Nachfolgeprogramm Apollo zusammenbrach und die Baby-Boomer ihre Energien auf endlose Kulturkämpfe lenkten. Ob aus Zufall oder Absicht, die Wissenschaftler wurden an die kurze Leine genommen und mussten ihre Zeit mit dem Schreiben von Förderanträgen für bescheidene Erweiterungen bestehender Paradigmen verbringen».  

***

Das ist nicht Analyse, sondern Polemik, aber man kann durchaus fragen: Was ist schief gelaufen? Ein Axiom der aufklärerischen Moderne lautet: Die menschliche Gesellschaft ist nicht nur fähig, sondern verpflichtet zum Fortschritt. Dabei gilt die technische Innovation als treibende Kraft. Nun könnte man es allerdings  als Ironie des technischen Fortschritts betrachten, dass er im Zeitalter rasanter «disruptiver» Entwicklungen und drohender existenzieller Bedrohungen das Endzeit-Szenario reanimiert. Das heisst, es geht in diesem Szenario nicht einfach mehr um «Pragmatismus», um die Lösung von konkreten planetarischen Problemen - Umweltzerstörung, Klimawandel, Armut und Hunger, Überwachung des Individuums, Zerfall des sozialen Gewebes etcetera. Es geht um das Ganze, das planetarisch «Schicksalshafte», das «letzte Drama» der Geschichte schlechthin: das Eschaton – um et-was, so Thiel, das sich nur im Horizont biblischer Vorstellungen begreifen lässt. Im Horizont einer «dunklen Aufklärung».

Sie klärt den vermeintlich aufgeklärten Menschen endlich auf. Seht, sagt Thiel in seinem Essay «Against Edenism», ihr habt euch geirrt: «Wenn eine wissenschaftlich-technologische Utopie das Markenzeichen der Aufklärung war, dann ist vielleicht das Misstrauen gegenüber dieser Utopie das Markenzeichen des postaufklärerischen, postmodernen Westens. Der weit verbreitete Charakter dieses Misstrauens ist ein guter Massstab dafür, wie weit die Postmoderne die Moderne verdrängt hat». Das Misstrauen hat die «sogenannt christlichen Rechten», die «Hollywood-Linken», sowie alle dazwischen erfasst, «mit nur kleinen Unter-schieden in den genauen Details dessen, was abgelehnt wird – sei es die Stammzellforschung als entgegen dem Willen Gottes (..) oder die Fracking-Technologie als schädlich für die Umwelt».  Aufs Ganze gesehen, herrscht wieder einmal Untergang des Abendlandes. 

***

Die Wiederkehr gewisser Denkfiguren wie jener des Verfalls gehört meines Erachtens zu den faszinierendsten Themen der Ideengeschichte. Man kann dieses Phänomen zweifellos durch bestimmte historische «Atmosphären» erklären, die ein Wiederaufleben begünstigen. Das Positivste an Thiels Apokalypsedenken ist, dass er als Barometer einer kulturellen Wetterlage auftritt. Aber wir sollten auch die innere, erkenntnistheoretische Struktur der Denkfigur in Betracht ziehen - die Logik des Untergangs «dekonstruieren».  Betrachten wir kurz drei Merkmale. 

Erstens sieht sich Thiel als Denker, der gegen den Mainstream schwimmt. Je querer die Idee, desto «wahrer» ist sie. Das reflektiert ziemlich genau die Startup-Ideologie von Silicon Valley: Verrückte Ideen finden eher einen Investor als plausible. Aber als Argument in einer philosophischen Diskussion ist diese Auffassung von Wahrheit dünn und erinnert an pubertäre Renitenz. Wer Wahrheit sucht, ist vielleicht mutig und verrückt, aber er muss damit rechnen, dass er falsch liegt. Das ist die fallibilistische Tradition der Erkenntnis. 

Sie lässt Thiel kalt. Seine Vision der Endzeit ist «wahr», weil sie von einem «Contrarian» als entschlossene Erklärung in die Welt gesetzt wird, ihn als heroischen Denker hervorhebt und seiner Gefolgschaft Distinktion verleiht. Umberto Eco sah das klar: « Im Grunde genommen tröstet der Apokalyptiker den Leser; er lässt ihn (..) die Existenz einer Gemeinschaft von ›Übermenschen‹ erahnen, die sich über die Banalität und den ›Durchschnitt‹ zu erheben vermögen». So sieht das auch Thiel: «Das Schicksal in dieser Welt liegt vielleicht in den Händen eines einzelnen Menschen,  der den Mechanismus der Freiheit erschafft oder verbreitet, den wir brauchen.»

***

Zweitens kredenzt Thiel ein seltsam eklektisches  Gebräu aus modernen und biblischen Ideen. Er schwimmt nicht nur gegen den Mainstream westlichen Denkens, sondern möchte einem Paradigma zum Durchbruch verhelfen, das Geschichte, Macht und die Möglichkeit menschlichen Handelns auf neue alte Art – quasi neoarchaisch - verstehen will. Und hier ruft Thiel eine biblische Figur auf die apokalyptische Bühne: den «Katechon». Der Ausdruck bedeutet «Aufhalter» - eine Ordnungsmacht gegen den Verfall, die Dekadenz,  das Chaos. In Thiels Augen sind die USA der Katechon. Dabei muss man genauer hinsehen, was Thiel auf-halten will, nämlich den ganzen «Mob» der Umweltschützer, Klimaaktivisten, Wachstumskritiker, Umverteiler, woken Sozialisten –  falsche Friedensbringer und Wegbereiter zu einem bevormundenden Weltstaat mit Institutionen wie die UNO und die WHO – für Thiel Verkörperungen des «Antichristen».  Der konspirativen Duktus darf nicht fehlen. 

***

Thiel ist drittens ein strategischer Apokalyptiker, nach dem Hölderlin-Vers: Wo aber Gefahr ist, wächst das Rettende auch. Das Endzeit-Argument bezieht gerade aus dem paradoxen Charakter seine Schlagkraft: optimistisch und apokalyptisch zugleich. Man malt die Apokalypse an die Wand, um die optimistische Vision zu stärken. Hört, Leute, das Ende der Welt droht - falls ihr nicht eine postliberale Ordnung wählt, gestützt auf religiöse Transzendenz, technologische Risikobereitschaft, Monopolstellung grosser Konzerne, Herschaft weniger, Deregulierung des Staates und – Geldverdienen. Der Historiker David Edgerton nennt dies «apokalyptischen Optimismus». 

Er ist eine giftige Denkfigur, wenn er sich in die Politik einmischt. Günter Anders warnte vor einer «Apokalypse-Blindheit», vor mangelnder Angst angesicht der damaligen Bedrohung einer nuklearen Weltzerstörung in der Mitte des 20. Jahrhunderts. Heute wäre eher vor einer anderen Blindheit zu warnen: gegenüber verworrenen Risikokapitalisten, die den Untergang als profitables Investitionsobjekt entdeckt haben. 

 

Prompten statt schreiben

Stammt der Text von dir? So lautet oder wird wahrscheinlich schon bald die Standardfrage einer neuen Ära des Schreibens lauten. Der Textgenerator – der General Pretrained Transformer (GPT) – hat sich binnen kürzester Zeit zum künstlichen literarischen Konkurrenten des Menschen entwickelt, und er befindet sich wohlgemerkt im Babystadium. Bisher war er eine Voraussagemaschine von Texten. Nun lernt er, «verständig» auf bestimmte Anfragen oder Instruktionen – auf Prompts - zu reagieren. Eine neue Kompetenz gewinnt an Bedeutung: das Prompt-Engineering. Man «treibt» den Chatbot mit gezielten präzisen Eingaben in eine gewünschte Richtung. 

***

Für den Schriftsteller Clemens Setz lassen sich deshalb Schreiben und Prompten tendenziell nicht mehr unterscheiden.  Er lobt eine «neue Aufrichtigkeit», die nicht so tut, als wäre der Mensch allein Autor der Texte. Vielmehr repräsentiere das Prompten eine neue Kulturtechnik, in der Mensch und KI-Assistent eine Symbiose eingehen. «Zukünftige Generationen könnten sich kopfschüttelnd wundern, wie die frühere Menschheit überhaupt je irgendetwas Authentisches und Aufrichtiges auszudrücken imstande war, wenn sie doch gerade in der Situation der Schrifterzeugung immer so mutterseelenallein war, von niemandem betreut als vom eigenen Gehirn». Setz sieht einen «tertiären Analphabetismus» aufkommen. Der tertiäre Analphabet kann selbst keine Texte verfassen. Und auch die Überprüfung der vom Chatbot generierten Texte ist für ihn unmöglich. Er kann nur «extrem präzise wünschen», sprich: prompten. 

Solche Kulturdiagnosen folgen einem gängigen Narrativ: Neuerungen ersetzen alte Techniken. Ein anderer österreichischer Schriftsteller, Alfred Polgar, sagte in den 1920er Jahren mit erstaunlicher Radikalität voraus, dass die Schreibmaschine nicht nur Finger und Hände ihres Nutzers entbehrlich macht, sondern im letzten Effekt den Nutzer selbst: «Die Entwicklung muss hier, wie bei jeder Maschine, dahin streben, die notwendige menschliche Mitarbeit immer mehr und mehr einzuschränken. Der Tag, an dem es gelungen sein wird, den Schriftsteller ganz auszuschalten und die Schreibmaschine unmittelbar in Tätigkeit zu set-zen, wird das grosse Zeitalter neuer Dichtkunst einleiten». 

***

Ich weiss nicht, ob Setz auch von einer neuen Dichtkunst träumt. Sein tertiärer Analphabet tut sich jedenfalls in einer neuen Kulturtechnik hervor. Er «lernt fast ausschliesslich eine Sache (..): das Wünschen.» Ihm bleibt die letzte Kompetenz, nämlich das «übergenaue (..) erwachsene Selbstkenntnis erfordernde Formulieren dessen, was man gerne haben möchte». Also: Ich möchte gerne einen Text von 10'000 Zeichen über Roadkill. Oder: Ich möchte gerne eine Zusammenfassung meines Essays in 2000 Zeichen und in Englisch. Der KI-Assistent liefert das in Sekundenschnelle. Der tertäre Analphabet kann, «wenn die Wunscherfüllung geliefert wird, nicht mehr persönlich nachprüfen, ob der Wunsch korrekt verstanden wurde, das kann dann nur das Leben selbst entscheiden». Das Leben selbst: das ist die akzeptierte Seminararbeit, die bestandene Prüfung, das erfolgreiche Bewerbungsschreiben. Man muss nicht mehr verstehen, wie sie zustandegekommen sind, Hauptsache, man reüssiert. 

***

Am ehesten goutiert man die Ausführungen von Setz als fiktiv-satirische Extrapolation ei-ner durchaus bestehenden Tendenz. Auch so bleiben sie nerdig verblasen. Denn erstens ist der schreibende Mensch nie «mutterseelenallein» mit seinem Gehirn. Tatsächlich ist auch das Schreiben mit der Feder bereits ein symbiotischer Akt von Mensch und Werkzeug. «Unser Schreibzeug arbeitet mit an unseren Gedanken», erkannte schon Nietzsche. Und all die Werkzeuge und Geräte, die der Mensch mit sich herumträgt und mit denen er sich umgibt – dazu gehört nota bene auch das Buch - , sind ja, so liesse sich sagen, Extensionen seines Gehirns, in dem Sinne, dass das Gehirn seine hochflexible Struktur dem jeweiligen Geräte-gebrauch anpasst. 

Zweitens hat die «tertiäre Analphabetisierung» etwas Paradoxes. Prompten ist das «über-genaue (..) erwachsene Selbstkenntnis erfordernde Formulieren dessen, was man gerne haben möchte». Aber ist Formulieren denn nicht Eingeben in geschriebener Form? Will der tertiäre Analphabet nicht gerade darauf verzichten? Zum Schreiben gehört insbesondere auch das Lesen. Lesen und Schreiben sind komplementäre Seiten ein und derselben Kompetenz. Mit der einen verkümmert die andere. Und damit auch das Wünschenkönnen. Der vom KI-Assistenten begleitete tertiäre Analphabet wird am Ende wunschlos sein wie sein Gerät. Ein geistiger Mutant, wunschlos glücklich und jeglicher Schreibfähigkeit depriviert?

***

Man muss Setz durchaus konzedieren: 2022 liess OpenAI ChatGPT auf den Technikkonsumenten los, und innerhalb von drei Jahren hat sich dieses Ding zu einem kulturellen Game Changer entwickelt. So stark, dass die Pädagogen und Psychologen immer erfolgloser ge-gen das Schummeln vorzugehen suchen. Für Setz eine hoffnungslose Massnahme. Denn Schummeln – so sein gedanklicher Salto mortale – ist die neue Aufrichtigkeit. «Absolut jede Art von Lernen ist dann tendenziell ‘Cheating’, oder, anders formuliert, geschieht in Gesellschaft des KI-Assistenten». 

Mag sein. Aber die Frage stellt sich drittens, ob die Schreibassistenten dem Schreiben, statt es zu ersetzen, nicht vielleicht eine neue, zeitadaptierte Bedeutung verleihen. Paläoanthropologie, Evolutionsbiologie, Neurologie und Kognitionspsychologie weisen uns längst schon auf das Zusammenwirken von Hand und Hirn hin. Und aus diesem Zusammenwirken hat sich so etwas wie ein «Schreibhirn» entwickelt. Eine  neuronale Struktur, die der Schreibaktivität entspricht. Man spricht von einer «breit gestreuten Hirnkonnektivität» durch Schreiben.  

***

Inwieweit diese Struktur sich durch die neue Kulturtechnik des Promptens verändert, bleibt abzuwarten. Die entscheidende Frage betrifft das Gleichgewicht zwischen Kulturtechniken. Die Schrift zum Beispiel hat das Gespräch nicht ersetzt. Vielmehr hat sich zwischen Reden und Schreiben ein dynamisches kulturelles Gleichgewicht von Ausdrucksmöglichkeiten gebildet. Man kann dies heute im Netz beobachten. Video- und Audioformate haben zur Verbreitung mündlicher Kommunikation im digitalen Medium beigetragen. Man schreibt nach wie vor. Aber Chatten, Simsen, Twittern tragen durch ihre Kürze, Direktheit und Expressivität Züge der Oralität. «Sekundäre Oralität» hat dies der Literaturwissenschaftler Walter Ong genannt. The medium is the style. 

Lässt sich nicht Ähnliches vom Schreiben und Prompten erwarten? Nicht ein Verlernen, sondern ein Wiedererlernen des Schreibens im Zusammenspiel mit dem Textgenerator, Re-Skilling statt De-Skilling: sekundäre Literalität? Man lässt schreiben und pflegt zugleich das Schreiben. So wie der Algorithmus meine «Idiosynkrasien» des Schreibens lernt, lerne ich seine Schreibtricks. Wenn Mensch und GPT eine Symbiose eingehen, bedeutet dies nicht zwingend den «Tod des Autors». Warum nicht die Geburt eines neuartigen «Schreibsubjekts» aus Autor und Algorithmus, das die alten Kompetenzen durchaus weiter kultiviert? Also die Frage der Kompetenzverteilung in einer Welt autonomer Artefakte. 

***

Ein Aspekt verdient dabei grössere Beachtung. Wenn eine Person den ChatGPT schreiben lässt und meint, selbst zu schreiben, dann nimmt sie das Gerät als Teil ihrer selbst wahr, verinnerlicht sie es. Das führt zu einer «Ich-Werdung» des Geräts. Oder umgekehrt zu einer Gerätewerdung der Person.

Darin zeichnet sich der Prozess einer allgemeineren Symbiose von Mensch und Maschine ab, in der sich der Mensch immer mehr der Maschine anpasst – und schlimmstenfalls als kulturelle Kümmerform seiner selbst überlebt. Was dies bedeutet, muss in einem umfassen-deren Kontext diskutiert werden als bloss in jenem des Schreibens und Lesens – es ist der Kontext des Menschbleibens in einer Welt der Geräte.