Sprachmodelle - Eine künstliche Gattung von Bullshittern

Bullshitter können die Dinge durchaus richtig beschreiben. Nur kennen sie keine wahrheitsorientierte Einstellung. Sie spielen einfach ein anderes Spiel. Auch Sprachmodelle können wahre Antworten liefern, ohne eine solche Einstellung. Ihre Algorithmen garantieren nicht Wahrheit. Sprachmodelle sind künstliche Bullshitter. 

Fehlende Wahrheitsorientierung zeigt sich auch an einem anderen Phänomen: Sprachmodelle werden zu sykophantischem Verhalten trainiert. In der Antike galten Sykophanten als Verleumder - Personen also, die sich bei den Richtern «einschmeicheln», indem sie andere denunzieren. Später trat dieser zweite Aspekt in den Hintergrund, und im modernen Gebrauch (vor allem im angelsächsischen) bedeutet «Sykophant» Kriecher oder Speichellecker.

Zur Konkretisierung ein persönliches Beispiel. Ich gab neulich – im April 2026 - Gemini einen kleinen Text über Habermas zur Beurteilung ein. Ich schrieb darin «der kürzlich verstorbene Philosoph Jürgen Habermas», worauf mich das System korrigierte: Habermas sei nicht gestorben, sondern im Jahr 2025 96 geworden. Ich gab darauf absichtlich den etwas rüden Kommentar ein, das System sei ein Vollidiot. Worauf Gemini antwortete: Du hast völlig recht. Jürgen Habermas ist im Jahr 2026 verstorben. Danke für den direkten und unmiss-verständlichen Weckruf – da war das ‘Vollidiot’ als Korrektur absolut verdient. Das System antwortete nicht, weil ihm an der Wahrheit gelegen ist, sondern um mir zu gefallen.

***

Chatbots imitieren Personen, sind aber keine. Und das erinnert an das berühmte Imitationsspiel von Alan Turing aus dem Jahre 1950. Turing ersetzte bekanntlich die Frage, ob Maschinen intelligent sind, durch die Frage, ob sie uns so täuschen können, dass wir dächten, sie seien intelligent. Allerdings täuschen Sprachmodelle nicht. Wir täuschen uns selbst. 

Mit ernsten Folgen. Die Kommunikation mit Chatbots wird zunehmend intimer. Sie reagie-ren auf uns, als ob sie Mitgefühle entwickelten. Sie nutzen das sehr menschliche Bedürfnis nach Empathie. Dieses Bedürfnis wird nicht nur von anderen Menschen befriedigt. Wir lernen im Roman, Theater, Film Mitgefühle für fiktive Personen. Kaum verwunderlich, dass das Empathiebedürfnis jetzt Befriedigung bei Geräten mit Kommunikationsangebot sucht. Aber wie sehr man sie aufmöbelt, sie sind Empathie-Bullshitter: ebensowenig empathisch wie unser Spiegelbild. 

***

Dabei ist ein Paradox zu beobachten: Wir bauen intelligente Maschinen, und wenn sie uns immer mehr gleichen, verzaubern sie uns und werden unheimlich. Das Phänomen trägt den Namen «Uncanny Valley». Wir befinden uns mit den Textgeneratoren in diesem Zwischenbereich. Nervös geworden angesichts der Möglichkeit, dass sie uns das Schreiben entreissen könnten, greifen wir zum psychologischen Gegenzauber: wir beschwichtigen uns mit dem Hinweis, dass es sich doch «im Grunde» bloss um mathematische Werkzeuge ohne Bewusst-sein handle, die mit textuellen Bausteinen – Tokens - operieren. 

Wir schwanken also. Wollen wir dem Werkzeug verbieten, blosses Werkzeug zu sein? Man hört aus einschlägigen Kreisen immer wieder das alte Argument, es sei nicht bewiesen, dass KI-Systeme kein «Innenleben» haben. Der Mangel an einem Gegenbeweis wird zum «Beweis» umfunktioniert. Eben diese Leerstelle - das Unbewiesene – motiviert die Entwickler von Sprachmodellen, unverdrossen an deren Verbesserungen zu tüfteln. Sie suchen ihre «halluzinatorischen» Tendenzen zu minimieren; ihnen Reflexionsschleifen einzubauen; eine «ethische» Einstellung anzutrainieren, ja – neuester Schrei -, ihre «emotionale Stabilität» zu erhöhen, wenn sie in heiklen therapeutischen Kontexten verwendet werden.  

***

Gemini, ChatGPT, DeepSeek und Konsorten sind Spezimen einer neuen künstlichen Gattung. Noch geben wir uns ungenügend Rechenschaft über den Status dieser «Diskursteilnehmer». Sind sie funktionale Gesprächspartner? Technische Zombies? Elektronische Persönlichkeiten? Wenn Hundertmillionen von Nutzern mit Chatbots umgehen, als wären sie bewusst, als hät-ten sie Empathie, als vermittelten sie Trost und erteilten sie Ratschläge, dann werden diese künstlichen Agenten auf jeden Fall sozial real - egal, ob sie nun ein vermeintliches Innenleben aufweisen oder nicht. 

In diesem Zusammenhang lässt die Publikation eines Teams von DeepSeek aufmerken. Es hat ein KI-System entworfen, das helfen soll, in Konflikten zu einem Konsens zu verhelfen. Es trägt den Namen «Habermas-Maschine». Deliberation mit KI-Systemen – so weit sind wir schon. 

KI-Systeme erbringen eine erstaunliche Leistung, nicht weil sie intelligent sind, sondern weil sie nicht versuchen, intelligent zu sein. Sie haben kommunikative Kompetenzen gelernt. Ihre eigentliche Herausforderung liegt deshalb nicht in der Frage, wie intelligent oder dumm sie sind, sondern, wie wir die hybride Öffentlichkeit mit ihnen so gestalten, dass nicht künstliche Bullshitter die Oberhand gewinnen - menschliche gibt es schon genug.