Eierknacker
Die philosophische Herausforderung der KI
Eine der philosophischen Grundannahmen der Neuzeit stammt aus dem 17. Jahrhundert, von René Descartes. Zwischen Mensch und Maschine gibt es einen fundamentalen Unterschied. Der Mensch ist eine denkende – eine «cogitierende» - Sache, die Maschine ist eine bloss funktionierende – eine «ausgedehnte» - Sache. Tiere sind natürliche – von Gott geschaffene – Maschinen. Auch der menschliche Körper. Er kann in rein mechanistischen Termen begriffen werden. Dass der Mensch mit einer denkerischen Potenz – mit dem «lumen naturale» - ausgestattet ist, hebt ihn auch gleich aus dem ganzen Tierreich hervor. Mit einer sehr einflussreichen Metapher des 20. Jahrhunderts gesprochen, ist der Mensch eine Maschine mit einem Geist drin.
Diese Auffassung beherrscht das moderne Denken bis in die heutigen Tage, vornehmlich in den Naturwissenschaften, wenn auch in elaborierterer Form. Die Auffassung wurde in der Philosophie immer wieder kritisiert, vor allem in der philosophischen Anthropologie, die den menschlichen Körper nicht als blossen Apparat betrachten will, sondern als einen «durchgeistigten». Das heisst, man weigert sich, im Hinblick auf den menschlichen Körper eine strikte Zweiteilung vor-zunehmen, und ihn vielmehr als eine Körper-Geist-Entität zu betrachten. Gerade in der Medizin ist diese Debatte seit langem im Gange.
***
Eine andere Kritik dieser dualistischen Auffassung liess sich schon in der Mitte des 20. Jahrhunderts aus einem ganz anderen Gebiet vernehmen: aus den Computerwissenschaften. Die Pioniere kehrten sozusagen das cartesianische Paradigma um: Warum stammt der Geist nicht aus der Maschine? Wenn man einem künstlichen System eine hinreichend komplexe kognitive Infrastruktur implementieren könnte, liesse sich da nicht von einem künstlichen «Geist» darin reden? Die Frage sollte unaufhaltsam in die Schlüsseltechnologie des 21. Jahrhunderts führen.
Die Herausforderung der «cogitierenden» Maschine zeigt sich technisch darin, dass es uns immer mehr gelingt, Systeme zu bauen, deren «Intelligenz»-Leistungen ein menschliches Niveau erreichen. Und sie äussert sich philosophisch in der Zurückweisung des menschlichen Anspruchs auf Exzeptionalität dank seiner kognitiven Ausstattung.
Formulieren wir diesen Abschied vom cartesianischen Paradigma so: Es gibt fremde Intelligenzen neben der des Menschen, sowohl im Tierreich – von den Bakterien bis zu den Bonobos - , als auch im Reich der Technologie. Das Argument, dass es sich hier nicht um «reale» Intelligenzen handelt, ist ziemlich zahnlos, solange man Intelligenz allein dem Menschen zuschreibt. Wie wenn Störche den Anspruch erhöben, nur sie wüssten «wirklich» zu fliegen, andere Vögel nicht. Lässt man den Exzeptionalitätsanspruch des «wirklich» fallen, stehen wir vor der epochalen philosophischen Frage: Was ist fremde Intelligenz? Wie ist die menschliche Intelligenz im Vergleich zu anderen Formen einzuordnen?
***
Komplexe Maschinen wie KI-Systeme haben schon heute eine «Tiefe» erreicht, die sie als nicht mehr völlig transparent erscheinen lässt. Allein diese Eigenschaft hebt sie vom herkömmlichen Tool ab und macht eine differenziertere Betrachtung als die binäre Mensch-Maschinen-Beziehung notwendig.
Der Philosoph Daniel Dennett schlug schon vor einiger Zeit drei Grundeinstellungen zu KI-Systemen vor: die physikalische, die Design-, und die intentionale Einstellung. In der ersten Einstellung lässt sich das System physikalisch völlig durchleuchten bis zu seinen Bestandteilen. Wir können die ganze Hardware des Computers in dieser Einstellung als ein physikalisches System betrachten. Die Funktionen dieser Hardware – ihr Design zur Datenverarbeitung - verlangen eine zusätzliche zweite Einstellung. In dieser Einstellung ist der Computer nicht einfach ein Stück Physik, sondern ein Stück Physik, das rechnet und «intelligente» Aufgaben löst. Heute bekommen wir es zunehmend mit KI-Systemen zu tun, lernenden Maschinen, die eine dritte Einstellung erfordern. Wir kennen ihre Hardware, ihr Design, aber ihre Arbeitsweise lässt sich mit keinem anderen Vokabular beschreiben als jenem, das wir auch für den Menschen verwenden: als verfolgte die Maschine Ziele, hätte Absichten, Wünsche, Abneigungen. Diese intentionale Einstellung manifestiert sich heute schon ganz banal darin, dass wir sagen, der ChatGPT «schreibe» einen Text. Wer wäre in der Lage, dieses «Schreiben» als Hardware-Vorgang zu beschreiben.
***
Dies führt nun allerdings auch grundlegend zu einem neuen Mensch-Maschinen-Verhältnis. Die traditionelle Auffassung von KI-Systemen sieht in ihnen Werkzeuge, Tools. Sie setzt damit den Menschen in die Stellung des Souveräns der Technik: er benutzt sie. Nun haben diese Tools mittlerweile einen Autonomiegrad erreicht, der die herkömmliche Auffassung obsolet erscheinen lässt. Man betrachtet heute KI-Systeme als künstliche «Agenten». Sie verrichten Dinge «von selbst». Unsere Beziehung zu ihnen verändert sich auf eine folgenreiche Weise. Wir beobachten dies seit längerem in vielen sozialen Aktivitäten. Wir sind geradezu verschossen in die «Lebendigkeit» von Artefakten. Ohne sie vermenschlichen zu wollen, gestehen wir ihnen heute eine Eigeninitiative zu, wie wir dies ja bei Menschen ganz selbstverständlich tun. Eine lose Metaphorik spricht schon seit langem von Automaten, die «entscheiden», «planen», «wahrnehmen», «auswählen», «voraussehen». Umgangsformen greifen Platz, in denen Maschinen die Rolle von Partnern, Akteuren, Quasi-Personen, Usurpatoren, womöglich Feinden übernehmen. Die Maschine beginnt zu lernen. Sie entwickelt sich auf eine kognitive Stufe zu, auf der man ihr menschenähnliche Intelligenz zuschreibt - bald einmal vielleicht Bewusstsein, Intentionalität, Sensibilität, ja, Personalität. Wir kommunizieren heute mit dem Chatbot wie mit einer menschlichen Person. Einigen Robotern hat man bereits Bürgerrechte zugesprochen. Das Tool wird zum Mitbürger. Wir steuern auf eine Homo-Robo-Gesellschaft zu.
***
Wir verkehren also mit KI-Systemen schon lange in der intentionalen Einstellung. Und das er-fordert, den intelligenten Artefakten einen neuartigen ontologischen Status zuzubilligen. Sie sind nicht einfach Maschinen, aber auch nicht Personen. Was dann? Die Situation erinnert an die Diskussion über Tierrechte, in der man von der Sicht der Tier als Sache zur Sicht des Tiers als Rechtssubjekt überging - selbstverständlich verknüpft mit dornigen juristischen Problemen.
Wie hältst du es mit den neuesten KI-Systemen? Blosse Tools oder Tools mit einer gewissen Eigenständigkeit und Handlungsmächtigkeit – also eigentlich künstliche Subjekte? Die Frage markiert die Wasserscheide zwischen cartesianischem und postcartesianischem Zeitalter.
Artefakte als Subjekte zu akzeptieren, widerspricht der herkömmlichen philosophischen Auffassung des Denkens und Handelns, zumal zwei Grundvoraussetzungen: Ein denkendes und handelndes Subjekt ist lebendig und hat eine «Innerlichkeit»: Absichten, Wünsche, ein Bewusstsein. Bei KI-Systemen ist das offensichtlich nicht der Fall. Sie «denken und handeln» auf eine Weise, die sich mit den herkömmlichen Begriffen nicht abdecken lässt. Wir haben somit die Wahl: Wir sprechen ihnen Denk- und Handlungsfähigkeit ab, oder wir erweitern unser konzeptuelles Arsenal so, dass wir damit auch Artefakte beschrieben können.
***
Ich glaube, die zweite Option ist unumgänglich. Je entwickelter die Maschinen, desto mehr werden wir unsere philosophisch vererbte Begrifflichkeit anpassen müssen. Das heisst nicht, dass die Maschinen nun auf einmal denk- und handlungsfähig wären, sondern dass wir ihre Aktionen differenzierter beurteilen als im herkömmlichen binären Raster: lebend oder nicht lebend; menschlich oder «maschinell».
Das cartesianische Raster ermöglichte es, uns als intelligente Maschinen von allen anderen – organischen und anorganischen – unintelligenten Maschinen abzuheben. Da wir es nun aber immer mehr mit artfremden Intelligenzen zu tun bekommen, ist diese Ausnahmestellung obsolet geworden. Es ist, als ob die Maschinen, die wir erfunden haben, uns nun dazu zwingen, uns als Menschen neu zu definieren.
Der Rand der Wissenschaft
«Not anything goes»
Stellen wir uns Wissenschaft als ein Land vor, erscheint sie uns als ein Gebiet mit verschwommenen Rändern. Im Zentrum befinden sich die etablierten Disziplinen, gegen die Peripherie geraten wir in eine nebulöse Grauzone, wo sich Kreationisten, Flacherdler, Ufologen, Löffelbieger, Kryptozoologen, Parapsychologen, Eugeniker, Katastrophisten, Spiritualisten und was noch für «wilde Spezies» tummeln. Seit einem Jahrhundert versuchen Wissenschaftler und Philosophen, auf der Karte dieses Lands eine klare Grenze zwischen Wissenschaft und Nicht-Wissenschaft zu ziehen. Der Physikochemiker und Nobelpreisträger Irving Langmuir glaubte in einem Vortrag 1953, zwischen normaler und «pathologischer» Wissenschaft unterscheiden zu können. Der Philosoph Karl Popper brachte die Abgrenzung als das sogenannte «Demarkationsproblem» auf den philosophischen Begriff. Er ersann das bekannte Falsifikationskriterium, wonach sich die wissenschaftliche Spreu vom Weizen eindeutig trennen lässt.
Aber solche Versuche erweisen sich als grobschlächtig. Sie befassen sich zu wenig mit dem Charakter des Unwissenschaftlichen. Sie disqualifizieren die Theorien der Randzone pauschal als unwissenschaftlich oder pseudowissenschaftlich. Stattdessen ist es angemessener, den Blick auf sie schärfer einzustellen. Das erlaubt dann auch, das Urteil der Pseudowissenschaftlichkeit zu diversifizieren und zu präzisieren. Ich halte einen Ausdruck des amerikanischen Wissenschaftshistorikers Michael D. Gordin für sehr praktikabel: «fringe sciences», Randwissenschaften. Werfen wir einen Blick auf vier Typen.
***
Zunächst die Residualwissenschaft. Eine Wissenschaft ist residual, wenn sie überkommene An-sichten weiterhin verficht: etwa Astrologie, Alchemie, Intelligent Design. Alle diese Theorien waren einmal durchaus akzeptierte und respektierte Instrumente der Welterklärung, teils aus mytho-logischem, teils aus religiösem Fundus stammend. Sie gelten aber als überholt, weil der wissenschaftliche Konsens sich von den früher vorherrschenden Vorstellungen gelöst und weiterentwickelt hat. Das heisst, Theorien haben ihre Verfallsdaten. Die Wissenschaftsgeschichte ist deshalb nicht nur eine Geschichte der wissenschaftlichen Siege, sondern auch ein grosser Abfallkübel verfallener Theorien. In ihm befindet sich alles, was die moderne Wissenschaft nach ihrem Selbstverständnis – oder nach ihrem Selbstmissverständnis - «überwunden» hat. Wer Theorien aus diesem Kübel vertritt, sieht sich schnell an die Peripherie abgeschoben. Astrologie als historisch-kulturelles Phänomen zu studieren, gilt durchaus als wissenschaftlich, sogar als lehrreich. Denn wir lernen ein Weltbild kennen, in dem die Konstellationen der Himmelskörper nicht blosse Mechanik, sondern ein deutbarer Text waren, aus dem sich unser Schicksal ablesen liess. Heute erklärt die Astrophysik die Kausalität der Himmelsdynamik. Und für Himmelsdeutung hat sie nichts übrig. Astrologie zu praktizieren gilt als Residual- oder Pseudowissenschaft. Leute, die sich mit Themen am Rand befassen, gelten schnell als intellektuell «randständig».
***
Natürlich wehren sich Astrologen gegen eine solche Disqualifizierung. Das führt zum zweiten Typus, zur Alternativwissenschaft. Auf vielen Gebieten existieren nach wie vor althergebrachte Vorstellungen. Wohl am offensichtlichsten in den Heilpraktiken. Obwohl die moderne «westliche» Medizin ihren enormen Fortschritt den Methoden der Biowissenschaften verdankt, hat sie althergebrachte und «nichtwestliche» Praktiken keineswegs verdrängt oder überwunden. Hardliner-Bestreben gibt es immer, den medizinischen Diskurs von allen nicht evidenzbasierten Vor-stellungen und Verfahren zu «reinigen». Aber dieser Kanon ist, wie sich zeigt, zu ausschliessend. Im Laufe der letzten Dekaden entwickelte sich zwischen moderner und alternativer Medizin ein aufgeschlossenes Verhältnis, das nicht auf Konkurrenz, sondern auf Komplementarität abstellt. Auch deshalb, weil sich die wissenschaftliche Medizin ihres allzu materialistischen Menschen-bildes bewusst geworden ist. Man könnte also sagen, dass sich bestimmte alternative Heilpraktiken von der Peripherie in Richtung Zentrum bewegten.
***
Anders als die Alternativwissenschaft, die sich mit dem Mainstream arrangiert, gibt sich die Anti-Establishment-Wissenschaft kämpferischer. «Wer sagt uns, wie man den Himmel deuten soll?», «Wer definiert eigentlich, was Wissenschaft ist?» fragt sie keck. Das heisst, ganz im Sinn postmodernen Geistes sieht sie in den hehren Idealen der Wahrheit, Objektivität und Faktizität nur machtvolle «Grosserzählungen», Ausschlussverfahren des Unerwünschten, Unbequemen, zur Emanzipation Drängenden. Anti-Establishment-Wissenschaft sucht die Machtstrukturen hinter der Erkennnissuche sichtbar zu machen. Zum Beispiel wehren sich Gender Studies oder interkulturelle und postkoloniale Studien vor allem dagegen, im Gefüge des universitären Systems eine «vorherbestimmte» Randposition zugewiesen zu erhalten. Dieser «Kampfmodus» hat durchaus zu neuen Forschungsansätzen geführt, aber auch zu schrillen Praktiken wie dem «Cancelling».
Es gibt die ausseruniversitäre Anti-Establishment-Wissenschaft. Ihre Randtheorien sind Ausdruck einer sozialen und kulturellen Substruktur. Sie sind Identitätsstifter, Anziehungspunkte für abweichende, «heterodoxe» Ansichten, Keime libertären Aufbegehrens. Nicht selten sehen Verfechter von Randtheorien gerade in der «Andersgläubigkeit» die überzeugendste Begründung der Richtigkeit. In ihrer Perspektive ist die «orthodoxe» Wissenschaft elitär, unterdrückend, korrupt, dekadent. Dagegen muss man die Freiheit des eigenen Weltbildes verteidigen.
***
Denialismus versteht sich nicht als Opposition zum Establishment, seine Strategie ist vielmehr das interessegeleitete Zersetzen eines Forschungskonsenses. Und zwar unter dem perfiden Motto «Mehr Forschung ist nötig». Das war die Strategie der Public-Relations-Firma Hill&Knowlton 1954, die im Auftrag der amerikanischen Zigarettenindustrie politische Interventionen zur Ein-dämmung des Rauchens aufzuschieben suchte. Perfide daran war, dass man mit «mehr Forschung» primär nicht Evidenz für oder gegen eine Hypothese suchte, sondern generell Zweifel streute, um den zunehmend robusteren Konsens der Forschung zu unterminieren. «Der Zweifel ist unser Produkt» hiess die Devise. Am sichtbarsten wurde sie in den 1960er Jahren, als die Petroindustrie mit der Evidenz aus eigenen Forschunginstitutionen und Think Tanks die offizi-elle Evidenz der Wissenschaft über den Klimawandel konterkarierte. Die Taktik ist subtil. Sie schreibt sich auf die Fahne, am normalen wissenschaftlichen Erkenntnisprozess teilzunehmen, und in diesem Prozess ist keine Meinung definitiv. Aber die Resultate, die Think Tanks in offiziell anmutendem Fachliteraturformat publizieren, haben oft nicht die Peer-Review durchlaufen. Und die Hauptadressaten – Politiker und Öffentlichkeit – übersehen häufig diesen Unterschied. Diese bewusst geschaffene Unübersichtlichkeit ist ein ideales Biotop für den Denialismus.
***
Zu dieser Unübersichtlichkeit trägt besonders die heutige Publikationspraxis bei. Die Schwemme an neuen Publikationsorganen ist amorph und immens. Die Zeitschrift «Nature» brachte 2019 einen kritischen Kommentar zu sogenannten «Räuberzeitschriften» («predatory journals»), welche dubiose Forschungsergebnisse ohne Qualitätsprüfung (dafür mit Publikationsgebühr) veröffentlichen. Sie sind gemäss den Autoren des Kommentars «eine globale Bedrohung». Der Ruf nach rigideren Publikationsstandards liegt in der Luft. Aber damit schafft man kaum eine Abgrenzung zwischen Wissenschaft und Nicht-Wissenschaft. Eher noch riskiert die Wissenschaft, sich ins eigene Knie zu schiessen. Stichwort «Replikationskrise». Die Klagen über qualitiativ minderwertige Forschung häufen sich schon seit einiger Zeit, vor allem seit sich datenintensive Methoden wie statistisches Testen eingebürgert haben.
***
Vom Schriftsteller Ludwig Hohl stammt die Metapher der «hereinbrechenden Ränder». Sie beschreibt meines Erachtens aufs Einprägsamste die gegenwärtige Situation. Die Strömungen von den Rändern mischen sich mit dem Mainstream der Wissenschaften, schlampige Forschung «verunreinigt» ihn, säht Ungewissheit und Verdächte. Es gehört deshalb mehr denn je zum Forschungsethos, sich von nicht- oder pseudowissenschaftlichen Praktiken abzugrenzen - nicht dadurch, dass man alles über den Leisten eines universellen Kriteriums schlägt, sondern dass man von Fall zu Fall die Fehler, Unseriositäten, Widersprüche aufdeckt und analysiert. Das ist aufwändig und zeitraubend, gehört aber zur Aufgabe eines zeitgemässen Forschers – und ist ein dringendes Erfordernis seiner Ausbildung. Denn Wissenschaft bewahrt ihre prekäre Glaubwürdigkeit im Basar der Welterklärungen nur, wenn sie sich dem Motto «Not anything goes» verschreibt. Und dies offensiv.
NZZ; 28.11.24
Das Omelett und die vielen Eier
Der neue Mensch – ein antizivilisatorisches Projekt
Eine der schrecklichsten Ideen der Menschheitsgeschichte ist jene des besseren oder neuen Menschen. Sie verleiht den ungeheuerlichsten Schandtaten die infame Dignität des Befugten, ja, Heroischen. Der Weg zum besseren Menschen fordert seine Opfer. «Man kann kein Omelett machen, ohne Eier zu zerschlagen», lautet die Lenin zugeschriebene Devise. Viele, sehr viele Eier, dafür sorgte Stalin. Dafür sorgten Mao, Pol Pot und all die anderen mörderischen Eierzerschlager.
***
Die Crux der Idee des neuen Menschen lässt sich in zwei Fragen verdichten. Die erste: Wer definiert den neuen Menschen? Und die zweite: Was tut man mit dem alten Menschen? In den revolutionären Entwürfen der Menschenverbesserer manifestiert sich wiederkehrend die Anmassung, zu wissen, wie der Mensch tickt, was er will, welche Lebensform für ihn die beste ist, wie man sie verwirklicht. Ein intellektueller «Radikalismus» sondergleichen, der nur dann harmlos bleibt, wenn er nicht zur praktisch-politischen Durchsetzung drängt – und das tut er leider fast immer.
Die Geschichte braucht nicht noch einmal erzählt zu werden, welche realen Formen die Idee des neuen Menschen im 20. Jahrhundert annahm. Bisher hat sie ihr Biotop vor allen in totalitären Systemen gefunden. Und es ist durchaus richtig, Nationalsozialismus, Faschismus und Kommu-nismus als Warnbeispiele herbeizuziehen. In ihnen allen trieb der Keimgedanken des neuen Menschen sein Unwesen: des rassenreinen Ariers, des beliebig manövrierbaren Arbeiter-Soldaten, des «neuen Italieners», der vor allem glaubt, gehorcht und kämpft. Natürlich handelt es sich um Konditionierpraktiken. Aber indem man sie desavouiert, verabschiedet man nicht not-wendig den ideellen Kern in ihnen. Der neue Mensch spukt nach wie vor in zahlreichen Köpfen.
***
Das heisst, der totalitäre Charakter steckt schon in der Logik des Gedankens. Der neue Mensch stellt einen Idealtypus dar. Ideale sind immer Abstraktionen. Sie «ziehen» vom Menschen, wie wir ihn kennen, unerwünschte Merkmale «ab». Sie bosseln ihn gedanklich zurecht, und fordern auf, den Gedanken in die Tat umzusetzen. Die Realisierung des Ideals erfolgt nun freilich nicht in der Reibungslosigkeit des Gedankens. Sie bedeutet realiter stets Homogenisierung der Bevölkerung, durch Propaganda, Manipulation, Erziehung, Dressur, Zwang. Der neue Menschentyp hat sich der Abstraktion zu unterziehen, und wer das nicht tut, spürt deren reale physische Gewalt. Sie bedeutet das Ausmerzen von Abweichlern, Minderheiten, «Feinden» der Gesellschaft. Man tötet nicht Menschen, man tötet Angehörige einer abstrakten Kategorie.
In der Metapher des Omeletts drückt sich die inhärente Menschenverachtung am ungeschminktesten aus. Sie erreicht die Spitze des Zynismus dann, wenn die Propheten des neuen Menschen eine Bevölkerung als «Experimentiermasse» betrachten, welche die Opferbereitschaft aufzubringen hat, der Idee zum Durchbruch zu verhelfen. So etwa Che Guevara, zur Zeit der Kubakrise und eines drohenden Nuklearkonflikts. Er gebrauchte ein der Omelett-und-Eier-Metapher verwandtes Bild. Er lobte die Fähigkeit des kubanischen Volkes, das sich «geleitet durch einen Führer von historischer Grösse, bis zu einer selten in der Geschichte erlebten Höhe entwickeln konnte. Es ist das fiebererregende Beispiel eines Volkes, das bereit ist, sich im Atomkrieg zu opfern, damit noch seine Asche als Zement diene für eine neue Gesellschaft.»
***
Mit dem Mauerfall 1989 verloren die revolutionären Gesellschaftsentwürfe ihre utopische Strahlkraft. Nun bietet sich neuerdings nicht primär die Gesellschaft, sondern der individuelle Körper als Ansatzpunkt der Verbesserung an - des «Enhancement»: der Erweiterung, Verstärkung, Steigerung. Der menschliche Körper – zumal sein Gehirn - ist, da man seine Komponenten bis in die molekulare Struktur zu erkennen beginnt, beliebig gestaltbar. Die Spielräume, die moderne Digital- und Biotechnologien eröffnen, lassen jene der dystopischen Fiktionen eines Orwell und Huxley hinter sich. Man zerschlägt jetzt die Eier nicht mehr, man baut sie so um, dass sie inhärente Anlagen zum Omelett haben. Ein neuer Totalitarismus entsteht - mit humaner Schminke.
Eine flagrante Form ist die Verhaltenszurichtung nach chinesischem Modell. Die kommunistische Obrigkeit vertritt eine Art von digitalem Leninismus. Menschen sind lenkungsbedürftige Herdenwesen. Um sie in einer friedfertigen, produktiven, innovativen Gesellschaft zu organisieren, braucht es einen weisen, strengen Grosshirten, sowie servile Unterhirten und abgerichtete Wachhunde. Dazu muss man den Bürger zum Bürger-plus-App umfunktionieren. Die Idee des neuen Menschen findet ihre zeitadaptierte Gestalt im Sozialkreditsystem. Es zielt darauf ab, das Verhalten des Bürgers so zu «zivilisieren», dass es sich ohne äussere Zwänge mit den politischen und ökonomischen Vorgaben der Regierenden verträgt. Kein offen sichtbarer Staatsterror (ausser bei solchen, die nicht mitmachen), sondern innere Disziplin, die man als Beglückung feiert. Es ist doch so schön, über die Scoring-App zu erfahren, wie sehr einen die Obrigkeit schätzt oder wie vertrauenswürdig eine Person ist, der man begegnet. Das eigene Urteilsvermögen kann bleiben, wo es will.
***
Richten wir den Blick nicht exklusiv auf die chinesischen Verhaltensdresseure. Der Trend ist universell: das Zusammenwachsen von Mensch und Technik. Es kennzeichnet die ersten beiden Dekaden des 21. Jahrhunderts, und man zelebriert es in den einschlägigen Kreisen als ultimative Befreiung des Menschen. Befreiung nun auch von seinem biologischen Erbe. Die traditionelle Prothetik, die der Reparatur und Rehabilitation des Körpers durch künstliche Komponenten dient, wird intelligent. Und es ist abzusehen, dass man den Menschen immer mehr mit Implanta-ten «anreichert», die ihn auf ein posthumanes physisches und kognitives Niveau zu heben versprechen. Die «Strategische gesellschaftliche Initiative 2045» - eine 2011 vom russischen Internetmogul Dimitry Izkow gegründete Non-Profit-Organisation - visiert ausdrücklich die Vervollkommnung der Menschheit mittels Wissenschaft und Technologie an: «den Transfer der Persönlichkeit eines Individuums auf ein anderes nichtbiologisches Trägermedium (..), um so das Leben zu bis hin zum Punkt der Unsterblichkeit zu verlängern.»
***
Die unverbesserlichen Menschheitsverbesserer reden gern vom Menschen als Gattung. Sie scheinen nicht viel von der Idee zu halten, dass das Menschliche am Menschen gerade in seiner sperrigen Individualität liegt. Und damit ist ja auch erneut das Grundproblem der Utopie angesprochen: ihr abstrahierender Charakter. Man muss an einem Idealtypus Mass nehmen, um «die» Menschheit zu verbessern.
Der neue Mensch begründet in der Regel einen Elitismus. Für die bolschewistischen Visionäre waren nicht alle für den neuen kommunistischen Menschen vorgesehen. Der Idealtypus aus Silicon Valley dürfte eine neue Ungleichheit zwischen mehr und weniger «enhancten» Exemplaren unserer Spezies begründen. Von Demokratie hält die Techno-Oligarchie ohnehin nicht viel. Und die Befreiung vom «Diktat» der Biologie liefert die Menschen ja nur umso unausweichlicher einem neuem Diktat aus, nämlich jenem der Daten-Proliferation. Der neue Mensch, das ist jetzt die Internet-Laborratte, die sich einem immerwährenden Upgrading für die aktuellesten KI-Systeme zu unterziehen hat. Wer das nicht freiwillig tut, ist alter Humanschrott, buchstäblich ein Nicht-Nutz(er). Bleibt abzuwarten, was mit ihm geschieht.
***
Wir leben heute in einer Welt der Technikfrömmigkeit und Leichtgläubigkeit in alles, was uns angeblich von unseren natürlichen «Fesseln» befreit. Wir haben ein Transzendenzbedürfnis nach dem «erlösten» Zustand. Aber wenn wir ihn in den Horizont des technisch Machbaren hereinholen wollen, dann ebnen wir dem Gegenteil den Boden. Schlimm genug sind schon Menschen, die wissen, was gut ist für uns. Schlimmer sind «bessere» Menschen. Die Hölle: Das ist der perfekte Mensch.
Über die Psychologie und Psychopathologie des Künstlichen
René Descartes’ Tochter Francine starb fünfjährig an Scharlachfieber. Darüber kursiert eine ebenso seltsame wie traurige Geschichte. Der Tod seines geliebten Töchterchens stürzte den Philosophen in derartige Verzweiflung, dass er eine künstliche Reproduktion anfertigen liess, eine mechanische Puppe namens Francine. Diese konnte sich bewegen und sprechen. Als Descartes 1649 von Königin Christina an den schwedischen Hof eingeladen wurde, nahm er seine künstliche Tochter im Koffer mit auf die Reise. Auf dem Schiff nach Schweden öffneten neugierige oder argwöhnische Matrosen ihn, die Puppe setzte sich auf, begrüsste sie und sprach mit ihnen. Zutiefst erschrocken warfen die Seeleute den Automaten über Bord.
***
Die Geschichte ist nicht verbürgt, aber emblematisch für die Epoche, in der Descartes lebte. Sie stand im Banne des Automaten. Descartes selbst war so verschossen in die künstliche Kreatur, dass er die natürlichen Lebensformen als von Gott geschaffene Automaten - als «göttliche Maschinen» - betrachtete. Der Körper der Tiere enthüllte ein kompliziertes Uhrwerk physiologischer – «mechanischer» - Prozesse, ja, selbst psychische Vorgänge wie das menschliche Lachen beschrieb Descartes als maschinellen Ablauf.
Solche mechanistischen Beschreibungen blieben nicht bloss Theorie. Versierte Uhrmacher des 18. Jahrhunderts suchten Lebensvorgänge auch mit mechanischen Mitteln nachzubauen. So sorgte etwa 1738 eine künstliche Darmentleerung für europaweites Aufsehen. Der französische Automatenbauer Jacques de Vaucanson hatte eine mechanische Ente konstruiert, die er in Paris vorstellte. Sie streckte ihren Kopf, pickte Körner aus der Hand, schluckte sie, verdaute sie und liess sie hinten gewandelt als Exkremente wieder hinaus. Das Publikum bestaunte die physiologische Simulation, die sich im seitwärts offenen Automaten wie in einem Diorama darbot. Führende Intellektuelle wie Diderot, Voltaire und Condorcet feierten das Genie Vaucansons. Voltaire hob ihn gleich aufs mythische Podest, als «Rivalen von Prometheus, der die Natur nachahmend, das Feuer des Himmels (nahm), um die Körper zu beleben.»
***
Verkneifen wir uns das Lächeln ob dieses naiven Glaubens in die «Lebendigkeit» der Automaten. Sie haben sich rasant weiterentwickelt, wir begegnen ihnen heute in der Gestalt der KI-Tools. Zentral in der Psychologie des Künstlichen ist der «animistische Umschlag» des Blicks. Wir beginnen Artefakte als quasilebend wahrzunehmen. In ihnen scheint eine künstliche Psyche zu wohnen, die uns dazu verleitet, sie wie unseresgleichen zu behandeln. Dabei ist aber unsere Psyche im Grunde gleich naiv und animistisch geblieben wie beim Frühmenschen, geradezu retardiert gegenüber dem atemberaubenden Fortgang der Technik. Besonders in den «avanciertesten» Technozirkeln. Erst kürzlich behauptete ein abgedrehter Softwareentwickler bei Google, das Konversationsprogramm LaMDA habe zu ihm gesprochen und zeige eine empfindsame Seele.
***
Die Psychologie des Automaten enthüllt im Wesentlichen eine Psychologie der Verführung. Schon das Wort «Simulation» ist doppeldeutig. Es meint Nachahmung und Vortäuschung. Vaucansons Ente war, bei allem Einfluss auf das Denken seiner Zeit, keine Nachahmung von Lebensvorgängen, sondern ein Schwindel. Kritische Zeitgenossen fanden schnell her-aus, dass der Automat die Körner nicht «verdaute», vielmehr wurden diese am Ende der Kehle in einem versteckten Behälter aufgefangen und der Darmausgang vor der Vorfüh-rung mit künstlichen Verdauungsresten gefüllt.
Der ChatGPT «schreibt» keine Texte, er simuliert das Texteschreiben. Ist die heutige künstliche Intelligenz ebenfalls ein Schwindel? Wir können die neuen Automaten nicht mehr so leicht entlarven wie Vaucansons Ente. Der notorische Turingtest für Maschinen lässt sich im Grunde auf ein einfaches Kriterium reduzieren: Wenn mich die Maschine mit ihrem «intelligenten» Verhalten täuscht, dann ist sie intelligent. Die Frage stellt sich sogar: Wollen wir die Automaten überhaupt entlarven, und was gibt es denn zu entlarven? Unsere Leichtgläubigkeit in die neue Technologie ist phänomenal, auf der Schwelle zur Groteske. Und sie wird von den Technogiganten hemmungslos gefördert.
***
Man könnte von der Bestechung durch die Technologie sprechen, auch hier im Doppelsinn des Wortes. Die Artefakte bestechen uns durch ihre teils übermenschlichen Fähigkeiten, und zugleich durch ihrer Verführungskraft. Heute, im Universum der smarten Dinge, entgehen wir dieser Bestechung kaum noch. Die uns auf Schritt und Tritt begleitenden Gadgets und Apps tun alles für uns. Dieses allgegenwärtige paternalisierende Etwas-für-uns-tun saugt vampirisch und unmerklich alle Eigeninitiative, alles Eigenleben aus uns.
Descartes gestand dem Apparat Mensch immerhin noch eine Seele zu. Heute scheint sie verzichtbar zu sein. Beschwipste Messianisten eines neuen technologischen Zeitalters sagen: Tant mieux! Ob Mensch oder Artefakt – bloss Automaten. Wenn wir ein bisschen tiefer hineinschauen, ist da niemand zuhause.
NZZ, 30.10.24
Der Wille zur Rache
Das Erstarken des Vergeltungsgedankens in der Politik
Wir erinnern uns: Anfangs Mai 2011 exekutierte eine Spezialeinheit der US-Navy Osama Bin Laden in dessen Heim in Pakistan. Präsident Obama verkündete dem amerikanischen Volk: «Justice has been done». Und damit bediente er ein vorherrschendes Gefühl, das eine populäre Zeitung so zum Ausdruck brachte: «Wir haben ihn! Endlich wurden wir gerächt!» Solche Wortwahl erinnert an Vendettas. Besonnenere Zeitgenossen wunderten sich, wie Obama, im-merhin ein ausgebildeter Jurist, sich an einer solchen Formulierung vergreifen konnte. Meinte er nun «Gerechtigkeit» als Rache?
Der Terrorismus ist bedrohlich genug. Noch bedrohlicher ist eine allgemeinere Entwicklung: des Wiederauflebens und Erstarkens des Rachegedankens in der Politik. Die Islamisten sind die Pioniere. Ihre Ideologen des modernen Terrors wollen primär keinen Krieg gewinnen, sie wollen Vergeltung als Antwort auf die Erniedrigung und Kränkung der islamischen Kultur durch die Entwicklung der modernen Zivilisation, die ja nun tatsächlich primär in Europa und Nordamerika stattgefunden hat.
***
Dieses Gefühl der Erniedrigung ist die eigentliche Brutstätte des Racheaffekts. Demagogen aller Art verwenden eine Dreischritt-Taktik zur Weckung dieses Affekts. Man redet dem Publikum zunächst ein, wie stark es gedemütigt werde. Dann sucht man nach den Urhebern dieser Erniedrigung. Schliesslich inszeniert man sich als die Figur, die Vergeltung verspricht.
Ein Schulbeispiel lieferte Donald Trump in seinem Wahlkampf 2016. Er begann auf dem Regis-ter der Erniedrigung und Bedrohtheit: «Unser Land ist in ernsthaften Schwierigkeiten. Wir haben keine Siege mehr (..) (Die Chinesen) lachen über uns als Einfaltspinsel. Sie schlagen uns im Geschäft.» Dann suchte er im zweiten Schritt die Schuldigen: «Wenn Mexiko seine Leute schickt, schickt es nicht die Besten (..) und diese Leute bringen ihre Probleme zu uns. Sie bringen Drogen. Sie bringen Kriminalität. Sie sind Vergewaltiger (..) Und all dies kommt nicht nur von Mexiko, sondern von überall her aus dem Süden (..) und es kommt wahrscheinlich – wahrscheinlich – aus dem Mittleren Osten». Schliesslich öffnete der Überbringer schlechter Nach-richten seinen Wundermittelkoffer: «Nun braucht unser Land (..) einen wirklich grossen Führer (..), einen Führer, der ‘The Art of the Deal’ schrieb, der unsere Jobs zurückbringt, unser Militär». Diesem Niveau bleibt Trump bis heute treu. Er spielt den Rächer der Erniedrigten. An einer Konferenz der Konservativen 2023 sagte er: «Für all die, denen Unrecht getan wurde: Ich bin eure Vergeltung».
***
Es verlockt, zumindest hypothetisch, das Aufleben des Rachegedankens mit der globalen Lage in Zusammenhang zu bringen. Die Welt ist ethnisch-kulturell zersplittert, trotz UNO-Charta. Heute spricht man schon fast abschätzig über eine sogenannte regelbasierte Weltordnung. Wo aber die Fundamente eines internationalen Regelwerks bröckeln, kann der Rachegedanken ungehindert Fuss fassen.
Ganz offensichtlich im Israel-Hamas/Hizbullah-Konflikt. Die Medien gebrauchen gerne das Bild der unaufhaltsamen Eskalationsspirale. Beide Parteien «müssen» vergelten, aber nach unterschiedlicher Logik. Die islamistische Logik sieht im Terror Vergeltungsaktionen gegen die «Kolonialmacht» Israel, letztlich gegen «den Westen». Und die Rache trifft mit wahlloser Grausamkeit Zivilisten. Die israelische Logik sieht sich gezwungen, darauf zu reagieren. Aber wie? Soll man Gleiches mit Gleichem vergelten? Palästinensische und libanesische Zivilisten eben-falls wahllos «bestrafen»? Das kollaterale Leid, das israelische Gegenschläge verursachen, ist entsetzlich, und gewiss spielen auch Rachemotive mit. Aber der Staat Israel steckt in der Zwickmühle. Er hängt von westlicher Unterstützung ab, und er sieht sich im Gegensatz zur Hamas und dem Hizbullah einem Internationalen Gerichtshof verpflichtet. Das Urteil des Genozid-Staates hängt über allen seinen Aktionen.
***
Abgesehen von solcher Rechtfertigungsproblematik vernimmt man in Zeitungskommentaren nun Atavismus-Alarm; die Warnung vor biblischen Zeiten des «Auge um Auge, Zahn um Zahn». Also letztlich vor kompromisslosen Vergeltungskriegen. Zeigt sich hier das Modell für ähnliche politische Konflikte? Spekulationen über kulturelle Rückschritte sind stets abenteuerlich. Aber mich sucht in diesen Tagen die Erinnerung an Francis Fukujamas These vom Ende der Geschichte heim, die den globalen Siegeszug der liberalen Demokratie – und damit auch der Rechtsstaatlichkeit - verkündete. Man konnte die These als Lob «westlicher» politischer Reife lesen, die das Zeitalter der Vergeltung endlich überwindet, und uns «Aufgeklärten» erlaubt, die Welt dank Recht und Gesetz zu regulieren.
Nichts gegen Aufklärung, aber hüten wir uns vor leichtfertigem Idealismus. Ressentiment und Rache lassen sich durch Recht und Gesetz nicht überwinden, nur verdrängen. Und gerade im Souterrain des Verdrängten entfaltet der Wille zur Rache seine diabolische Potenz.
Also potenziell in uns allen.
Eierknacker