NZZ, 23.3.2021

Literatur aus dem Computer

Was ist künstliche Kreativität?

Kürzlich liess sich der deutsche Schriftsteller Daniel Kehlmann auf die Kooperation mit einem Literatur-Algorithmus ein. Zusammen produzierten sie Kurztexte, Kehlmann mittels seiner schriftstellerischen Fertigkeiten, das KI-System mittels seiner rechnerisch-kombinatorischen Fähigkeiten. Dem Vernehmen nach resultierte die Zusammenarbeit in nicht gerade überzeugenden Beispielen. Das verwundert eigentlich nicht, bietet aber einmal mehr Anlass zur zentralen Frage: Was ist überhaupt künstliche Kreativität?

***

Für eine Antwort konsultieren wir jemanden, der wirklich tief über die Algorithmisierung der Intelligenz nachdachte: Alan Turing. Er unterschied zwischen maschineller „Ingeniosität“ und menschlicher „Intuition“. Auf vielen Gebieten unseres alltäglichen Handelns ist Intuition durch Ingeniosität ersetzbar. Gilt das auch für die Kunst? Weicht der Schriftsteller dem Ingenieur? 

Heute ist bekanntlich viel die Rede von lernenden künstlich intelligenten (KI) Systemen: neuronalen Netzwerken. Musiker und Maler bedienen sich vermehrt dem kombinatorischen und exploratorischen Vermögen ihrer Algorithmen.  Der Komponist David Cope schuf zum Beispiel einen Automaten – «Emmy» - zur Erzeugung von Musik aus dem Notenmaterial früherer Komponisten, etwa von Vivaldi, Mozart oder Beethoven. Oft bilden Maler und Programm eine Personalunion, wie etwa Harold Cohen mit AARON oder Simon Colton mit Painting Fool. 2018 generierte ein französisches Künstlerkollektiv mit zwei KI-Systemen ein Porträt, betitelt „Edmond de Belamy“. Es wurde für über 400'000 US-Dollar versteigert. Warum also sollte nicht auch ein Algorithmus literarische Texte aus dem immensen Fundus des Geschriebenen schöpfen? Der Poesieautomat ist ein wiederkehrender Topos der modernen Literatur, von George Orwell über die Surrealisten, Science SF-Autoren wie Fritz Leiber, Experimentatoren wie Max Bense bis zu den «Creative Technologists» von Google. Hans Magnus Enzensberger führte 2000 auf einem Lyrikfestival einen  Poesie-Automaten vor. Mit ihm verfasste er Gedichte, zum Beispiel:

Überflüssige Erpressungen der Gremien, dieser fieberhafte Kunstgenuss am

Wochenende und diese vorgedruckten Zahlungsbefehle: Schleierhaft!

Im Grunde langweilt uns doch manches.

Einstweilen lediglich würgende Lügen. Pünktlich einschrumpfen!

Einflüsterungen: («Deine Freunde sind wieder so spiessig.»)

Im Hinterkopf Nullsummenspiele.

Enzensberger selbst mass seiner Zufallslyrik kaum Bedeutung bei: «Es ist ein Spiel. Wie weit man es mit Sinn auflädt, hängt vom Betrachter ab. Es können Gedichte entstehen, die jemandem was sagen.» 

***

Dennoch ist die Frage interessant: Hängt künstlerische Qualität nicht  immer auch vom Zufälligen, Aleatorischen ab. Schon die Musiker des 18. Jahrhunderts ergötzten sich am musikalischen «Würfeln». Wir müssen die Frage heute in den weiteren Kontext von KI-Systemen einbetten. Sie  «sagen» einem nichts, sie „spielen“ mit Informationen, nicht mit Bedeutungen. Und das berührt einen wesentlichen Punkt. Der Sinn eines Kunstwerks steckt auch in den Zielen und Absichten des Künstlers. Ohne Intention kein Sinn. Wie aber will man Intentionen programmieren? Haben die ingeniösen Systeme ein mentales Innenleben?

Intentionalität bedeutet in einer Kurzformel: Mentale Zustände und Vorgänge sind immer auf etwas gerichtet. Wenn wir also bei einem Lebewesen oder Artefakt ein Verhalten beobachten, das «von innen her» auf etwas gerichtet erscheint, dann können wir vermuten, das Lebewesen oder Artefakt manifestiere artspezifische innere Zustände. Wenn zum Beispiel mein Kater vor der Fenstertür miaut, dann bekundet er einen inneren Zustand: seine Absicht nach Auslass. In einem minimalen Sinn könnte man deshalb auch einem künstlichen Autoren innere Zustände attestieren: er hat die «Absicht», seine Belohnungsfunktion für das Schreiben einer guten Geschichte zu maximieren.

***

Aber unterstellen wir da nicht einfach Bedeutungen, wo bloss ein maschinelles Bedeutungsvakuum existiert? Nun wird das Problem definitiv dornig. Was ist der Unterschied zwischen absichts-loser Zeichenmanipulation und absichtsvollem Geschichtenschreiben? 

Als eines der Alleinstellungsmerkmale menschlicher Intelligenz gilt das Wäre-wenn-Denken, das Denken im Kontrafaktischen. Ohne ein solches Denken gäbe es keine Kreativität, nirgends. Das Wäre-wenn-Denken kann faktenbasiert sein –  oft eine Notwendigkeit - , es kann auch ohne Fakten auskommen oder sich gar gegen Fakten richten. Wir nennen dies neuerdings alternative Fakten. In der Politik sind sie meist toxisch, in der Literatur unentbehrlich. Fiktion ist Produktion alternativer Fakten. Die Hirnforscher vermuten, dass mit unserer Geburt (wahrscheinlich schon vor unserer Geburt) die narrativen Automatismen unserer neuronalen Anatomie einsetzen. Das Geschichtenerzählen ist eine Keimform des kausalen Denkens, der Von-zu-Struktur: Mutter führt zu Lust, Anstrengung  zu Müdigkeit, Gewalt zu Schmerzen. Interessant in diesem Zusammen-hang ist, dass wir Was-wäre-wenn-Szenarien als semireal erfahren. Das heisst, wie unlogisch, absurd, irreal oder surreal sie sein mögen, sie erzeugen reale Gefühle, oft realer als in der Realität. Um mit Musil zu sprechen: Unser Gehirn entwickelt sowohl einen Wirklichkeitssinn wie auch einen Möglichkeitssinn. Liesse sich ein solcher Möglichkeitssinn auch in Maschinen implementieren?

***

Es gibt Ansätze dazu, «Algorithmisierung des Kontrafaktischen» genannt. Das bedeutet einfach, dass man den neuronalen Netzwerken beizubringen versucht, mit Was-wäre-wenn-Fragen umzugehen, sprich: Daten nicht nur zu analysieren, sondern zu interpretieren. Entwickeln sie dadurch Kreativität? Sie werden jedenfalls in Zukunft immer mehr über narrative Techniken des Plots, der Zeichnung von Charakteren, des Stils lernen, und daraus Kombinationen generieren. Und dadurch können sie uns helfen, das Geheimnis literarischer Kreativität tiefer zu ergründen. Auf dem Gebiet der Entwicklung solcher KI-Systeme ist schon so etwas wie ein Hype der künstlichen Kreativität ausgebrochen. Im September 2020 publizierte der englische «Guardian» die Kolumne eine Deep-Learning-Computers namens GPT-3. Sie verblüfft durch argumentative Klarheit. 

Spielt es eine Rolle, ob ein Text von einem Autor oder von GPT-3 geschrieben ist? Ja, natürlich. Nur ein Aspekt sei hier angetippt: Es gibt eine kritische Asymmetrie im Vergleich von Mensch und Computer. Menschen werden eher computerartig, als Computer menschenartig. Woraus be-sorgte Bewahrer des Humanen die Befürchtung ableiten, die KI-Systeme könnten uns nach der kosmologischen, biologischen und psychologischen nun die computertechnische Kränkung zu-fügen: Sind wir Menschen denn nicht auch Computer? Gewiss, aber das ist eine Trivialität. Wir können uns immer nach dem Modell der jeweils avanciertesten Computer konzipieren. Die eigentliche Aufgabe ist jedoch eine umsichtige Symbiose von menschlicher und maschineller, zumal artistischer und artifizieller Intelligenz. Sie erlaubte uns, fallweise vermeintliche Differenzen aufzulösen oder neue Differenzen zu entdecken. So unterschieden wir bis vor kurzem künstliche und menschliche Intelligenz anhand von Merkmalen wie «digital» und «analog». Die neuronalen Netze lassen die Differenz als hinfällig erscheinen. Dagegen erweist es sich als eine sehr harte Nuss, neuronalen Netzen kontrafaktisches Argumentieren oder den Umgang mit Mehrdeutigkeiten beizubringen. Dazu braucht es auch das reiche kulturelle Repertoire und Gedächtnis, an dem sich ein Mensch individuell beteiligt und das seinen intuitiven Fundus nährt. Vielleicht lehrt uns ja die Ingeniosität des Computers mehr über Arten menschlicher Intuitivität, als wir erwarten und ahnen.

Aufs Ganze gesehen, markiert der Poesieautomat eine neue Runde in der alten kantischen Debatte: Was ist der Mensch? Die Frage lässt sich tröstlicherweise nie abschliessend  beantworten. Klugerweise gewähren wir den KI-Systemen die Mitbeteiligung an einer Antwort. Sie sind ja unsere Ausgeburt. Mehr nicht.

 Eduard Kaeser

NZZ, 4.März 2021

Wenn das Coronavirus eine genetische Bastelei wäre

Kürzlich stellte der Festkörperphysiker Roland Wiesendanger eine Hypothese auf: SARS-Cov-2 stammt nicht aus der Natur, sondern ist ein gentechnisches Laborprodukt. Damit sorgte er für beträchtlichen Wind, nicht nur in der Wissenschaft, sondern vor allem in den Medien. Wie stich-haltig die Hypothese ist, sei hier dahingestellt. Wichtig ist sie auf jeden Fall, aus mindestens drei Gründen.

Wiesendanger trug zur Untermauerung seiner Hypothese eine Vielzahl von begutachteten und nicht begutachteten Fachartikeln zusammen, daneben auch Zeitungsberichte oder YouTube-Videos. Prompt warf man ihm Unwissenschaftlichkeit vor. Ein Journalist hielt mit seiner Voreingenommenheit nicht hinter dem Berg, als er Wiesendanger provokant unterstellte, «wissenschaftliche Standards zu unterlaufen», um beim Laienpublikum zu punkten. Dabei versteht man Wiesendangers Artikel, bei allen seinen Schwächen,  am besten als Anregung zum Was-wäre-wenn-Denken: Was, wenn es sich in Wuhan nicht um eine «Naturkatastrophe», sondern um einen Laborunfall handeln würde? Solches sogenannt kontrafaktische Denken ist völlig seriös, vor allem dann, wenn es darum geht, eine Konkurrenzhypothese zur Mehrheitshypothese der Zoonose aufzustellen, das Coronavirus sei von einem «natürlichen» Tier auf den Menschen übergesprungen.  Denn obwohl man bisher keinen Zwischenwirt gefunden hat, herrscht offenbar ein Konsens in der Scientific Community, der keine andere Hypothese als jene der Zoonose akzeptiert. Man nennt das gemeinhin ein Dogma. Wenn Wiesendanger es attackiert, ist er deswegen kein Verschwörungstheoretiker. Denn er weiss, dass seine Hypothese falsifizierbar ist. 

***

Eine Journalistin meint, die Hypothese von Wiesendanger sei «toxisch» gerade in Ermangelung einer «logischen Kausalkette». Sie denkt vielleicht an den rauchenden Colt als definitives Beweis-stück, aber das ist eine naive Vorstellung. In verästelten epidemiologischen Zusammenhängen findet man keinen solchen Colt. Klassisch schliessen wir vorwärts, von der Ursache auf die Wirkung: vom Colt auf den Toten. Aber in der Epidemiologie – und ohnehin auf den meisten relevanten Problemfeldern der heutigen Wissenschaft – schliessen wir rückwärts, von der Wirkung auf die Ursache(n): vom Virus auf seinen Ursprung. Dieser Schluss liefert keine «logische Kau-salkette», wohl aber eine mehr oder weniger wahrscheinliche Hypothese. In der Statistik hat sich schon seit einiger Zeit die Bayes-Methode durchgesetzt, um von Daten auf  Hypothesen zurück-zuschliessen. Sie lehrt uns im Besonderen, mit dem Etikett «unwahrscheinliche Hypothese» vorsichtig umzugehen. Es ist keine Disqualifizierung, sondern Anlass zu echter Forschung. Häufig verwandeln sich nämlich unwahrscheinliche Hypothesen, die der Intuition oder fixen Meinung widersprechen, bei neuer Datenlage in ziemlich wahrscheinliche. Der amerikanische Pharmakologe Steven Quay verglich kürzlich mit der Bayes-Methode die beiden Haupthypothesen über den Ursprung der Pandemie: Labor oder Wet-Market. Er ging von einer sehr geringen Wahrschein-lichkeit der ersten und einer sehr hohen Wahrscheinlichkeit der zweiten Hypothese aus, und korrigierte sie sukzessive anhand von Datenmaterial aus  26 unabhängigen Studien. Die Wahrscheinlichkeit der Laborhypothese stieg schliesslich auf fast 100 Prozent. Ich möchte jetzt nicht suggerieren, damit sei sie nahezu «sicher». Der springende Punkt ist ja, dass derartige Berechnungen sensibel von unserem Kenntnisstand abhängen. Und gerade dieser Kenntnisstand entpuppt sich in der Virenforschung als eine heikle Sache, werden doch wichtige Datenbanken oft unter Verschluss gehalten - nicht nur in China. Einem Aussenseiter bleibt dann nur ein Weg offen: sich auf eigene Faust durch das vorhandene Datenmaterial zu schlagen. Wie Wiesendanger. 

***

Schon 2020 lehnte sich der Mitentdecker des HI-Virus und Nobelpreisträger Luc Montagnier weit aus dem Fenster, als er die These vertrat, das Genmaterial von SARS-Cov-2 enthalte «unnatürliche» HIV-Sequenzen, könne also nur zusammengebastelt sein. Auch Montagnier erhielt mediale Prügel. Meiner Meinung nach muss man aber seine These, ungeachtet ihrer Stichhaltigkeit, in einem erweiterten Kontext sehen. Eine saubere Trennung von Natürlichem und Künstlichem erweist sich heute als immer unplausibler. Schon vor Jahrzehnten sprach der Philosoph und Soziologe Bruno Latour davon, dass die meisten ökologischen Phänomene – und die Pandemie ist eines – «Hybride» aus gesellschaftlichen und natürlichen Faktoren seien. Auch ein Wildtiermarkt ist ein Hybrid. Und ohnehin bedroht uns die Natur nicht nur «von aussen», sondern zunehmend «von innen», gerade im Zeitalter der Gentechnik. In den Labors schnipselt man eifrig am Genmaterial von Organismen herum, um Chimären herzustellen. Wie sie sich in die planetarische Ökologie integrieren, weiss niemand. Wiesendangers Hypothese mag sich als falsch erweisen, begrüssenswert ist seine wissenschaftliche Demarche allemal - als mikrobiologisches Memento. 

 

NZZ, 26.2.2020

Weg mit uns – Selbstauslöschung des Menschen

Der Omnizid – ein altes Thema

Es gibt Ideen, die sich wie Viren nicht ausrotten lassen und uns in immer neuen Mutationen hartnäckig heimsuchen. Gerade die Corona-Pandemie bietet jetzt den Echoraum für eine solche wiederkehrende Idee: die Selbstauslöschung des Menschen, der Omnizid. Es geht dabei nicht um den Untergang allen Lebens, sondern allein des menschlichen. Das Thema hat Konjunktur. Das rezente Endzeittrompeten setzte in Europa vor über fast vier Jahrzehnten mit einem Buch ein, das nachgerade zum apokalyptischen Schlager wurde: «Das Untier» von Ulrich Horstmann. In eher satirischem Modus spielte der Autor mit der Idee eines menschenleeren Planeten, und er reihte sich damit ein in die Tradition der philosophischen «Menschheitsflüchter», von Schopenhauer und Nietzsche bis zu Friedrich Dürrenmatt und seiner Apokalypselust oder jüngst zur Philosophin Patricia McCormack und ihrem «Ahuman Manifesto». Man spricht im Englischen auch vom Genre der «Doomer Lit». 

Mary Shelleys «Der letzte Mensch»

Die Idee der Selbstauslöschung ist in ihrem Ursprung «romantisch». Ein sehr schönes Beispiel liefert Mary Shelley, die «Mutter» von Frankensteins Monster. 1826 erschien ihr Roman «The Last Man». Ein geradezu beklemmend seherisches Werk. Shelley schildert darin eine futuristische Zivilisation gegen Ende des 21. Jahrhunderts. In Konstaninopel (sic) bricht eine tödliche Pest aus, die sich schliesslich über den ganzen Planeten ausbreitet. Emigrantenströme überfluten Westeuropa. Der Handel zwischen England und Amerika, Indien, Ägypten und Griechenland kollabiert. Nach und nach scheitern alle wissenschaftlichen Pläne zur Eindämmung der Seuche. Schliesslich müssen sich Regierungen und ihre Beraterstäbe eingestehen, dass sie nicht fähig sind, die zivilierten Widerstandskräfte den «Konvulsionen der physischen Natur» entgegenzusetzen. Die Zivilisation implodiert.

Die Kehrseite der Selbstüberwindung

Die Idee des Omnizids begleitet sozusagen komplementär die Idee der Macht des Menschen über den Planeten, wie sie vor allem die Aufklärung förderte. Es kann deshalb nicht erstaunen, dass Shelley in ihrer «romantischen Reserve» nicht nur die mögliche Auslöschung des Menschen in planetarischem Ausmass ins Spiel bringt, sondern auch die Ambivalenz wissenschaftlich-technischen Fortschritts. Selbst auf avanciertem Entwicklungsniveau erweist sich eine Zivilisation als nicht gefeit gegen Einbrüche des Unerwarteten und Zufälligen, vielleicht ist sie auf einem solchen Niveau erst recht vulnerabel. Wir reden heute von der Selbstverbesserung, ja, Selbstüberwindung, wie sie etwa in der Vision einer machbaren Unsterblichkeit Gestalt annimmt. Die Ironie der gegenwärtigen Pandemie liegt nicht zuletzt darin, dass sie uns brutal aus den posthumanistischen Träumen einer einäugigen Technologieelite schreckt.

Im Anthropozän ist die globale Menschheitsabschaffung realmöglich. Omnizid bezeichnet den anthropogenen Menschheitsuntergang; also nicht die Auslöschung aufgrund einer «externen» Katastrophe wie etwa eines verirrten Asteroiden, sondern aufgrund «interner» zivilisatorischer Entwicklungen. Das beschrieb der britische Science-Fiction-Autor Olaf Stapledon bereits in der 1930er Jahren. In seinem Roman «Starmaker» bereist ein fiktiver Erzähler zahlreiche Galaxien und ihre Zivilisationen, und er beschreibt deren Schicksale. Die meisten Zivilisationen würden in einer Phase der technologischen Adoleszenz ausgelöscht, berichtet er, dann also, wenn sie massive technische Machtfülle erlangt haben, aber nicht die dazu nötige Reflexionsfähigkeit über deren Folgen. 

All dies ist nicht mehr Science Fiction. In der Mitte des letzten Jahrhunderts nahm die Idee der realen globalen Menschheitsabschaffung unheimliche Gestalt an im Atompilz. In der Folge gesellte sich das Szenario des Klimawandels dazu, und nun sehen wir uns konfrontiert mit der schwer kontrollierbaren Launenhaftigkeit der ältesten, der mikrobischen Bewohner unseres Planeten. Auch wenn Pandemien nicht unbedingt omnizidal sind, ist es ratsam, alle drei Faktoren im umfassenderen Kontext des Anthropozäns zu sehen, des neuen Zeitalters also, in dem der Mensch mit seiner Technologie eine buchstäblich geophysikalische Gestaltungskraft geschaffen hat. Ihre Rückansicht ist die Zerstörungskraft. Dies meinte wohl auch Robert Oppenheimer, als er nach der Detonation der ersten Atombombe aus der hinduistischen «Bhagavad Gita» zitierte: «Jetzt bin ich Tod geworden, der Zerstörer der Welten.»

Omnizid und globale Katastrophe

Das Szenario des Omnizids wird heute wissenschaftlich erforscht, in der sogenannten Existenziellen-Risiko-Forschung – englisch «X-Risk».  Eine Studie des bekannten Future of Humanity Institute in Oxford  listete 2008 die acht grössten existenziellen Risiken auf, das heisst, die Auslöschwahrscheinlichkeit der menschlichen Spezies, falls bestimmte, als riskant erachtete Ereignisse einträfen. Zuoberst auf der Liste solcher Ereignisse rangiert Nanotech-Terrorismus, es folgen künstliche Superintelligenz, Kriege (generell), künstliche Pandemien, nukleare Konflikte, Unfälle in der Nanotechnologie, natürliche Pandemien, nuklearer Terrorismus.

Selbstverständlich sind in solche Einschätzungen zahlreiche persönliche, statistische und spekulative Unwägbarkeiten der Experten eingewoben. Nichtsdestoweniger weisen sie auf einen wesentlichen Unterschied hin: zwischen Omnizid und globaler Katastrophe. Letztere bemisst sich an der Wahrscheinlichkeit, dass das riskante Ereignis mindestens eine Million Tote verursachen würde (andere Szenarien rechnen auch mit einer Milliarde). Die Rangierung fällt dann anders aus: zuoberst Kriege (generell), dann natürliche Pandemien, künstliche Pandemien, nukleare Konflikte, Nanotech-Terror, nuklearer Terror, Superintelligenz, Unfälle in der Nanotechnologie

Wie man sieht, sind existenzielles Risiko und globale Katastrophe nicht identisch. Machtübernahme durch Superintelligenz muss keine globale Katastrophe sein, könnte sich aber langfristig als verheerendes existenzielles Risiko herausstellen. Klimawandel dagegen ist eine globale Katastrophe, bedeutet aber nicht zwingend einen Omnizid: ein „privilegierter“ Teil der Menschheit würde wahrscheinlich überleben. Zyniker – es gibt sie durchaus – könnten sich zum Argument verleitet fühlen, dass die Erhaltung der Spezies nun halt ein paar globale Katastrophen koste.

Zerstören sich hochtechnisierte Zivilisationen selber?

Gibt es ein Stadium technologischer «Hypertrophie», in der sich eine Zivilisation selbst zerstört? Der Astrophysiker Frank Adam stellte diese Frage 2008 in einem Vortrag. Vielleicht markiert das Anthropozän den Anfang eines solchen Stadiums der prekären Herrschaft über die Erde. Könnte es sein, spekulierte Adam im Besonderen, dass wir deshalb keine extraterrestrischen Zivilisationen entdecken, weil sie dieses Auslöschstadium bereits erreicht haben? Wir sollten diesen Gedanken nicht als kindische Fantasy oder apokalyptische Prophetie abtun. Denn wir sind als globale Gemeinschaft dank moderner Technologie bereits derart dicht vernetzt, dass sich die Folgen einer lokalen Inzidenz massiv und schnell ausbreiten können. Covid-19 schärft hoffentlich jetzt den Sinn für diese Dimension unserer Prekarität. Selbst wenn wir die Pandemie mit grosser Wahrscheinlichkeit «überwinden», sollten wir den Gedanken des Omnizids nicht auch gleich verabschieden. Wir betreiben damit nicht zivilisationskritischen Katastrophismus, vielmehr kommen wir zur Einsicht: Das kollektive Projekt Menschheit verzichtet auf die Idee, das Szepter über die Erde zu führen. Wir haben gelernt, mit den fundamentalen Naturkräften zu rechnen und zu spielen, aber das bringt nur unsere eigene Unberechenbarkeit ins Spiel. Freunden wir uns deshalb mit dem Gedanken der Selbstauslöschung als unserem stillen Begleiter an.  Er markiert eine neue zivilisatorische Reifestufe im riskanten 21. Jahrhundert.