NZZ, 27.11.2019

Murks happens

Technologie, unseren Köpfen entsprungen, wächst uns über den Kopf – buchstäblich. Wir überschauen und durchschauen sie immer weniger, uns fehlt der Kompass für den Kurs ihrer Entwicklung. Die Ingenieure tüfteln oft über Generationen hinweg an technischen Systemen für bestimmte Funktionen. Sie sind wohlüberlegt entworfen, und am Ende verhalten sie sich nicht mehr so wie geplant. Das ist nicht bloss Zufall. In der Entwicklung der Technik wirkt eine verborgene Teleologie, welche uns immer tiefer in die unauflösbare Verschränktheit der Systeme treibt. Das erinnert natürlich an das Entropiegesetz der Physik, wonach Makrosysteme zu grösserer Unordnung neigen. Aber es geht hier nicht um physikalische Gesetze, sondern um konvergierende Tendenzen der neuen Technologien: raffiniertere Algorithmen, grössere Datenmengen, rechenstärkere Computer.

***

Man spricht von Akkretion, dem Anlagern von immer mehr Systemkomponenten; und von verschränkter Interaktion, dem Hinzufügen von immer mehr Verknüpfungen zwischen den Komponenten. Das Anlagern springt ins Auge. Ein Hammer besteht aus einem Stück Holz und einem Stück Metall, ein Rammbär schon aus ziemlich viel mehr Stücken. Das Flugzeug, das die Gebrüder Wright 1903 bauten, war ein Ausbund der Einfachheit, konstruiert aus einer geringen Zahl von Komponenten. Eine Boeing 747 weist etwa sechs Millionen Hardware-Komponenten auf. Dieses wuchernde Anlagern stellt man auch bei Software fest. Ein übliches Mass für die Komplexität eines Programms ist die minimale Anzahl Codezeilen, die man braucht, um es zu schreiben. Gemäss Schätzungen wuchs der Quellcode für das Betriebssystem von Windows im Laufe einer Dekade um das Zehnfache. Die Bildbearbeitungssoftware von Photoshop soll vierzigmal so lang wie vor zwanzig Jahren sein.

Akkretion birgt ein ernsthaftes Problem. Wir kennen es aus unserem heimischen Do-it-yourself. Wir „bessern“ den morschen Dachboden mit Latten, Platten, Streben und Planen „aus“, vernetzen die elektrischen Geräte mehr schlecht als recht mit einem Kabelsalat, dichten die sanitäre Anlage im Keller mit Draht, Klebeband und Zusatzrohren ab. Im englischen Ingenieurjargon existiert der Ausdruck Kludge oder Kluge (ausgesprochen „kladsch“ oder „kluudsch“): eine zusammengeflickte, behelfsmässige, temporäre, mitunter unnötig komplizierte Lösung eines technischen Defekts oder Problems, kurz, ein Murks. Formulieren wir daraus hypothetisch das Murks-Prinzip: Von einem kritischen Komplexitätsgrad an arbeiten technische Systeme zwangsläufig im Murks-Modus (ich spreche hier nicht vom geplanten Murks – einem heute florierenden Wirtschaftszweig).

***

Das gilt natürlich vor allem für Software. Je komplexer, desto „murksiger“ wird sie. Man spricht etwa von „Spaghetti-Code“, von Software, die sich immer unentwirrbarer verknäuelt, und dies ironischerweise über einfache Programmschritte wie GOTO. Jahrelang pfropft man zum Beispiel neue Features auf bereits bestehende Programme. Das erhöht das Risiko, dass sich ein Stück Code „daneben benimmt“ und den Rest infiziert. Schliesslich ist der Code nicht mehr entschlüsselbar, geschweige denn auf Fehler zu testen. Noch fataler: Ein einziger Bit-Flip – eine Eins wird zu einer Null oder umgekehrt - kann über Folgekaskaden zur unvorhergesehenen Kalamität führen.

Wiegen wir uns dabei nicht in der falschen Zuversicht, Murks liesse sich quasi von Null auf „sauber“ beheben. Man missachtete so das „Gall’sches Gesetz“, eine in Designerkreisen bekannte Maxime von John Gall, der eines der besten und amüsantesten Bücher über Systemtheorie geschrieben hat. Salopp ausgedrückt lautet die Maxime: Versuche nicht, ein Murks-System auseinanderzunehmen und von Null auf zu revidieren. Baue auf funktionierenden Murks und versuche, ihn schrittweise zu verbessern. Mit John Gall ausgedrückt: Murks-Systeme sind wie Babys; wenn man eins kriegt, hat man es. Nicht nur kann man es nicht entsorgen, es wächst auch.

***

Gewiss, nun beginnen die Maschinen zu lernen. Mit Deep Learning hat man ein viel versprechendes Instrument zur Hand, das Verknäuelungsproblem zu umgehen, indem das System über einen statistischen Lernalgorithmus selber seine „Schlüsse“ zieht. Das Problem der Unübersichtlichkeit schleicht sich indes auch hier ein. Die lernenden Maschinen zeigen ihre Macken. Sie lernen Unterschiedliches aus Trainingsdaten und ihre Programme entwickeln sich dadurch auch quasi selbständiger. Zum Beispiel klassifiziert der Algorithmus eine Datenmenge als „Katze“. Es erweist sich jedoch als schwierig, zurückzuverfolgen, wie er das bewerkstelligt hat. Im geschichteten Inneren des Systems spielen sich Vorgänge ab, zu denen der Programmierer oft nicht durchdringt. So hebt man in diesem Zusammenhang bereits die Unterart der „erklärbaren“ Künstlichen Intelligenz (KI) hervor, Systeme also, deren „Entscheide“ sich ins menschliche Idiom übersetzen lassen. Ironischerweise verglichen KI-Forscher vor kurzem die neuen lernenden Systeme mit mittelalterlicher Alchemie. Man wisse eigentlich nicht, was man tue, sondern drehe hier und da an ein paar Schrauben, bis ein Algorithmus das gewünschte Ergebnis erziele. Das führt zum Paradox: Effizienz des Systems nimmt zu – Verständnis nimmt ab. Es mutet fast an, als „verstünden“ die KI-Systeme sich selber am besten. Paul Watzlawick formulierte das schon 1967 so: Das System ist seine eigene beste Erklärung.

***

Komplexität und Murks-Prinzip stellen die zentrale Herausforderung der Technologien dieses Jahrhunderts dar. Und das heisst auch: Wir bekommen es immer mehr mit Zufall, Nicht-Voraussagbarkeit und „Renitenz“ der Systeme zu tun. Wir sollten freilich nicht einem Fatalismus verfallen, der die technischen Systeme als unbewältigbar hinnimmt. Vielmehr verlangen unsere Bewältigungsversuche nach einer fundamentalen Haltungsänderung. Ich zögere nicht, sie als demutvoll zu bezeichnen.

Derzeit beherrschen zwei Extremszenarien die Diskussion: Die Menschen werden von den kommenden Generationen der Maschinen noch gerade als Haustiere gehalten; oder der Mensch verschmilzt mit der Technologie zu einer neuen Superspezies des „Homo Deus“. Beide mythengeschwängerte Szenarien versperren die Sicht auf einen dritten Weg. Ich nenne ihn die Einstellung der demutvollen Vigilanz, in Anlehnung an den renommierten holländischen Algorithmendesigner Edsger Dijkstra, der den Begriff des „demutvollen Programmierers“ prägte. Demut meint das Eingeständnis, künstliche Systeme nicht vollständig durchschauen zu können; Vigilanz meint das nicht erlahmende Bemühen, sie nach bestem Stand des Wissens zu verstehen und zu kontrollieren.

***

So gesehen ist es gar nicht so abwegig, den künstlichen Systemen eine Haltung entgegenzubringen, wie wir sie aus der Biologie, den Organismen gegenüber schon lange kennen und anerkennen. Das heisst, Technik müsste biologischer denken lernen (in der Tat tut sie dies schon). Biologische Systeme sind Paradigmen des cleveren evolutionären Murkses. Auch sie manifestieren eine überwältigende Komplexität, die wir nur näherungsweise erklären können. Kant hatte uns in seiner Kritik der Urteilskraft eine demutvolle Haltung angemahnt: Es gibt keinen Newton des Grashalmes. Das war gemünzt auf den damaligen Erkenntnisanspruch, mit der Newtonschen Physik eigentlich die „ultimative“ Welterklärung gefunden zu haben. Dieser Anspruch hat sich gewaltig verrannt.

Wir Menschen sind eine erstaunliche Murks-Spezies. Und wir leben in einem Murks-Universum. Es expandiert stetig. An seinen Rändern lauern das Unbekannte und die Pannen. Das heisst, der Umfang der notorischen „unbekannten Unbekannten“ wächst. Und dann haben wir ein Problem: Die künftigen Systeme werden wahrscheinlich nicht nur komplexer sein, als wir Menschen uns das jetzt denken, sondern komplexer, als wir uns das je denken können. Technik tendiert zur Transzendenz. Deshalb wissen wir auch nicht, ob all der Murks, den wir schaffen,  je in einem „Big Crunch“  enden wird. Umso gebotener erschiene es, an technischen Hochschulen endlich das Fach Murksologie einzuführen.

NZZ, 5.11.2019

Klimapessimismus

oder Der Verrat des wissenschaftlichen Modells am Menschen

Ohne Zweifel, der Klimawandel steht unter zunehmend pessimistischerem Vorzeichen. Und der Pessimismus sieht sich durchaus bestärkt durch alarmierende klimatologische Befunde, wie kontrovers man sie diskutieren will. Es gibt freilich noch eine andere Quelle des Pessimismus: Wissenschaftliche Modelle unseres kollektiven Umgangs mit Allgemeingütern. Deshalb werfe ich hier die ketzerische Frage nach dem Anteil der Wissenschaft am Klimapessimismus auf. Ich nehme kurz zwei berühmte klassische Beispiele unter die Lupe: die Tragik der Allmende und das Gefangenendilemma.

***

Das erste Beispiel stammt vom amerikanischen Biologen Garrett Hardin. 1968 schrieb er den Essay „Die Tragik der Allmende“ - eine Initialzündung der Diskussion über unsere „Governance“ von Allgemeingütern. Hardin exemplifiziert das Problem an einer Allmend („was allen gemein ist“), auf welche die Herdenbesitzer ihre Schafe treiben. Sie haben freien Zugang zum gemeinsamen Weidegut. Man einigt sich auf eine bestimmte Anzahl weidender Tiere für jeden Herdenbesitzer. Eines Tages aber kommt ein Schlauberger auf die Idee, ein Schaf mehr grasen zu lassen. Er hat einen Gewinn davon und der Übernutzungsverlust wird ja von allen getragen. Nur hat die Logik einen Haken, denn andere Herdenbesitzer beginnen gleich zu denken. Und die Logik wird zur „Tragik“, weil jeder weiss, dass sein Handeln irgendwann verhängnisvolle Folgen hat, nur will keiner der Gelackmeierte sein. Immer mehr Schafe grasen auf der Weide. Am Ende verödet die Allmend.

Eine Tragik der Allmende lässt sich auch im Klimaproblem ausmachen, hier in negativer Form, der Verschmutzung unserer gemeinsamen Umwelt. Anders als die Schafe entnehmen wir nicht etwas der Umwelt, sondern geben etwas an sie ab: Abwässer, Abfälle, Abwärme, Abgase. Die Logik ist die gleiche. Geben wir ihr einen Schwenk ins Drastische mit einem kleinen Gedankenexperiment. Die Erde wird von nur zwei Machtblöcken beherrscht. Sie verhandeln nicht miteinander und treffen ihre Entscheidungen für sich selber. Sie wissen auch nicht, was die andere Macht in puncto Schadstoff­emissionen tut. Nun räsonniert der Führer der einen Macht wie folgt: Angenommen, die andere Macht reduziert die Emissionen. Reduziere ich auch, erhöht das die Kosten massiv; reduziere ich nicht, bleiben die Kosten gleich und zudem wird ja etwas gegen die allgemeine Verschmutzung unternommen. Also ist es für mich vernünftig, nicht zu reduzieren. Trittbrettfahren nennt sich das. Angenommen, die andere Macht reduziert die Emissionen nicht. Reduziere ich nun, bin ich der Depp, zudem kann ich das Verschmutzungsproblem nicht allein lösen; reduziere ich nicht, bin ich ja in guter Gesellschaft. Also ist es wiederum vernünftig, nicht zu reduzieren. So denkt natürlich auch der andere Führer. Und so fahren beide die Erde „vernünftig“ weiter in den Dreck.

***

Dieses Gedankenexperiment ist als sogenanntes Gefangenendilemma bekannt, weil man es zuerst am Beispiel zweier Tatverdächtiger in Untersuchungshaft veranschaulichte. Der Staatsanwalt versucht, sie mit dem Köder eines günstigen Strafmasses zu einem Geständnis zu bewegen. Die Verdächtigen misstrauen einander und kommen, ganz wie die beiden Weltmachtführer, zu einem für beide ungünstigen Schluss. Generell zeigt das Szenario, dass man mit individuell vernünftigen Entscheiden trotzdem unkooperativ in die kollektive Unvernunft abrutschen kann.

Solche pessimistische Szenarien faszinieren die Wissenschaftler seit langem, und sie hecken immer raffiniertere Versionen aus, um dafür Lösungsstrategien zu finden. Es gibt eine spezifische Disziplin dafür, die Spieltheorie. Sie studiert Gewinnstrategien  und mittlerweile ist sie in der Lage, mit computerverstärkten elaborierten mathematischen Modellen Lösungen für sehr komplexe Situationen zu finden. Aber genau da liegt der Hund begraben. Die Modelle können heute mit einer beeindruckend grossen Zahl von Spielern und Parametern rechnen, nur mit einem rechnen sie nicht: mit dem konkreten Menschen.

***

Modelle sind unentbehrliche Instrumente wissenschaftlichen Denkens. Ironischerweise kann ihr Erfolg sie zu einem Denkfehler verführen, den ich als den „Magritte-Fehlschluss“ bezeichne: Das Bild einer Pfeife ist nicht die Pfeife. Die Stärke eines Modells liegt in der Abstraktion, darin also, dass es vom realen Phänomen zahlreiche Abstriche macht, um mit einer begrenzten Zahl von Parametern überschaubare oder sogar berechenbare Simulationen durchzuführen. Die Physik bringt erfolgreich Wasser-, Erde-, Luft-, Licht-, Wärme-, Quanten- oder Gravitationsphänomene unter den abstrakten Hut des Wellenmodells. Analog sucht man so diverse Phänomene wie politische Entscheide, Preisegulierungen, Hungersnöte, urbane Kriminalität, ethnische Konflikte als Gefangenendilemma oder Tragik der Allmende zu behandeln. Die Krux des Modells ist jedoch sein Anwendungsbereich. Die Physik handelt von lebloser Materie, Disziplinen wie Soziologie, Ökonomie oder Politologie handeln von Menschen. Und Menschen sind nur begrenzt „modellierbar“. Magritte nannte sein berühmtes Gemälde mit der Pfeife „Der Verrat der Bilder“. Ich möchte analog vom Verrat der Modelle am Menschen sprechen.

***

Zugegeben, die Tragik der Allmende sieht sich durch eine ganze Serie ökologischer Desaster bestätigt: Überfischen der Meere, Abholzen der Wälder, Veröden von Weideflächen, Vergiften der Böden. Aber hüten wir uns, hier einfach eine Art Naturgesetz zu unterstellen. Wenn uns ein Modell voraussagt, dass unkooperatives Verhalten auf die Dauer allen schadet, dann handelt es sich um eine Notwendigkeit im Modell, nicht in der Realität. Oft sieht der Umgang mit Allmenden nämlich ganz anders aus als in den sinistren Modellszenarien, vor allem in kleinen und lokalen Gruppen. Die Schweiz kennt zum Beispiel eine Bewirtschaftung im Alpenraum, die der Tragik der Allmende widerspricht. Die Walliser Gemeinde Törbel regelt seit 1483 die nachhaltige Nutzung der Weiden und Wälder durch eine Satzung.

Elinor Ostrom, die erste weibliche Nobelpreisträgerin für Ökonomie, erwähnt in ihrem Hauptwerk „Die Verfassung der Allmende“ (1990) die Walliser Gemeinde als ein kleindimensionales Muster für gelungene Nutzung von Allmenderessourcen, neben Hunderten von anderen auf dem ganzen Planeten. Elinor Ostroms Blickwechsel ist in seiner Banalität revolutionär: Er analysiert nicht top-down, ausgehend von abstrakten Modellen, sondern bottom-up, ausgehend von konkreten Fällen. Und durch Vergleich solcher Fälle gewinnt man bestenfalls Einsichten in empirische Bedingungen der Möglichkeit, klug mit Allmenden umzugehen.

Wie Elinor Ostrom schreibt, glauben „noch immer viele Analytiker – in der akademischen Welt, in Interessegruppen, Regierungen und in der Presse - , alle Allmendprobleme seien Dilemmata, in denen die Akteure notgedrungen suboptimale, und in einigen Fällen gar katastrophale Resultate produzieren.“

***

Es geht nicht darum, wissenschaftliche, insbesondere ökonomische Modelle zu verunglimpfen. Beherzigt man Frau Ostroms Lektion, müsste man vermehrt nach den realen Bedingungen lokalen Gelingens ausspähen. Gefragt wäre also eine breite „Bürgerdämmerung“, die den Allmende-Gedanken wiederbelebt. Das bedeutet nicht sozialromantische Nachbarschaftsidylle. Der Umgang mit gemeinschaftlichen Gütern bleibt dornig. Den Lösungsweg eines Probleme findet man freilich oft, indem man es anders formuliert, zum Beispiel: Die Erdatmosphäre ist eine Allmend, deren Schwierigkeiten man durch eine Vielzahl kleindimensionaler lokaler Ansätze – Ostrom nennt sie „polyzentrisch“ – bezukommen sucht. Gewiss, wir brauchen Abkommen auf globaler Ebene. Und kein vernünftiger Mensch bezweifelt institutionelle, wissenschaftliche und technologische Bewältigungsversuche des Klimaproblems. Aber, oh Wunder: Das verantwortlich handelnde Individuum existiert! Es gilt an ihm Mass zu nehmen, nicht am Modell. „There are many alternatives“, lautet daher die Devise. Die Apokalypse kann warten.

Mein neues Buch, im Dezember erhältlich. Hier das Vorwort:

 Das Staunen sei der Anfang der Philosophie, vernimmt man

von den alten Griechen. Das Staunen ist wie ein Stoss in den

Rücken, aus dem Selbstverständlichen ins Fragwürdige. Man

gerät aus dem gewohnten, sicheren Gang, man taumelt, stolpert,

fällt vielleicht hin. Man hat einen philosophischen Anfall.

Es gibt nicht nur gedankliche Einfälle, sondern auch

gedankliche Anfälle. Der Begriff des Einfalls weist auf eine militärische

Bedeutung hin: Man überfällt ein Gebiet, dringt in es

ein, erobert es, besetzt es. Der Schriftsteller braucht einen Einfall,

um das unbeschriebene Blatt zu „ erobern“ . Der Einfall leitet

ihn. Er zündet ein Licht an. Er führt zu geplanter, womöglich

stabsmässiger Aktion. Der Anfall dagegen ist eher ein

Widerfahrnis. Er  überfällt mich –  ein Schwindelanfall, Herzanfall,

Schlaganfall, Schwächeanfall. Der Schriftsteller braucht den

Einfall unbedingt, um zu arbeiten. Nicht unbedingt so der Philosoph.

Er braucht Anfälle, einen gewissen Geistesschwindel,

der ihm etwas, was vorher selbstverständlich war, auf einmal als

fragwürdig, fremd, absurd erscheinen lässt.

Im Alltag bewegen wir uns in den Gräben der Gewohnheit.

Und in diesem Sinn ist er prädestiniert für das Gebiet des

philosophischen Anfalls. Er kann mich nicht nur heimsuchen,

wenn ich über den Tod oder die Nichtexistenz sinniere, sondern

auch, wenn ich meinen Handrücken betrachte, vor dem

Kühlschrank stehe, einer Fliege an der Fensterscheibe zuschaue,

Staubmäuse unter dem Bett hervorwische, von einer Gebirgs-

wanderung einen Stein nach Hause bringe, wenn ich ein Glas

Wein trinke, eine Landschaft zu beschreiben versuche, wenn

ich mich vor Gedanken ekle oder einem Arschloch begegne –

 philosophische Anfälle immerzu.

Dass ein solcher Anfall, nämlich jener des Trotzes, der

Essaysammlung den Titel verleiht, ist Absicht. Wie das Staunen

verrät auch der Trotz eine gewisse Renitenz gegen das Selbstverständliche,

Gängige, Hingenommene: Das kann doch nicht sein! Vielleicht sogar 

aktiver: Das soll doch nicht sein! Wir üben uns in einer denkerischen 

Widerspenstigkeit, die uns womöglich aus einer philosophischen Passivhaltung 

zum Handeln drängt. Ich denke, also tue ich etwas. Hier möchte ich ein

Stichwort von Albert Camus übernehmen: Der philosophierende

Mensch ist ein Mensch „ in der Revolte“ .

20 philosophische Anfälle sind in diesem Buch aufgelistet,

eher randomisiert, dem Charakter des Phänomens nachempfunden,

das uns jederzeit und überall packen kann. Die Reihe

liesse sich beliebig fortsetzen. Aber das ist nicht nötig. Zu hoffen

ist vielmehr, dass Leserin und Leser nach der Lektüre selbst

anfallanfällig geworden sind.

Inhalt

Ich trotze, also bin ich 

Renitenz des Alters 

Mein philosophischer Handrücken

Gedanken über Gedanken über Eiskaffee 

Prolegomenon zu einer Philosophie des Arschlochs 

Das Tier, das spinnt 

Geistiger Ekel .

Ein philosophisches Gespür für Schnee 

Hunde und andere Maschinen 

Metaphysik der Katze 

Die Fliege und der freie Wille 

Kant und die Tulpe

Hoch hinaus –  Klettern und Denken 

Landschaft –  unbeschreiblich 

Wenn jemand eine Reise tut 

Wein und Kritik der geschmacklichen Urteilskraft

Scholastik am Kühlschrank 

Sein und Zeit –  und Staub 

Über das, was es nicht gibt 

Wie ist es, tot zu sein?