Denken braucht Widerstand

Über Bildung im KI-Zeitalter

Künstliche Intelligenz soll künftig wie Wasser oder Elektrizität ins Haus fliessen, von Techfirmen bereitgestellt und je nach Verbrauch abgerechnet – zumindest in der Vision des CEO von OpenAI, Sam Altman.  Man mag dies als übliche rhetorische Kraftmeierei abtun. Den-noch kündigt sich hier ein ernstzunehmender Wandel an. 

Denn je mehr der Mensch seine Intelligenzleistungen an die Maschine delegiert, desto wichtiger wird nicht der Intelligenzgrad als Unterscheidungskriterium zwischen Menschen (was dieser Grad auch bedeuten mag), sondern der Wille zur geistigen Anstrengung. 

***

Denken braucht Widerstand. Ohne ihn verkümmert es. Daran erinnert uns Immanuel Kant gleich am Beginn seines epochalen Werks «Kritik der reinen Vernunft». Er nennt die Vernunft eine «leichte Taube»: «Die leichte Taube, indem sie im freien Flug die Luft teilt, deren Widerstand sie fühlt, könnte die Vorstellung fassen, dass es ihr im luftleeren Raum noch besser gelingen werde» (KrV, A4).

Diese wunderbar eingängige Metapher trifft ins Herz des KI-Zeitalters. Sie macht ein quasi «aerodynamisches» philosophisches Problem anschaulich: Wie viel Widerstand braucht Denken? Kant kritisierte mit der «leichten Taube» die metaphysischen Höhenflüge der Philosophen, die sich in der Illusion des luftleeren Raums wiegten und glaubten, ohne den «Luftwiderstand» und «Auftrieb» der Erfahrung auszukommen. Heute erzeugen smarte Maschinen eine ähnliche Versuchung. Sie nähren die Illusion, Denken lasse sich in einen «luftleeren» Raum verlegen – als genüge es, der Maschine einen richtigen Prompt einzugeben.

***

Seit jeher begleitet arbeitssparende Technologie dieselbe Erwartung: Der Mensch werde sie nutzen, um körperliche und geistige Mühen zu vermeiden. Gilt das auch für die KI?

Die Frage variiert ein bekanntes Thema aus der Technikgeschichte. Wenn ein Werkzeug eine menschliche Fähigkeit verlässlich übernimmt, dann droht diese Fähigkeit zu verkümmern. Dahinter steckt die alte Sorge vor der technischen Entlastung. Klassische Berühmtheit er-langte sie durch Platons Dialog «Phaidros». In ihm wird von Ägyptens König Thamos er-zählt, der vor der neuen Technologie der Schrift warnt. Sie würde das Gedächtnis schwächen – keine gegenstandslose Warnung. Tatsächlich veränderte die Schrift das menschliche Gedächtnis tiefgreifend. Mit dem Übergang von der mündlichen zur schriftlichen Tradition ent-stand eine neue Kulturtechnik des Erinnerns und Denkens. Steht uns nun mit der KI ein ähnli-cher Wandel bevor – diesmal von der Schrift zu einem Medium, das den Text selbst über-schreitet?

***

Die Forschung über die Auswirkungen von KI auf unsere geistigen Fähigkeiten steckt noch in den Anfängen. Erste Studien deuten darauf hin, dass der Gebrauch von Sprachmodellen das Muster geistiger Aktivität verändert.  Über Ursachen und Folgen dieser Veränderungen wis-sen wir bisher wenig. Ohnehin handelt es sich um Korrelationen, und wie bei allen Korrelationen ist Vorsicht geboten, wenn man sie zu verallgemeinern sucht. Aber unabhängig davon bleibt die eigentliche philosophisch-anthropologische Frage bestehen: Welche geistigen Fähigkeiten wollen wir in einer Kultur fördern, in der immer mehr Denkarbeit an Maschinen delegiert wird?

Im Zentrum steht ein Phänomen, das die Psychologie seit Langem kennt: das Bedürfnis nach Kognition (need for cognition): die Motivation, schwierige Probleme durch eigenes Denken zu lösen. Dieses Bedürfnis korreliert zwar mit Intelligenz, ist aber nicht mit ihr identisch. Manche Menschen suchen die geistige Anstrengung geradezu. Sie lesen schwierige Bücher, lösen anspruchsvolle Probleme und empfinden Denken selbst als Befriedigung. Andere dagegen betrachten Denken vor allem als Mittel zum Zweck und vermeiden unnötige kognitive Mühe. Das Bedürfnis ist nicht einfach eine Persönlichkeitskonstante. Es lässt sich durch soziale Erwartungen, pädagogische Erfahrungen und kulturelle Praktiken fördern. 

Dadurch wird es zu einer Bildungsfrage. Das alte Prinzip der Bildung hat einen «puritanischen» Einschlag: No pain, no gain - ohne Mühen kein geistiger Gewinn. Darauf gründet eine Kultivierungsmentalität: Man arbeitet hart und kämpft sich durch schwierige Aufgaben, und man trainiert so sein Denken. Es gibt nicht nur Bodybuilding, es gibt auch Mindbuilding. Und es kann spielerische Neugier, Lust am Denken wecken. 

***

Die KI-Technologie hingegen gründet auf einer Optimierungsmentalität: Man findet ein Tool, das alles einfacher macht, damit man Aufgaben so effizient wie möglich erledigt. Amit Singhal - langjähriger Leiter der Google-Suche - brachte diese Mentalität schon 2013 auf den Punkt: «Wir konzentrieren uns mit manischem Eifer auf den Nutzer, um jede denkbare Reibung zwischen ihm, seinen Gedanken und den Informationen, die er finden möchte, zu reduzieren.»  

Die Losung der Optimierungsmentalität lautet «Das hätte KI in fünf Minuten geschafft». Es geht dabei nicht um die Geschwindigkeit, sondern um eine grundsätzliche Wertung: Primär ist das Ergebnis, nicht die Anstrengung; der fertige Text, nicht das Schreiben; das Bild, nicht das Sehen; das Produkt, nicht der Mensch, der an seiner Herstellung wächst. KI bietet Kompetenz ohne Lehre, Geläufigkeit ohne Verständnis. Wer diese Mentalität übernimmt, wird bildungsflüchtig. Er verlernt das berühmte «bessere Scheitern» Samuel Becketts. 

***

Hüten wir uns vor einer platten Entgegensetzung, indem wir bloss die Kosten einer Innovati-on auflisten, und nicht auch den Nutzen. Sprachmodelle sind keineswegs bloss Instrumente der Denkvermeidung. Wer je eine Dissertation geschrieben oder an einem anderen grösseren Projekt gearbeitet hat, kennt die Mühen der Recherche, die Irrwege und Sackgassen des Su-chens. Nicht wenige machen dabei eine frustrierende Erfahrung, die die Verhaltensökonomie als Sunk-Cost Fallacy bezeichnet: Man erkennt, dass ein Projekt kaum noch Erfolg verspricht, hält aber dennoch daran fest, weil bereits zu viel Zeit und Mühe investiert worden sind.

Hier liegt eine der Stärken von Sprachmodellen. Sie können sagen: «Zu diesem Thema gibt es bereits viele Arbeiten» oder: «Die empirische Evidenz hierzu ist widersprüchlich». Sie können den Wissensbestand eines Gebiets im Nu sichten, Denkroutinen erkennen, und so helfen, intellektuelle Fehlinvestitionen frühzeitig zu erkennen. Sie verkürzen nicht das Denken selbst, verhelfen einem aber womöglich zu einer neuen Fragestellung. Sie führen nicht zu einer Delegation, sondern zur produktiven Entlastung des Denkens. 

***

Das ist – wohlgemerkt – ein Best-Case-Szenario. Allerdings zeigt sich an Hochschulen zu-nehmend, dass die KI-Technologie subtil dazu verführt, die Kultivierungsmentalität gegen eine Optimierungsmentalität einzutauschen. Die eigentliche Herausforderung besteht deshalb darin, die Reibung an der Sache nicht als Hindernis, sondern als Bedingung von Bildung zu begreifen – gerade weil ihre Vermeidung jederzeit lockt. 

Sollte die Optimierungsmentalität überhandnehmen, verschafft wahrscheinlich schon bald die Bereitschaft zur geistigen Anstrengung intellektuelle Distinktion. Das heisst, das Bedürfnis nach Kognition erweist sich als eigentliche Bildungsressource. Auch wenn Designer ihre Sprachmodelle mit Belohnungsmechanismen trainieren, wäre es ein Kategorienfehler, solche Mechanismen mit einem Bedürfnis gleichzusetzen. Man kann endlos und ermüdend darüber diskutieren, ob Maschinen intelligent sind; was ihnen eindeutig fehlt, ist der Wille zum Denken. Und hier beginnt die Zukunft der Bildung. Sie entscheidet sich daran, ob dieser Wille beim Menschen erhalten bleibt. 

 

Der Imperativ des Algorithmus

Die KI erinnert die Wissenschaft daran, dass sie auch Handwerk ist 

Der Einsatz von künstlicher Intelligenz ist längst Forschungsalltag. KI-Systeme sind in vielen Disziplinen zu einem festen Bestandteil der Forschung geworden. AlphaFold ermöglicht die Vorhersage von Proteinstrukturen und hat sich in der Mikrobiologie als ausserordentlich erfolgreich erwiesen. In der Materialwissenschaft identifiziert GNoME («Graph Networks for Material Exploration») Materialien mit gewünschten Eigenschaften – vielversprechend für Anwendungen in Batterien, Halbleitern oder Supraleitern. Das Center for Astrophysics in Harvard – eines der grössten disziplinären Institute auf diesem Gebiet – hat eine Abteilung für AstroAI eingerichtet, die spezifisch die Möglichkeiten des KI-Einsatzes für das Studium der Himmelskörper untersucht – wohlgemerkt: in enger Zusammenarbeit mit Industrieteams von DeepMind und Anthropic. 

***

Das ist die spektakuläre Oberfläche. Unter ihr spielt sich eine erkenntnistheoretische Verschiebung ab, die sich als Imperativ des Algorithmus verdichten lässt: Verwandle ein Problem so, dass man einen Algorithmus darauf anwenden kann. Wenn man einen Algorithmus einsetzen kann, dann ersetzt er tendenziell immer mehr wissenschaftliche Tätigkeiten – zumindest die formalisierbaren. Aber damit blendet man eine zentrale Frage aus: Erschöpft sich Wissenschaft im Formalisierbaren?

Ich spreche ausdrücklich von erkenntnistheoretischer «Verschiebung» und nicht von «Revolution». Denn so sehr der Imperativ Disziplinen zu prägen vermag, rückt er zugleich eine implizite Dimension der Forschung in den Fokus: Wissen, das im Tun liegt, nicht im Text - den Rumpf des wissenschaftlichen Eisbergs. Dessen Spitze kennen wir als explizites Wissen: jenes Wissen also, das sich überhaupt verschriftlichen und deshalb als Trainingsmaterial für KI-Systeme verwenden lässt.

***

Zur Konkretisierung ein Beispiel. Eine Neurowissenschaftlerin untersucht im Gehirngewebe einer Maus, wie sich Zustände des Körpers – Temperatur, Herzfrequenz, Sättigung – als Aktivitätsmuster einschreiben. Dafür implantiert sie winzige Linsen in den Schädel. Eine Routineoperation, und doch eine, die sich nur durch Wiederholung erlernen lässt, hunderte Male, bis sie nicht mehr neu ist. Und deshalb sagt die Neurowissenschaftlerin: «Es ist eine Kunst. Man verlässt sich auf sein Gespür». 

«Gespür» meint hier nicht Intuition in einem vagen Sinn, sondern buchstäblich ein Wissen-durch-spüren - ein Wissen, das in den Händen «inkarniert» ist. Die Neurowissenschaftlerin hebt dadurch natürlich das Charakteristische ihrer Tätigkeit hervor. Chirurgie bedeutet vom Wortstamm her «Arbeit mit den Händen». Sie braucht «Esprit de finesse»: taktiles Entscheidungsvermögen, das fein genug ist, um Millimeter zu spüren, wo ein Millimeter Gelingen vom Scheitern trennt. 

***

Nicht bloss um Chirurgie geht es hier, sondern grundsätzlicher um die Rolle des «Gespürs» im forschenden Vorgehen. Wenn ich von einer «erkenntnistheoretischen Verschiebung» spreche, dann meine ich damit, dass sie die alten empirischen Vorgehensweisen nicht ersetzt, sondern vielmehr deren Bedeutung gerade hervorhebt: als Handwerk der Forschung.  Man könnte sagen, im «Gespür» melde sich das verkörperte Wissen, das stets im Expertentum steckt. 

Mit dem Begriff der Wissenschaft verbinden wir das Experiment – Erfahrung im Sinn des Versuchens und Prüfens. Diese Erfahrung trägt fast immer die Signatur der Hand. Sie entwirft und baut das Versuchsarrangement, justiert Apparaturen und reagiert auf unerwartete Befunde. All dies verlangt ein hohes Mass an ingenieurhaftem Gespür. Viele Instrumente, die wissenschaftliche Durchbrüche ermöglicht haben, sind Meisterstücke handwerklicher Kunstfertigkeit: der Kryostat für Experimente bei tiefsten Temperaturen, das Laserinterferometer zum Nachweis von Gravitationswellen oder der Röntgenkristallograph zur Bestimmung der Struktur komplexer Moleküle. 

***

Wissenschaft schafft Wissen – und dies mit Werkzeug. Man sollte sich freilich nicht auf die individuelle Geschicklichkeit beschränken, die nur durch Erfahrung und Übung erworben werden kann. Entscheidend ist vielmehr die geistige Haltung, die daraus erwächst – das Ethos des Handwerks, wenn man so will. 

Ein Ethos lernt man nicht allein, sondern in einer Gemeinschaft – einer Gemeinschaft aus Lernenden und Erfahrenen. Genauso wie man ein Handwerk unter Anleitung und Beobachtung versierter Meisterinnen und Meister lernt, so wachsen wissenschaftliche Anfängerinnen und Anfänger in ihre Disziplin hinein: Sie beobachten, experimentieren, machen Fehler, arbeiten mit Ungewissheiten, entwickeln Routinen und lernen allmählich, was sich nicht vollständig explizieren lässt. Das gilt, nebenbei bemerkt, auch für Programmierer. Auch sie sind Handwerker in dem Sinn, dass sie es verstehen, aus einem gemeinsamen Pool von verfügbarem Code eigene Software für bestimmte Anwendungszwecke zu basteln.  

Man könnte dieses Lernen Immersion in die Forschungspraxis nennen. Es vermittelt weit mehr als Methodenwissen. Es formt Urteilskraft, jenes Gespür, das Expertise ausmacht. Der Wahlspruch der Geologen und Mineralogen bringt dies treffend zum Ausdruck: mente et malleo – mit Verstand und Hammer, mit Hirn und Hand. Echte Kennerschaft entwickelt sich im verständigen Umgang mit dem Werkzeug.  

***

Der Algorithmus ist ein Werkzeug. Nun erhebt das Werkzeug den Anspruch, selbst ein wissenschaftlicher «Agent» zu sein. Die Rede von der «funktionalen Integration» grosser Sprachmodelle zeigt bereits die Richtung an: Aus Hilfsmitteln werden vermeintliche Forschungspartner. Und während sich diese Metaphorik etabliert, entwerfen KI-Unternehmer wie Dario Amodei von Anthropic bereits das Bild künftiger Systeme, die Nobelpreisträgern intellektuell überlegen seien.

Das ist natürlich branchenübliche Kraftrhetorik. Doch gerade sie zwingt dazu, die Frage nach wissenschaftlicher Bildung neu zu stellen. Denn der Imperativ des Algorithmus beschränkt sich nicht auf die Forschung; er verändert auch die Weitergabe wissenschaftlicher Praxis: das Verhältnis von Lehrenden und Lernenden. KI-Tutoren treten neben – oder an die Stelle – erfahrener Dozierender. Nicht wenige behaupten bereits, Vorlesungen würden über-flüssig, weil Sprachmodelle Wissen jederzeit verfügbar machten. 

Sie verschärfen damit ein altes Problem. Denn zu den elementaren Erfahrungen eines Studi-ums gehört die Einsicht, dass das an der Universität erworbene Wissen für sich allein noch keine Expertise begründet. Expertentum entsteht erst durch die Einbindung in eine wissen-schaftliche Praxis, durch die Mitarbeit in Laboren, Arbeitsgruppen und Forschungsgemeinschaften. Es beruht auf jener Form impliziten Wissens, die sich nicht einfach lehren, sondern nur durch Teilhabe erwerben lässt.

Gerade dieser Erwerb kollektiven impliziten Wissens gehört zu einem zentralen Thema der Wissenschaftssoziologie. Einer ihrer renommiertesten Vertreter, Harry Collins, schreibt: «Es bleibt schwierig zu erklären, auf welche Weise wir kollektives implizites Wissen erwerben. Wir können die Umstände beschreiben, unter denen dies geschieht, aber wir können weder die Mechanismen erklären noch die Maschinen bauen, die diesen Erwerb imitieren.»

***

Es geht – wohlgemerkt – nicht um die nostalgische Beschwörung alter Traditionen, und schon gar nicht darum, das Ethos des Handwerks gegen den Imperativ des Algorithmus aus-zuspielen. Es geht darum, ihre wissenschaftspolitische Dialektik zu erkennen. 

Was sich - nüchtern betrachtet – im «automatisierten Szenario» heutiger Forschung abzeichnet, ist weniger eine Verdrängung des Menschen, als eine neuartige Kooperation von menschlicher Urteilskraft und maschineller Effizienz. Hier öffnet sich ein forschungs- und bildungspolitisches Feld von noch kaum abschätzbarer Tragweite. Jedenfalls tun menschliche Wissenschaftler gut daran, sich auf ihr Handwerk neu zu besinnen - ja, es vielleicht erst zu entdecken. Dank KI.