Das Wort für das, was gerade passiert
Es gibt einen Moment, zu dem ich immer wieder zurückkehre. Es ist spät, das Zimmer ist still, und ich baue eine Website zusammen mit einer Maschine, die den größten Teil des Codes schreibt, während ich zusehe. In einem anderen Essay habe ich das beschrieben: die seltsame Freude, endlich etwas zu erschaffen, das ich mir jahrelang vorgestellt hatte, mit einem Werkzeug, das die Teile übernimmt, die ich nie gelernt habe. Jener Essay handelte von Handlungsfähigkeit, davon, was es bedeutet, etwas selbst zu bauen, wenn das meiste davon von etwas anderem gebaut wird.
Dieser hier beginnt dort, wo jener aufgehört hat. Mit einem Gefühl, für das ich kein Wort hatte.
Denn irgendwann in jener Nacht, zwischen einer funktionierenden Seite und der nächsten, zog sich etwas zusammen. Kein Zweifel genau genommen. Keine Angst. Ein kleines körperliches Unbehagen, die Art, die man in den Schultern bemerkt, bevor man sie in den Gedanken bemerkt. Die Arbeit lief gut. Das war das Problem. Sie lief gut auf eine Weise, die sich nicht nach meiner anfühlte, und ich hatte keine Sprache für den Unterschied.
Ich möchte dieses Gefühl ernst nehmen. Nicht wegdiskutieren, nicht dramatisieren. Nur anschauen, denn ich glaube, dass sehr viele Menschen gerade irgendeine Form davon spüren, und weil der Grund, warum es namenlos bleibt, das Interessanteste daran ist.
Ein Wort, das schwere Arbeit leistet
Beginnen wir mit dem Offensichtlichen, das niemand hinterfragt. Wir nennen es künstliche Intelligenz.
Der Begriff ist so selbstverständlich geworden, dass er sich wie eine Beschreibung anfühlt statt wie eine Entscheidung. Aber verweilen wir einen Moment dabei. Was die Maschine tut, wenn sie mir beim Bauen hilft, einen Absatz entwirft oder eine Frage beantwortet, ist außerordentliche Mustererkennung über mehr Text, als ein Mensch in tausend Lebenszeiten lesen könnte. Es ist eine Art von Kognition. Ob es Intelligenz ist, in dem Sinne, den wir normalerweise meinen, wenn wir dieses Wort über eine Person gebrauchen, ist eine wirklich offene Frage, und die Menschen, die diese Systeme bauen, sind diejenigen, die sie am lautesten stellen.
Yann LeCun, der für seine Arbeit an den neuronalen Netzen, die all dem zugrunde liegen, die höchste Auszeichnung der Informatik erhalten hat, hat offen gesagt, dass heutige Sprachmodelle „eine Ausfahrt auf dem Weg zur menschenähnlichen KI" seien, ein Umweg statt der eigentliche Pfad. Er weist gerne darauf hin, dass
eine Hauskatze die physische Welt versteht, komplexe Handlungen planen und besser schlussfolgern kann als die größten Sprachmodelle.
Eine Katze. Der Vergleich ist keine Beleidigung der Technologie. Er ist eine präzise Beobachtung darüber, was Intelligenz, die verkörperte, tierische Art, tatsächlich beinhaltet, und wie viel davon nichts mit Sprache zu tun hat.
Melanie Mitchell, eine der klarsten Denkerinnen auf diesem Gebiet, benennt den zugrunde liegenden Fehler direkt. Einer der wiederkehrenden Irrtümer des Feldes, so argumentiert sie, ist die Annahme, dass Intelligenz sauber vom Körper getrennt werden kann, dass sie eine Art körperlose Informationsverarbeitung sei, die man aus einem Gehirn herauslösen und irgendwo anders laufen lassen könnte. Menschliches Denken funktioniert nicht so. Es ist verwoben mit dem gesamten Nervensystem, mit Empfindung, mit der Tatsache, einen Körper zu haben, der Dinge will und Dinge fürchtet und müde wird.
Ich bringe das nicht zur Sprache, um zu klären, ob Maschinen denken. Ich bringe es zur Sprache, weil das Wort, nach dem wir greifen, Intelligenz, stillschweigend eine ganze Reihe von Annahmen mitbringt, und diese Annahmen prägen, was wir wahrnehmen können. Was, wie es sich trifft, eine sehr alte Idee ist.
Die Grenzen der Sprache
Vor hundert Jahren schrieb ein junger Österreicher einen Satz, der nie aufgehört hat, zitiert zu werden, meistens falsch.
„Die Grenzen meiner Sprache bedeuten die Grenzen meiner Welt." (Ludwig Wittgenstein, Tractatus Logico-Philosophicus)
Die Menschen behandeln den Satz als ordentliche Devise über Wortschatz: Lern mehr Wörter, sieh mehr Welt. Wittgenstein meinte etwas Seltsameres und Tieferes. Er sprach nicht darüber, wie viele Wörter man kennt. Er sprach davon, wie die Struktur dessen, was man sagen kann, die äußerste Grenze dessen setzt, was man überhaupt klar denken kann. Das Selbst ist in diesem Bild kein Objekt in der Welt, sondern ihre Grenze, so wie das Auge der Rand des Gesichtsfeldes ist und darin nie erscheint.
Was jenseits dieser Grenze liegt, kündigt sich nicht als fehlendes Wort an. Es zeigt sich als Stille. Oder, und das ist der Teil, der mich interessiert, es zeigt sich im Körper, als das, was man fühlt, bevor man es sagen kann. Der berühmte letzte Satz des Buches lautet: „Worüber man nicht sprechen kann, darüber muss man schweigen." Aber Schweigen ist nicht nichts. Jeder, der mit einem unbenennbaren Gefühl gesessen hat, weiß, dass Schweigen eine Textur hat, und manchmal einen Puls.
Hier ist die Wendung, die Wittgenstein eher lesenswert als zitierbar macht. Er verbrachte die zweite Hälfte seines Lebens damit, mit der ersten zu streiten. Der junge Mann, der eine harte Grenze um die Sprache zog, wurde zu einem älteren, der entschied, dass Bedeutung kein Bild ist, sondern ein Gebrauch, ein Zug in einem Spiel, das zwischen Menschen gespielt wird.
Wörter bedeuten, was wir mit ihnen tun.
Der Denker, der einst die Grenzen der Welt fixiert hatte, verbrachte seine späteren Jahre damit zu zeigen, dass diese Grenzen sich verschieben, dass sie in der Praxis des Sprechens gemacht und neu gemacht werden.
Das finde ich außerordentlich tröstlich. Es bedeutet, dass die Namenlosigkeit keine Mauer ist. Sie ist eine Grenze im Sinne eines Horizonts.
Nicht ein besseres Werkzeug, eine andere Welt
Was passiert also eigentlich, wenn eine Technologie auftaucht und wir unsere eigene Erfahrung damit kaum beschreiben können?
Thomas Kuhn hat uns das Wort gegeben, das heute alle überbenutzen. Paradigmenwechsel. Er schrieb über Wissenschaft, darüber, wie eine gefestigte Weltsicht weicht, nicht allmählich, sondern ruckartig, einer neuen. Das, was es sich lohnt, aus Kuhn zurückzugewinnen, unter all dem Management-Seminar-Firnis, ist sein Verständnis davon, wie verstörend der Prozess ist.
In einem echten Wandel lernen Praktizierende nicht einfach neue Fakten. Sie beginnen, andere Dinge zu sehen, wenn sie an dieselbe Stelle schauen.
Und entscheidend: Der neue Weg ist nicht einfach der alte plus Verbesserungen. Kuhn wies darauf hin, dass Kopernikus' Modell, als er die Sonne in den Mittelpunkt stellte, zunächst nicht besser darin war vorherzusagen, wo die Planeten sein würden. Es war kein überlegenes Werkzeug. Es war ein anderes Bild, und die Menschen widersetzten sich ihm genau deshalb, weil das alte Bild für die tägliche Orientierung noch immer tadellos funktionierte.
Das ist die Unterscheidung, die ich immer wieder Menschen gegenüber machen möchte, die mich fragen, ob KI nicht einfach das nächste Tabellenkalkulationsprogramm ist, die nächste Suchmaschine, das nächste Ding, das wir ohne viel Aufhebens aufnehmen werden. Vielleicht. Aber ein Werkzeug ist etwas, das man aufgreift, um eine Aufgabe zu erledigen, die man bereits versteht. Ein Paradigmenwechsel ist, wenn die Aufgabe selbst, und der eigene Platz darin, still die Form verändern, während man noch die alten Wörter dafür benutzt.
Das Unbehagen, das ich in jener Nacht spürte, war, glaube ich, die Lücke zwischen beidem. Ich benutzte Werkzeugsprache, ich baue eine Website, während darunter etwas Paradigmenförmiges geschah: die eigentliche Bedeutung von Bauen, von Autorenschaft, von Können, die sich unter einem Satz verschob, der sich nicht verändert hatte.
Was der Körper zuerst wusste
Hier hören meine beiden Disziplinen, die Linguistik und die Psychologie, auf, getrennte Fächer zu sein, und werden zu derselben Beobachtung.
Der Neurowissenschaftler António Damásio verbrachte seine Karriere mit einer einzigen, unmodernen Idee: dass Emotion nicht der Feind der Vernunft ist, sondern Teil ihrer Maschinerie.
Kognition ist in dieser Sicht nicht die kühle Verarbeitung einer auf Abstand gehaltenen Welt. Sie ist vollzogen, hervorgebracht, durch einen Körper, der in einer Umgebung handelt.
Damásio untersuchte Menschen, die durch spezifische Hirnverletzungen die emotionalen Signale verloren hatten, die Entscheidungen normalerweise begleiten. Ihre Logik war intakt. Ihr Leben zerbrach trotzdem, weil sie nicht mehr spüren konnten, welche Option bedeutsam war. Der Körper, so stellt sich heraus, stimmt zuerst ab, und die Vernunft ratifiziert das Ergebnis oft nur.
Das Kürzel, das er uns gab, ist der somatische Marker: das Aufflackern körperlicher Empfindung, das eine Situation als gut oder schlecht markiert, bevor das bewusste Denken aufgeholt hat. Ich sollte ehrlich sagen, dass die Details seiner Theorie noch diskutiert werden, die Experimente wurden angefochten und verfeinert, wie gute Experimente es werden. Aber der Kern hat sich gehalten, und man weiß bereits, dass er stimmt, denn man hat die Entscheidung schon im Bauch gespürt, bevor man sie auf dem Papier begründen konnte.
Stell das nun neben einen Befund aus der Psychologie, der weitaus bekannter sein sollte, als er es ist. Als Forscher Menschen in einem Scanner zeigten und ihnen belastende Bilder präsentierten, leuchteten die Angstzentren des Gehirns auf, wie zu erwarten. Aber als sie die Menschen baten, das Gefühl in Worte zu fassen, es einfach zu benennen, sank diese Aktivität. Einen Zustand benennen verändert den Zustand. Der Akt, das Wort zu finden, leistet messbare Arbeit im Nervensystem. Er ist kein Schmuck auf der Erfahrung. Er ist Regulation der Erfahrung.
Der Körper ist Teil dessen, was wir denken. Das Microlearning hinter diesem Abschnitt: was Verkörperung bedeutet, wie somatische Marker funktionieren, und warum der Körper in jedes ehrliche Gespräch über KI gehört.
Das ist das gesamte Argument dieses Essays, verdichtet in einer einzigen physiologischen Tatsache. Das Unbehagen, das so viele von uns rund um KI empfinden, das namenlose, ist der somatische Marker, der in einer Situation auslöst, zu der unsere Sprache noch nicht aufgeholt hat. Wir spüren den Paradigmenwechsel im Körper, bevor wir ihn aussprechen können. Und solange wir ihn nicht aussprechen können, können wir nicht recht zur Ruhe kommen, weil die Benennung Teil davon ist, wie ein Nervensystem einen Wandel verarbeitet.
Feynmans Test
Richard Feynman, der Physiker, hatte eine Gewohnheit, die mir als eine Art Gewissen geblieben ist. Er misstraute dem Unterschied zwischen dem Kennen des Namens von etwas und dem Kennen der Sache selbst. Man kann lernen, dass ein Vogel in fünf Sprachen Laubsänger heißt, pflegte er zu sagen, und dabei nichts über den Vogel wissen. Der Name ist nicht das Wissen. Der Name kann sogar ein Weg sein, das Wissen zu vermeiden, ein Ort, an dem der Geist anhält, weil er das Gefühl hat, angekommen zu sein.
Ich glaube, wir laufen Gefahr, das mit KI im größtmöglichen Maßstab zu tun. Wir haben den Namen. Künstliche Intelligenz. Er steht auf jeder Titelseite und in jedem Strategiepapier, und die Sicherheit des Begriffs lädt uns ein, innezuhalten, zu glauben, wir hätten die Sache verstanden, weil wir sie benennen können. McKinsey berichtete dieses Jahr, dass 88 Prozent der Organisationen KI inzwischen regelmäßig in mindestens einer Funktion einsetzen. Und doch ist nur etwa ein Drittel über Pilotprojekte hinaus in etwas gelangt, das man echte Transformation nennen könnte. Fast alle haben das Werkzeug. Fast niemand hat das Verständnis. Der Name ist dem Wissen vorausgelaufen.
Feynmans Test ist brutal und einfach. Kann man es ohne das geliehene Wort erklären? Kann man sagen, was tatsächlich passiert, in klarer Sprache, von Grund auf? Wenn ich das mit meinem eigenen Unbehagen in jener späten Nacht versuche, lautet der Satz, der herauskommt, nicht Ich benutze ein KI-Werkzeug. Er lautet eher so: Ich beobachte, wie eine Maschine etwas vollbringt, das ich früher für menschlich hielt, und ich weiß noch nicht, was mich das macht.
Dieser Satz ist unbequem. Er ist aber auch, endlich, wahr. Und sein Unbehagen ist anders als das namenlose. Es ist das Unbehagen einer klar gesehenen Sache, und das ist das einzige Unbehagen, mit dem man wirklich etwas anfangen kann.
Die Arbeit des Worteffindens
Ich habe keine ordentliche Auflösung, und ich misstraue Essays, die so tun, als hätten sie eine. Was ich habe, ist eine Überzeugung, die sich seit jener Nacht am Rechner nur gefestigt hat.
Die wichtigste Fähigkeit in einem Paradigmenwechsel ist nicht, das Werkzeug zu lernen. Die Werkzeuge werden sich wieder verändern, bevor man fertig ist, sie zu meistern. Die wichtige Fähigkeit ist die ältere, langsamere, seltsamere: genaue Worte für das zu finden, was mit einem geschieht, besonders wenn die verfügbaren Wörter falsch sind. Kein Jargon. Nicht die geliehene Selbstsicherheit von künstlicher Intelligenz und Disruption und Transformation. Die eigentlichen Wörter für die eigentliche Erfahrung, einschließlich der Teile, die sich nach Verlust anfühlen, einschließlich des Unbehagens, das sich nicht in einen Slogan auflöst.
Das meinte ich auf der Startseite dieser Website mit dem Aufbau eines Vokabulars für den KI-Wandel. Ich meinte kein Glossar. Ich meinte das Schwierigere: die Praxis, bei einem Gefühl lange genug zu bleiben, um es ehrlich benennen zu können, damit das Nervensystem zur Ruhe kommt und der Geist endlich an die Arbeit gehen kann. Wittgenstein hatte zweimal recht. Die Grenzen unserer Sprache sind die Grenzen unserer Welt. Und diese Grenzen sind keine Mauer, sondern ein Horizont, der von denen gemacht und neu gemacht wird, die bereit sind, die Arbeit des Sprechens zu tun.
Die Maschine, wie immer wir sie am Ende nennen werden, kann diesen Teil nicht für uns übernehmen. Das Finden des Wortes ist das einzige Stück des Bauens, das unseres bleiben muss.
Dieser Essay knüpft an Die Fähigkeiten des Kapitän Zukunft an, über das Bauen aus eigener Kraft, wenn das Bauen geteilt wird. Wer über das Lesen hinausgehen möchte, findet in der Knowledge Lounge einen Lernpfad zu denselben Fragen.
Quellenhinweise
Die Wittgenstein-Zitate stammen aus dem Tractatus Logico-Philosophicus (1921), Proposition 5.6 und folgende; die spätere Wende ist aus den Philosophischen Untersuchungen (1953). Thomas Kuhns Ausführungen über Paradigmenwechsel stammen aus Die Struktur wissenschaftlicher Revolutionen (1962). Antónios Damásios Argument über Emotion und Vernunft findet sich in Descartes' Irrtum (1994); die verkörperte Sicht der Kognition schöpft aus Francisco Varela, Evan Thompson und Eleanor Rosch, The Embodied Mind (1991). Der Befund, dass das Benennen eines Gefühls seine physiologische Ladung reduziert, stammt von Matthew Lieberman und Kollegen: „Putting Feelings Into Words", Psychological Science (2007). Yann LeCuns und Melanie Mitchells Positionen sind aus öffentlichen Vorträgen und Mitchells Artificial Intelligence: A Guide for Thinking Humans (2019) entnommen. Die Zahlen aus dem Arbeitsumfeld stammen aus McKinseys The State of AI (2025). Eine ausführlichere, kritischere Auseinandersetzung mit den umstrittenen Befunden, einschließlich der Debatten um Damásios Experimente und neuere Studien zu KI und kritischem Denken, liegt hinter diesem Essay, nicht in ihm.
Weiterführende Lektüre
- Ludwig Wittgenstein, Tractatus Logico-Philosophicus (1921). Kurz, seltsam, aphoristisch, der Ursprung des Satzes. Für Mutige: die Philosophischen Untersuchungen (1953), in denen er mit seinem jüngeren Ich streitet.
- Thomas Kuhn, Die Struktur wissenschaftlicher Revolutionen (1962). Das Buch, das uns den Paradigmenwechsel geschenkt hat, weit lesbarer als sein Ruf.
- António Damásio, Descartes' Irrtum (1994). Das Plädoyer für Emotion als Teil der Vernunft, erzählt durch die seltsame Geschichte eines Eisenbahnarbeiters namens Phineas Gage.
- Andy Clark, Natural-Born Cyborgs (2003). Darüber, wie menschliche Geister sich schon immer in ihre Werkzeuge hinein verlängert haben. Der intellektuelle Grund unter jedem ehrlichen Bericht über das Bauen mit einer Maschine.
- Melanie Mitchell, Artificial Intelligence: A Guide for Thinking Humans (2019). Die klarste populäre Darstellung dessen, was diese Systeme wirklich tun, und was nicht.