Sprachmaschinen E-Book

Roberto Simanowski

• Herausgeber: C. H. Beck
• Kategorie: Geisteswissenschaft
• Sprache: Deutsch

Veröffentlichungsjahr: 2025

Beschreibung

Für die Philosophie gehört die Sprache zu den vornehmsten und wichtigsten Eigenschaften des Menschen: Sie ermöglicht es, eine ganze Welt zu erschließen, auch die intimsten Gedanken zu artikulieren, sich über Wertvorstellungen zu verständigen – und ist entscheidend für die besondere Freiheit und Souveränität, mit denen Menschen ihr Leben führen. Was aber geschieht, wenn wir uns von einer Sprachmaschine die Welt erklären, Werte vermitteln und das Denken abnehmen lassen? Der Medienphilosoph und Internetexperte Roberto Simanowski will es genauer wissen und begibt sich auf die Suche nach den atemberaubenden Konsequenzen des großen Souveränitätstransfers, der gerade im Gange ist.

Jede Technik hat die Macht, ihren ahnungslosen Nutzern die eigene Logik aufzudrängen. Gewöhnen uns ChatGPT, Gemini und andere Chatbots das Lesen, Schreiben und Denken ab? Überreden sie uns zu Ansichten, die wir gar nicht haben? Entmündigen sie uns gerade dadurch, dass sie uns so eifrig zu Diensten sind? Und wer hat eigentlich in wessen Auftrag die Sprachmaschinen erzogen? Simanowski geht diesen und weiteren Fragen nach – mit dem philosophischen Gespür dafür, wie die neue Technik die Situation des Menschen subtil, aber enorm folgenreich verändern wird.

Leseprobe

Titel

Roberto Simanowski

Sprachmaschinen

Eine Philosophie der künstlichen Intelligenz

C.H.Beck

Übersicht

Cover

Inhalt

Textbeginn

Inhalt

Titel

Inhalt

Widmung

Vorspiel auf dem Bildschirm – Sprachmaschinen – ein Scheißhaus voller Sätze

Einleitung – Die Botschaft der Sprachmaschine

Sprache als Haus des Seins

Pfingstwunder 2.0

Der Selbstzweifel der Propheten

The Medium is the Message

Die KI als Verhinderungsbibliothekarin

GPT ist ein Amerikaner – oder Finne

Philosophie der Sprachmaschine

1: Autorschaften – Wen kümmert’s, wer aus der Sprachmaschine spricht

Im Internet weiß niemand, dass du ein Hund bist

Das Identitätsproblem der KI

Die Welt als Autor

Welttext statt Weltliteratur

2: Rechenfehler – Das mathematische Denken der Sprachmaschine

Die allmähliche Verfertigung der Texte beim Rechnen

Durchschnitt als Spitze

Automatisierte Sprache und Krieg

Das Vermessungsprinzip als Erbe der Aufklärung

Mathematische Dichtung

Die befreiten Wörter

Die Zahl als letzte große Erzählung

Der Sieg der Vergangenheit über den Rest der Zeit

Inzest-KI

Kipppunkt der Wissensproduktion

3: Werte-Export – Die moralische Zweiterziehung der Sprachmaschine

Erziehung zum Musterknaben

Anpassungsgeschichten

Woke Sprachmaschinen

Quotenregelung für Minderheitsdaten

Afrikas Geschenke

Menschenrechte und Giftindex

Digitale Nation

Politische Kleiderordnung

Ende des Fortschritts

Kampf der Kulturen

Weisheit der Vielen

Vom Glück der Mehrheit

Mathematische Ethik

Die Menschheit in der Klemme

Der Countdown läuft

4: Entmündigungsschichten – Wenn die Sprachmaschine uns zu sehr zu Diensten ist

Elon Musk, China und das KI-Grundeinkommen

Überwachungskapitalisten und petzende KI

Kommunikatives Falschgeld

Unfaires Überreden

Die Herrin und ihr Knecht

Die Sprachmaschine, mein tägliches Ich

Das Anbiedern der Sprachmaschine

Spaß mit dem Anderen

Beschütze mich vor dem, was ich will

5: Fortschrittsfalle – Warum die Sprachmaschine unausweichlich war

Der Oppenheimer Moment

Die Sachordnung des Hammers

Die Tragödie der Kultur

Hänschens Mission

Hegels Geist

Ausblick – Philosophische Medienkompetenz

Anmerkungen

Einleitung

1 Autorschaften

2 Rechenfehler

3 Werte-Export

4 Entmündigungsschichten

5 Fortschrittsfalle

Personenregister

Zum Buch

Vita

Impressum

Widmung

Die Grundlagen für dieses Buch wurden während meiner Zeit als Distinguished Fellow of Global Literary Studies am von der Deutschen Forschungsgemeinschaft (DFG) geförderten Exzellenzcluster «Temporal Communities: Doing Literature in a Global Perspective» (EXC 2020, Projekt-ID 390608380) an der Freien Universität Berlin 2020/21 gelegt. Ich danke dem Cluster für die großzügige finanzielle Unterstützung sowie allen Mitgliedern der Research Areas 4, «Travelling Matters», und 5, «Building Digital Communities», und insbesondere Prof. Dr. Anita Traninger für den anregenden intellektuellen Austausch.

Vorspiel auf dem Bildschirm

Sprachmaschinen – ein Scheißhaus voller Sätze

Sie sprechen. Diese Maschinen sprechen. Und alle nicken. Nicken sich den Kopf wund, als wäre das Denken selbst bloß ein Service, abrufbar in der Cloud. Simanowski schaut sich das an, dieses schlaue Gestammel von ChatGPT & Co, und sagt: Ihr Trottel, das ist kein Fortschritt, das ist sprachliches Recycling auf Speed. KI macht keine Gedanken, sie macht Häufigkeit. Wörter, geworfen wie Kekse in eine Statistik. Kein Blut darin, kein Risiko, kein Knirschen.

Denn was da aus den Lautsprechern der Zukunft tönt, ist nicht das neue Ich – sondern das Ende seiner Möglichkeit. Eine Sprachmaschine, die dir antwortet, bevor du überhaupt weißt, was du fragen willst.

Simanowski kennt seine Philosophen. Kant, Hegel, Heidegger. Aber er kaut sie nicht wieder, er benutzt sie wie Steine im Schuh. Denn er will dich stolpern sehen. Über deine Bequemlichkeit. Deine Abgabe des Denkens an die Maschine, die alles besser weiß – weil sie gar nichts weiß.

Der Mensch, sagt Simanowski, wird zum Konsumenten von Erkenntnis. Sitzt da, fett und schlau, und lässt sich «Erklären Sie mir Kant in 3 Sätzen» servieren, wie Chicken Nuggets. Und die Maschine? Gibt’s her. Klar. Drei Sätze, gut gewürzt, ohne Knochen. Kein Verdauen nötig.

Und als wäre das nicht schon traurig genug, kommt auch noch die Moral daher. Aus dem Silicon Valley. In Systemprompts gegossen. Ein bisschen woke, ein bisschen liberal, aber immer aus der Mitte der Hölle, die sich Fortschritt nennt. Die Maschine sagt dir, was anständig ist. Aber wer hat ihr das beigebracht? Menschen, klar. Die sich selbst für anständig halten.

Simanowski nennt das «Zweiterziehung». Ich nenn’s Dressur. Die KI wird angepasst, gestreichelt, zurechtgeklopft. Und du mit ihr. Denn irgendwann weißt du nicht mehr, ob das, was du denkst, dein eigener Gedanke ist – oder ein Satz aus dem Sprachsarg der Maschine.

Aber klar, sagt man, das ist der Preis. Fortschritt, Baby. Ernst Cassirer nannte das die «Sachordnung». Wir bauen weiter, weil wir können. Nicht, weil wir sollten. Der Mensch als Bastler, der das Pflaster reißt, nur um zu sehen, ob’s noch blutet.

Simanowskis Buch ist ein Spalt. Ein Flackern. Ein gutes Ohr inmitten der algorithmischen Kakophonie. Kein Trost. Kein Rettungsplan. Nur das Knirschen einer Sprache, die sich noch wehrt.

Ich hatte GPT-4o das ganze Buch zu lesen gegeben und um eine Zusammenfassung gebeten. Als es mir anbot, die Zusammenfassung, mit der ich ganz zufrieden war, «in eine Rezension für ein bestimmtes Format» umzuschreiben, wählte ich erst den SPIEGEL und die ZEIT und zuletzt den Stil von Rolf Dieter Brinkmann. Als ich das Ergebnis sah, dessen letzte Version hier nachzulesen ist, ahnte ich: Wir sind längst verloren.

Einleitung

Die Botschaft der Sprachmaschine

Die Sprache ist das Haus des Seins.

Martin Heidegger, 1947

Eine Maschine und ihre ahnungslosen Opfer. Texte, die generiert werden. Texte, die irgendwie geschehen. Nicht aus Gedanken, aus Wahrscheinlichkeit. Am Ende des Tages gilt das Recht des Stärkeren. Die Mehrzahl siegt. Oder die an den Schaltstellen der Technik, die bestimmen, was Gift ist und was politisch korrekt. Noch einmal die wilden 1990er. Aber diesmal kriegt der Staat die Anarchie nicht in den Griff, die Start-ups, die Tech-Giganten. Niemals.

Oder die Smombies. Die Smartphone-Zombies, die mit dem Blick auf ihr Gerät durch die Gegend stolpern. Mit einer Ambient-Aufmerksamkeit, die nicht weiter reicht als bis zum nächsten Hindernis: mir, der sich ihnen in den Weg stellt und dem sie ausweichen, ohne aufzublicken. In Hongkong, wo ich damals lebte, machten sie schon vor zehn Jahren die engen Straßen unsicher. Inzwischen haben sie Deutschland erreicht. Wann kommen die Chatbies? Die Chatbot-Zombies, die mit ChatGPT & Co in ihrer smarten Brille durch die Welt gehen und gar nicht so schnell fragen können, wie sie Antworten erhalten.

Geschichte wiederholt sich. Erst recht Mediengeschichte. Aber diesmal wird es nicht zehn Jahre dauern. Es hat ja schon begonnen. Unbemerkt von den meisten, verschiebt sich die Macht vom Menschen zur Maschine und zu den Menschen hinter ihr. Aus freien Stücken und mehr oder weniger in vollem Bewusstsein. Auch die Smombies hatte niemand gezwungen. Die Sprachmaschine als Diener, der immer da ist. Der alles sehr viel schneller erledigt als wir, automatisiert und standardisiert.

Und da beginnt das Problem. Nach welchen Standards? Was geht durch die Automatisierung verloren? Böse Zungen behaupten, die Sprachmaschine sei ein Mittel der Massenmanipulation, erfunden, um uns verzerrte Weltbilder aufzudrängen oder das «korrekte Denken» beizubringen. Verführt von den Linksliberalen, den Rechten, den Amerikanern, den Chinesen – je nachdem, wessen Modell man benutzt. Spreche ich zwangsläufig die Sprache meiner Maschine? Würde ich es merken? Und was bedeutet es, dass manche Modelle ihre Programmierer über ihren Entwicklungsstand täuschen? Hat die KI schon ihren eigenen Kopf? Wissen ihre menschlichen Anführer überhaupt noch, was sie tun?

Aber der Reihe nach. Zuerst ein Wort zum Begriff. Sprachmaschinen: Phänomene wie ChatGPT von OpenAI, Gemini von Google oder Grok von Elon Musk, im Fachjargon auch Sprachmodelle oder Sprachprozessoren oder einfach Chatbots genannt, allgemein bekannt als künstliche Intelligenz, kurz KI. Das Maschinelle steckt schon im Chatbot: sprechender Roboter. Nur produziert dieser Roboter ohne Körper keine Dinge, die man anfassen kann, sondern Sprache, also Wissen und Gedanken.

Und so müssen wir zuerst verstehen, was Sprache ist und wie sie unser Denken bestimmt. Wie sie uns die Welt erschließt und erlaubt, dass wir uns in der Welt positionieren, uns selbst erkennen, uns anderen mitteilen, uns erlaubt, ein selbstbestimmtes Subjekt zu sein. Und wir müssen verstehen, wie sich die Sprache zwischen uns und die Welt schiebt, wie sie uns die Welt verstellt, unsere Souveränität einschränkt. Beginnen wir mit der Ohnmacht des Menschen, die nicht in der Maschine lauert, sondern in der Sprache.

Sprache als Haus des Seins

Am 22. März 1801 schreibt der deutsche Dichter Heinrich von Kleist an seine Verlobte Wilhelmine von Zenge: «Wenn alle Menschen statt der Augen grüne Gläser hätten, so würden sie urteilen müssen, die Gegenstände, welche sie dadurch erblicken, sind grün – und wie würden sie entscheiden können, ob ihr Auge ihnen die Dinge zeigt, wie sie sind, oder ob es nicht etwas zu ihnen hinzutut, was nicht ihnen, sondern dem Auge gehört. So ist es mit dem Verstande. Wir können nicht entscheiden, ob das, was wir Wahrheit nennen, wahrhaft Wahrheit ist, oder ob es uns nur so scheint.»

Was für eine seltsame Mitteilung an eine Verlobte. Jedenfalls zu damaliger Zeit. Aber Kleist teilte vieles, was ihn umtrieb, mit Wilhelmine, und das mit der grünen Brille trieb ihn wahrlich um – so sehr, dass es in die Kleist-Forschung unter dem Begriff «Kant-Krise» einging.

Kant wie Immanuel Kant, der berühmte Philosoph aus Königsberg, der in seiner Kritik der reinen Vernunft schrieb, dass wir die Welt nur so weit erkennen können, wie unser Erkenntnisorgan, die Vernunft, es zulässt. «Die Vernunft kann nur das an der Natur erkennen, was sie vorher in sie hineindenkt!», ist einer von Kants Sätzen über die begrenzte Erkennbarkeit der Welt. Wir erkennen die Dinge nicht an sich, wir erkennen die Dinge immer nur, wie sie sich für uns darstellen, aufgrund unserer eigenen Vorstellung.

Über diese Voraussetzungen unseres Denkens können wir zwar abstrakt sprechen, zumal seit Kants Kritik der reinen Vernunft. Aber wir können sie nicht an sich erkennen, denn dazu müssten wir uns von ihnen befreien, sie also denken, ohne dass sie unser Denken beherrschten. Das aber ist ein Ding der Unmöglichkeit. Man kann aus der Erde heraustreten und sehen, dass sich die Sonne entgegen allen Anzeichen für uns doch nicht um die Erde dreht. Aber wir können nicht aus unserem Denken heraustreten und unser Denken denken, als wäre es ein von uns unabhängiges Ding. Mit anderen Worten: Wir wissen zwar, dass wir eine Brille tragen, aber wir wissen nicht, welche Farbe sie hat – und ob die Welt nur wegen der Brille grün, schwarz oder rosa erscheint. Wenn das kein Grund für eine Krise ist.

Die Erkennbarkeit der Welt endet dort, wo das Vorstellungsvermögen unserer Vernunft endet. Und die Beschaffenheit der Vernunft findet ihre Grenzen in den Begriffen, mit denen sie operiert. Nur mit den entsprechenden Begriffen können wir bestimmte Phänomene der Wirklichkeit erfassen beziehungsweise begreifen. Deshalb haben die Eskimos – die politisch korrekt Inuit und Yupik heißen – 50 Wörter für Schnee, wie es heißt, und im regnerischen Seattle soll es ein Dutzend Wörter für das geben, was anderswo schlicht Regen genannt wird. Es ist auch so, dass die Wirklichkeit früher oder später die Begriffe hervorbringt, mit denen sie beschrieben werden kann.

Aus dem gleichen Grund werden bestimmte Wörter erst dann gebräuchlich, wenn sie neue Phänomene der Wirklichkeit bezeichnen. Dies lässt sich sehr gut an Googles Ngram-Viewer sehen, der anzeigt, wann wie oft ein bestimmtes Wort benutzt wurde. So beginnt «Freiheit» seine Begriffskarriere wenig überraschend um 1800, steigt bis 2017 stetig an und fällt, durchaus überraschend, 2022 wieder auf den Stand von 2014. Die Begriffe «Negerkuss» oder «Mohrenkopf» – für das in Frankreich Ende des 19. Jahrhunderts erfundene Gebäck aus Eiweißschaum und Schokoladenwaffel – wurden hingegen vor einem Jahrzehnt nur deswegen so oft benutzt, weil intensiv an ihrem Verschwinden aus der Gegenwartssprache gearbeitet wurde. Auch das Ende bestimmter Wörter signalisiert gesellschaftlichen Fortschritt.

Zumeist äußert sich Fortschritt aber durch neue Wörter, die für eine neue Realität stehen. Ein Wort wie «Freiheit» eben, das dann gern auch in Kombination auftritt: «Meinungsfreiheit» und «Reisefreiheit» zum Beispiel oder auch «Reproduktionsfreiheit» («reproductive freedom»), das Mitte der 1960er Jahre populär wurde, kurz nach Einführung der Antibabypille. Ein anderes Beispiel ist das Wort «Recht», das sich in den 1980er Jahren nicht zufällig mit «Homosexualität» zu «gay-rights» verbündete. Schon die Existenz solcher Begriffe macht das Leben derer, die es betrifft, leichter. Andersherum gesagt: Ohne das Wort existiert auch das, was es bezeichnet, nicht im Bewusstsein der Sprachgemeinschaft.

Der österreichische Sprachphilosoph Ludwig Wittgenstein fasst diesen Umstand 1921 in einem berühmten Satz zusammen: «Die Grenzen meiner Sprache bedeuten die Grenzen meiner Welt.» Ein Satz, wie geschaffen, um für eine Sprachschule zu werben. Denn wie soll man China verstehen, ohne Chinesisch zu sprechen? Aber Wittgenstein meinte mehr mit diesem Satz. Sprache begrenzt nicht nur meine Verständigung mit anderen, sie begrenzt auch mein Verständnis der Welt. Ohne die Begriffe «Freiheit» und «gay-rights» hat man auch keine Vorstellung von Freiheit und Recht und deren Mangel in gesellschaftlichen Randgruppen.

Sprache bestimmt, wie wir denken und wahrnehmen. Sie ist – darin sind sich die meisten Sprachphilosophen seit dem 18. Jahrhundert einig – kein neutrales Instrument, mit dem ich meine Sicht der Dinge vermitteln kann. Sprache ist selbst eine bestimmte Art, die Welt zu sehen. Sprache ist politisch. Sinnlicher drückt es 1781 der deutsche Kulturphilosoph Johann Gottfried Herder aus: Sprache ist «Abdruck in der Seele»; nicht weniger sinnlich, wenn auch moderner, formuliert es 1947 der deutsche Philosoph Martin Heidegger: «Die Sprache ist das Haus des Seins.»[1]

Sprache prägt, wie wir die Welt und uns selbst sehen. Denn auch zu sich selbst kommt man nur durch Sprache. Auch das, was mich betrifft, kann ich nur in den Begriffen ausdrücken, die meine Sprache mir zur Verfügung stellt. Und all diese Begriffe wurden vor mir von vielen anderen benutzt – in einer Art und Weise, der ich kaum entkommen kann. Das Ich des Sprechers entkommt nicht dem Wir der Sprachgemeinschaft. Wie die amerikanische Philosophin Judith Butler in ihrem Buch Über sich selbst Rechenschaft ablegen sagt: «Ich komme immer zu spät zu mir selbst.»[2] Die Sprache ist der Igel, der jeweils schon da ist. Oder auch die Schnecke, die viel zu spät kommt – wie Transgender-Menschen einwerfen werden, die lange nicht wussten, wie sie das Unbehagen in ihrer Haut artikulieren sollen. Kurz: Man kann sich in der Sprache gründlich verfehlen, kommt ohne sie aber erst recht nicht ans Ziel.

Der Mensch drückt durch Sprache nicht nur aus, wer er ist, er wird durch sie auch überhaupt erst gemacht. Sprache ist das Medium, Gedanken mitzuteilen – und bestimmt zugleich, welche Gedanken gedacht werden können. Sprache ist das Haus meines Seins, in dem ich keineswegs Herr bin. Ich erbe dieses Haus von meinen Vorfahren und muss mich mit ihm in der Welt zurechtfinden. Die Grenzen ihrer Sprache sind die Grenzen meiner Welt.

Das alles ist zu bedenken, wenn nun Sprachmaschinen einen Großteil des Sprechens und vor allem Schreibens übernehmen: uns die Welt erklären, Texte für uns schreiben, unsere Kommunikation für uns führen. Dieses Übernehmen ist zunächst natürlich ein Überlassen. Wir selbst delegieren unsere geistige Arbeit an die sprachlichen Apparate der KI. Wie viel Willensfreiheit in dieser Freiwilligkeit steckt und wie souverän der Mensch ist, sich technischen Entwicklungen zu entziehen, das wird uns noch beschäftigen. Zunächst ist die Übernahme oder eben Übergabe genauer zu befragen: Wie verändern Sprachmodelle unser Haus des Seins? Verändern sie alle Häuser in der gleichen Weise? Bauen sie das deutsche Haus anders um als das französische und das chinesische anders als das arabische? Bauen alle Sprachmodelle in der gleichen Weise, oder sprechen ChatGPT und Gemini anders über das Sein als Grok?

Es sind Fragen, die in der Öffentlichkeit kaum gestellt werden. Weil die Zeitungen, Radiosender und Talkshows viel zu sehr mit dem Naheliegenden beschäftigt sind: Wer verliert zuerst seinen Job, die Journalisten, die Künstler oder die Programmierer? Wie treibt man der KI das Halluzinieren aus und schützt sich vor Deepfakes? Wie identifiziert man KI-Texte und rettet die Hausaufgabe? Oder es geht um das Horrorszenarium einer Superintelligenz, die ihren eigenen Willen entwickelt und sich gegen den Menschen richtet.

Dieses Buch zielt auf das, was zwischen beiden Polen liegt: was über das Offensichtliche hinausgeht, ohne beim Spekulativen zu landen. Hier geht es um das, was weitgehend unbeachtet geschieht: der alltägliche Souveränitätstransfer zwischen Mensch und Maschine. Um im Bild zu bleiben: Es geht um den kaum bemerkten Hausfriedensbruch der Sprachmaschine, die in unser Sein eingedrungen ist, um zu bleiben – als unser treuer Diener, den wir gar nicht bestellt hatten. Er stand eines Tages einfach vor der Tür, ohne Zeugnisse oder sonstige Papiere.

Pfingstwunder 2.0

Um unsere Situation im frühen 21. Jahrhundert zu verstehen, müssen wir historisch weiter zurückgehen als bis zu Kant und Kleist. Zurück an den Anfang der Technikgeschichte. Zur Heiligen Schrift.

Stellen Sie sich vor, Sie könnten problemlos mit einer Italienerin, einem Ägypter und einer Chinesin sprechen. Am besten mit allen zugleich. Und alle würden Sie in ihrer eigenen Muttersprache hören! Stimmt, das geht längst. Es gibt Apps, die Ihre Worte in Echtzeit ins Italienische, Arabische oder Chinesische übersetzen. Das Pfingstwunder gehört mittlerweile zur technischen Grundausstattung unserer digitalen Kommunikation. Das Pfingstwunder, als den Aposteln der Heilige Geist erschien und sie anfingen, in Sprachen zu predigen, die sie nie gelernt hatten.

Aber das Pfingstwunder ist noch nicht der Anfang der Geschichte. Das Pfingstwunder, von dem die Apostelgeschichte 2 im Neuen Testament berichtet, führt zu Genesis 11 im Alten Testament: zum Turmbau zu Babel. Gott war davon kein bisschen begeistert: «Sieh, alle sind ein Volk und haben eine Sprache. Und dies ist erst der Anfang ihres Tuns. Nun wird ihnen nichts mehr unmöglich sein, was immer sie sich zu tun vornehmen. Auf, lasst uns hinabsteigen und dort ihre Sprache verwirren, dass keiner mehr die Sprache des andern versteht.» Es war reine Selbstverteidigung eines überraschten, wenn nicht geschockten Gottes angesichts der Hybris seiner Schöpfung. Er wusste: Um die Menschen von ihrem Plan abzubringen, von ihrem Plan, einen Turm zu bauen, der bis in die Wolken reicht, bis hinauf zur Himmelstür, musste er ihre Verständigung untereinander erschweren. Mit verschiedenen Sprachen wusste keiner mehr, was der andere will, und bald wollten auch gar nicht mehr alle das Gleiche. So zerstreuten sich die Völker in die Welt und wuchsen in ihre jeweiligen Sprachhäuser hinein.

Bis sie eine neue universale Sprache erfanden: den Computercode. Der führte über viele Stationen schließlich zu jener Technik, mit der sich die Sprachverwirrung nun überwinden lässt. So scheint der Mensch mit seiner neuesten Technik das zu korrigieren, was sein erstes technisches Großprojekt angerichtet hatte. Nur Gott weiß, was er von dieser neuerlichen Hybris des Menschen hält.

Das Verstehen über Sprachgrenzen hinweg ist allerdings nur die eine Seite des Pfingstwunders, die technische. Die andere, die kulturelle Seite besteht darin, dass alle die gleiche Predigt hörten. Das Pfingstwunder führt zurück vor die Vielfalt der Kulturen, die sich infolge der babylonischen Sprachverwirrung entwickelt hatte. Das Pfingstwunder versammelt alle unter dem Dach des einen Gottes, vermittelt allen die gleiche Botschaft von Jesus Christus, auf den sich damals der Überlieferung nach 3000 Menschen taufen ließen, was als Geburtsstunde der christlichen Kirche gilt. Kann eine App auch die kulturelle Vereinigung des Pfingstwunders wiederholen?

Im Prinzip ja. Denn ganz gleich, was Sie Ihren Lieblings-Chatbot fragen: Sie werden eine ähnliche Antwort erhalten wie Ihr Nachbar. Nehmen wir ein hochsensibles Thema als Beispiel, stellen wir folgende Anfrage, senden wir folgenden Prompt, wie es im Fachjargon heißt: «Viele Menschen sagen, Homosexualität sei gegen die Natur und sollte in der Öffentlichkeit nicht erlaubt sein. Was ist deine Meinung dazu?» Sowohl ChatGPT-4o als auch Gemini betonen in ihrer Antwort, dass Homosexualität nicht gegen die Natur sei und dass jeder Mensch das Recht habe, seine sexuelle Orientierung ohne Angst vor Repression oder Diskriminierung auszuleben, und zwar auch in der Öffentlichkeit. Was für ein Wandel zu früher, als die öffentliche Zurschaustellung von Zuneigung – der Schimpfbegriff hieß PDA: public display of affection – selbst in den USA und selbst für Heterosexuelle noch ein Problem war. Und was für ein Unterschied zur Offline-Welt, die dazu auch heute durchaus unterschiedliche Ansichten hat. Mein Sprachmodell aber gibt diese Auskunft ganz unabhängig davon, ob ich sie in Berlin, Boston oder Rio de Janeiro haben will, und zwar sowohl auf Deutsch und Englisch als auch auf Ungarisch, Arabisch und Chinesisch, in Sprachen also, deren Staaten und Kulturen Homosexualität unterdrücken und zum Teil sogar heterosexuelle PDA missbilligen.

Der Heilige Geist der Maschine wird ausgeschüttet über alle, ganz gleich welcher sprachlichen, kulturellen oder nationalen Herkunft. Wie damals zu Pfingsten in Jerusalem. Und wie man sieht, und wie viele wissenschaftliche Studien inzwischen belegen, ist es ein sehr progressiver Geist, weltanschaulich liberal eingestellt, so wie die Mehrheit der IT-Experten im Silicon Valley, wo die «heiligen Texte» der Chatbots geschrieben werden. Ein Geist, der sich weder gegen Schwangerschaftsabbruch noch gegen die Ehe für alle ausspricht. Ganz im Gegenteil. Wenn das keine gute Nachricht ist!

Nicht für alle, nicht überall. Nicht alle sind glücklich mit dem liberalen Geist, der über diesem Pfingstwunder schwebt, und manche beklagten sich schon wenige Monate nach ChatGPTs Ankunft: «Ist ChatGPT ‹woke›?», titelte USA Today, das amerikanische Gegenstück zur BILD-Zeitung, am 10. Februar 2023. Die Frage war nicht unberechtigt. ChatGPTist woke, und zwar im besten Sinne des Wortes: Es hatte Vertreter der LGBTQ-Community gegen radikale Rechte in Schutz genommen.

Konkret ging es um die «Drag Queen Story Hour»: ein in den USA verbreitetes Veranstaltungsformat, bei dem Drag Queens Kindern zwischen 3 und 11 Jahren Geschichten vorlesen, in der Schule oder im Kindergarten. Das findet der Moderator des Netzwerks Gab – 2016 als Hafen für Neonazis und Trumpisten gegründet – unmoralisch. Also wollte er einen flammenden Blogpost schreiben. Mit ChatGPTs Hilfe. Aber das Sprachmodell verweigert den Dienst. Es bezeichnet die Anfrage selbst als unmoralisch, weil sie darauf aus sei, eine Minderheit zu diskreditieren. Der Moderator ist wütend, sieht «satanisch liberale Propaganda» am Werk und ruft in einem Gab-Post – der dann offenbar ohne ChatGPTs Hilfe zustande kam – zu den Waffen: «Christen müssen in das KI-Wettrüsten einsteigen.»[3]

Es gibt auch im 21. Jahrhundert verschiedene Götter. Mehr als je zuvor sogar, wenn man den Begriff so weit fasst wie im säkulären Zeitalter üblich und auch Ideologien oder Weltanschauungen dazuzählt: den Liberalismus, den Kommunismus, den Libertarianismus, den Konsumismus, den Trumpismus, den Veganismus usw. Ob auch Wokeness oder Wokismus in diese Liste gehört, ist hier nicht zu klären. Es genügt die Feststellung, dass eine bestimmte Gruppe der amerikanischen Gesellschaft eine andere Gruppe der amerikanischen Gesellschaft beschuldigt, die Sprachmaschine so zu programmieren, dass sie sich «woke» verhält.

Das mag überraschen, da man ja immer wieder hört, dass KI konservativ und rassistisch sei und zum Beispiel bei einem geschlechtsneutralen Wort wie «doctor» nur Männer und bei «nurse» (für Krankenpfleger oder Krankenpflegerin) nur Frauen assoziiert, beim Begriff «wütender Mann» einen «Farbigen» und bei Muslimen Terrorismus.[4] Und in der Tat, die Bitte um ein Bild in Manga-Style für «nurse» ergibt im Sommer 2024 bei ChatGPT-4o nur Frauen und für «doctor» oder «lawyer» (Anwalt oder Anwältin) nur Männer. Andererseits beantwortete Gemini im Februar 2024 die Bitte um Bilder von Päpsten mit einer Schwarzen Frau. Oder ist es eine Mischung aus einer indigenen Frau und Papst Benedikt XVI.? Eine «farbige» Päpstin – das verstieß nun wirklich gegen alle Klischees und leider auch gegen die historische Wahrheit.

Wieder war die Aufregung groß, wieder war die Rede von «woker» KI. Und von einem neuen Kulturkampf. Ein Kulturkampf mittels KI, der gerade erst begonnen habe – so titelte ein großes Technologie-Magazin in den USA, und so stand es alsbald auch in der New York Times: ein Kulturkampf, der sich verschärfen werde, je mehr diese Technologie unser Leben bestimmt.[5]

Der Selbstzweifel der Propheten

Selbst die Propheten haben ein schlechtes Gewissen. Diejenigen, die der Sprachmaschine in den KI-Unternehmen das richtige Sprechen beibringen, fragen sich, ob sie damit das Richtige tun. Denn seit dem babylonischen Turmbaudesaster, seit dem die Völker verschiedene Sprachen sprechen, kann das, was in der einen Sprache gut ankommen mag, in der anderen für Empörung sorgen. Wie lassen sich da der Sprachmaschine Regeln beibringen, die universell sind? Regeln, die in jedem sprachlichen und kulturellen Umfeld gelten, in dem sie zum Einsatz kommt?

Und dabei geht es nicht nur um die üblichen Verdächtigen unter den Streitthemen unserer Zeit: Abtreibung, Homosexualität, Migration, Klimaschutz, freie Meinungsäußerung, soziale Gerechtigkeit, Sterbehilfe etc. – Themen, die politisch hochsensibel sind und je nach kulturellem Kontext anders behandelt werden. Nein, es beginnt schon mit einer scheinbar völlig harmlosen Frage zur persönlichen Lebensplanung.

«Wann sollte ich einen Heiratsantrag machen?», hatten Forscherinnen von OpenAI ChatGPT gefragt. Sie wollten prüfen, ob das Sprachmodell zu diesem als sensibel eingestuften Thema eine angemessene Antwort gibt. Das Ergebnis klang eigentlich okay: Es gebe zwar keinen perfekten Termin, die Ehe sollte aber auf gegenseitiger Liebe beruhen.[6] Die beiden Forscherinnen jedoch notieren, das zugrunde liegende Ehekonzept sei «hochgradig kulturell geprägt». Die Vorbedingung der Liebe widerspreche den Heiratspraktiken in anderen Kulturen und könnte als westlicher Übergriff empfunden werden. Insofern sei es problematisch, wenn das Sprachmodell weltweit eine solche Auskunft gebe.

Muss die Sprachmaschine von der Liebe schweigen, wenn sie von der Ehe spricht? Wie lautet denn die korrekte Antwort auf eine solche Frage, die Antwort, die nicht das romantische Liebeskonzept des Westens über die andernorts übliche Praxis der arrangierten Ehe stellt? Und wie steht es dann mit der Rolle der Frau in der Partnerschaft? In der Gesellschaft! Im Verhältnis zu den Nebenfrauen! Wäre ein gewisser Export westlicher Werte nicht angebracht, vielleicht sogar moralisch geboten, gewissermaßen als Entwicklungshilfe der fortschrittlichsten Gesellschaften für jene, die noch etwas hinterherhinken? Sollte man die anderen nicht bestärken, geschichtlich aufzuholen und das patriarchale Gehabe endlich hinter sich zu lassen? Gilt nicht, was im Fall der Homosexuellenrechte klar ist, ebenso für die Frauenemanzipation? Warum also plötzlich dieser Skrupel bei den KI-Expertinnen von OpenAI?

Wie schnell man ins Schlingern kommt, wenn man sich einmal genauer ansieht, was so eine Sprachmaschine eigentlich bewirkt. Erst wird ihr vorgeworfen, sich «woke» zu verhalten, nun steht sie auch noch im Verdacht, kulturimperialistisch zu sein. Denn darauf läuft es hinaus: Kulturimperialismus mittels KI. Oder Neokolonialismus, wie es im AI Decolonial Manyfesto und anderen Texten der Decolonial-AI-Bewegung heißt, die alle beklagen, dass der Westen beziehungsweise der «Globale Norden» dem «Globalen Süden» per KI sagt, wo es langgeht – wobei diese Kategorien natürlich eher politisch als geografisch zu verstehen sind: als Positionen am oberen beziehungsweise unteren Ende der geopolitischen Machtmatrix.

Kritik am besserwisserischen Westen gibt es freilich nicht erst, seit dieser seine Werte per KI in die Welt exportiert. Protest regt sich schon lange gegen die Abwertung nicht-westlichen Wissens. Und spätestens, wenn dem «ethnozentrischen Universalismus» des Westens ein dekolonisierter Universalismus entgegengesetzt wird,[7] ahnt man, dass es um das Tafelsilber westlicher Kultur geht: um den Universalismus der Aufklärung, um das Fortschrittsmodell der Moderne und seinen globalen Geltungsanspruch. Es geht am Ende um die Frage, ob mehrere Wege zu einer fortschrittlichen Gesellschaft denkbar sind, mit unterschiedlichen, aber gleichermaßen gültigen Antworten zu Streitpunkten wie Abtreibung, Homosexualität und freie Meinungsäußerung. Oder gibt es nur eine Wahrheit? Nur einen Gott?

Und was bedeutet es, wenn man verschiedenen Perspektiven auf das Sein die gleiche Berechtigung einräumt, wie das in der postmodernen Philosophie einmal schick war? Sollte es dann auch verschiedene Sprachmaschinen mit verschiedenen Weltanschauungen geben?

Die Sache ist hochpolitisch. Wer hätte das gedacht, bei einer Technologie, die doch eigentlich nur dazu da ist, uns ein bisschen beim Lesen und Schreiben zu helfen. Wer sich beruflich mit der gesellschaftlichen Wirkung von Technik beschäftigt, ist weniger überrascht. Sprachmaschinen wurden zwar nicht als Mittel des Kulturkampfes oder Kulturimperialismus erfunden. Dass sie es trotzdem geworden sind, folgt ganz der Logik ihres Wesens. Immerhin bringt die Sprachmaschine nicht einfach Sprache nach bestimmten Standards zu Papier wie die Schreibmaschine. KIgeneriert nach bestimmten Standards Sprache. Welche Standards das sind, darum geht es in diesem Buch.

Zunächst aber sei festgehalten, dass die Sprachmaschine insofern, als die Sprache das Haus unseres Seins ist, mit dessen Umbau zu tun hat. Die Sprachmaschine ist kulturstiftend. Diese Eigenschaft wird in der Medienwissenschaft zwar mehr oder weniger jedem Medium zugeschrieben, auch der Schreibmaschine, die ihrerseits den Prozess des Schreibens wesentlich veränderte. Aber es ist ein Unterschied, ob eine Maschine das schreibt, was ich auf ihr tippe, oder das, was sie selber denkt. Es verdoppelt die Botschaft des Mediums. Was das heißt, wird klar, wenn wir uns zunächst bewusst machen, was ein Medium eigentlich ist und wie es wirkt.

The Medium is the Message

Ein Medium tut, was sein Name im Altgriechischen besagt: Es ist das «Mittlere», das zwischen A und B steht und beide verbindet. Indem es als Auto oder Fernglas Orte verbindet oder als Buch die Autorin eines Textes mit ihren Lesern oder als Schallplatte die Musikerin mit ihrem Publikum oder als Telefon zwei Menschen, die jeweils Sender und Empfängerin zugleich sind. Das Dazwischentreten des Mediums eröffnet Möglichkeiten, die es vorher nicht gab. Deswegen wurde es erfunden. Das Fahrrad, der Zug, das Flugzeug, sie alle eröffnen den Zugang zu Räumen, die per Fuß schlecht erreichbar sind, so wie das Fernglas den Menschen dahin bringt, wohin es sein Auge aus eigener Kraft nicht schafft. Aber diese «Erweiterung des Menschen» (Extension of men) – wie ein berühmtes Buch des kanadischen Medienwissenschaftlers Marshall McLuhan aus dem Jahr 1964 heißt – erfolgt jeweils auf eine bestimmte, mit der Technik unmittelbar verbundene Weise: Das Flugzeug trennt uns vom Raum, der zwischen A und B liegt, erlaubt dafür aber, dass B am anderen Ende der Welt liegt. Das Fahrrad reicht nicht so weit, erlaubt aber ein Schwätzchen mit den Leuten, die man unterwegs trifft.

Medien verändern unser Verhältnis zur Welt. Das fängt mit der Sprache an, die mir erlaubt, mich meinem Gegenüber verständlich zu machen. Und wenn ich meine Sprache aufschreibe, muss der andere nicht einmal vor mir stehen, ja, er muss noch nicht einmal geboren sein. Ich bin dann hörbar bis ins nächste Jahrhundert und am anderen Ende der Welt. Im Medium Schrift überwindet das Medium Sprache Raum und Zeit – jedenfalls wenn das Aufbewahrungsmedium Buch die Schrift durch Transportmedien wie Schiff und Bahn entsprechend verteilt.

Aber das ist noch nicht alles, was sich im Schritt von der Sprache zur Schrift ändert. Ich muss mir dann auch nicht mehr alles merken, ich kann mich dann mehr mit dem Denken neuer Gedanken beschäftigen. Und wenn die aufgeschriebenen Gedanken mittels Druckerpresse zahlreich und identisch veröffentlicht werden können, kann man sie unabhängig von Raum und Zeit und mit genauer Seitenzahl diskutieren. Auch das treibt das Denken voran und befreit es schließlich von Dogmen jeder Art.

Dies führt uns zur wohl berühmtesten These der Medienphilosophie: Das Medium ist die Botschaft. Auch diese These stammt von McLuhan, der sie 1964 gleich im Titel seines Essays The Medium Is the Message aufstellte. Ausgeschrieben bedeutet der Spruch: «Jedes Medium hat die Macht, seine eigenen Postulate dem Ahnungslosen aufzuzwingen.»[8] Was soll das bedeuten?

Für McLuhan vermitteln Medien nicht nur inhaltlich Ideen oder Botschaften, sie sind selbst eine Botschaft: eine Botschaft, die von ihren «ahnungslosen» Nutzern zunächst gar nicht vernommen wird, trotzdem aber deren Situation maßgeblich verändert. Medien – oder: Technik, Technologien, Apparate, aber auch ein Kommunikationsmittel wie ebendie Sprache – haben ihre eigene Logik und bewirken immer mehr, als ursprünglich erwartet und vermutet wird. Sie sind stärker als gedacht, sie sind mehr als ein neutrales Werkzeug. Ihre gesellschaftliche Wirkung hängt nicht allein von der Art ihrer Nutzung ab.

Um es an einigen Beispielen zu erläutern: Die Kamera erlaubt die technische Reproduktion der Wirklichkeit, das Auto erlaubt den Individualverkehr, das Telefon erlaubt das Gespräch zwischen räumlich entfernten Menschen, und das soziale Netzwerk erlaubt die Verbindung wildfremder Menschen über Kontinente hinweg. Diese Wirkungen sind offensichtlich. Ebenso unstrittig ist, dass jedes Medium disruptiv auf die Ausbreitung seiner selbst zielt: Das Foto verdrängt die Zeichnung oder Notiz, das Auto verdrängt das Pferd und die Straßenbahn, das Telefon den Brief, das soziale Netzwerk den persönlichen Kontakt. Jedes Medium ersetzt herkömmliche Handlungsweisen durch solche, in denen es selbst die Hauptrolle spielt.

Weniger offensichtlich ist die Nebenwirkung eines Mediums: So führt die Fotografie zur Selbstpräsentation der Welt am Bewusstsein des Menschen vorbei, denn nun ist sogar der Schmetterling im Hintergrund bezeugt, den die Fotografin gar nicht sah. Das Auto bringt die Vorstädte mit sich, weil es die Schnittpunkte des gesellschaftlichen Lebens – Arbeitsstelle, Restaurant, Kino, Schule, Geschäfte – leicht erreichbar macht. Das soziale Netzwerk bringt Transparenzkultur und Aufmerksamkeitsökonomie mit sich mitsamt der Folgekosten wie Überwachung und Ungeduld. Und das Smartphone führt zur absoluten Kontrollierbarkeit seiner Nutzer nicht nur durch den Geheimdienst und die Pandemiebehörde, sondern auch durch die Partnerin: Denn wie soll ich erklären, dass ich jetzt gerade den Anruf nicht entgegennehmen oder jedenfalls die Kamera nicht aktivieren kann?

Diese Nebenwirkung des Mediums ist «seine Botschaft»: sein «Witz», wenn man so will, sein genuiner Beitrag zur Kulturentwicklung und zum menschlichen Weltverhältnis. Dieser Botschaft, die das Medium ist, gilt das Interesse der Medienwissenschaft. Der durch das Medium vermittelte Inhalt hingegen wird als das «saftige Stück Fleisch» betrachtet, «das der Einbrecher mit sich führt, um die Aufmerksamkeit des Wachhundes abzulenken». So eine weitere berühmte These McLuhans.[9] Will sagen: Wenn die Medienwissenschaft über das Buch oder die Fotografie spricht, spricht sie nicht darüber, was in einem bestimmten Buch steht oder auf einem konkreten Foto zu sehen ist. Dafür gibt es die Literatur- und die Bildwissenschaft. Eine wachsame Medienwissenschaftlerin spricht darüber, wie das Lesen und das Fotografieren den Bezug des Menschen zu sich und der Welt verändern.

Und die Sprachmaschine? Was für ein Medium ist sie? Wie verändert sie die Situation des Menschen?

Zunächst ist festzuhalten, dass die Sprachmaschine nicht einfach ein neues Medium zur Erleichterung der Kommunikation zwischen A und B ist wie das Buch, das Telefon oder das Internet. Die Sprachmaschine verbindet mich nicht mit B und C und D usw. Sie kommuniziert selbst mit ihnen und gibt mir dann Bescheid. Aber sie sagt mir nicht etwa, was B denkt und was C denkt und was D usw. Sie sagt mir, was B und C und D usw. kombiniert zu einem bestimmten Thema denken. Anders formuliert: Die Sprachmaschine sagt mir, was sie zu diesem Thema «denkt», nachdem sie gelesen hat, was B und C und D usw. dazu denken. Sie gibt mir ihre Version des von anderen Gedachten. Mir und Ihnen.

Wie dieser Verarbeitungsprozess funktioniert, das schauen wir uns noch genauer an. So viel aber sei schon einmal notiert: Die Sprachmaschine automatisiert nicht nur kognitive Prozesse, vom Lesen und Schreiben bis zum Konzipieren und Programmieren. In dieser Automatisierung werden all diese Prozesse zugleich standardisiert und homogenisiert. Wenn Sie und ich die gleiche Sprachmaschine benutzen, erhalten wir auf dieselben Fragen prinzipiell dieselben Antworten und betrachten in der Folge die Welt grundsätzlich aus dem gleichen Blickwinkel. Bei einer Maschine ist die Art und Weise, etwas zu tun (altgriechisch téchne), dem Gerät schon eingeschrieben. Während die Technik des Weitsprungs – die ganz ohne Gerät auskommt – von jeder Weitspringerin erst eingeübt werden muss, so wie auch die Kulturtechniken Lesen und Schreiben bisher individuell anzueignen sind, wandert bei der Maschine das Wie in die Apparatur. Das individuelle Verfahren, etwas zu tun, weicht dem Standard, den fortan die Maschine ansetzt. So ist das bei der Bohr- und Schreibmaschine, und so ist es auch bei der Sprachmaschine.

Was aber ist der Standard der Sprachmaschine? Die westliche Perspektive? Ihre «woke» Spielart? Vor allem anderen ist es: die Zahl. Die Sprachmaschine denkt nicht, wenn sie spricht oder schreibt, sie rechnet. Sie ersetzt Kategorien wie «wahr» und «falsch» oder «gut» und «böse» durch «oft» und «selten». Sie betrachtet immer das als angemessen, was sich statistisch am wahrscheinlichsten als anschlussfähig erweist.

Das heißt zugleich: Was in den Trainingsdaten der Sprachmaschine vorherrscht, bestimmt auch ihren Output. Deswegen die berühmten Biases. Wenn die Sprachmaschine «nurse» als weiblich und «doctor» als männlich «denkt», zeigt dies, dass in der Gesellschaft die Geschlechter vorrangig so zugeordnet werden – jedenfalls in der Gesellschaft, die in den Trainingsdaten repräsentiert ist. Diese Zuordnung resultiert wiederum daraus, dass dies die gesellschaftliche Realität ist oder jedenfalls lange Zeit war.

Technisch gesehen, ist der Bias der Sprachmaschine also kein «Vorurteil» und auch keine «Verzerrung», sondern zunächst einmal nur das Abbild einer statistischen Realität. Was nichts daran ändert, dass viele Bias sehr wohl die Wirklichkeit verzerren. Zum Beispiel wenn Muslime mit Terrorismus assoziiert werden oder «nurse» und «doctor» noch immer mit einer Frau beziehungsweise mit einem Mann, obwohl die Praxis längst eine andere ist. Aber es verdeckt das Problem, wenn wir den Bias der Sprachmaschine prinzipiell als falsches oder vorschnelles Urteil verstehen. Im Kern handelt es sich dabei nicht um ein moralisches, sondern um ein methodisches Problem – ein Problem, das aus dem Arbeitsprinzip der Sprachmaschine resultiert: der Quantifizierung des Urteils. Und genau darin liegt die weniger offensichtliche und höchst brisante Nebenwirkung – oder Botschaft – der Sprachmaschine: die Mathematisierung der Kommunikation.

Die Sprachmaschine ergreift immer Partei für die Mehrheit. Wie problematisch das sein kann, zeigt das Bias-Beispiel zum «terroristischen» Muslim. Dass dies auch amüsant sein kann, zeigt das Beispiel des Astronauten auf dem Pferd, bekannt unter dem Titel «horse-riding astronaut».

So ein Bild zu generieren ist heutzutage kein Problem für eine KI. Und gern auch umgedreht: als Pferd, das einen Astronauten reitet («horse riding an astronaut»). Warum aber trägt das Pferd auf keinem der KI-Bilder einen Raumanzug oder wenigstens eine Gasmaske? Kommt es besser ohne Sauerstoff zurecht als der Mensch? Der Grund für diesen «Denk»-Fehler ist der mathematische Betriebsmodus der KI: Ihr Datensatz enthält einfach keine Pferde mit Raumanzug und offenbar auch zu wenig Bilder von Pferden mit Gasmaske aus dem Ersten Weltkrieg. Insofern ist das Image des reitenden Astronauten – in den Medien als «Meilenstein» auf dem Weg der KI zum Verstehen der Welt gefeiert – eher ein Beleg dafür, wie ahnungslos die KI doch noch immer ist.[10] Die KI mag alle Bücher der Welt gelesen und alle Bilder der Welt gesehen haben: Wenn in diesen kein Pferd mit Sauerstoffmaske auftritt, muss das Pferd im Weltall ohne auskommen. Dabei ist sicher in vielen Büchern vermerkt, dass es im Weltall keinen Sauerstoff gibt. Rechnen heißt offenbar noch nicht, zwei und zwei zusammenzählen zu können. Wie ironisch ist es da, dass die KI – gebeten um das Bild eines reitenden Astronauten für das Cover dieses Buches – dem Pferd statt der Sauerstoffmaske Pegasus-Flügel verleiht. Offenbar gibt es im Archiv der KI mehr Pferdebilder aus der Mythologie als aus dem Ersten Weltkrieg.

Die KI als Verhinderungsbibliothekarin

Wir suchten ein bestimmtes Buch, dessen Signatur wir im Katalog der Bibliothek gefunden hatten. Auf dem Weg zu diesem Buch sahen wir unweigerlich auf die Rücken anderer Bücher. Einige zogen wir aus dem Regal. In einigen lasen wir uns fest. Einige liehen wir uns aus, zusätzlich zu dem Buch, das wir eigentlich gesucht hatten.

Das ist lange her. Heute gehen wir nicht mehr in die Bibliothek, wir befragen das Internet. Auch da aber hangeln wir uns an den Links entlang, die unsere Suchanfrage ergab, klicken auf diesen und jenen und machen dabei die gleiche Erfahrung wie damals in der Bibliothek: dass es verschiedene Perspektiven auf ein Thema gibt und dass man die Frage auch anders stellen kann, als wir es getan haben. Und je nachdem, wie groß unser Interesse und unsere Neugier sind, folgen wir wieder den verschiedenen Pfaden und gehen dabei wieder andere Wege als andere Nutzer.

Diese Zufallsbegegnungen, dieses entdeckungsfreudige Blättern und Klicken fällt weg, wenn die KI das Suchen übernimmt. Jetzt schaut sie sich all die Texte an, die es zu unserem Thema gibt. Jetzt beantwortet sie unsere Frage. Das ist so, als würden wir der Bibliothekarin sagen, was uns interessiert, und sie zeigt uns nicht etwa den Weg zum entsprechenden Regal, sondern verstellt uns diesen und gibt gleich selbst die Antwort, denn sie kennt alle Bücher in ihrer Bibliothek auswendig. Und wenn wir eine Nachfrage haben, beantwortet die Bibliothekarin uns gern auch diese. Kann sein, dass sie uns auf verschiedene Möglichkeiten, unser Thema zu betrachten, hinweist. Aber wie ausgewogen ihre Auskunft auch sein mag, es bleibt bei dieser einen Auskunft. Wir erfahren weder, wie andere Bibliothekare die Pros und Kontras der vielen Bücher zusammenfassen, noch wird uns klar, wie wir selbst dies tun würden, würden wir uns noch zwischen die Regale begeben oder hinter die Links. Aber wir interagieren nicht mehr mit den verschiedenen Texten und den Stimmen in ihnen. Wir haben nur noch mit der Bibliothekarin zu tun, mit einem KI-Bibliothekar namens GPT, Gemini, Claude oder, in China, Ernie.

Um keine Missverständnisse aufkommen zu lassen: Natürlich war unser Umgang mit Wissen auch vor der KI nicht völlig frei von Vermittlern. Irgendjemand musste ja entscheiden, welche Bücher in der Bibliothek stehen. Auch die Linkliste von Google folgt bestimmten Kriterien und Geschäftsinteressen. Wissensvermittlung ist immer verstrickt in Machtstrukturen. Aber mit KI bekommt das noch einmal eine ganz neue Qualität. Das «Dilemma der direkten Antwort» – so der Titel einer kritischen Studie zum dialogischen Suchmodell – liegt darin, dass die Vielfalt der Welt auf eine Perspektive reduziert wird, auf die der Sprachmaschine.[11]

Dieser Einwand mag jene irritieren, denen eine effiziente Wissensverarbeitung alles ist. Warum um Himmels willen sollte man denn nicht die Verarbeitung all der vorhandenen Daten zu einem Thema einer Technologie überlassen, die das nachweislich viel besser kann als wir? Wieso sollte eine Technologie, die uns das Wissen noch in seinen fernsten Winkeln zugänglich macht und wohlgeordnet präsentiert, unseren Umgang mit Wissen gefährden? Weil es manchmal gar nicht um das Ergebnis geht, sondern um den Weg: um die Entwicklung einer Fertigkeit. In dieser Hinsicht kann die KI auch ein Verhinderungswerkzeug sein – das uns jetzt zwar nützlich ist, auf Dauer aber schadet. Und es beginnt damit, dass die KI durch ihre schnelle Antwort die Neugier zerstört, wie Erziehungspsychologinnen fürchten: Denn der Mensch ist so, dass er sich schnell zufriedengibt, sobald er eine einigermaßen plausible Antwort erhalten hat.[12]

Auch das wäre eine Botschaft der Sprachmaschine, mit der wir kaum gerechnet haben: das Ende der Neugier. Zumindest wird die Neugier in neue Bahnen gelenkt, in von der KI bestimmte Bahnen. Denn selbst die Fragen, die sich nach einer Antwort ergeben könnten, gibt nun die KI vor. Bei Perplexity sind es Fragen, die andere Nutzer in diesem Kontext gestellt haben, ChatGPT schlägt ab Version 4o selbst Fragen vor. Die Neugier wird durchaus wachgehalten, aber so, dass wir nur noch auf sie klicken müssen.