Der Gedanken-Code E-Book

Janosch Delcker

• Herausgeber: C. H. Beck
• Kategorie: Wissenschaft und neue Technologien
• Sprache: Deutsch

Veröffentlichungsjahr: 2024

Beschreibung

Rund um die Welt kombinieren Firmen und Forschende künstliche Intelligenz mit Erkenntnissen aus der Hirnforschung. Ihr Ziel: den Code unseres Denkens zu knacken und zu verstehen, was in uns vorgeht. Schon bald werden ihre Technologien in viele Bereiche unseres Lebens vordringen. Das birgt enorme Chancen, aber auch nie dagewesene Risiken. In seiner packenden Reportage, die ihn von Berlin in den Süden Indiens und bis ans Ende der digitalen Welt in Patagonien führt, enthüllt Janosch Delcker, was da gerade hinter verschlossenen Türen entsteht – und liefert eine Anleitung, wie wir mit den smarten Andwendungen sinnvoll umgehen können. ChatGPT und Co. sind erst der Anfang: Zunehmend drängt schon die nächste Generation künstlicher Intelligenz auf den Markt. Die Programm analysieren, was wir denken und fühlen. Sie sind in der Lage, das Leiden kranker Menschen zu lindern und unser Leben zu erleichtern. Aber sie machen unsere Gedankenwelt auch verwundbarer denn je und können für abscheuliche Zwecke missbraucht werden. Trotzdem ist ihr Aufstieg der breiten Öffentlichkeit bisher verborgen geblieben. Janosch Delckers Buch bringt Licht ins Dunkel: Er erklärt anschaulich, was man wissen sollte. Er entwirft Leitlinien für kluge Regeln, um unsere Grundrechte zu schützen. Und er gibt praktische Tipps für den Alltag, wie wir die KI von heute und morgen nachhaltig nutzen können – ohne die Kontrolle über unser Denken zu verlieren.

Leseprobe

Janosch Delcker

Der Gedanken-Code

Wie künstliche Intelligenz unser Denken entschlüsselt und wir trotzdem die Kontrolle behalten

C.H.Beck

Übersicht

Cover

Inhalt

Textbeginn

Inhalt

Titel

Inhalt

Widmung

Prolog: Im Niemandsland

📍

Cabo Raso, Argentinien

Himmelsstürmer: Das Streben nach künstlicher Intelligenz

Kassandra und Daidalos: Technologie-Skepsis vs. Technologie-Enthusiasmus

Ein Mittelweg

1: Big Data – Wie Computer lernen, was uns gefällt

📍

Buenos Aires, Argentinien

Die Macht der Daten: Online-Plattformen und Big Data-Analysen

📍

Berlin, Deutschland

Die stille Revolution: Maschinelles Lernen und Deep Learning

Kuratiert von Computern: Algorithmen und Blackboxes

Lernende Systeme: Warum TikTok unsere Gedanken zu kennen scheint

📍

Buenos Aires, Argentinien

Dopamin-Kapitalismus: Wie Plattformen unsere Aufmerksamkeit kapern

Phantomschmerz: Smartphones und ihr Suchtpotential

📍

Cabo Raso, Argentinien

‹Das Medium ist die Botschaft›

2: Emotionserkennung – Wie mit

KI

versucht wird, unsere Emotionen zu verstehen

📍

Hyderabad, Indien

Die Überwachungs-Hauptstadt

An den Rändern

Die Stadt der Anderen: Smart Cities und

KI

-Zukunftsprognosen

Im Visier: Gesichtserkennung vs. Emotionserkennung

Müll rein, Müll raus: Vorurteile und Diskriminierung durch

KI

Smart Panopticon: Überwachung und Selbstdisziplinierung

3: Persönlichkeitsanalysen – Wie

KI

unser Wesen durchleuchtet

📍

Berlin, Deutschland

Jessica und der Algorithmus: Video-basierte Persönlichkeitsanalysen

Zwischen den Zeilen: Sprachbasierte Persönlichkeitsanalysen

In der Smaragdstadt: Gedankenleser-Technologie und wir

Das letzte Wort: Automatisierte Entscheidungen und ein ‹human in the loop›

4: Brain Decoder – Wie

KI

unsere Gehirnaktivität ausliest

📍

Paris, Frankreich

Die Jagd nach dem Gedanken-Code

KI

für die Massen: Der Aufstieg generativer

KI

Gehirn-Dekodierer: Wie generative

KI

Gehirnaktivität ausliest

Neuro

AI

: Big Tech und die Neurowissenschaften

5: Immersive Technologien und Wearables – Wie wir Computer mit Gedankenkraft steuern

📍

London, Großbritannien

/

Metaverse

Fließende Grenzen: Von ‹virtueller› zu ‹gemischter› Realität

Mind Reader am Handgelenk: Fitness Wearables und Stimmungsanalysen

📍

Berlin, Deutschland

Die ‹letzte Bastion› der Datenökonomie: Brain Wearables

Der Blick in den Abgrund: «Embodiment» und ein Mensch-Maschine-Kreislauf

📍

London, Großbritannien

/

Metaverse

Gedanken-Interface: Computer mit Geisteskraft steuern

6: Gehirn-Computer-Schnittstellen – Vom Mind Reading zur Mind Control?

📍

Berlin, Deutschland

Gehirne unter Strom: Hirnstimulationen in der Medizin

Sarahs neues Leben: Bidirektionale Gehirn-Computer-Schnittstellen

Die Gedanken-Plattform: Massentaugliche bidirektionale Schnittstellen

Die Leiden der Patientin R: Eins mit Neurotechnologie

Abhängig in Millisekunden? Das Suchtpotenzial von Neurotechnologie

Quantensprünge: Nicht-invasive bidirektionale Schnittstellen

Hybride Geister: Ethische Herausforderungen der Neurotechnologie

7: Regulierung – Welche Regeln es braucht

📍

Brüssel, Belgien

Heute: Künstliche Intelligenz

Die Vorgeschichte des AI Act

Von der Leyens Versprechen

Lobbyschlachten

Europas

KI

-Gesetze

Innovationsgeist wecken

Morgen:

Mind-Reading AI

Die vergessene Freiheit

Zeit für Neurorechte

Vorreiterland Chile

Das Regulierungs-Dilemma

Technologiestandort Europa

Ein Leben im Neurokapitalismus

8: KI-Kompetenz – Wie wir einen gesunden Umgang entwickeln

📍

Cabo Raso, Argentinien

Oblomows Erben

Die Gedanken sind frei

Die RE∙C∙O∙DE-Methode

Schritt 1 – RE: Reflect

Schritt 2 – C: Change

Schritt 3 – O: Organize

Schritt 4 – DE: Detach

Terra Incognita

Epilog: Die Reise geht weiter

📍

Cabo Raso, Argentinien

Neue Pioniere

Danksagung

Anmerkungen

Prolog: Im Niemandsland

1. Big Data

2. Emotionserkennung

3. Persönlichkeitsanalysen

4. Brain Decoder

5. Immersive Technologien und Wearables

6. Gehirn-Computer-Schnittstellen

7. Regulierung Heute: Künstliche Intelligenz

Morgen: Mind-Reading

AI

8.

KI

-Kompetenz

Epilog: Die Reise geht weiter

Register

Zum Buch

Vita

Impressum

Der Diebstahl von Zeit sollte ein Straftatbestand werden.Nichts ist so kostbar wie Zeit.

Für Matthias Delcker (1951–​2021)

Prolog: Im Niemandsland

📍 Cabo Raso, Argentinien

Am Ende der Welt begrüßt mich Bruno mit einer Ruhe, die mir fremd geworden ist. Drei Stunden zuvor war ich von Argentiniens Bundesstraße 3 in Richtung Meer abgebogen. Nach ein paar Minuten brach der Handyempfang ab. Kurz darauf wurde die Landstraße zur Schotterpiste. Ab dann kam mir kein Auto mehr entgegen. Wann immer der klapprige VW-Polo, den mir die Mietwagenfirma am Provinzflughafen in Trelew gegeben hatte, ungewohnte Geräusche machte, bekam ich es mit der Angst zu tun. Sollte er liegen bleiben, könnten in der Halbwüste Patagoniens Tage vergehen, bis ein Mensch vorbeikommt.

Aber irgendwann ist am Horizont der Atlantik aufgetaucht, dann sah ich über der Steppe verstreut die Ruinen von Cabo Raso, und schließlich habe ich es geschafft und steige aus dem Auto. Lächelnd kommt mir Bruno entgegen. Das schwarze Haar hat er zum Zopf zusammengebunden. An seiner Seite humpelt Border Collie-Mischling Simba und wedelt langsam mit dem Schwanz. Hinter den beiden ragen ein paar zusammengewachsene Häuschen und Wellblechhütten in den Nachmittagshimmel.

Wir geben uns die Hand. Die nächsten Tage werden Bruno und ich gemeinsam hier im Nirgendwo verbringen. Uns eint das Grau an den Schläfen: Er ist 36 Jahre alt, ich bin gerade 37 geworden. Ansonsten könnten unsere Leben nicht unterschiedlicher sein. Bruno ist Künstler und verbringt den Großteil seiner Woche hier, abgeschnitten von nahezu allem Digitalen. Ich bin Journalist, lebe schon mein ganzes Leben lang in Städten und berichte darüber, wie Technologie unser Leben verändert. Der Zufall hat uns zusammengeführt in Cabo Raso, einem zerfallenen Geisterdorf, wo der Wind nach Antarktis riecht und nach Gefahr; wo es keine Kanalisation gibt, kein warmes Wasser und schon gar kein Internet; und wo das bisschen Strom, das die Solarpanels auf dem Hüttendach produzieren, streng rationiert wird.

Dies ist das Ende meiner Reise. Fast fünf Jahre lang habe ich recherchiert, wie eine neue Generation künstlicher Intelligenz (KI) unsere Gesellschaften – bisher weitgehend unbemerkt – verändert. Im Zusammenspiel mit anderen Technologien wird sie die Art und Weise revolutionieren, wie wir mit Computern interagieren. Ihr Ziel lässt sich in einer alten Idee zusammenfassen: Gedankenlesen.

Hinter verschlossenen Türen versuchen Unternehmen und Forschende, den Code unserer Gedanken zu knacken. Sie entwickeln Programme, um besser zu verstehen, was wir denken und fühlen, woran wir glauben und wie wir sind – all die Eigenschaften, die zusammen das ausmachen, was im Deutschen oft als «Geist» und im Englischen als mind bezeichnet wird. In diesem Buch werde ich diese Technologien unter dem Oberbegriff Mind-Reading AI zusammenfassen.

Es ist ein Experiment, das Auswirkungen hat auf unser Gehirn und darauf, wie wir die Welt wahrnehmen. Vorläufer der Technologie sind schon Teil unseres Lebens geworden. Weiter entwickelte Programme stehen kurz vor der Marktreife. Sie werden unsere Gedankenwelt in den kommenden Jahren transparenter und verletzlicher denn je machen. Trotzdem hüllen sich viele Firmen in Schweigen.

Dieses Buch bringt Licht ins Dunkel. Es gewährt Einblicke ins Innenleben einer mächtigen Industrie, die immer besser darin wird, unsere Gedanken auszulesen. Es erklärt, ohne Vorkenntnisse vorauszusetzen, welche Technologien die Unternehmen einsetzen und wie sie funktionieren: vom maschinellen Lernen über immersive Technologien, die unsere analoge mit einer virtuellen Realität verschmelzen lassen, bis hin zu Neurotechnologie und Gehirn-Computer-Schnittstellen, mit denen uns buchstäblich in den Kopf geschaut wird. Und es liefert eine Anleitung, wie wir Mind-Reading AI auf eine gute und nachhaltige Weise einsetzen können.

Himmelsstürmer: Das Streben nach künstlicher Intelligenz

«Künstliche Intelligenz» ist eine Sammelbezeichnung. Sie fasst diverse Technologien zusammen, die mehr oder weniger autonom Aufgaben erledigen, für die ansonsten menschliche Intelligenz erforderlich wäre. Dabei reichen die Ursprünge des Felds bis in die erste Hälfte des 19. Jahrhunderts zurück, als Gelehrte wie die Mathematikerin Ada Lovelace oder der Erfinder Charles Babbage erste Konzepte für intelligente Maschinen erdachten. Geprägt wurde der Begriff in den 1950er Jahren, als eine Gruppe amerikanischer Wissenschaftler ihn als werbewirksamen Titel für eine Konferenz wählte. In den sieben Jahrzehnten seitdem ist die Geschichte der KI geprägt gewesen von Booms und Pleiten, von Phasen großer Durchbrüche und massivem Investment, gefolgt von Rückschritten, Krisen und «KI-Wintern».

Heute erlebt KI einen neuen Hype. Doch eines ist anders: Zum ersten Mal nutzen Menschen, auch solche mit wenig technischem Vorwissen, tagtäglich bewusst KI-Technologie und mehr noch: Sie interagieren mit ihr. Künstliche Intelligenz ist in unseren Alltag eingezogen.

Nichts hat diesen jüngsten Hype mehr befeuert als ChatGPT und andere Programme, die scheinbar aus dem Nichts überzeugende Texte, Bilder oder Videos erstellen. Seit sie im Herbst 2022 online verfügbar wurden, sind sie für viele zum Synonym für KI geworden. Kaum ein Tag vergeht ohne neue Artikel darüber, was der Aufstieg der Programme für die Arbeitswelt, unsere Kreativität oder geistiges Eigentum bedeutet. Aber so faszinierend solche «generativen» KI-Anwendungen auch erscheinen mögen: Sie sind, wie ich in diesem Buch zeigen werde, nur die Vorboten einer noch viel tiefgreifenderen technologischen Revolution.

Ich selbst berichte seit Mitte der 2010er Jahre über künstliche Intelligenz – «lange, bevor das cool wurde», wie es eine befreundete Journalistin formulierte. Das Bild, das die breite Öffentlichkeit damals von KI besaß, war ein anderes. Noch sollte es Jahre dauern, bevor es Artikel über KI auf die Titelseiten reichweitenstarker Zeitungen schaffen würden. Noch verstanden viele KI-Forschung als blue sky research, als akademische Theorie ohne direkte Anwendungsmöglichkeiten. Und noch galt meine Berichterstattung als «Nischen-Journalismus» und ich als der Geek im Politik-Ressort, dessen Recherchen für viele oft wie Science Fiction klangen.

Für mich als Reporter war das ein Glück. Ich spürte, dass ich an einer der größten Geschichten meiner Generation dran war, für die sich außerhalb der Fachwelt jedoch kaum jemand interessierte. Im Laufe der Jahre baute ich mir so ein Netzwerk an Kontakten in der KI-Welt auf. Ende 2017 überzeugte ich dann meine damalige Redaktion, das US-amerikanische Magazin Politico, mich zu seinem «KI-Korrespondenten» zu machen. Es war das weltweit erste Medium, das diesen Schritt ging.

Je tiefer ich während dieser Zeit in die Welt der KI eintauchte, umso mehr fiel mir etwas auf, das ich mir nicht erklären konnte: Alle großen Tech-Unternehmen, von Facebook bis Google, hatten begonnen, massiv in KI-Grundlagenforschung zu investieren, die auf den ersten Blick so gar nichts mit ihren Geschäftsmodellen zu tun hatte. Gleichzeitig hörte ich, wie die Firmen immer mehr Forschende aus den Neurowissenschaften abwarben. Aber warum? Irgendetwas an ihrem Wissen über unser Gehirn musste die profitorientierten Unternehmen so sehr reizen, dass sie massiv in dieses Knowhow investierten.

Im Frühjahr 2019 flog ich nach Paris. Seit Mitte der 2010er Jahre hatte Facebook, wie der US-Konzern Meta damals noch hieß, ein KI-Grundlagenlabor in der französischen Hauptstadt aufgebaut. Dort wurde an hochkomplexer Technologie geforscht. Nun hatte mich die Firma gemeinsam mit einem Dutzend anderer Medienschaffender zu sich eingeladen. Die Einrichtung residierte in den obersten Stockwerken eines Gebäudes an bester Adresse im zweiten Arrondissement. Von dem Moment an, in dem wir aus dem Aufzug traten, schwirrten PR-Profis um uns herum und achteten darauf, dass niemand die für den Besuch vorgesehenen Bereiche verließ. In den anderthalb Tagen danach sprach ich mit einigen der renommiertesten KI-Forschenden unserer Zeit, darunter einem Gewinner des Turing Award, quasi dem Nobelpreis der Informatik. Sie alle arbeiteten mittlerweile für Facebook.

Irgendwann stand ich auf der Dachterrasse des Zentrums, die Blicke eines Pressesprechers im Rücken, und schaute über die Dächer der Stadt auf den nahen Eiffelturm. Gedämpft drang der Lärm der Straße zu uns nach oben. Die Menschen unten wirkten sehr weit weg. Ich wurde nachdenklich: Wenn die wohl wichtigste Technologie unserer Generation zu einem beachtlichen Teil in ein paar privaten Einrichtungen wie dieser entsteht, entscheiden dann nicht bloß einige wenige Forschende und ihre Vorgesetzten, wie sie aussehen wird? Bestimmen sie dabei nicht ebenfalls, wie die Welt aussehen wird, in der wir und Generationen nach uns leben werden? Und können, wollen und sollten wir diese Entscheidungen wirklich ein paar Firmen überlassen?

Als ich später im Flugzeug zurück nach Berlin saß, beschloss ich, weiter zu recherchieren. Schnell wurde klar, dass meine Ergebnisse den Rahmen eines Magazin-Features sprengen würden. Die Idee für dieses Buch war geboren.

Zu dem Zeitpunkt hatte ich keine Ahnung, was ich herausfinden würde. Ich ahnte nicht, dass mich meine Recherche rund um die Welt führen würde: von den Hinterzimmern des Brüsseler Politikbetriebs in die sengende Hitze im Süden Indiens, nach London, Buenos Aires und schließlich, mehr als vier Jahre später, zurück zu einem Forscher aus dem Pariser Meta-Labor. Und ich ahnte nicht, wie sehr diese Reise auch mich verändern würde.

Was ich herausfand, hat mich zum Nachdenken gebracht, zum Staunen, Lachen und Zweifeln. Ich sprach mit Ärzten, deren Therapieerfolge an kleine Wunder grenzten; aber auch mit einer renommierten Psychiaterin, die sich tief besorgt zeigte über die Ergebnisse meiner Recherchen und warnte, dass wir als Kollateralschaden gerade «die potenziell am stärksten süchtig machende Droge der Menschheitsgeschichte» erschaffen könnten.

Nie zuvor in meinem Reporter-Leben hat Technologie so viel Begeisterung in mir ausgelöst; noch nie so viele Befürchtungen. Denn je tiefer ich in die Recherche eintauchte, desto besser verstand ich, wie sehr diese nächste Generation von Technologie uns und unsere Gesellschaften verändern wird: Wie sehr sie unsere Welt lebenswerter machen kann, wenn wir sie richtig einsetzen – aber auch, wie sie den Weg ebnen kann für eine dystopische Zukunft, sollten wir heute die Weichen falsch stellen.

Kassandra und Daidalos: Technologie-Skepsis vs. Technologie-Enthusiasmus

Technologiegeschichte ist eine Geschichte der Extreme. Bahnbrechende Innovationen wurden meist begleitet von Versuchen, sie für abscheuliche Zwecke zu missbrauchen: So hat der moderne Computer wie kaum eine andere Erfindung unser Leben einfacher gemacht. Aber schon die Nazis nutzten einen Computer-Vorgänger, die Tabelliermaschine, um den Holocaust zu organisieren.[1]

Das ist ein Extrembeispiel. Aber es illustriert, was Historiker Melvin Kranzberg 1986 als «Erstes Gesetz der Technologie» bezeichnete: Technologie ist weder gut noch schlecht, noch ist sie neutral. Vielmehr kann sie, je nach Einsatz, sehr unterschiedliche Konsequenzen haben. Und Technologie, so schrieb Kranzberg in seinem weniger bekannten sechsten Gesetz, ist eine «sehr menschliche Aktivität».[2] Sie wird von Menschen gemacht. Jedes Computerprogramm, das wir benutzen, wird mit einer bestimmten Absicht erschaffen und folgt Anweisungen, die in es hinein programmiert werden.

Kranzberg veröffentlichte seine Gesetze am Vorabend des digitalen Zeitalters. Seitdem ist die Rechenleistung von Computern explosionsartig gestiegen. Der Aufstieg des Internets hat uns in allen Lebensbereichen abhängig von digitaler Technologie gemacht. Längst hantieren wir mit so großen Datenmengen, dass wir sie allein mit Geisteskraft nicht mehr bewältigen könnten. Gleichzeitig stehen wir wie zu Kranzbergs Zeiten wieder an der Schwelle einer neuen Ära: dem Zeitalter der künstlichen Intelligenz. Zunehmend delegieren wir Aufgaben, für die bisher unser menschliches Denken unabdingbar war, an Computer. Dabei wird es immer schwieriger nachzuvollziehen, warum die Systeme bestimmte Entscheidungen treffen. Umso mehr wirkt Kranzbergs Text heute wie eine generationenübergreifende Botschaft: Mehr denn je gilt es zu verstehen, wer Technologien entwickelt und mit welchen Absichten. Und mehr denn je gilt es zu prüfen, wie wir sie einsetzen wollen.

Darum geht es in diesem Buch. Und es ist ein Kompromissvorschlag. Denn über die Frage, wie ein verantwortungsvoller Umgang mit KI und angrenzenden Technologien aussieht, tobt in der Fachwelt eine hitzige Diskussion. Diese wird von zwei Lagern dominiert.

Auf der einen Seite sind da diejenigen, die in Technologie die Lösung nahezu all unserer Probleme sehen. Im Englischen werden sie, häufig mit abwertendem Unterton, als tech solutionists bezeichnet. Oft stammen sie aus der Informatik und arbeiten selbst in der Tech-Industrie. Sie eint die Überzeugung, dass wir die komplexesten gesellschaftlichen Herausforderungen meistern können, solange wir nur entsprechende Technik entwickeln und schnellstmöglich zur Anwendung bringen. Mit der richtigen Soft- und Hardware, so sind sie überzeugt, können wir einen Ausweg aus der Klimakrise finden, globale Ungleichheit eliminieren, Krankheiten ausrotten. Wann immer ich mit ihnen spreche, muss ich an Daidalos denken, den brillanten, aber fehlbaren Baumeister aus der griechischen Mythologie. In diesem Buch werde ich sie deshalb als Daidalos-Lager bezeichnen.

Auf der anderen Seite gibt es warnende Stimmen, die Technologie deutlich skeptischer gegenüberstehen. Sie sind eher in der Zivilgesellschaft, in Nichtregierungsorganisationen oder der öffentlichen Forschung zu finden. Man kann sie sich als einen Chor moderner Kassandras vorstellen: Wie die Königstochter, die den Untergang Trojas voraussagt, warnen sie davor, dass die Ambitionen des Daidalos-Lagers außer Kontrolle geraten. Sie mahnen, dass Firmen – ohne das zwingend zu wissen oder zu wollen – den Weg für allgegenwärtige Überwachung ebnen könnten. Und sie weisen unermüdlich darauf hin, dass neue Technologien unsere Gesellschaften oft nicht gerechter machen, sondern bestehende Ungleichheiten weiter verstärken.

Es ist eine ungleiche Debatte: Während die Daidalos-Fraktion eine Milliarden-Industrie hinter sich weiß, agiert das Kassandra-Lager mit einem Bruchteil dieser Ressourcen. Und obwohl es nach außen so scheint, als ob beide Seiten in ständigem Austausch stünden, reden sie doch immer weniger miteinander.

Beobachten konnte ich das immer wieder auf glitzernden Tech-Konferenzen rund um die Welt. Die Veranstaltungen folgen ihrer eigenen Logik: Sie werden gesponsert von Daidalos-Industriegrößen, die als Gegenleistung Zugang zum Backstage-Bereich und Prominenten bekommen. Gleichzeitig werden stets auch Kassandras eingeladen, die dann vor neonbunter Kulisse ihre Warnungen ins Publikum rufen, während hinter der Bühne Millionendeals eingefädelt werden. «Unser schlechtes Gewissen» nannte ein Start-up-Gründer diese Auftritte, als wir uns am Rand einer solchen Veranstaltung in Lissabon unterhielten. Er höre schon lange nicht mehr zu.

Ähnliches habe ich im Laufe meiner Recherchen immer wieder gehört. Die Fronten verhärten sich: Während das Daidalos-Lager das Gefühl hat, falsch verstanden und dämonisiert zu werden, ist das Kassandra-Lager desillusioniert, weil seine Warnungen selten bleibende Wirkung zeigen. Und das besorgt mich. Denn auf beiden Seiten gibt es gute Argumente. Beide verdienen es, gehört zu werden. In der griechischen Mythologie verhallen Kassandras Warnungen ungehört und Troja fällt. Daidalos verliert seinen Sohn Ikaros, als dieser mit von ihm gefertigten Flügeln zu nahe an die Sonne fliegt. Beides gilt es zu verhindern.

Ein Mittelweg

Die Aufgabe des Journalismus besteht darin, so das geflügelte Wort des früheren Washington Post-Chefredakteurs Phil Graham, the first rough draft of history zu schreiben: den ersten Rohentwurf für eine spätere Geschichtsschreibung. Das ist der Anspruch dieses Buchs.

Drei Dinge haben mich dabei maßgeblich beeinflusst: Als Medien- und Literaturwissenschaftler ist mein Blick auf die Materie geprägt von medienwissenschaftlichen Theorien, wie Technologie unsere Erfahrung der Welt beeinflusst und dabei unsere Gesellschaft und uns selbst verändert.

Nach meinem Studium habe ich im Redaktionsvolontariat, an der Journalistenschule und in vielen Jahren als Reporter das Handwerk der journalistisch-investigativen Recherche gelernt: das hartnäckige Nachforschen, meist vor Ort, welche Auswirkungen Technologie auf Menschen hat. So habe ich viele der Informationen in diesem Buch «aus erster Hand» zusammengetragen und veröffentliche sie hier zum ersten Mal.

Zuletzt verstehe ich mich und dieses Buch als Teil einer neuen Generation von futurists (Futurist:innen) – ein Berufsbild, das bei uns in Deutschland, anders als in meiner früheren Wahlheimat USA, noch weitgehend unbekannt ist. Wir analysieren Entwicklungen der Gegenwart, um daraus wahrscheinliche Konsequenzen für die Zukunft abzuleiten. Dabei stammen viele von uns aus dem außeruniversitären Kontext wie Think Tanks, Beratungsfirmen oder eben dem Journalismus. Mein Anspruch als Futurist ist nicht, die Zukunft vorherzusagen. Stattdessen will ich zeigen, wie sehr unsere heutigen Entscheidungen die Welt beeinflussen, in der wir in einigen Jahren und Jahrzehnten leben werden. Denn, wie es die Futuristin Amy Webb in ihrem Buch The Signals Are Talking zusammenfasst: Die Zukunft stößt uns nicht zu; wir schaffen und gestalten sie.[3]

Als ich am Ende meiner Reise in Cabo Raso ankomme, liegt ein knappes halbes Jahrzehnt Recherche hinter mir, das mich immer tiefer in die Welt der Mind-Reading AI geführt hat. Ich bin müde und doch so glücklich wie lange nicht mehr. Denn es gibt Wege, die Technologie zum Guten zu nutzen: einen Leitfaden, wie wir unsere Gesellschaften damit stärken können, anstatt sie zu spalten – und wir alle Mind-Reading AI für uns einsetzen können, ohne die Kontrolle über das eigene Denken zu verlieren.

Im 4. Jahrhundert v. Chr. schrieb Aristoteles, der Maßstab für richtiges Handeln liege in der goldenen Mitte zwischen zwei Extremen. Der Philosoph erklärte das am Beispiel der Tapferkeit: Tapfer sei weder, wer zu wenig Mut hat und feige vor Herausforderungen zurückweicht, noch, wer zu viel Mut zeigt und sich tollkühn in Gefahr bringt. Tapfer sei, wer mesotes, das richtige Mittelmaß findet.

Die letzten beiden Kapitel dieses Buchs wenden dieses Prinzip auf die KI-Revolution unserer Zeit an. Im Laufe meiner Recherche habe ich mit über fünfzig Forschenden und Industrie-Insidern aus dem Daidalos- und dem Kassandra-Lager gesprochen, oft mehrmals über Jahre hinweg. Dieses Buch beschreibt einen Mittelweg ihrer Positionen und bringt ihre Argumente in Einklang.

So liefert dieses Buch auch eine Anleitung für einen gesunden Umgang mit der KI von heute und morgen. Es macht einen Vorschlag, wie die Politik mithilfe kluger Regulierung ethische Mindeststandards setzen kann, ohne die Entwicklung der Technologie zu bremsen. Es fasst kompakt zusammen, was wir alle über eine Mind-Reading AI wissen sollten, die bald unser Leben dominieren wird. Und es gibt praktische Tipps, wie man die Technologie nutzen und von ihr profitieren kann, ohne die eigene Gedankenwelt zu gefährden.

Aber warum beginnt es ausgerechnet am Ende der digitalen Welt? Einem Niemandsland, an dem der Tagesablauf nicht diktiert wird von Technologie, sondern von der Sonne und vom Wetter? Warum bin ich am Ende meiner Reise hier gelandet?

Während Bruno und ich nach meiner Ankunft sprechen, schweift mein Blick über die karge Landschaft um uns herum. Ich sehe die Ruinen des Geisterdorfs, an denen seit Jahrzehnten das Wetter nagt, und die Schotterpiste, der man nicht ansieht, dass sie in die Zivilisation zurückführt, zu Internetempfang und Push-Benachrichtigungen. «Willkommen in Cabo Raso», sagt Bruno und zeigt auf einen südamerikanischen Strauß, der mit seinem Jungvogel davonstolziert. Wenn ich wieder fahre, würde ich nicht mehr derselbe sein. Noch ahne ich nicht, wie sehr er recht behalten wird.

1

Big Data

Wie Computer lernen, was uns gefällt

📍 Buenos Aires, Argentinien

Als ich drei Wochen vorher in Argentinien ankomme, weiß TikTok schon, dass ich im Land bin. Die App geht davon aus, dass ich Spanisch spreche, dass ich nach Patagonien reisen möchte und dass ich schwul bin. Nichts davon habe ich bewusst mit ihr geteilt. Alles stimmt. Wahrscheinlich verstehen das Programm und sein chinesischer Mutterkonzern ByteDance noch viel mehr über mich und meine Gedankenwelt. Aber von Anfang an.

Es ist ein früher Novembermorgen. Im Straßengewirr acht Stockwerke unter mir herrscht noch Stille. Kurz vorher habe ich die kleine Dachgeschosswohnung in Buenos Aires aufgeschlossen, die für die nächsten Wochen mein Zuhause sein wird. Nun stehe ich auf der Terrasse und spüre den warmen Wind im Gesicht. Bald wird auch hier der Frühling einem subtropischen Sommer weichen und sich feuchte Hitze über die Stadt legen. Aber noch ist es November und nirgends ist der November so schön wie in Buenos Aires, dieser 15-Millionen-Metropole auf der Südhalbkugel.

Die Anreise aus Berlin hat 35 Stunden gedauert, doppelt so lange wie geplant, und mir tut alles weh. Aber jetzt ist es geschafft und ich merke, wie Entspannung einsetzt. Mein Blick schweift über die bröckelnden Dächer, die dunkelgrünen Baumkronen und die dürren Beton-Neubauten, die überall in den Himmel ragen. Dann gleitet er nach unten – und ich stocke.

Ohne es bemerkt zu haben, habe ich mein Handy aus der Hosentasche genommen und TikTok geöffnet. Jetzt stehe ich hier, starre wie ein Schlafwandler auf Videos, die über meinen Bildschirm jagen, und frage mich: Warum?

Das Programm hat sich in den letzten Jahren zu einer der beliebtesten Apps der Welt entwickelt, vor allem unter Teenagern. Direkt nach dem Öffnen startet der For You-Feed, ein scheinbar endloser Strom von Videos, die von anderen Menschen hochgeladen wurden. Mit einem Wisch gelangt man zum nächsten Clip. So gerät man schnell in einen Sog, der es einem, so berichten es User weltweit, immer schwieriger macht, die App zu schließen und das Handy beiseitezulegen: Zu groß ist der innere Drang, zu sehen, welches Video folgt. Zu groß die Hoffnung auf das kurze Vergnügen, das der nächste Clip auslösen könnte. Zu mächtig die Angst, diesen Moment zu verpassen.

Während ich in Buenos Aires in der Morgensonne auf meinen Handy-Bildschirm starre, merke ich, dass die Auswahl der Videos anders als zu Hause ist. Treffsicher ist sie auf meine neue Situation zugeschnitten: Viele Inhalte sind jetzt auf Spanisch. Ich sehe Videos von queeren Argentinier:innen; dazwischen Clips von Reisenden in Patagonien, ein langgehegter Traum. Zwischendurch tauchen immer wieder Relikte aus meinem Leben in Deutschland auf wie die Videos der deutsch-italienischen Foodbloggerin Mamma Culinaria, die Pasta kocht, wie keine andere, und sich dabei liebenswert um Kopf und Kragen redet.

Irgendwie fühlt es sich gut an, was TikTok mir zeigt. Weit weg von zu Hause gibt mir die App das Gefühl, von Menschen umgeben zu sein, die so ticken wie ich. Gleichzeitig triggert sie ein Fernweh, das mich schon als Kind stundenlang im Weltatlas blättern ließ. Und doch fühlt sich das alles nicht richtig an. TikTok erschöpft mich und ich spüre, wie Anspannung in mir aufsteigt. Trotzdem schaffe ich es erst zehn Minuten später, das Handy aus der Hand zu legen, widerwillig und mit einem Gefühl der Unruhe.

Wie kann es sein, dass eine App so großen Einfluss auf mich ausübt, dass ich sie unbewusst öffne – wie ein Raucher, der erst merkt, dass er wieder am Qualmen ist, nachdem er sich bereits eine Zigarette angezündet hat? Und wie kann es sein, dass ein Programm, mit dem ich bewusst so wenig Informationen wie möglich teile, so viel über mein Gefühlsleben zu wissen scheint?

Der Aufstieg sozialer Netzwerke wie TikTok und zuvor Facebook oder Instagram hat ein paar Start-ups in wenigen Jahren zu einigen der mächtigsten Firmen der Welt gemacht. In knapp zwei Jahrzehnten haben sie die Art verändert, wie wir uns informieren und miteinander kommunizieren. Viel ist darüber diskutiert worden, was das für unsere Gesellschaften bedeutet, von zunehmender Polarisierung bis hin zur Verbreitung von Desinformationen.