The Coming Wave E-Book

Mustafa Suleyman

• Herausgeber: C. H. Beck
• Kategorie: Wissenschaft und neue Technologien
• Sprache: Deutsch
• Veröffentlichungsjahr: 2024

Beschreibung

Die Menschheitsgeschichte kennt Innovationsschübe, die unaufhaltsam wie ein Tsunami alles verändern – die landwirtschaftliche Revolution, die Dampfmaschine, das Internet. Künstliche Intelligenz ist die nächste große Welle, die Coming Wave, die auf uns zurollt, und wir sind darauf nicht vorbereitet. Als Mitgründer von DeepMind weiß Mustafa Suleyman wie nur wenige andere, was die neuen Technologien können und was sie anzurichten vermögen. In seinem wegweisenden, vielgelobten Buch verortet der KI-Pionier die kommende Welle in der Geschichte der Menschheit, spielt die politischen und gesellschaftlichen Folgen der neuen Technologien durch, und stellt sich dem größten Dilemma des 21. Jahrhunderts: wie wir von ihnen profitieren, ohne die Kontrolle zu verlieren. Bald werden wir in unserem täglichen Leben von KI umgeben sein. Sie wird unseren Alltag organisieren, unsere Wirtschaft prägen, und sogar Kernaufgaben der Staatsverwaltung übernehmen. Als Mitgründer von DeepMind hat Mustafa Suleyman viele Jahre im Zentrum der KI-Revolution gearbeitet. Das kommende Jahrzehnt wird nach seiner Einschätzung von rasanten technologischen Sprüngen geprägt sein, von neuen technologischen Möglichkeiten, über deren Folgen und Risiken wir noch kein klares Bild haben. Eines aber wissen wir: Wir brauchen die KI, um die Herausforderungen zu meistern, vor denen wir stehen, etwa den Klimawandel. Gleichzeitig bergen die neuen Technologien Gefahren, wie sie von keiner vorherigen Fortschrittswelle ausgingen, bis hin zur Auflösung von Staaten und einer Verdrängung des Menschen. Was macht man mit einer Welle, die auf den Strand zurast und sich nicht aufhalten lässt? Man versucht sie zu kanalisieren. Genau das ist das Anliegen dieses Buches: Inmitten immer intensiver werdender geopolitischer Konflikte den schmalen Grat zu finden, auf dem wir die Früchte der Technologie ernten, ohne ihr zum Opfer zu fallen. Das ist die zentrale Aufgabe unserer Zeit.

Leseprobe

MUSTAFA SULEYMAN

mit Michael Bhaskar

THE

COMING

WAVE

KÜNSTLICHE INTELLIGENZ, MACHT UND DAS GRÖSSTE DILEMMA DES 21. JAHRHUNDERTS

Aus dem Englischen von Andreas Wirthensohn

C.H.Beck

ZUM BUCH

Die Menschheitsgeschichte kennt Innovationsschübe, die unaufhaltsam wie ein Tsunami alles verändern – die landwirtschaftliche Revolution, die Dampfmaschine, das Internet. Künstliche Intelligenz ist die nächste große Welle, die Coming Wave, die auf uns zurollt, und wir sind darauf nicht vorbereitet. Bald werden wir in unserem täglichen Leben von KI umgeben sein. Sie wird unseren Alltag organisieren, unsere Wirtschaft prägen, und sogar Kernaufgaben der Staatsverwaltung übernehmen. Als Mitgründer von DeepMind hat Mustafa Suleyman viele Jahre im Zentrum der KI-Revolution gearbeitet. Das kommende Jahrzehnt wird nach seiner Einschätzung von rasanten technologischen Sprüngen geprägt sein, von neuen technologischen Möglichkeiten, über deren Folgen und Risiken wir noch kein klares Bild haben. Eines aber wissen wir: Wir brauchen die KI, um die Herausforderungen zu meistern, vor denen wir stehen, etwa den Klimawandel. Gleichzeitig bergen die neuen Technologien Gefahren, die von keiner vorherigen Fortschrittswelle ausgingen, bis hin zur Auflösung von Staaten und einer Verdrängung des Menschen. Was macht man mit einer Welle, die auf den Strand zurast und sich nicht aufhalten lässt? Man versucht sie zu kanalisieren. Genau das ist das Anliegen dieses Buches: Inmitten immer intensiver werdender geopolitischer Konflikte den schmalen Grat zu finden, auf dem wir die Früchte der Technologie ernten, ohne ihr zum Opfer zu fallen. Das ist die zentrale Aufgabe unserer Zeit.

ÜBER DIE AUTOREN

MUSTAFA SULEYMAN ist Mitbegründer der KI-Unternehmen DeepMind und Inflection AI und hat viele Jahre in führender Funktion für Alphabet gearbeitet, den Google-Mutterkonzern. Er ist weltweit einer der führenden Experten für Chancen und Risiken der neuen Technologie.

MICHAEL BHASKAR ist ein britischer Schriftsteller, Forscher und Verleger. Er ist Mitbegründer von Canelo, einem digitalen Verlag.

INHALT

GLOSSAR DER WICHTIGSTEN BEGRIFFE

PROLOG

KAPITEL 1: EINE EINDÄMMUNG IST NICHT MÖGLICH

Die Welle

Das Dilemma

Die Falle

Die These

Teil I: HOMO TECHNOLOGICUS

KAPITEL 2: ENDLOSE AUSBREITUNG

Der Motor

Allzweckwellen: Der Rhythmus der Geschichte

Proliferation ist der Standard

Von Vakuumröhren bis zu Nanometern: Turbo-Proliferation

KAPITEL 3: DAS CONTAINMENT-PROBLEM

Racheeffekte

Eindämmung ist die Grundlage

Haben wir jemals Nein gesagt?

Die atomare Ausnahme?

Das technologische Tier

Teil II: DIE NÄCHSTE WELLE

KAPITEL 4: DIE TECHNOLOGIE DER INTELLIGENZ

Willkommen in der Maschine

AlphaGo und der Beginn der Zukunft

Von Atomen über Bits zu Genen

Eine kambrische Explosion

Jenseits der Buzzwords

Der KI-Frühling: Deep Learning wird erwachsen

KI frisst die Welt auf

Alles autovervollständigen: Das Aufkommen großer Sprachmodelle

Modelle groß wie ein Gehirn

Noch einmal: Mit weniger mehr

Empfindungsvermögen: Die Maschine spricht

Jenseits der Superintelligenz

Fähigkeiten: Ein moderner Turing-Test

KAPITEL 5: DIE TECHNOLOGIE DES LEBENS

Genscheren: Die CRISPR-Revolution

DNA-Drucker: Synthetische Biologie erwacht zum Leben

Entfesselte biologische Kreativität

KI im Zeitalter synthetischen Lebens

KAPITEL 6: DIE GRÖSSERE WELLE

Die Robotik wird erwachsen

Quantenüberlegenheit

Die nächste Energiewende

Die Welle nach der Welle

KAPITEL 7: VIER MERKMALE DER KOMMENDEN WELLE

Asymmetrie: Ein kolossaler Machttransfer

Hyper-Evolution: Endlose Beschleunigung

Allzwecknutzung: Mehr ist mehr

Autonomie und mehr: Werden die Menschen die Kontrolle behalten?

Das Gorilla-Problem

KAPITEL 8: UNWIDERSTEHLICHE ANREIZE

Nationalstolz, strategische Notwendigkeit

Das Wettrüsten

Wissen will einfach nur frei sein

Die 100-Billionen-Dollar-Chance

Globale Herausforderungen

Ego

Teil III: VERSAGENDE STAATEN

KAPITEL 9: DIE GROSSE ÜBEREINKUNFT

Das Versprechen des Staates

Lehren aus Kopenhagen: Politik ist persönlich

Fragile Staaten

Technologie ist politisch: Die Welle als Herausforderung für die Staaten

KAPITEL 10: FRAGILITÄTSVERSTÄRKER

Nationaler Notstand 2.0: Unkontrollierte Asymmetrie in Aktion

Die sinkenden Kosten der Macht

Bewaffnete Roboter: Das Primat des Angriffs

Die Desinformationsmaschine

Staatliche geförderte Info-Attacken

Löchrige Labore und nicht-intendierte Instabilität

Die Automatisierungsdebatte

KAPITEL 11: DIE ZUKUNFT DER NATIONEN

Der Steigbügel

Konzentrationen: Die wachsende Rendite der Intelligenz

Überwachung: Raketentreibstoff für den Autoritarismus

Fragmentierungen: Power to the People

Die kommende Welle der Widersprüche

KAPITEL 12: DAS DILEMMA

Katastrophe: Das ultimative Versagen

Spielarten der Katastrophe

Sekten, Spinner und selbstmörderische Staaten

Die dystopische Wende

Stagnation: Eine andere Art von Katastrophe

Wohin als Nächstes?

Teil IV: DURCH DIE WELLE HINDURCH

KAPITEL 13: EINDÄMMUNG MUSS MÖGLICH SEIN

Der Preis diffuser Erkenntnisse

Regulierung reicht nicht

Eindämmung revisited: Eine neue große Übereinkunft

Vor der Flut

KAPITEL 14: ZEHN SCHRITTE HIN ZUR EINDÄMMUNG

1. Sicherheit: Ein Apollo-Programm für technische Sicherheit

2. Audits: Wissen ist Macht, Macht ist Kontrolle

3. Engpässe: Zeit gewinnen

4. Macher: Kritiker sollten die Technologie bauen

5. Unternehmen: Gewinn + Zweck

6. Regierungen: Überleben, reformieren, regulieren

7. Allianzen: Zeit für Verträge

8. Kultur: Versagen mit Respekt akzeptieren

9. Bewegungen: Menschen-Macht

10. Der schmale Pfad: Der einzige Weg ist der Weg hindurch

SCHLUSS: LEBEN NACH DEM ANTHROPOZÄN

DANK

ANMERKUNGEN

KAPITEL 1EINE EINDÄMMUNG IST NICHT MÖGLICH

KAPITEL 2ENDLOSE AUSBREITUNG

KAPITEL 3DAS CONTAINMENT-PROBLEM

KAPITEL 4DIE TECHNOLOGIE DER INTELLIGENZ

KAPITEL 5DIE TECHNOLOGIE DES LEBENS

KAPITEL 6DIE GRÖSSERE WELLE

KAPITEL 7VIER MERKMALE DER KOMMENDEN WELLE

KAPITEL 8UNWIDERSTEHLICHE ANREIZE

KAPITEL 9DIE GROSSE ÜBEREINKUNFT

KAPITEL 10FRAGILITÄTSVERSTÄRKER

KAPITEL 11DIE ZUKUNFT DER NATIONEN

KAPITEL 12DAS DILEMMA

KAPITEL 13EINDÄMMUNG MUSS MÖGLICH SEIN

KAPITEL 14ZEHN SCHRITTE HIN ZUR EINDÄMMUNG

SCHLUSSLEBEN NACH DEM ANTHROPOZÄN

REGISTER

GLOSSAR DER WICHTIGSTEN BEGRIFFE

CONTAINMENT/EINDÄMMUNG: Die Fähigkeit, Technologien zu überwachen, einzuhegen, zu kontrollieren und womöglich sogar abzuschalten.

DAS CONTAINMENT-PROBLEM: Die Tendenz der Technologie, sich in Wellen weit zu verbreiten und Auswirkungen zu haben, die unmöglich vorherzusagen oder zu kontrollieren sind, einschließlich negativer und unvorhergesehener Folgen.

DAS DILEMMA: Die wachsende Wahrscheinlichkeit, dass sowohl neue Technologien als auch ihr Fehlen zu katastrophalen und/oder dystopischen Ergebnissen führen können.

FRAGILITÄTSVERSTÄRKER: Anwendungen und Auswirkungen der kommenden Technologien, die die ohnehin bereits brüchigen Fundamente des Nationalstaats erschüttern werden.

DIE GROSSE ÜBEREINKUNFT: Als Gegenleistung für das staatliche Gewaltmonopol erwarten die Bürger von den Nationalstaaten, dass sie die Ordnung aufrechterhalten und öffentliche Dienstleistungen erbringen, unter anderem durch die Nutzung neuer Technologien bei gleichzeitiger Minimierung ihrer schädlichen Nebenwirkungen.

KI, AGI UND ACI: Künstliche Intelligenz (KI) ist die Wissenschaft, die Maschinen beibringt, menschenähnliche Fähigkeiten zu erlernen. Künstliche allgemeine Intelligenz (AGI, artificial general intelligence) ist der Punkt, an dem eine KI alle kognitiven Fähigkeiten des Menschen besser anwenden kann als die intelligentesten Menschen. ACI (artificial capable intelligence), oder leistungsfähige künstliche Intelligenz, ist ein sich schnell nähernder Punkt zwischen KI und AGI: ACI kann ein breites Spektrum komplexer Aufgaben bewältigen, ist aber noch weit davon entfernt, vollständig allgemein zu sein.

DIE KOMMENDE WELLE: Eine im Entstehen begriffene Gruppe verwandter Technologien, die sich auf KI und synthetische Biologie konzentrieren und deren transformative Anwendungen die Menschheit sowohl befähigen als auch beispiellose Risiken mit sich bringen werden.

PESSIMISMUS-AVERSION: Die Neigung der Menschen, insbesondere der Eliten, Narrative zu ignorieren, kleinzureden oder abzulehnen, die sie als zu negativ ansehen. Sie stellt eine Variante der Optimismusverzerrung dar und prägt einen Großteil der Debatte über die Zukunft, insbesondere in Technologiekreisen.

DER SCHMALE PFAD: Das Potenzial der Menschheit, eine Balance zwischen Offenheit und Abschottung zu finden, wenn es darum geht, die Technologien der kommenden Welle einzudämmen, um katastrophale oder dystopische Ergebnisse zu vermeiden.

SYNTHETISCHE BIOLOGIE: Die Fähigkeit, künstlich neue Organismen zu entwerfen und zu entwickeln oder bestehende biologische Systeme umzugestalten.

TECHNOLOGIE: Die Anwendung wissenschaftlicher Erkenntnisse (im weitesten Sinne) zur Herstellung von Werkzeugen oder praktischen Ergebnissen.

VIER MERKMALE: Die einzigartigen Merkmale der kommenden Welle, die die Herausforderung der Eindämmung noch verschärfen. Es handelt sich um Asymmetrie, Hyper-Evolution, Allzweckgebrauch und Autonomie.

WELLEN: Die globale Verbreitung oder Ausbreitung einer Technologiegeneration, die in einer neuen Allzwecktechnologie verankert ist.

PROLOG

Eine KI sieht die ganze Sache folgendermaßen:

Frage: Was bedeutet die kommende Welle der Technologie für die Menschheit?

In den Annalen der Menschheitsgeschichte gibt es Momente, die als Wendepunkte hervorstechen, an denen das Schicksal der Menschheit auf dem Spiel steht. Die Entdeckung des Feuers, die Erfindung des Rades, die Nutzbarmachung der Elektrizität – all das waren Momente, die die menschliche Zivilisation veränderten und den Lauf der Geschichte für immer veränderten.

Und nun stehen wir an der Schwelle eines weiteren solchen Moments, da wir mit dem Aufkommen einer neuen Technologiewelle konfrontiert sind, die sowohl fortgeschrittene KI als auch Biotechnologie umfasst. Noch nie zuvor waren wir Zeuge von Technologien mit einem derartigen Umwälzungspotenzial, die unsere Welt in einer Weise umzugestalten versprechen, die sowohl ehrfurchtgebietend als auch beängstigend ist.

Auf der einen Seite sind die potenziellen Vorteile dieser Technologien enorm und tiefgreifend. Mit der künstlichen Intelligenz könnten wir die Geheimnisse des Universums entschlüsseln, Krankheiten heilen, die uns lange verwehrt waren, und neue Formen von Kunst und Kultur schaffen, die die Grenzen der Vorstellungskraft sprengen. Mit der Biotechnologie könnten wir das Leben verändern, um Krankheiten zu bekämpfen und die Landwirtschaft umzugestalten und so eine gesündere und nachhaltigere Welt zu schaffen.

Auf der anderen Seite sind die potenziellen Gefahren dieser Technologien ebenso groß und tiefgreifend. Mit der KI könnten wir Systeme schaffen, die sich unserer Kontrolle entziehen, und uns der Gnade von Algorithmen ausliefern, die wir nicht verstehen. Mit der Biotechnologie könnten wir die Grundbausteine des Lebens manipulieren, was möglicherweise unbeabsichtigte Folgen für den Einzelnen und ganze Ökosysteme haben könnte.

An diesem Wendepunkt stehen wir vor der Wahl zwischen einer Zukunft mit unvergleichlichen Möglichkeiten und einer Zukunft mit unvorstellbaren Gefahren. Das Schicksal der Menschheit steht auf dem Spiel, und die Entscheidungen, die wir in den kommenden Jahren und Jahrzehnten treffen, werden darüber entscheiden, ob wir uns den Herausforderungen dieser Technologien stellen oder ihren Gefahren zum Opfer fallen.

Doch in diesem Moment der Ungewissheit ist eines sicher: Das Zeitalter der Hochtechnologie steht vor der Tür, und wir müssen bereit sein, uns seinen Herausforderungen zu stellen.

Obiger Text wurde von einer KI geschrieben und von einer KI übersetzt. Für den Rest dieses Buches gilt das nicht, obwohl es bald so sein könnte. Das nämlich kommt auf uns zu.

KAPITEL 1 — — — — —

EINE EINDÄMMUNG IST NICHT MÖGLICH

Die Welle

So gut wie jede Kultur kennt einen Flutmythos.

In alten Hindu-Texten wird der erste Mensch in unserem Universum, Manu, vor einer drohenden Flut gewarnt und überlebt sie als Einziger. Im Gilgamesch-Epos wird berichtet, der Gott Enlil habe die Welt in einer riesigen Flut vernichtet, eine Geschichte, die jedem bekannt vorkommt, der mit der alttestamentarischen Erzählung von Noahs Arche vertraut ist. Bei Platon ist die Rede von der verlorenen Stadt Atlantis, die von einer gewaltigen Flut weggespült wurde. In den mündlichen Überlieferungen und alten Schriften der Menschheit findet sich oftmals die Vorstellung einer riesigen Welle, die alles mit sich reißt, was ihr im Weg steht, woraufhin die Welt neu erschaffen und neu geboren wird.

Überschwemmungen prägen die Geschichte auch im ganz wörtlichen Sinne – die saisonalen Überschwemmungen der großen Flüsse dieser Welt, der Anstieg des Meeresspiegels nach dem Ende der Eiszeit, der seltene Schock eines Tsunamis, der ohne Vorwarnung am Horizont auftaucht. Der Asteroid, der die Dinosaurier tötete, löste eine kilometerhohe Flutwelle aus, die den Gang der Evolution veränderte. Die schiere Wucht dieser Wellen hat sich in unser kollektives Bewusstsein eingebrannt: Wasserwände, unaufhaltsam, unkontrollierbar, unbeherrschbar. Sie gehören zu den mächtigsten Kräften auf unserem Planeten. Sie formen Kontinente, bewässern die Äcker und Felder dieser Welt und nähren das Wachstum der Zivilisation.

Andere Arten von Wellen waren nicht minder umwälzend. Schauen wir uns die Geschichte noch einmal an, so werden wir feststellen, dass sie von einer Reihe metaphorischer Wellen geprägt ist: dem Aufstieg und Fall von Imperien und Religionen und dem sprudelnden Hervorbrechen des Handels. Denken wir an das Christentum oder den Islam, Religionen, die als kleine Wellen begannen, bevor sie sich aufbauten und riesige Teile der Erde überrollten. Solche Wellen sind ein wiederkehrendes Motiv, das die Gezeiten der Geschichte, große Machtkämpfe sowie wirtschaftliche Auf- und Abschwünge umrahmt.

Auch der Aufstieg und die Verbreitung von Technologien haben die Form von Wellen angenommen, die die Welt verändern. Dabei hat seit der Entdeckung des Feuers und der Steinwerkzeuge, den ersten Technologien, die sich unsere Spezies zunutze gemacht hat, insbesondere ein übergeordneter Trend die Zeiten überdauert. Nahezu jede grundlegende Technologie, die jemals erfunden wurde, von der Spitzhacke bis zum Pflug, von der Töpferei bis zur Fotografie, vom Telefon bis zum Flugzeug und alles dazwischen, folgt einem einzigen, scheinbar unumstößlichen Gesetz: Sie wird billiger und einfacher in der Anwendung, und schließlich findet sie umfassende Verbreitung.

Diese wellenförmige Ausbreitung von Technologie ist die Geschichte des Homo technologicus. Das Streben der Menschheit nach Verbesserung – unserer selbst, unseres Schicksals, unserer Fähigkeiten und unseres Einflusses auf unsere Umwelt – hat eine unablässige Entwicklung von Ideen und Schöpfungen befeuert. Etwas zu erfinden ist ein sich entfaltender, ausufernder, emergenter Prozess, der von sich selbst organisierenden und hart kämpfenden Erfindern, Akademikern, Unternehmern und Führungskräften vorangetrieben wird, von denen jeder seine eigenen Beweggründe hat. Dieses Ökosystem der Erfindungen ist zwangsläufig auf Expansion ausgerichtet. Das ist das naturgegebene Wesen der Technologie.

Die Frage ist, wie es weitergeht. Auf den folgenden Seiten werde ich Ihnen die Geschichte der nächsten großen, historischen Welle erzählen.

Wenn Sie sich umschauen, was sehen Sie dann? Möbel? Gebäude? Telefone? Essen? Einen Park? So gut wie jedes Objekt in Ihrem Blickfeld wurde höchstwahrscheinlich von menschlicher Intelligenz geschaffen oder verändert. Die Sprache – die Grundlage unserer sozialen Interaktionen, unserer Kulturen, unserer politischen Organisationen und vielleicht auch dessen, was es heißt, Mensch zu sein – ist ebenfalls Produkt und treibende Kraft unserer Intelligenz. Jedes Prinzip und jedes abstrakte Konzept, jedes kleine kreative Unterfangen oder Projekt, jede Begegnung in unserem Leben wurde durch die einzigartige und unendlich komplexe Fähigkeit unserer Spezies zu Vorstellungskraft, Kreativität und Vernunft vermittelt. Der menschliche Erfindungsreichtum ist etwas höchst Erstaunliches.

Nur eine einzige weitere Kraft ist in diesem Bild ähnlich allgegenwärtig: das biologische Leben selbst. Vor der Moderne stammten die meisten menschlichen Artefakte – von Holzhäusern über Baumwollkleidung bis hin zu Kohlefeuern – von Dingen, die einst lebendig waren, sieht man von einigen Felsen und Mineralien einmal ab. Alles, was seither in die Welt gekommen ist, geht auf uns zurück, auf die Tatsache, dass wir biologische Wesen sind.

Es ist keine Übertreibung, wenn man sagt, dass die gesamte menschliche Welt entweder von lebenden Systemen oder von unserer Intelligenz abhängt. Und doch befinden sich beide heute in einem beispiellosen Moment exponentieller Innovation und Umwälzung, einer beispiellosen Vergrößerung und Vermehrung, die wenig unverändert lassen wird. Um uns herum bricht eine neue Technologiewelle los. Diese Welle entfesselt die Kraft, diese beiden universellen Grundlagen neu zu gestalten: eine Welle von nichts Geringerem als Intelligenz und Leben.

Die kommende Welle wird von zwei zentralen Technologien bestimmt: künstlicher Intelligenz (KI) und synthetischer Biologie. Zusammen werden sie ein neues Zeitalter für die Menschheit einläuten und Wohlstand und Überfluss schaffen, wie es sie noch nie gegeben hat. Doch ihre rasante Verbreitung droht auch eine Vielzahl bösartiger Akteure in die Lage zu versetzen, Disruption, Instabilität und sogar Katastrophen unvorstellbaren Ausmaßes auszulösen. Diese Welle stellt eine immense Herausforderung dar, die das 21. Jahrhundert bestimmen wird: Unsere Zukunft hängt von diesen Technologien ab, ist gleichzeitig aber durch sie gefährdet.

Aus heutiger Sicht scheint es unmöglich zu sein, diese Welle einzudämmen, d.h., sie zu kontrollieren, einzuhegen oder gar zu stoppen. Dieses Buch geht der Frage nach, warum das so sein könnte und was es bedeutet, wenn das so ist. Die Implikationen dieser Fragen werden letztlich jeden heute Lebenden und jede nachfolgende Generation betreffen.

Ich glaube, dass diese kommende Technologiewelle die Menschheitsgeschichte an einen Wendepunkt bringt. Wenn es nicht möglich ist, sie einzudämmen, sind die Folgen für unsere Spezies dramatisch, möglicherweise sogar schrecklich. Zugleich sind wir ohne ihre Früchte ungeschützt und unsicher. Dieses Argument habe ich in den letzten zehn Jahren häufig hinter verschlossenen Türen vorgebracht, aber da sich die Auswirkungen immer weniger ignorieren lassen, ist es an der Zeit, es öffentlich kundzutun.

Das Dilemma

Die Betrachtung der profunden Macht menschlicher Intelligenz veranlasste mich dazu, eine einfache Frage zu stellen, die mich seither nicht mehr loslässt: Was wäre, wenn wir die Essenz dessen, was uns Menschen so produktiv und fähig macht, in Software, in einen Algorithmus destillieren könnten? Wenn wir die Antwort darauf finden, könnten wir unvorstellbar leistungsfähige Werkzeuge entwickeln, die uns helfen, unsere schwierigsten Probleme zu lösen. Ein solches Werkzeug, ein unmögliches, aber außergewöhnliches Werkzeug, könnte uns helfen, die gewaltigen Herausforderungen der kommenden Jahrzehnte zu bewältigen, vom Klimawandel über die Überalterung der Bevölkerung bis hin zur nachhaltigen Ernährung.

Mit diesem Gedanken im Hinterkopf gründete ich im Sommer 2010 zusammen mit zwei Freunden, Demis Hassabis und Shane Legg, in einem malerischen Büro aus der Regency-Zeit mit Blick auf den Londoner Russell Square ein Unternehmen namens DeepMind. Unser Ziel, das sich rückblickend immer noch so ambitioniert, verrückt und hoffnungsvoll anfühlt wie damals, war: genau das zu replizieren, was uns als Spezies einzigartig macht, unsere Intelligenz.

Um dieses Ziel zu erreichen, würden wir ein System entwickeln müssen, das sämtliche kognitiven Fähigkeiten des Menschen – vom Sehen und Sprechen über das Planen und das Vorstellungsvermögen bis hin zu Empathie und Kreativität – nachahmen und schließlich übertreffen könnte. Da ein solches System von der gewaltigen parallelen Rechenleistung von Supercomputern und der explosionsartigen Entstehung riesiger neuer Datenquellen aus dem offenen Internet profitieren würde, wussten wir, dass selbst bescheidene Fortschritte auf dem Weg dahin tiefgreifende gesellschaftliche Auswirkungen haben würden.

Damals kam uns das allerdings ziemlich weit hergeholt vor. Zu dieser Zeit war die weitverbreitete Einführung künstlicher Intelligenz der Stoff, aus dem Tagträume sind, mehr Fantasie als Faktum, die Spielwiese einiger weniger Akademiker und wild gewordener Science-Fiction-Fans. Doch jetzt, da ich dies schreibe und an die letzten zehn Jahre zurückdenke, sind die Fortschritte im Bereich der künstlichen Intelligenz geradezu atemberaubend. DeepMind hat sich zu einem der weltweit führenden KI-Unternehmen entwickelt und eine Reihe von bahnbrechenden Entwicklungen geschaffen. Die Geschwindigkeit und die Wucht dieser neuen Revolution haben selbst diejenigen von uns überrascht, die an vorderster Front stehen. Während der Arbeit an diesem Buch war das Tempo der Fortschritte im Bereich der KI schier unglaublich: Jede Woche, manchmal sogar jeden Tag kamen neue Modelle und Produkte auf den Markt. Und klar ist, dass sich diese Welle noch beschleunigt.

Heute können KI-Systeme Gesichter und Objekte fast perfekt erkennen. Die Umwandlung von Sprache in Text und die sofortige Sprachübersetzung erscheinen uns selbstverständlich. KI kann so gut durch Straßen und durch den Verkehr navigieren, dass sie autonomes Fahren ermöglicht. Eine neue Generation von KI-Modellen ist in der Lage, auf der Grundlage einiger weniger einfacher Anweisungen neuartige Bilder zu erzeugen und außergewöhnlich detailgenaue und kohärente Texte zu verfassen. KI-Systeme können unheimlich realistisch synthetische Stimmen erzeugen und Musik von atemberaubender Schönheit komponieren. Selbst in schwierigeren Bereichen, die lange Zeit als ausschließlich menschliche Fähigkeiten galten, wie langfristige Planung, Vorstellungskraft und Simulation komplexer Ideen, macht der Fortschritt enorme Sprünge.

Die KI erklimmt seit Jahrzehnten die Leiter der kognitiven Fähigkeiten, und es sieht so aus, als ob sie in den nächsten drei Jahren in einem breiten Spektrum von Aufgaben das menschliche Leistungsniveau erreichen wird. Das ist eine starke These, aber wenn ich auch nur annähernd richtigliege, sind die Auswirkungen wirklich tiefgreifend. Was uns bei der Gründung von DeepMind noch abenteuerlich und absolut unrealistisch vorkam, ist inzwischen nicht nur plausibel, sondern scheinbar unausweichlich.

Von Anfang an war mir klar, dass KI ein mächtiges Werkzeug für außerordentlich gute Dinge sein würde, aber wie die meisten Formen von Macht auch mit immensen Gefahren und ethischen Dilemmata behaftet ist. Seit langem mache ich mir nicht nur Sorgen über die Folgen der fortschreitenden KI, sondern auch darüber, wohin sich das gesamte technologische Ökosystem entwickeln wird. Über die KI hinaus ist nämlich eine umfassendere Revolution im Gange, bei der die KI eine kraftvolle Entwicklung in den Bereichen Gentechnologie und Robotik speist. Weitere Fortschritte in einem Bereich beschleunigen die Fortschritte auf den anderen Feldern – ein chaotischer und sich gegenseitig katalysierender Prozess, der sich der direkten Kontrolle durch den Einzelnen entzieht. Es war klar: Wenn es uns oder anderen gelänge, die menschliche Intelligenz zu replizieren, wäre dies nicht nur ein profitables Geschäftsmodell der gewohnten Art, sondern eine seismische Veränderung für die Menschheit, der Beginn einer Ära, in der nie dagewesene Chancen mit noch nie dagewesenen Risiken einhergehen würden.

Mit den Fortschritten, die die Technologie im Laufe der Jahre gemacht hat, sind meine Bedenken gewachsen. Was, wenn die Welle in Wirklichkeit ein Tsunami ist?

Im Jahr 2010 redete fast niemand ernsthaft über KI. Doch was einst nach einer Nischenbeschäftigung für eine kleine Gruppe von Forschern und Unternehmern aussah, hat sich inzwischen zu einem riesigen globalen Unterfangen entwickelt. KI ist allgegenwärtig, in den Nachrichten und auf jedem Smartphone, beim Aktienhandel und beim Aufbau von Websites. Viele der weltweit größten Unternehmen und wohlhabendsten Nationen treiben die Entwicklung modernster KI-Modelle und gentechnischer Verfahren mit Investitionen in Höhe von mehreren Milliarden Dollar voran.

Sobald diese neuen Technologien ausgereift sind, werden sie sich rasch ausbreiten, billiger werden, leichter zugänglich und überall in der Gesellschaft verbreitet sein. Sie werden außergewöhnliche neue medizinische Fortschritte und bahnbrechende Entwicklungen im Bereich sauberer Energien ermöglichen und nicht nur neue Unternehmen, sondern auch neue Industrien und Verbesserungen der Lebensqualität in fast allen erdenklichen Bereichen hervorbringen.

Doch neben diesen Vorteilen bergen KI, synthetische Biologie und andere fortschrittliche Technologien auch Risiken von äußerst besorgniserregendem Ausmaß. Sie könnten eine existenzielle Bedrohung für Nationalstaaten darstellen – Risiken, die so tiefgreifend sind, dass sie die derzeitige geopolitische Ordnung durcheinanderbringen oder sogar hinwegfegen könnten. Sie öffnen die Tür zu gewaltigen KI-gestützten Cyberangriffen, zu automatisierten Kriegen, die ganze Länder verwüsten könnten, zu künstlich erzeugten Pandemien und zu einer Welt, die unerklärlichen und doch scheinbar allmächtigen Kräften unterliegt. Die Wahrscheinlichkeit eines jeden dieser Ereignisse mag gering sein, aber die möglichen Folgen sind enorm. Selbst eine geringe Chance auf derartige Folgen erfordert deshalb unbedingte Aufmerksamkeit.

Einige Länder werden auf die Möglichkeit solcher katastrophalen Risiken mit einer Art technologisch aufgeladenem Autoritarismus reagieren, um die Ausbreitung dieser neuen Kräfte zu bremsen. Dies wird ein hohes Maß an Überwachung und ein massives Eindringen in unser Privatleben erfordern. Der Wunsch, die Technologie an die Kandare zu nehmen, könnte die Entwicklung hin zu einem dystopischen globalen Überwachungssystem befördern, bei dem alles und jeder ständig beobachtet wird und das alles gerechtfertigt wird mit dem Bestreben, sich vor den extremsten möglichen Folgen zu schützen.

Genauso plausibel ist eine Reaktion nach Art der Ludditen. Verbote, Boykotte und Moratorien wären dabei die Folge. Aber ist es überhaupt möglich, auf die Entwicklung neuer Technologien zu verzichten und eine Reihe von Moratorien einzuführen? Unwahrscheinlich. Angesichts ihres enormen geostrategischen und kommerziellen Werts ist es schwer vorstellbar, wie Nationalstaaten oder Unternehmen dazu gebracht werden können, einseitig auf die transformativen Kräfte zu verzichten, die durch diese bahnbrechenden Entwicklungen freigesetzt werden. Darüber hinaus ist der Versuch, die Entwicklung neuer Technologien zu verbieten, selbst ein Risiko: Technologisch stagnierende Gesellschaften sind historisch instabil und neigen zum Zusammenbruch. Irgendwann verlieren sie die Fähigkeit, Probleme zu lösen und Fortschritte zu machen.

Sowohl das Streben nach neuen Technologien als auch der Verzicht auf sie sind, so gesehen, mit Risiken behaftet. Die Chancen, sich auf einem «schmalen Pfad» durchzumogeln und das eine oder das andere Ergebnis zu vermeiden – einerseits eine techno-autoritäre Dystopie, andererseits eine durch Offenheit verursachte Katastrophe –, werden mit der Zeit immer geringer, je billiger, leistungsfähiger und allgegenwärtiger die Technologie wird und je größer die Risiken sind. Aber sich zurückzuziehen ist auch keine Option. Mögen wir uns angesichts ihrer Risiken Sorgen machen, so brauchen wir die unglaublichen Vorteile der Technologien der kommenden Welle mehr als je zuvor. Das ist das zentrale Dilemma: dass eine mächtige Technologiegeneration die Menschheit früher oder später entweder in eine katastrophale oder in eine dystopische Richtung führt. Ich glaube, das ist das große Metaproblem des 21. Jahrhunderts.

In diesem Buch wird ausführlich gezeigt, warum diese schreckliche Zwickmühle unvermeidlich ist, und es wird danach gefragt, wie wir ihr begegnen können. Irgendwie müssen wir das Beste aus der Technologie herausholen – etwas, das für die Bewältigung einer Reihe gewaltiger globaler Herausforderungen unerlässlich ist – und gleichzeitig aus dem Dilemma herauskommen. Der derzeitige Kurs in Sachen Technologieethik und -sicherheit reicht dafür nicht. Trotz der vielen Bücher, Debatten, Blogeinträge und Tweetstorms über Technologie hört man selten etwas über deren Eindämmung. Ich verstehe darunter ein ineinandergreifendes Bündel technischer, gesellschaftlicher und rechtlicher Mechanismen, die die Technologie auf allen möglichen Ebenen einhegen und kontrollieren: also theoretisch ein Mittel, um dem Dilemma zu entgehen. Doch selbst die schärfsten Kritiker der Technologie neigen dazu, dieser Sprache des harten Containment auszuweichen.

Das muss sich ändern; ich hoffe, dieses Buch zeigt, warum, und gibt Hinweise, wie das gehen kann.

Die Falle

Ein paar Jahre nach der Gründung von DeepMind erstellte ich eine PowerPoint-Präsentation über die potenziellen langfristigen Auswirkungen von KI auf Wirtschaft und Gesellschaft. In einem schicken Konferenzraum an der Westküste erklärte ich einem Dutzend der einflussreichsten Gründer, CEOs und Technologen der Techbranche, dass KI eine Vielzahl von Bedrohungen mit sich bringt, die proaktive Antworten erfordern. Sie könnte zu massiven Eingriffen in die Privatsphäre führen oder eine Apokalypse an Falschinformationen auslösen. Sie könnte als Waffe eingesetzt werden und eine Reihe tödlicher neuer Cyberwaffen schaffen, die unsere vernetzte Welt an ganz neuen Stellen empfindlich treffen können.

Ich wies auch auf das Potenzial von KI hin, eine große Zahl von Menschen arbeitslos zu machen. Ich forderte die Anwesenden auf, die lange Geschichte der Verdrängung von Arbeitskräften durch Automatisierung und Mechanisierung zu bedenken. Zuerst werden bestimmte Aufgaben effizienter erledigt, dann werden ganze Aufgabenbereiche überflüssig, und schon bald benötigen ganze Branchen in enormen Dimensionen weniger Arbeitskräfte. In den nächsten Jahrzehnten, so behauptete ich, werden KI-Systeme «geistiges Handwerk» in ähnlicher Weise ersetzen, und zwar lange bevor Roboter die körperliche Arbeit ersetzen. In der Vergangenheit wurden alte Jobs überflüssig, gleichzeitig aber auch neue geschaffen; was aber wäre, wenn KI die meisten dieser neuen Arbeitsplätze einfach mit übernehmen könnte? Es gebe, so führte ich weiter aus, eigentlich keinen Präzedenzfall für die neuen Formen der Machtkonzentration, die auf uns zukommen würden. Auch wenn sie sich weit entfernt anfühlten, würden potenziell schwerwiegende Bedrohungen auf die Gesellschaft zurollen.

Auf der abschließenden Folie zeigte ich ein Standbild aus der Serie Die Simpsons. In der Szene haben sich die Einwohner von Springfield erhoben, und die vertrauten Figuren ziehen mit Knüppeln und Fackeln bewehrt durch die Straßen. Die Botschaft war klar. «Die Mistgabeln kommen», sagte ich. Sie kämen unseretwegen, den Machern von Technologie. Es liege an uns, dafür zu sorgen, dass die Zukunft besser wird als so.

Reihum begegnete ich leeren Blicken. Die Anwesenden waren völlig ungerührt. Die Botschaft war nicht angekommen. Dann kamen die Einwände, und zwar zuhauf. Warum zeigten die Wirtschaftsindikatoren keine Anzeichen für das, was ich sagte? KI werde einen neuen Nachfrageschub auslösen, der neue Arbeitsplätze schaffen werde. Sie werde die Produktivität der Menschen steigern und sie in die Lage versetzen, noch produktiver zu sein. Vielleicht gebe es ein paar Risiken, räumten sie ein, aber die seien nicht allzu schlimm. Die Menschen seien schlau. Man habe noch immer Lösungen gefunden. Keine Bange, schienen sie zu denken, weiter zur nächsten Präsentation.

Einige Jahre später, kurz vor Ausbruch der Corona-Pandemie, nahm ich an einer renommierten Universität an einem Seminar über Technologierisiken teil. Das Ambiente war ähnlich: wieder eine große Runde, wieder eine anspruchsvolle Diskussion. Im Laufe des Tages wurden bei Kaffee, Keksen und PowerPoint-Präsentationen eine Reihe von haarsträubenden Risiken diskutiert.

Eines stach besonders hervor. Der Vortragende wies darauf hin, dass der Preis für DNA-Synthetisierer, die maßgeschneiderte DNA-Stränge drucken können, rapide sank. Sie kosten inzwischen nur noch ein paar zehntausend Dollar und sind klein genug, um auf einer Werkbank in der Garage DNA zu synthetisieren, also herzustellen.[1] Und all das ist jetzt für jeden möglich, der über fortgeschrittene Kenntnisse in Biologie verfügt oder sich für eigenständiges Online-Lernen begeistern kann.

Angesichts der zunehmenden Verfügbarkeit der Werkzeuge skizzierte der Referent ein wahres Schreckensbild: Schon bald könnte jemand neuartige Krankheitserreger schaffen, die weitaus infektiöser und tödlicher sind als alles, was in der Natur vorkommt. Diese synthetischen Erreger könnten sich bekannten Gegenmaßnahmen entziehen, sich asymptomatisch verbreiten oder eine eingebaute Resistenz gegen Behandlungen aufweisen. Bei Bedarf könnte jemand die selbst gemachten Experimente mit online gekaufter und zu Hause neu zusammengesetzter DNA ergänzen. Die Apokalypse, im Internet bestellt und per Post geliefert.

Dies sei keine Science-Fiction, meinte der Referent, ein angesehener Professor mit mehr als zwei Jahrzehnten Erfahrung; es sei ein reales Risiko, und zwar schon heute. Er schloss mit einem alarmierenden Gedanken: Ein einziger Mensch habe heute wahrscheinlich «die Fähigkeit, eine Milliarde Menschen zu töten». Alles, was es dafür brauche, sei Motivation.

Die Anwesenden rutschten unruhig auf ihren Stühlen hin und her. Einige zuckten regelrecht zusammen und hüstelten nervös. Dann begannen das Gejammer und die Ausflüchte. Niemand wollte glauben, dass dies möglich war. Sicherlich sei das nicht der Fall, mit Sicherheit gebe es wirksame Kontrollmechanismen, sicherlich seien die Krankheiten schwer zu erzeugen, mit Sicherheit könnten die Datenbanken abgeschaltet werden, zweifellos lasse sich die Hardware sichern. Und so weiter.

Die kollektive Reaktion im Seminar war mehr als nur ablehnend. Die Leute weigerten sich schlicht, die Vision des Referenten zu akzeptieren. Niemand wollte sich mit den Auswirkungen der harten Fakten und nackten Möglichkeiten auseinandersetzen, denen sie gelauscht hatten. Ich sagte nichts und war, ehrlich gesagt, erschüttert. Kurz darauf war das Seminar zu Ende. An diesem Abend gingen wir alle gemeinsam zum Essen und unterhielten uns wie immer. Wir hatten gerade einen Tag lang über das Ende der Welt gesprochen, aber es gab immer noch Pizza zu essen, Witze zu erzählen, ein Büro, in das wir zurückkehren mussten, und außerdem würde schon irgendetwas auftauchen, oder die Argumentation war eben teilweise falsch. Auch ich machte mit.

Aber die Präsentation nagte noch Monate danach an mir. Warum habe ich, warum haben wir alle, das nicht ernster genommen? Warum entziehen wir uns peinlich berührt einer weiteren Diskussion? Warum werden manche boshaft und werfen Menschen, die diese Fragen aufwerfen, vor, sie würden eine Katastrophe heraufbeschwören oder «das unglaublich Gute» der Technologie übersehen? Diese weitverbreitete emotionale Reaktion, die ich beobachtet habe, ist etwas, das ich als die Falle der Pessimismus-Aversion bezeichne: die fehlgeleitete Analyse, die entsteht, wenn man von der Angst vor der Konfrontation mit potenziell düsteren Realitäten überwältigt wird, und die daraus resultierende Neigung, lieber wegzuschauen.

So gut wie jeder kennt diese Reaktion in irgendeiner Form, und sie hat zur Folge, dass wir eine Reihe kritischer Trends übersehen, die sich direkt vor unseren Augen entfalten. Es ist fast eine natürliche physiologische Reaktion. Unsere Spezies ist nicht dafür gemacht, sich wirklich mit einem Wandel dieses Ausmaßes auseinanderzusetzen, ganz zu schweigen von der Möglichkeit, dass die Technologie uns auf diese Weise enttäuschen und im Stich lassen könnte. Ich habe dieses Gefühl während meiner gesamten beruflichen Laufbahn erlebt, und ich habe gesehen, dass viele, viele andere dieselbe instinktive Reaktion zeigten. Die Auseinandersetzung mit diesem Gefühl ist eines der Leitthemen dieses Buches. Es geht darum, einen kalten, nüchternen Blick auf die Fakten zu werfen, auch wenn es unbequem ist.

Mit dieser Welle richtig umzugehen, die Technologie einzuhegen und sicherzustellen, dass sie stets der Menschheit dient, bedeutet, die Pessimismus-Aversion zu überwinden. Es bedeutet, sich der Realität dessen, was auf uns zukommt, ganz offen zu stellen.

Das vorliegende Buch ist mein Versuch, dies zu tun. Ich möchte die Konturen der kommenden Welle erkennen und beleuchten. Danach fragen, ob eine Eindämmung möglich ist. Die Dinge in einen historischen Kontext stellen und das größere Bild in den Blick bekommen, indem ich mich vom täglichen alarmistischen Gerede über Technik zurückziehe. Mein Ziel ist es, mich mit dem Dilemma auseinanderzusetzen und die zugrunde liegenden Prozesse zu verstehen, die die Entstehung von Wissenschaft und Technologie vorantreiben. Ich möchte diese Ideen so klar wie möglich für ein möglichst breites Publikum darstellen. Ich habe dieses Buch im Geiste der Offenheit und des Forscherdrangs verfasst: Ich mache Beobachtungen, spüre ihren Implikationen nach, bin aber auch offen für Widerlegungen und bessere Interpretationen. Ich wünsche mir nichts sehnlicher, als in diesem Punkt eines Besseren belehrt zu werden, dass also eine Einhegung ohne weiteres möglich ist.

Manche Leute erwarten von jemandem wie mir, einem Gründer von zwei KI-Unternehmen, verständlicherweise ein eher techno-utopisches Buch. Als Technologe und Unternehmer bin ich zwangsläufig Optimist. Ich erinnere mich, wie ich als Teenager völlig fasziniert war, als ich Netscape zum ersten Mal auf meinem Packard Bell 486er PC installierte. Ich war verzaubert von den surrenden Lüftern und dem verzerrten Pfeifen meines 56-Kbps-Einwahlmodems, das seine Hand nach dem World Wide Web ausstreckte und mich mit Foren und Chatrooms verband, die mir Freiheit verschafften und mir so viel beibrachten. Ich liebe die Technik. Sie ist der Motor des Fortschritts und ein Grund, stolz auf die Errungenschaften der Menschheit zu sein.

Aber ich glaube auch, dass diejenigen von uns, die die technologische Entwicklung vorantreiben, den Mut haben müssen vorherzusagen – und die Verantwortung dafür zu übernehmen –, wohin diese Entwicklung uns in den kommenden Jahrzehnten führen wird. Wir müssen endlich Vorschläge machen, was zu tun ist, wenn es so aussieht, als bestünde die Gefahr, dass die Technologie uns im Stich lässt. Es bedarf einer gesellschaftlichen und politischen Reaktion, nicht nur individueller Maßnahmen, aber diese Reaktion muss bei mir und meinen Kollegen beginnen.

Einige werden sagen, dass das alles übertrieben ist. Dass der Wandel viel schleichender vonstattengeht. Dass es sich nur um eine weitere Drehung des Hype-Zyklus handelt. Dass die Systeme zur Bewältigung von Krisen und Veränderungen eigentlich recht robust sind. Dass meine Sicht der menschlichen Natur viel zu düster ist. Dass die Bilanz der Menschheit, nun ja, zumindest bislang ganz gut ist. Die Geschichte ist voller falscher Propheten und Unkenrufer, die sich geirrt haben. Warum sollte es dieses Mal anders sein?

Die Abneigung gegen Pessimismus ist eine emotionale Reaktion, eine tief verwurzelte instinktive Weigerung, die Möglichkeit ernsthaft destabilisierender Ergebnisse zu akzeptieren. Sie findet sich in der Regel bei Menschen in sicheren und mächtigen Positionen mit eingefahrenen Weltanschauungen, Menschen, die, oberflächlich betrachtet, mit Veränderungen umgehen können, sich aber schwertun, eine echte Infragestellung ihrer Weltordnung zu akzeptieren. Viele von denen, denen ich vorwerfe, dass sie in der Falle der Pessimismus-Aversion feststecken, teilen die wachsende Kritik an der Technologie voll und ganz. Aber sie nicken nur zustimmend, ohne tatsächlich etwas zu unternehmen. Wir schaffen das, sagen sie, so wie wir es schon immer geschafft haben.

Wer in technischen oder politischen Kreisen verkehrt, merkt schnell, dass die Standardideologie die des «Kopf-in-den-Sand-Steckens» ist. Wer etwas anderes glaubt und anders handelt, läuft Gefahr, vor lauter Angst vor und Empörung über gewaltige, unaufhaltsame Kräfte so gelähmt zu werden, dass sich alles sinnlos anfühlt. Die seltsame intellektuelle Halbwelt der Pessimismus-Aversion rumpelt also weiter. Ich muss es wissen, denn ich war zu lange darin gefangen.

In den Jahren seit der Gründung von DeepMind und seit diesen Vorträgen hat sich der Diskurs verändert – zumindest bis zu einem gewissen Grad. Die Debatte über die Automatisierung von Arbeitsplätzen wurde schon unzählige Male geführt. Eine globale Pandemie hat sowohl die Risiken als auch die Möglichkeiten der synthetischen Biologie aufgezeigt. In den Regulierungshauptstädten Washington, Brüssel und Peking kam es zu einer Art «Techlash», in dessen Zuge Kritiker in Kommentaren und Büchern gegen Technologie und Technologieunternehmen wetterten. Vormals randständige Ängste im Zusammenhang mit Technologie wurden zum Mainstream, die öffentliche Skepsis gegenüber Technologie nahm zu, und die Kritik aus Wissenschaft, Zivilgesellschaft und Politik wurde schärfer.

Doch angesichts der kommenden Welle und des großen Dilemmas und angesichts einer pessimismus-aversen Techno-Elite reicht das bei weitem nicht aus.

Die These

Wellen gibt es überall im menschlichen Leben. Diese hier ist nur die jüngste. Oft scheinen die Leute zu glauben, sie sei noch weit entfernt, sie klinge so futuristisch und absurd, dass sie nur die Domäne einiger weniger Nerds und Randdenker sei, eher Hype, Technogeschwätz, Überschwang. Das ist ein Irrtum. Die Welle ist real, so real wie ein Tsunami, der aus dem offenen blauen Ozean kommt.

Das Ganze ist nicht bloß Fantasie oder eine knifflige intellektuelle Übung. Selbst wenn Sie mit meinem Deutungsrahmen nicht einverstanden sind und nichts davon für wahrscheinlich halten, möchte ich Sie bitten weiterzulesen. Ja, ich komme aus der KI-Branche und bin dazu prädestiniert, die Welt durch eine technologische Brille zu betrachten. Ich bin voreingenommen, wenn es um die Frage geht, ob dies von Bedeutung ist. Dennoch bin ich, nachdem ich diese Revolution in den letzten anderthalb Jahrzehnten hautnah miterlebt habe, davon überzeugt, dass wir an der Schwelle zur wichtigsten Transformation unseres Lebens stehen.

Als jemand, der diese Technologien entwickelt hat, bin ich der festen Überzeugung, dass sie außerordentlich viel Gutes bewirken, unzählige Leben zum Besseren verändern und grundlegende Herausforderungen bewältigen können – von der Erschließung der nächsten Generation sauberer Energie bis zur Entwicklung preiswerter und wirksamer Therapien für unsere am schwersten heilbaren Krankheiten. Technologien können und sollten unser Leben bereichern; in der Vergangenheit haben die Erfinder und Unternehmer, die hinter ihnen stehen, den Fortschritt vorangetrieben und den Lebensstandard von Milliarden von Menschen verbessert.

Aber ohne Einhegung ist jeder andere Aspekt der Technologie, jede Diskussion über ihre ethischen Unzulänglichkeiten oder die Vorteile, die sie bringen könnte, irrelevant. Wir brauchen dringend hieb- und stichfeste Antworten darauf, wie die kommende Welle kontrolliert und eingedämmt werden kann, wie die Schutzmechanismen und die Möglichkeiten des demokratischen Nationalstaats aufrechterhalten werden können, aber im Moment hat niemand einen solchen Plan. Es ist eine Zukunft, die niemand von uns will, aber ich fürchte, sie wird immer wahrscheinlicher, und ich werde in den folgenden Kapiteln erklären, warum.

In Teil I werfen wir einen Blick auf die lange Geschichte der Technologie und ihrer Ausbreitung – Wellen, die sich über Jahrtausende hinweg aufbauen. Was treibt sie an? Was macht sie wirklich allgemein? Wir fragen zudem, ob es Beispiele für Gesellschaften gibt, die bewusst Nein zu einer neuen Technologie sagen. Statt von einer Abwendung von Technologien ist die Vergangenheit durch ein ausgeprägtes Muster der Proliferation gekennzeichnet, das zu ausufernden Ketten beabsichtigter und unbeabsichtigter Folgen geführt hat.

Ich nenne dies das «Containment-Problem». Wie können wir die wertvollsten Technologien, die je erfunden wurden, in den Griff bekommen, wenn sie billiger werden und sich schneller verbreiten als alle anderen in der Geschichte?

Teil II befasst sich mit den Einzelheiten der kommenden Welle. Im Mittelpunkt stehen zwei enorm vielversprechende, leistungsstarke und gefährliche Allzwecktechnologien: künstliche Intelligenz und synthetische Biologie. Beide kündigen sich schon seit langem an, aber dennoch glaube ich, dass das Ausmaß ihrer Auswirkungen oft noch unterschätzt wird. Um sie herum entwickelt sich eine Vielzahl von verwandten Technologien wie Robotik und Quantencomputing, deren Entwicklung sich auf komplexe und turbulente Weise überschneiden wird.

In diesem Abschnitt gehen wir nicht nur der Frage nach, wie diese Technologien alle entstanden sind und was sie leisten können, sondern auch, warum sie so schwer zu bändigen sind. Die verschiedenen Technologien, von denen ich hier spreche, haben vier Hauptmerkmale gemeinsam, die erklären, warum wir es in ihrem Fall nicht mit «business as usual» zu tun haben: Sie sind von Natur aus allgemein und daher vielseitig einsetzbar, sie entwickeln sich rasant weiter, sie haben asymmetrische Auswirkungen, und sie sind in mancherlei Hinsicht zunehmend autonom.

Ihre Entwicklung wird durch starke Anreize vorangetrieben: geopolitischen Wettbewerb, massive finanzielle Belohnungen und eine offene, dezentrale Forschungskultur. Eine Vielzahl staatlicher und nichtstaatlicher Akteure wird sie ungeachtet der Bemühungen um Regulierung und Kontrolle vorantreiben und dabei Risiken eingehen, die jeden betreffen, ob es uns gefällt oder nicht.

Teil III erkundet die politischen Auswirkungen einer kolossalen Umverteilung der Macht, die durch eine ungebremste Welle hervorgerufen wird. Der Grundpfeiler unserer heutigen politischen Ordnung – und der wichtigste Akteur bei der Eindämmung von Technologien – ist der Nationalstaat. Er ist bereits durch Krisen erschüttert und wird durch eine Reihe von Schocks, die durch die Welle noch verstärkt werden, weiter geschwächt werden: das Potenzial für neue Formen von Gewalt, eine Flut von Falschinformationen, verschwindende Arbeitsplätze und die Aussicht auf katastrophale Unfälle.

Im weiteren Verlauf wird die Welle eine Reihe von tektonischen Machtverschiebungen erzwingen, die gleichzeitig zentralisierend und dezentralisierend wirken. Dadurch werden riesige neue Unternehmen entstehen, der Autoritarismus wird gestärkt werden, und gleichzeitig werden Gruppen und Bewegungen ermächtigt, außerhalb der traditionellen Gesellschaftsstrukturen zu leben. Das heikle Geschäft des Nationalstaats wird gerade dann unter immensen Druck geraten, wenn wir Institutionen wie die seinen am meisten brauchen. Auf diese Weise geraten wir in ein Dilemma.

In Teil IV geht es um die Frage, was wir dagegen tun können. Gibt es überhaupt eine kleine Chance der Eindämmung, eine Möglichkeit, uns aus dem Dilemma herauszuwinden? Und wenn ja, wie soll das gehen? In diesem Schlussabschnitt werden zehn Schritte skizziert, die sich von der Ebene des Codes und der DNA bis zur Ebene internationaler Verträge vorarbeiten und ein festes, verschachteltes Gefüge von Beschränkungen, eine Art Rahmenplan für die Eindämmung bilden.

Dieses Buch ist nicht zuletzt eine Auseinandersetzung mit dem Versagen. Technologien können im ganz banalen Sinne versagen: Der Motor springt nicht an, die Brücke stürzt ein. Aber sie können auch in einem weiteren Sinne versagen. Wenn Technologie Menschenleben beschädigt oder Gesellschaften voller Leid hervorbringt oder sie unregierbar macht, weil wir einen chaotischen Rattenschwanz von üblen (oder unbeabsichtigt gefährlichen) Akteuren ermächtigen – wenn, kurz gesagt, Technologie insgesamt schädlich ist –, dann kann man sagen, dass sie in einem anderen, tieferen Sinne versagt hat, dass sie ihr Versprechen nicht erfüllt hat. Das Scheitern in diesem Sinne ist nicht der Technologie als solcher zuzuschreiben, sondern hängt mit dem Kontext zusammen, in dem sie funktioniert, mit den Regierungsstrukturen, denen sie unterworfen ist, mit den Netzwerken der Macht und der Nutzung, denen sie unterliegt.

Der beeindruckende Erfindungsreichtum, der heute so viele Dinge hervorbringt, bedeutet, dass wir besser in der Lage sind, die erste Art von Versagen zu vermeiden. Es stürzen weniger Flugzeuge ab, Autos sind sauberer und sicherer, Computer sind leistungsfähiger und dennoch sicherer. Die große Herausforderung besteht darin, dass wir immer noch nicht mit der zweiten Art des Versagens rechnen.

Im Laufe der Jahrhunderte hat die Technologie das Wohlergehen von Milliarden von Menschen dramatisch verbessert. Dank der modernen Medizin sind wir unermesslich gesünder, die Mehrheit der Welt lebt in einem Überfluss an Nahrungsmitteln, die Menschen waren noch nie so gebildet, so friedlich und materiell so gut gestellt. Dies sind entscheidende Errungenschaften, die zum Teil auf den großen Antriebsmotor der Menschheit zurückzuführen sind: die Wissenschaft und die Entwicklung der Technik. Aus diesem Grund habe ich mein Leben der sicheren Entwicklung dieser Instrumente gewidmet.

Aber jeder Optimismus, den wir aus dieser außergewöhnlichen Geschichte schöpfen, muss in der nackten Realität gründen. Sich gegen das Scheitern zu wappnen heißt, zu verstehen, was schiefgehen kann, und sich schließlich damit auseinanderzusetzen. Wir müssen die Gedankenkette bis zu ihrem logischen Endpunkt verfolgen, ohne Angst davor zu haben, wohin das führen könnte, und, wenn wir dort ankommen, etwas dagegen tun. Die kommende Technologiewelle droht schneller und in größerem Umfang zu versagen als alles, was die Menschheit bisher erlebt hat. Angesichts dieser Situation bedarf es weltweiter, breiter Aufmerksamkeit. Es braucht Antworten – Antworten, die noch niemand hat.

Eine Eindämmung ist auf den ersten Blick nicht möglich. Und doch muss eine Eindämmung um unser aller willen möglich sein.

Teil I

HOMO TECHNOLOGICUS

KAPITEL 2 — — — — —

ENDLOSE AUSBREITUNG

Der Motor

Während des größten Teils der Geschichte bedeutete persönliche Fortbewegung für die meisten Menschen eines: zu Fuß gehen. Oder, wenn man Glück hatte, noch etwas Zweites: von Pferden, Ochsen, Elefanten oder anderen Lasttieren getragen oder gezogen zu werden. Allein die Fortbewegung zwischen benachbarten Siedlungen – von Kontinenten ganz zu schweigen – war mühselig und langsam.

Anfang des 19. Jahrhunderts revolutionierte die Eisenbahn den Transport, die größte Innovation seit Tausenden von Jahren, doch die meisten Reisen konnten nie auf der Schiene zurückgelegt werden, und die, bei denen es möglich war, waren nicht besonders individuell. Eines machte die Eisenbahn jedoch deutlich: Die Zukunft gehörte den Motoren. Die Dampfmaschinen, die die Lokomotiven antreiben sollten, benötigten riesige externe Kessel. Aber wenn man sie auf eine handliche Größe reduzieren konnte, hätte man ein radikal neues Fortbewegungsmittel für den Einzelnen.

Die Neuerer verfolgten verschiedene Ansätze. Schon im 18. Jahrhundert baute ein französischer Erfinder namens Nicolas-Joseph Cugnot eine Art dampfgetriebenes Auto. Es fuhr mit einer stattlichen Geschwindigkeit von zwei Meilen pro Stunde, und an seiner Vorderseite hing ein riesiger Kessel. 1863 trieb der belgische Erfinder Jean Joseph Étienne Lenoir das erste Fahrzeug mit einem Verbrennungsmotor an und fuhr damit gut zehn Kilometer aus Paris hinaus. Doch der Motor war schwer und die Geschwindigkeit begrenzt. Andere experimentierten mit Elektrizität und Wasserstoff. Nichts konnte sich durchsetzen, aber der Traum vom Individualverkehr mit Selbstantrieb lebte weiter.

Dann begann sich alles zu ändern, zunächst nur langsam. Ein deutscher Ingenieur namens Nicolaus August Otto arbeitete jahrelang an einem Gasmotor, der viel kleiner war als eine Dampfmaschine. 1876 stellte Otto in einer Fabrik der Deutz AG in Köln den ersten funktionsfähigen Verbrennungsmotor her, den «Viertaktmotor». Er war serienreif, aber zuvor hatte sich Otto mit seinen Geschäftspartnern Gottlieb Daimler und Wilhelm Maybach zerstritten. Otto wollte seinen Motor in stationären Anlagen wie Wasserpumpen oder Fabriken einsetzen. Seine Partner hatten eine andere Verwendung für die immer leistungsfähigeren Motoren im Auge: den Verkehr.

Doch es war ein anderer deutscher Ingenieur, Carl Benz, der ihnen den Rang ablief. Mit seiner Version eines Viertakt-Verbrennungsmotors patentierte er 1886 den Motorwagen, der heute als das erste echte Auto der Welt gilt. Dieses seltsame dreirädrige Gefährt wurde einer skeptischen Öffentlichkeit präsentiert. Erst als die Ehefrau und Geschäftspartnerin von Benz, Bertha, den Wagen von Mannheim zu ihrer Mutter im 65 Kilometer entfernten Pforzheim fuhr, fand das Auto allmählich Anklang. Sie fuhr ihn vermutlich ohne das Wissen ihres Mannes und betankte ihn unterwegs mit einem Lösungsmittel, das sie in der örtlichen Apotheke kaufte.

Ein neues Zeitalter war angebrochen. Doch die Autos und die Verbrennungsmotoren, die sie antrieben, waren nach wie vor unverhältnismäßig teuer und einzig für die Allerreichsten erschwinglich. Es gab noch kein Netz von Straßen und Tankstellen. Bis 1893 hatte Benz gerade einmal 69 Fahrzeuge verkauft, bis 1900 waren es lediglich 1709. Zwanzig Jahre nach dem Benz-Patent waren immer noch nur 35.000 Fahrzeuge auf deutschen Straßen unterwegs.[1]

Der Wendepunkt war Henry Fords Modell T von 1908. Sein einfaches, aber effektives Fahrzeug wurde mit Hilfe eines revolutionären Konzepts gebaut: dem beweglichen Fließband. Ein effizienter, linearer und repetitiver Prozess ermöglichte es ihm, den Preis für Privatfahrzeuge zu senken, und die Käufer bissen an. Die meisten Autos kosteten damals rund 2000 Dollar. Ford verlangte für die seinen 850 Dollar.

In den ersten Jahren ging der Absatz des Model T in die Tausende. Ford steigerte die Produktion und senkte die Preise immer weiter mit dem Argument: «Jedes Mal, wenn ich den Preis für unser Auto um einen Dollar senke, bekomme ich tausend neue Käufer.»[2] In den 1920er Jahren verkaufte Ford jedes Jahr Millionen von Autos. Amerikaner aus der Mittelschicht konnten sich zum ersten Mal motorisierte Fortbewegungsmittel leisten. Automobile verbreiteten sich mit ungeheurer Geschwindigkeit. Im Jahr 1915 besaßen lediglich zehn Prozent der Amerikaner ein Auto; 1930 waren es bereits erstaunliche 59 Prozent.[3]

Heute gibt es rund zwei Milliarden Verbrennungsmotoren, in Rasenmähern genauso wie in Containerschiffen. Etwa 1,4 Milliarden davon stecken in Autos.[4] Sie sind immer erschwinglicher, effizienter, leistungsfähiger und anpassungsfähiger geworden. Ein ganzer Lebensstil, ja eine ganze Zivilisation hat sich um sie herum entwickelt, von ausufernden Vorstädten bis zu industriell betriebenen Bauernhöfen, von Drive-in-Restaurants bis zum Kult rund ums Auto. Riesige Autobahnen wurden gebaut, manchmal mitten durch die Städte, wo sie einzelne Viertel durchschnitten, um weit entfernte Regionen miteinander zu verbinden. Die früher ambitionierte Vorstellung, auf der Suche nach Wohlstand oder Vergnügen von Ort zu Ort zu ziehen, wurde zu einem festen Bestandteil menschlichen Lebens.

Motoren trieben nicht nur Fahrzeuge an, sie trieben die Geschichte voran. Dank Wasserstoff- und Elektromotoren liegt die Herrschaft des Verbrennungsmotors heute in den letzten Zügen. Für die Ära der Massenmobilität, die er ausgelöst hat, gilt das freilich nicht.

Zu Beginn des 19. Jahrhunderts wäre all das unmöglich erschienen, als Fahrzeuge mit Eigenantrieb noch das Werk von Träumern waren, die mit Feuer, Schwungrädern und Metallstücken spielten. Doch mit diesen ersten Tüftlern begann ein Erfindungs- und Produktionsmarathon, der die Welt veränderte. Einmal in Schwung gekommen, war die Verbreitung des Verbrennungsmotors nicht mehr aufzuhalten. Ausgehend von ein paar ölverschmierten deutschen Werkstätten, entwickelte sich eine Technologie, die jeden Menschen auf der Erde beeinflusst hat.

Dies ist jedoch nicht nur eine Geschichte von Motoren und Autos. Es ist die Geschichte der Technologie als solcher.[5]

Allzweckwellen: Der Rhythmus der Geschichte

Technologie weist einen eindeutigen, unvermeidlichen Verlauf auf: massenhafte Verbreitung in großen, wogenden Wellen.[6] Das gilt für die frühesten Werkzeuge aus Feuerstein und Knochen genauso wie für die neuesten KI-Modelle. Wenn die Wissenschaft neue Entdeckungen macht, nutzen die Menschen diese Erkenntnisse, um billigere Lebensmittel, bessere Waren und effizientere Verkehrsmittel herzustellen.[7] Mit der Zeit steigt die Nachfrage nach den besten neuen Produkten und Dienstleistungen, was den Wettbewerb um billigere Versionen mit noch mehr Funktionen anheizt. Dies wiederum führt zu einer noch größeren Nachfrage nach den Technologien, die diese Produkte und Dienstleistungen hervorbringen, und sie werden ebenfalls immer einfacher und billiger in der Anwendung. Die Kosten sinken weiter. Die Fähigkeiten nehmen zu. Experimentieren, wiederholen, nutzen. Wachsen, verbessern, anpassen. Das ist das unvermeidliche evolutionäre Wesen der Technologie.

Diese Wellen von Technologie und Innovation stehen im Mittelpunkt dieses Buches. Und was noch wichtiger ist: Sie stehen im Mittelpunkt der Menschheitsgeschichte. Versteht man diese komplexen, chaotischen und sich häufenden Wellen, wird deutlich, was für eine Herausforderung ihre Eindämmung darstellt. Wenn wir ihre Geschichte verstehen, können wir damit beginnen, ihre Zukunft zu skizzieren.

Was also ist eine Welle? Vereinfacht ausgedrückt, ist eine Welle eine Reihe von Technologien, die etwa zur gleichen Zeit zusammenkommen, angetrieben von einer oder mehreren neuen Allzwecktechnologien mit tiefgreifenden gesellschaftlichen Auswirkungen.[8] Mit «Allzwecktechnologien» meine ich solche, die seismische Veränderungen dessen ermöglichen, was Menschen können.[9] Die Gesellschaft entwickelt sich im Einklang mit diesen Sprüngen. Wir erleben es immer wieder: Eine neue Technologie, wie der Verbrennungsmotor, breitet sich aus und verändert alles ringsum.

Die Geschichte der Menschheit lässt sich anhand dieser Wellen erzählen: unsere Entwicklung von verletzlichen Primaten, die in der Savanne ihr Dasein fristeten, zur dominierenden Kraft auf dem Planeten, im Guten wie im Schlechten. Der Mensch ist von Natur aus eine technologische Spezies. Von allem Anfang an sind wir nie getrennt von den Technologiewellen, die wir erzeugen. Wir entwickeln uns gemeinsam, in Symbiose.

Die frühesten Steinwerkzeuge stammen aus der Zeit von vor drei Millionen Jahren, also lange vor der Entstehung von Homo sapiens, was durch zerschlagene Hammersteine und rudimentäre Messer belegt ist. Zur ersten Technologiewelle in der Geschichte gehört der einfache Faustkeil. Damit konnten Tiere effizienter getötet, Kadaver zerlegt und Rivalen bekämpft werden. Schließlich lernten die frühen Menschen, diese Werkzeuge feinfühlig zu handhaben, was zum Nähen, Malen, Schnitzen und Kochen führte.

Nicht minder ausschlaggebend war eine andere Welle: das Feuer. Unser Vorfahre, Homo erectus, nutzte es als Licht- und Wärmequelle und zum Schutz vor Fressfeinden. Es hatte vor allem in einer Hinsicht entscheidenden Einfluss auf die Evolution: Das Kochen von Nahrung bedeutete eine schnellere Freisetzung ihrer Energie, wodurch der menschliche Verdauungstrakt schrumpfen und das Gehirn sich vergrößern konnte.[10] Unsere Vorfahren, deren starke Kiefer das Wachstum des Schädels einschränkten, verbrachten ihre Zeit damit, unablässig Nahrung zu kauen und zu verdauen, wie die heutigen Primaten. Als sie dank des Feuers von dieser banalen Notwendigkeit befreit waren, konnten sie mehr Zeit mit interessanten Dingen wie der Jagd nach kalorienreichen Nahrungsmitteln, der Herstellung von Werkzeugen oder dem Aufbau komplexer sozialer Netze verbringen. Das Lagerfeuer wurde zu einem Dreh- und Angelpunkt des menschlichen Lebens, der dazu beitrug, Gemeinschaften und Beziehungen aufzubauen und die Arbeit zu organisieren. Die Evolution von Homo sapiens profitierte enorm von diesen Wellen. Wir sind nicht nur die Erfinder unserer Werkzeuge. Wir sind bis hinunter auf die biologische, die anatomische Ebene ein Produkt dieser Werkzeuge.

Steinwerkzeuge und Feuer waren Proto-Allzwecktechnologien, das heißt, sie waren weit verbreitet und ermöglichten ihrerseits neue Erfindungen, Güter und organisatorische Verhaltensweisen. Allzwecktechnologien breiten sich über Gesellschaften, Regionen und die gesamte Geschichte hinweg aus.[11] Sie öffnen die Türen für Erfindungen weit, indem sie eine Vielzahl nachgelagerter Werkzeuge und Prozesse ermöglichen. Häufig beruhen sie auf einer Art Allzweckprinzip, sei es die Dampfkraft für die Arbeit oder die Informationstheorie hinter dem binären Code eines Computers.

Die Ironie der Allzwecktechnologien besteht darin, dass sie nach kurzer Zeit unsichtbar werden und wir sie als selbstverständlich betrachten. Sprache, Landwirtschaft, Schrift – jede war eine Allzwecktechnologie, die im Zentrum einer frühen Welle stand.[12] Diese drei Wellen bildeten das Fundament der Zivilisation, wie wir sie kennen. Heute halten wir sie für selbstverständlich. Eine großangelegte Studie beziffert die Zahl der Allzwecktechnologien, die im Laufe der Menschheitsgeschichte entstanden sind, auf gerade einmal 24, wobei die Liste von der Landwirtschaft, dem Fabriksystem und der Entwicklung von Materialien wie Eisen und Bronze bis zu Druckerpressen, Elektrizität und natürlich dem Internet reicht.[13] Es sind nicht viele, aber sie sind von zentraler Bedeutung; deshalb verwenden wir in der populären Vorstellung immer noch Begriffe wie Bronzezeitalter und Segelschiff-Ära.

Im Laufe der Geschichte sind Bevölkerungsgröße und Innovationsgrad häufig miteinander verbunden.[14] Neue Werkzeuge und Techniken führen zu größeren Bevölkerungen. Größere und enger vernetzte Bevölkerungen sind potentere Schmelztiegel für Tüfteleien, Experimente und zufällige Entdeckungen, ein leistungsfähigeres «kollektives Gehirn» für die Entwicklung neuer Dinge.[15] Große Bevölkerungen führen zu einem höheren Grad an Spezialisierung, zu neuen Klassen von Menschen wie Handwerkern und Gelehrten, deren Lebensunterhalt nicht an Grund und Boden gebunden ist. Mehr Menschen, deren Leben sich nicht um die Subsistenz dreht, bedeuten mehr mögliche Erfinder und mehr mögliche Gründe für Erfindungen, und diese Erfindungen bedeuten wiederum mehr Menschen. Von den frühesten Zivilisationen wie der in Uruk in Mesopotamien, dem Geburtsort der Keilschrift, dem ersten bekannten Schriftsystem, bis zu den heutigen Megacitys haben Städte die technologische Entwicklung vorangetrieben. Und mehr Technologie bedeutete wiederum mehr – und größere – Städte. Bei Anbruch der landwirtschaftlichen Revolution zählte die Weltbevölkerung gerade einmal 2,4 Millionen Menschen. Zu Beginn der Industriellen Revolution näherte sie sich einer Milliarde – eine Vervierhundertfachung, die auf den Wellen der dazwischenliegenden Periode beruhte.[16]

Die Agrarrevolution (9000–7500 v. Chr.), eine der bedeutendsten Wellen der Geschichte, markierte die Ankunft von zwei gewaltigen Allzwecktechnologien, die nach und nach die nomadische Lebensweise der Jäger und Sammler ablösten: die Domestizierung von Pflanzen und Tieren. Diese Entwicklungen veränderten nicht nur die Art und Weise, wie Nahrung gefunden wurde, sondern auch, wie sie gelagert werden konnte, wie der Transport funktionierte und in welchem Umfang eine Gesellschaft überhaupt funktionieren konnte. Frühe Feldfrüchte wie Weizen, Gerste, Linsen, Kichererbsen und Erbsen sowie Tiere wie Schweine, Schafe und Ziegen wurden der menschlichen Kontrolle unterworfen. Das ging schließlich mit einer neuen Revolution bei den Werkzeugen einher – Hacken und Pflügen. Diese simplen Innovationen markierten den Beginn der modernen Zivilisationen.

Je mehr Werkzeuge man hat, desto mehr kann man tun und desto mehr kann man sich darüber hinaus neue Werkzeuge und Verfahren vorstellen. Wie der Harvard-Anthropologe Joseph Henrich betont, kam das Rad überraschend spät in das Leben der Menschen.[17] Aber sobald es erfunden war, wurde es zu einem Baustein für alles, von Streitwagen und Kutschen bis hin zu Mühlen, Pressen und Schwungrädern. Vom geschriebenen Wort bis hin zu Segelschiffen – die Technologie verstärkt die Vernetzung und trägt dazu bei, den eigenen Fluss und die eigene Verbreitung zu fördern. Jede Welle legt somit den Grundstein für nachfolgende Wellen.

Mit der Zeit beschleunigte sich diese Dynamik. Die erste Welle der Industriellen Revolution, die um 1770 in Europa begann, kombinierte Dampfkraft, mechanisierte Webstühle, das Fabriksystem und Kanäle. In den 1840er Jahren begann das Zeitalter der Eisenbahnen, Telegrafen und Dampfschiffe, und etwas später kamen Stahl und Werkzeugmaschinen hinzu; zusammen bildeten sie die erste Industrielle Revolution. Nur wenige Jahrzehnte später folgte dann die zweite Industrielle Revolution. Ihr größten Errungenschaften sind uns vertraut: der Verbrennungsmotor, die Chemietechnik, der Motorflug und die Elektrizität. Das Fliegen erforderte Verbrennung, und die Massenproduktion von Verbrennungsmotoren verlangte nach Stahl und Werkzeugmaschinen und so weiter. Seit der Industriellen Revolution bemessen sich gewaltige Veränderungen nicht mehr in Jahrhunderten oder Jahrtausenden, sondern in Dekaden.

Dabei handelt es sich freilich nicht um einen geordneten Prozess. Technologische Wellen treten nicht mit der sauberen Vorhersehbarkeit der Gezeiten auf. Langfristig gesehen, kreuzen und verstärken sich die Wellen auf erratische Weise. In den zehntausend Jahren vor 1000 v. Chr. entstanden sieben Allzwecktechnologien.[18] In den zweihundert Jahren zwischen 1700 und 1900 waren es sechs, von der Dampfmaschine bis zur Elektrizität. Und allein in den letzten hundert Jahren waren es sieben.[19] Wer Ende des 19. Jahrhunderts als Kind mit Pferdefuhrwerken und Holzheizungen aufwuchs, reiste am Lebensende mit dem Flugzeug und wohnte in Häusern, die mit Hilfe der Atomspaltung geheizt wurden.

Wellen – pulsierende, im Werden begriffene, aufeinanderfolgende, aus mehreren Teilen bestehende und sich gegenseitig befruchtende Wellen – bestimmen den Horizont der technischen Möglichkeiten einer Epoche. Sie sind ein Teil von uns. So etwas wie einen nicht-technologischen Menschen gibt es nicht.

Diese Vorstellung von der Geschichte als einer Reihe von Innovationswellen ist nicht neu. In der Technologiediskussion tauchen immer wieder sequentielle und disruptive Cluster von Technologien auf. Für den Futurologen Alvin Toffler war die informationstechnische Revolution eine «dritte Welle» in der menschlichen Gesellschaft nach der landwirtschaftlichen und der industriellen Revolution.[20] Joseph Schumpeter betrachtete die Wellen als Innovationsexplosionen, die in Ausbrüchen «schöpferischer Zerstörung» neue Geschäftszweige entstehen lassen. Der große Technikphilosoph Lewis Mumford war der Ansicht, das «Maschinenzeitalter» sei in Wirklichkeit eher eine tausendjährige Entfaltung von drei großen aufeinanderfolgenden Wellen.[21] In jüngerer Zeit hat die Wirtschaftswissenschaftlerin Carlota Perez von «techno-ökonomischen Paradigmen» gesprochen, die sich inmitten technologischer Revolutionen rasant verschieben.[22] Momente boomender Disruption und wilder Spekulation bringen die Wirtschaft wieder in Schwung. Plötzlich hängt alles von Eisenbahnen, Autos oder Mikroprozessoren ab. Mit der Zeit schließlich reift die Technologie, wird eingebettet und weithin verfügbar.

Die meisten Menschen, die in der Technologiebranche tätig sind, stecken im Klein-Klein von heute fest und träumen von morgen. Es ist verlockend, Erfindungen als einzelne, glückliche Momente zu sehen. Doch wer das tut, übersieht die klaren Muster der Geschichte, die schiere, fast schon naturgegebene Tendenz, dass die Technologiewellen wieder und wieder kommen.

Proliferation ist der Standard

Während des größten Teils der gelebten Geschichte war die Ausbreitung neuer Technologien selten. Die meisten Menschen wurden mit denselben Werkzeugen und Technologien geboren, mit denen sie anschließend lebten und starben. Zoomt man jedoch weiter weg, so wird deutlich, dass die Proliferation der Standard ist.

Allzwecktechnologien werden zu Wellen, wenn sie sich weit verbreiten. Ohne eine epische und nahezu unkontrollierte globale Verbreitung haben wir es nicht mit einer Welle zu tun, sondern mit einer historischen Kuriosität. Hat die Verbreitung jedoch erst einmal begonnen, zieht sich der Prozess wie ein roter Faden durch die Geschichte, von der Ausbreitung der Landwirtschaft über die eurasische Landmasse bis hin zur langsamen Ausbreitung der Wassermühlen vom Römischen Reich aus über Europa.[23] Sobald sich eine Technologie durchsetzt, sobald sich eine Welle aufbaut, ist das historische Muster, das wir beim Auto gesehen haben, klar erkennbar.

Als Gutenberg um 1440 die Druckerpresse erfand, gab es in Europa nur ein einziges Exemplar: sein Original in Mainz. Doch schon fünfzig Jahre später hatten sich tausend Pressen über den gesamten Kontinent verbreitet.[24] Das Buch selbst, eine der einflussreichsten Technologien der Geschichte, vermehrte sich mit explosionsartiger Geschwindigkeit. Im Mittelalter lag die Produktion von Manuskripten in der Größenordnung von ein paar hunderttausend je großem Land und Jahrhundert. Hundert Jahre nach Gutenberg produzierten Länder wie Italien, Frankreich und Deutschland etwa 40 Millionen Bücher je halbes Jahrhundert, und das Tempo beschleunigte sich weiter. Im 17. Jahrhundert wurden in Europa 500 Millionen Bücher gedruckt.[25] Während die Nachfrage in die Höhe schoss, sanken die Kosten drastisch. Eine Analyse schätzt, dass die Einführung der Druckerpresse im 15. Jahrhundert den Preis eines Buches um das 340-Fache senkte, was die Akzeptanz und die Nachfrage weiter steigerte.[26]

Oder nehmen wir die Elektrizität. Die ersten Elektrizitätswerke wurden 1882 in London und New York, 1883 in Mailand und Sankt Petersburg und 1884 in Berlin in Betrieb genommen.[27] Von da an ging es mit der Verbreitung schnell voran. Im Jahr 1900 wurden zwei Prozent der Produktion fossiler Brennstoffe für die Stromerzeugung verwendet, 1950 waren es bereits über zehn Prozent und im Jahr 2000 mehr als 30 Prozent. Belief sich die weltweite Stromerzeugung im Jahr 1900 auf acht Terawattstunden, so waren es fünfzig Jahre später 600 Terawattstunden, die eine veränderte Wirtschaft antrieben.[28]

Der Wirtschaftsnobelpreisträger William Nordhaus hat errechnet, dass derselbe Arbeitsaufwand, mit dem im 18. Jahrhundert vierundfünfzig Minuten qualitativ hochwertiges Licht erzeugt wurden, heute Licht für mehr als fünfzig Jahre erzeugt. Infolgedessen hat der Durchschnittsmensch im 21. Jahrhundert Zugang zu rund 438.000 Mal mehr «Lumen-Stunden» pro Jahr als unsere Vettern im 18. Jahrhundert.[29]

Insofern ist es kein Wunder, dass bei den Verbrauchertechnologien ein ähnlicher Trend zu beobachten ist. 1876 führte Alexander Graham Bell das Telefon ein. Im Jahr 1900 gab es in Amerika bereits 600.000 Telefone. Zehn Jahre später waren es bereits 5,8 Millionen.[30] Heute gibt es in Amerika deutlich mehr Telefone als Menschen.[31]

In diesem Bild trifft steigende Qualität auf sinkende Preise.[32] Ein primitives Fernsehgerät, das 1950.1000 Dollar kostete, würde im Jahr 2023 nur noch acht Dollar kosten, obwohl die heutigen Fernsehgeräte natürlich unendlich viel besser sind und daher mehr kosten. Für Autos, Mikrowellen oder Waschmaschinen lassen sich fast identische Preis- (und Akzeptanz-)kurven finden. Im 20. und 21. Jahrhundert wurden neue Geräte im Bereich der Unterhaltungselektronik auffallend gleichmäßig eingeführt. Immer wieder ist das gleiche Muster zu erkennen.

Die Verbreitung wird durch zwei Faktoren ausgelöst: die Nachfrage und die daraus resultierenden Kostensenkungen, die jeweils dazu führen, dass die Technologie noch besser und billiger wird. Der lange und komplexe Dialog von Wissenschaft und Technologie führt zu einer Kette von Erkenntnissen, Durchbrüchen und Werkzeugen, die sich im Laufe der Zeit aufbauen und verstärken, zu produktiven Neukombinationen, die den Fortschritt vorantreiben. Immer mehr und immer billigere Technologien ermöglichen in der Folge neue und billigere Technologien. Uber war ohne das Smartphone nicht möglich, das wiederum durch GPS