KI Genesis: Der Beginn des neuen Zeitalters E-Book

Henry Kissinger

• Herausgeber: Plassen Verlag
• Kategorie: Wissenschaft und neue Technologien
• Sprache: Deutsch

Seitenzahl: 287

Veröffentlichungsjahr: 2025

Beschreibung

In seinem letzten Buch erforscht Politik-Legende Henry Kissinger zusammen mit dem ehemaligen Google-CEO Eric Schmidt und dem früheren Microsoft-Topmanager Craig Mundie die epochalen Herausforderungen und Chancen der Revolution der künstlichen Intelligenz. KI wird uns helfen, enorme Krisen zu bewältigen – vom Klimawandel über geo­poli­tische Konflikte bis hin zur Einkommensungleichheit. Aber sie bedroht auch unser unabhängiges Urteilsvermögen und unsere Handlungsfähigkeit. Dieses Buch zeichnet einen Weg jenseits von blindem Glauben und ungerechtfertigter Angst und skizziert eine wirksame Strategie, um das Zeitalter der KI zu meistern.

Leseprobe

KI GENESIS

Henry A. Kissinger • Craig Mundie • Eric Schmidt

OPTIMISMUS FÜR DIE NÄCHSTEN SCHRITTE DER MENSCHHEIT

KIGENESIS

DER BEGINN DES NEUEN ZEITALTERS

HENRY A. KISSINGERCRAIG MUNDIEERIC SCHMIDT

VORWORT VON NIALL FERGUSON

Die Originalausgabe erschien unter dem Titel Genesis; Artificial Intelligence, Hope, and the Human Spirit

ISBN 9780316581295

Copyright der Originalausgabe 2024:

Copyright © 2024, the Estate of Henry A. Kissinger, Craig Mundie, and Eric Schmidt

Foreword copyright © 2024 by Niall Ferguson

Published by Little, Brown and Company, a division of Hachette Book Group, Inc.

Copyright der deutschen Ausgabe 2025:

© Börsenmedien AG, Kulmbach

Übersetzung: Sabine Runge, Börsenmedien AG

Umschlagfoto Henry Kissinger: © Jürgen Frank

Coveridee: Gregg Kulick

Gestaltung Cover: Daniela Freitag

Gestaltung, Satz und Herstellung: Maja Hempfling

Lektorat: Claus Rosenkranz

Druck: CPI books GmbH, Leck, Germany

ISBN 978-3-86932-008-9

eISBN 978-3-68932-009-6

Alle Rechte der Verbreitung, auch die des auszugsweisen Nachdrucks, der fotomechanischen Wiedergabe und der Verwertung durch Datenbanken oder ähnliche Einrichtungen vorbehalten.

Bibliografische Information der Deutschen Nationalbibliothek:Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie; detaillierte bibliografische Daten sind im Internet über <http://dnb.d-nb.de> abrufbar.

Postfach 1449 ◆ 95305 Kulmbach

Tel: [phone] ◆ Fax: [phone]

E-Mail: [email protected]

www.plassen.de

www.facebook.com/plassenverlag

www.instagram.com/plassen_buchverlage

Für Dr. Kissinger:

Staatsmann, Diplomat, Mentor und Freund. Wir verneigen uns vor Ihnen.

INHALT

VORWORT NIALL FERGUSON

IN MEMORIAM: HENRY A. KISSINGER

EINFÜHRUNG

TEIL I AM ANFANG

KAPITEL 1 ENTDECKUNG

KAPITEL 2 DAS GEHIRN

KAPITEL 3 REALITÄT

TEIL II DIE VIER ZWEIGE

KAPITEL 4 POLITIK

KAPITEL 5 SICHERHEIT

KAPITEL 6 WOHLSTAND

KAPITEL 7 WISSENSCHAFT

TEIL III DER BAUM DES LEBENS

KAPITEL 8 STRATEGIE

SCHLUSSFOLGERUNG

DANKSAGUNGEN

ANMERKUNGEN

Über die Autoren

VORWORTNIALL FERGUSON

Als Henry Kissinger im Juni 2018 seinen Essay „How the Enlightenment Ends“ in The Atlantic veröffentlichte, waren viele überrascht, dass der hoch angesehene Elder Statesman eine Meinung zum Thema KI hatte. Kissinger war gerade 95 Jahre alt geworden. KI war noch nicht das heiße Thema, zu dem es werden sollte, nachdem OpenAI Ende 2022 ChatGPT auf den Markt brachte.

Als Kissingers Biograf fand ich es jedoch ganz natürlich, dass das Thema KI seine Aufmerksamkeit erregte. Immerhin war er bereits 1957 mit einem Buch über eine neue, weltverändernde Technologie bekannt geworden. „Kernwaffen und auswärtige Politik“ war ein Buch, das so gründlich recherchiert war, dass es sogar die Zustimmung von Robert Oppenheimer fand, der es als „außerordentlich gut informiert und in dieser Hinsicht auf dem Gebiet der nuklearen Rüstung ziemlich beispiellos … gewissenhaft in der Beachtung von Fakten und gleichzeitig leidenschaftlich und hart in der Argumentation“ beschrieb.

Obwohl Kissinger sich als Doktorand in die diplomatische Geschichte des Europas des frühen 19. Jahrhunderts vertieft hatte, war ihm während seiner gesamten Laufbahn sehr bewusst, dass die ewigen Muster der Großmachtpolitik von Zeit zu Zeit durch den technologischen Wandel unterbrochen werden. Wie so viele Angehörige seiner Generation, die im Zweiten Weltkrieg gedient hatten, hatte er mit eigenen Augen nicht nur den massenhaften Tod und die Zerstörung gesehen, die durch moderne Waffen verursacht werden können, sondern auch die schrecklichen Folgen für seine jüdischen Mitbürger, was Churchill denkwürdigerweise als die „pervertierte Wissenschaft“ von Hitlers Drittem Reich bezeichnet hatte.

Entgegen seinem ungerechtfertigten Ruf als Kriegstreiber war Kissinger sein ganzes Erwachsenenleben lang stark von der Notwendigkeit motiviert, den Dritten Weltkrieg zu verhindern – die weithin befürchtete Folge, wenn der Kalte Krieg zwischen den Vereinigten Staaten und der Sowjetunion heiß werden würde. Er wusste nur zu gut, dass die Technologie der Kernspaltung einen weiteren Weltkrieg zu einem noch größeren Flächenbrand machen würde als den Zweiten Weltkrieg. Bereits in seinem Buch „Kernwaffen und auswärtige Politik“ schätzte Kissinger die zerstörerische Wirkung einer 10-Megatonnen-Bombe ab, die auf New York abgeworfen würde, und rechnete dann hoch, dass bei einem sowjetischen Großangriff auf die 50 größten Städte der USA zwischen 15 und 20 Millionen Menschen getötet und zwischen 20 und 25 Millionen verletzt würden. Weitere fünf bis zehn Millionen würden an den Folgen des radioaktiven Niederschlags sterben, während schätzungsweise weitere sieben bis zehn Millionen erkranken würden. Die Überlebenden wären mit „gesellschaftlichem Zerfall“ konfrontiert. Doch selbst nach einem solchen Angriff wären die Vereinigten Staaten noch in der Lage, der Sowjetunion vergleichbare Verwüstungen zuzufügen. Die Schlussfolgerung lag auf der Hand: „Das einzige Ergebnis eines totalen Krieges wird sein, dass beide Gegner verlieren müssen.“ In einem solchen Konflikt könne es keinen Gewinner geben, argumentierte Kissinger in seinem Essay „Strategie und Organisation“ von 1957, „da unter Umständen selbst die schwächere Seite dem Gegner noch solche Verluste an Menschen und Material zufügen kann, wie sie keine moderne Gesellschaft verkraften würde“.

Kissingers jugendlicher Idealismus machte ihn jedoch nicht zu einem Pazifisten. In „Kernwaffen und auswärtige Politik“ stellte er ausdrücklich fest, dass „die Schrecken eines Atomkriegs nicht durch eine Verringerung der nuklearen Aufrüstung“ oder gar durch Systeme der Waffeninspektion vermieden werden könnten. Die Frage war nicht, ob ein Krieg gänzlich vermieden werden kann, sondern ob es „möglich wäre, sich Machtausübungen vorzustellen, die weniger katastrophal sind als ein totaler thermonuklearer Krieg“. Denn wenn dies nicht möglich wäre, dann wäre es für die Vereinigten Staaten und ihre Verbündeten in der Tat sehr schwer, im Kalten Krieg zu bestehen. „Das Fehlen jeglicher allgemein verstandener Grenzen für den Krieg“, warnte Kissinger in „Controls, Inspections, and Limited War“, einem in The Reporter veröffentlichten Essay, „untergräbt den psychologischen Rahmen des Widerstands gegen kommunistische Bestrebungen. Wo ein Krieg als nationaler Selbstmord angesehen wird, kann die Kapitulation als das kleinere Übel erscheinen.“

Auf dieser Grundlage entwickelte Kissinger seine Doktrin des begrenzten Atomkriegs, die er in „Strategie und Organisation“ darlegte:

Angesichts der ominösen Bedrohung mit einer atomaren Vernichtung kann ein militärischer Sieg in dem bisher üblichen Sinne nicht länger das Ziel eines Krieges sein. Vielmehr sollte heute dabei immer die Schaffung ganz bestimmter politischer Verhältnisse angestrebt werden, über deren Bedeutung sich auch der Gegner völlig im klaren ist. Ein mit begrenzten Mitteln geführter Krieg kann nur den Zweck verfolgen, dem Gegner Verluste zuzufügen, oder ihm Risiken vor Augen zu führen, die in keinem Verhältnis zu dem stehen, um das es bei der jeweiligen Auseinandersetzung geht. Das Ausmaß der militärischen Operationen würde sich daher höchstwahrscheinlich nach der Bedeutung des Kriegszieles richten.

Dies würde voraussetzen, dass man sowohl die Psychologie der anderen Seite als auch ihre militärischen Fähigkeiten versteht.

Damals schreckten viele Menschen vor Kissingers scheinbar kaltblütigen Überlegungen zu einem begrenzten Atomkrieg zurück. Einige Wissenschaftler, wie zum Beispiel Thomas Schelling, bestritten, dass eine unaufhaltsame Eskalation vermieden werden könne; sogar Kissinger selbst distanzierte sich später von seiner eigenen Argumentation. Tatsächlich haben beide Supermächte in der Folgezeit atomare Gefechtswaffen oder taktische Atomwaffen gebaut und eingesetzt, und zwar genau nach der Logik, die Kissinger in „Kernwaffen und auswärtige Politik“ dargelegt hatte. Ein begrenzter Atomkrieg mag in der Theorie nicht funktioniert haben, aber die Militärplaner beider Seiten taten so, als könnte er in der Praxis funktionieren. (In der Tat existieren solche Waffen bis heute. Die russische Regierung hat bei mehr als einer Gelegenheit damit gedroht, sie einzusetzen, seit ihre Invasion in der Ukraine ins Stocken geraten ist.) Der junge Kissinger hatte in Bezug auf Atomwaffen mehr recht, als ihm selbst bewusst war.

Kissinger hörte nie auf, über die Auswirkungen des technologischen Wandels auf die Politik nachzudenken. In einem längst vergessenen Paper, das er im Januar 1968 für Nelson Rockefeller schrieb, befasste er sich mit der Frage, wie die Computerisierung Beamten helfen könnte, die ständig wachsende Informationsflut zu bewältigen, die von den US-Regierungsstellen erzeugt wird. Seiner Ansicht nach bestand für leitende Beamte die große Gefahr, in der Datenflut zu ertrinken. „Der oberste Entscheidungsträger“, so schrieb er, „verfügt über so viele Informationen, dass es ihm in Krisensituationen unmöglich ist, sie zu bewältigen.“ Entscheidungsträger müssten „konsequent über wahrscheinliche Krisenherde informiert werden“, argumentierte Kissinger, einschließlich auch nur möglicher Krisenherde, „selbst wenn ihnen keine höchste Priorität zugewiesen wurde“. Sie müssten auch mit „einer Reihe von Handlungsoptionen … ausgestattet werden, die die wichtigsten Alternativen als Reaktion auf vorhersehbare Umstände umreißen, mit einer Bewertung der wahrscheinlichen Konsequenzen jeder dieser Alternativen, sowohl im Inland als auch im Ausland“.

Kissinger räumte ein, dass eine solch umfassende Informationsversorgung erhebliche Investitionen in Programmierung, Speicherung, Abfrage und grafische Darstellung von Daten erfordern würde. Glücklicherweise existierte nun die „Hardware-Technologie“, um alle diese vier Funktionen zu erfüllen:

[W]ir können jetzt mehrere Hundert Einzelinformationen über jede Person in den Vereinigten Staaten auf einem über 700 Meter langen Magnetband speichern. … Computer der dritten Generation sind mittlerweile in der Lage, grundlegende Maschinenoperationen in Nanosekunden, das heißt Milliardstelsekunden, auszuführen. … [E]xperimentelle Time-Sharing-Betriebssysteme haben gezeigt, dass ein Mehrfachzugriff für große Digitalcomputer möglich ist, um die Ein- und Ausgabe von Informationen sowohl an den ausführenden als auch an den bedienenden Stationen, die über die ganze Welt verteilt sind, zuzulassen. … [Und] in Kürze werden Farbbildschirme mit Kathodenstrahlröhren für die Computerausgabe verfügbar sein.

Später, nach seinem ersten Jahr im Weißen Haus als Nationaler Sicherheitsberater von Richard Nixon, versuchte Kissinger, einen solchen Computer für seinen eigenen Gebrauch zu erhalten. Die CIA lehnte den Antrag ab, vermutlich weil ein Kissinger ohne Computer für den Geheimdienst gerade eben noch beherrschbar war.

Henry Kissinger hat sich nie zur Ruhe gesetzt. Auch hat er nie aufgehört, sich um die Zukunft der Menschheit zu sorgen. Ein solcher Mann hätte kaum einen der folgenreichsten technologischen Durchbrüche seines späteren Lebens ignorieren können: die Entwicklung und den Einsatz generativer künstlicher Intelligenz. Die Aufgabe, die Auswirkungen dieser im Entstehen begriffenen Technologie zu verstehen, nahm in der Tat einen großen Teil von Kissingers letzten Lebensjahren in Anspruch.

„KI Genesis“, Kissingers letztes Buch, wurde gemeinsam mit zwei herausragenden Technologen, Craig Mundie und Eric Schmidt, verfasst und ist Ausdruck des angeborenen Optimismus dieser Innovatoren. Die Autoren freuen sich auf die „Evolution des Homo technicus – einer menschlichen Spezies, die in diesem neuen Zeitalter in Symbiose mit der Maschinentechnologie leben könnte“. KI, so argumentieren sie, könnte schon bald genutzt werden, um „eine neue Grundlage für Wohlstand und Wohlergehen der Menschheit zu schaffen … [Ein solches System würde] die Belastungen durch Arbeit, Gesellschaftsschicht und Konflikte, die die Menschheit bisher zerrissen haben, zumindest lindern, wenn nicht gar beseitigen.“ Der Einsatz von KI könnte sogar zu „[tiefgreifenden Gleichstellungen] … über Ethnie, Geschlecht, Nationalität, Geburtsort und familiären Hintergrund hinweg“ führen.

Der Beitrag des ältesten Autors ist hingegen in einer Reihe von Warnungen zu erkennen, die das Leitmotiv des Buches bilden. „Das Aufkommen der KI ist“, so die Autoren, „eine Frage des menschlichen Überlebens. … [Eine unzureichend kontrollierte KI könnte] auf zerstörerische Weise Wissen anhäufen.“ Hier ist, für „KI Genesis“ umformuliert, aber sofort erkennbar, Kissingers ursprüngliche Frage aus seinem 2018 erschienenen Atlantic-Essay „How the Enlightenment Ends“:

[Die] objektive Fähigkeit [der KI], mit nicht-menschlichen Methoden zu neuen und präzisen Schlussfolgerungen über unsere Welt zu gelangen, [zerrüttet] nicht nur unser Vertrauen in die wissenschaftliche Methode, wie sie seit fünf Jahrhunderten ununterbrochen angewandt wird, sondern stellt auch den menschlichen Anspruch auf ein ausschließliches oder einzigartiges Verständnis der Realität infrage. Was kann das bedeuten? Wird das Zeitalter der KI die Menschheit nicht nur nicht voranbringen, sondern stattdessen eine Rückkehr zu einer vormodernen Akzeptanz unerklärlicher Autorität beschleunigen? Kurzum: Stehen wir vielleicht am Abgrund einer großen Umkehr in der menschlichen Erkenntnis – einer dunklen Aufklärung?

In einem Abschnitt, den der Verfasser dieses Vorworts als den stärksten des gesamten Buches empfindet, stellen die Autoren Überlegungen zu einem zutiefst beunruhigenden KI-Wettrüsten an. „Wenn jede menschliche Gesellschaft … ihre einseitige Position maximieren will“, so die Autoren, „dann wären die Voraussetzungen für einen psychologischen Wettbewerb zwischen rivalisierenden Streitkräften und Geheimdiensten gegeben, wie ihn die Menschheit noch nie erlebt hat. Heute, in den Jahren, Monaten, Wochen und Tagen bis zur Ankunft der ersten Superintelligenz, erwartet uns ein Sicherheitsdilemma von existenzieller Natur.“

Wenn wir bereits Zeuge eines „Wettbewerb[s] um eine einzige, perfekte, unbestreitbar dominante Intelligenz“ sind, was sind dann die wahrscheinlichen Ergebnisse? Die Autoren stellen sich sechs Szenarien vor, von denen meines Erachtens keines besonders verlockend ist:

Die Menschheit wird die Kontrolle über einen existenziellen Wettlauf zwischen mehreren Akteuren verlieren, die in einem Sicherheitsdilemma gefangen sind.

Die Menschheit wird unter der Ausübung der Vorherrschaft durch einen Sieger leiden, der nicht durch die Kontrollmechanismen eingeschränkt ist, die traditionell notwendig sind, um ein Mindestmaß an Sicherheit für andere zu gewährleisten.

Es wird nicht nur eine einzige überlegene KI geben, sondern mehrere Ausprägungen überlegener Intelligenz auf der Welt.

Die Unternehmen, die KI besitzen und entwickeln, können eine umfassende soziale, wirtschaftliche, militärische und politische Macht erlangen.

Die größte Relevanz und die am weitesten gefasste und dauerhafteste Ausprägung könnte KI nicht in nationalen, sondern in religiösen Strukturen finden.

Durch die unkontrollierte, quelloffene Verbreitung der neuen Technologie könnten kleinere Gruppen oder Gemeinschaften mit minderwertigen, aber dennoch erheblichen KI-Kapazitäten entstehen.

Kissinger war zutiefst besorgt über derartige Szenarien und seine Bemühungen, sie zu verhindern, endeten nicht mit dem Schreiben dieses Buches. Es ist kein Geheimnis, dass die letzte Anstrengung seines Lebens – die ihm in den Monaten nach seinem 100. Geburtstag die letzten Kräfte raubte – darin bestand, zwischen den Vereinigten Staaten und China Gespräche über die Begrenzung von KI-Waffen zu initiieren, gerade in der Hoffnung, solche dystopischen Ergebnisse zu verhindern.

Die Schlussfolgerung von „KI Genesis“ ist unverkennbar „Kissingerianisch“:

Was die einen als Anker sehen, der uns im Sturm Halt gibt, betrachten die anderen als eine Leine, die uns zurückhält. Was die einen als notwendige Schritte auf dem Weg zu einem Höhepunkt des menschlichen Potenzials preisen, sehen andere als Kopfsprung in einen Abgrund.

In diesem Fall werden die instinktiven emotionalen Divergenzen – und die subjektiven Grenzen, die von allen Parteien gezogen werden – eine unvorhersehbare und explosive Situation schaffen. Die immer unversönlicher werdenden Positionen der potenziellen „Gewinner“ und „Verlierer“ werden den Druck dieser Umstände noch verstärken. Die Ängstlichen werden ihre eigene Entwicklung bremsen und die der anderen sabotieren. Die Selbstsicheren werden ihre Kräfte verschleiern und insgeheim ihre Arbeit beschleunigen. Der Zeitplan für die kommenden Krisen wird hektischer sein als je zuvor in der Geschichte der Menschheit; schnell werden wir verschlungen werden und es ist nicht klar, ob oder wie wir überleben werden.

Die übliche Antwort der Technologen auf solche Vorahnungen besteht darin, uns an die konkreten Vorteile der KI zu erinnern, die im Bereich der Medizin bereits sehr offensichtlich sind. Dem kann ich nicht widersprechen. Meiner Meinung nach war AlphaFold – ein auf neuronalen Netzen basierendes Modell, das dreidimensionale Proteinstrukturen vorhersagt – ein weitaus wichtigerer Durchbruch als ChatGPT. Tatsächlich hat die Medizin im 20. Jahrhundert vergleichbare Fortschritte gemacht. Die Weltkriege und der Holocaust fanden trotzdem statt, obwohl Antibiotika, neue Impfstoffe und zahllose andere Therapeutika entdeckt und allgemein verfügbar gemacht wurden.

Das zentrale Problem des technologischen Fortschritts manifestierte sich bereits zu Lebzeiten Henry Kissingers. Die Kernspaltung wurde 1938 von zwei deutschen Chemikern, Otto Hahn und Fritz Straßmann, in Berlin entdeckt. Die theoretische Deutung (und Benennung) erfolgte durch die in Österreich geborenen Physiker Lise Meitner und ihrem Neffen Otto Robert Frisch im Jahr 1939. Die Möglichkeit einer nuklearen Kettenreaktion, die zu einer „groß angelegten Erzeugung von Energie und radioaktiven Elementen, leider vielleicht auch zu Atombomben“ führen könnte, war die Erkenntnis des ungarischen Physikers Leó Szilárd. Auch die Möglichkeit, dass eine solche Kettenreaktion in einem Kernreaktor zur Wärmeerzeugung genutzt werden könnte, wurde damals erkannt. Doch bis zum Bau der ersten Atombombe dauerte es kaum mehr als fünf Jahre, während das erste Kernkraftwerk erst 1951 in Betrieb genommen wurde.

Fragen Sie sich selbst: Wovon haben die Menschen in den letzten 80 Jahren mehr gebaut: Atomsprengköpfe oder Atomkraftwerke? Heute gibt es weltweit etwa 12.500 Atomsprengköpfe und die Zahl steigt weiter, da China sein Atomwaffenarsenal rasch aufstockt. Demgegenüber sind 436 Kernreaktoren in Betrieb. In absoluten Zahlen erreichte die nukleare Stromerzeugung 2006 ihren Höhepunkt, wobei der Anteil der nuklearen Stromerzeugung an der gesamten Weltstromerzeugung von 15,5 Prozent im Jahr 1996 auf 8,6 Prozent im Jahr 2022 zurückgegangen ist. Dies ist zum Teil auf politische Überreaktionen auf einige wenige atomare Unfälle zurückzuführen, deren Auswirkungen auf die menschliche Gesundheit und die Umwelt im Vergleich zu den Auswirkungen der Kohlendioxidemissionen aus fossilen Brennstoffen vernachlässigbar waren.

Die Lektion aus Henry Kissingers Leben ist eindeutig. Technologische Fortschritte können sowohl gutartige als auch bösartige Folgen nach sich ziehen, je nachdem, wie wir uns im Kollektiv entscheiden, sie zu nutzen. KI unterscheidet sich natürlich in vielerlei Hinsicht von der Kernspaltung. Es wäre jedoch ein großer Fehler, anzunehmen, dass wir diese neue Technologie eher für produktive als für potenziell zerstörerische Zwecke nutzen werden.

Es war diese Art von Erkenntnis – sowohl aus historischer als auch persönlicher Erfahrung geboren –, die Henry Kissinger dazu inspirierte, einen so großen Teil seines Lebens dem Studium der Weltordnung und der Vermeidung von Weltkriegen zu widmen. Sie war es auch, die ihn dazu veranlasste, auf die jüngsten Durchbrüche in der künstlichen Intelligenz mit so viel Eifer – und Besorgnis – zu reagieren. Und deshalb ist diese posthume Veröffentlichung ebenso wichtig wie alles, was er im Laufe seines langen und folgenreichen Lebens geschrieben hat.

OXFORD

JULI 2024

IN MEMORIAM:HENRY A. KISSINGER

Am 29. November 2023 verstarb Dr. Henry A. Kissinger im Alter von 100 Jahren. Er war eine Inspiration für alle, die ihn kannten, und er arbeitete bis zum Schluss an „KI Genesis“, seinem 22. Buch. Bei unseren häufigen Treffen in seinem letzten Lebensjahr betonte er nachdrücklich die Wichtigkeit unseres Gegenstands und die dringende Notwendigkeit, dessen Botschaft zu verbreiten. Wir, seine beiden Co-Autoren, gehören zu den letzten Menschen, die ihn in den Tagen vor seinem Tod sahen und mit ihm sprachen. Indem wir dieses Projekt in seinem Namen und auf seinen Wunsch hin nun abschließen, haben wir uns bemüht, die Originalität seines Denkens und den klangvollen Tenor seiner Stimme zu einer Angelegenheit von größter Bedeutung für die Zukunft der Menschheit zu bewahren. Zu Ende zu bringen, was er begonnen hat, damit dieses letzte literarische Unternehmen nicht mit ihm stirbt, sondern ohne ihn in der Welt weiterlebt, ist nur ein kleiner Beitrag zu seinem Andenken.

Nachdem er so viel für den Aufbau unserer Welt getan hatte, verbrachte er seine letzten Stunden mit der lebenswichtigen Aufgabe, sie zu retten. Seine letzten schriftlichen Worte sind eine Aufforderung an die gesamte Menschheit, das große Projekt der Sicherung der Zukunft unserer Spezies fortzuführen. Mitte des vorigen Jahrhunderts war Dr. Kissinger eine treibende Kraft der philosophischen und diplomatischen Bemühungen, die Menschheit vor der atomaren Vernichtung zu bewahren – die Begegnung mit der düsteren Realität des existenziellen Risikos des 20. Jahrhunderts. Der mutige Kämpfer gegen dieses Risiko verlässt uns in dem Moment, in dem ein neues Risiko die Bühne betritt. Sein Leben endet in dem Moment, in dem eine neue Form des Lebens beginnt. Während wir Zeugen des Anbruchs des Zeitalters der KI werden, ist uns bewusst, dass nur wenige so gut gerüstet sind wie Dr. Kissinger – Student des 19. Jahrhunderts, Meister des 20. und Orakel des 21. –, um den Grundstein für unsere Zukunft zu legen.

Dr. Kissinger war in erster Linie ein Geschichtsphilosoph. Aus seinen tiefgründigen Untersuchungen zum Thema Tragödie ging ein lebenslanges Bestreben hervor, zu zeigen, dass der Idealismus des Herzens mit dem Realismus des Verstandes vereinbar ist und diesen veredelt. Man kann, wie der französische Schriftsteller Romain Rolland es formulierte, sowohl den „Pessimismus des Verstandes“ als auch den „Optimismus des Willens“ besitzen. Während der Optimist eine grundsolide menschliche Kontrolle über unsere Belange anstrebt, sieht der Pessimist unseren Zustand durch Kräfte bestimmt, die sich unserer Kontrolle entziehen: die Gesetze der Natur und die Zyklen der Geschichte.

Natürlich wusste Dr. Kissinger nur zu gut, wie glühender Idealismus von Ideologen ausgenutzt werden kann, die weder Reue bei Blutvergießen empfinden noch vor der Ausübung von Macht zurückschrecken. Faschismus, Kommunismus, Totalitarismus, militanter religiöser Fanatismus – sie alle haben für sich beansprucht, die idealistischsten Ziele in unserer Geschichte zu verfolgen. Zunächst Opfer, dann militärischer und diplomatischer Kämpfer gegen solche unmenschlichen Exzesse, hatte er es sich zur Aufgabe gemacht, die Welt neu aufzubauen auf einem Fundament der Ordnung ohne Schmach und der Sicherheit ohne Schuldgefühle. Durch seine aktive Gestaltung internationaler Angelegenheiten führte Dr. Kissinger seine Wahlheimat – und die Welt – durch unsichere Zeiten des Umbruchs, wobei er sich auf den harten Boden historischer Tatsachen und nationaler Interessen stellte.

So brillant er auch die selektive Notwendigkeit des Realismus verstand, war Dr. Kissinger doch auch ein Idealist – er respektierte, wie sein Biograph Niall Ferguson es ausdrückt, „die Rolle der menschlichen Freiheit, Wahl und Handlungsfähigkeit bei der Gestaltung der Welt“. In Theorie und Praxis bewies er seine Überzeugung, dass die Menschen nicht so leben, als sei die Zukunft unausweichlich, und dies auch nicht können. In seiner Abschlussarbeit in Harvard, „The Meaning of History“, setzte sich der 27-jährige Henry Kissinger mit derselben philosophischen Debatte auseinander, die nun auch sein letztes Werk prägt: „Unabhängig davon, welche Vorstellung man von der Notwendigkeit von Ereignissen hat, [und] … wie auch immer wir Handlungen im Nachhinein erklären mögen, ihr Zustandekommen geschah mit der inneren Überzeugung einer Wahl.“

Für ihn war es nicht sicher, dass die Menschheit unmenschliche Konstrukte überleben würde, die aus den Feuern unserer eigenen Schmiede stammen. Angesichts der beängstigenden Aussicht einer nuklearen Katastrophe erlag er weder dem Fatalismus des Determinismus noch irgendwelchen Untergangsprophezeiungen. Zugegeben, Existenzängste können zu Nihilismus führen, aber sie können auch den Besten unter uns die nötige Kraft verleihen, dem Bösen zu trotzen und das zu verteidigen, was für die Zukunft unserer Spezies bewahrt werden muss. In den frühen 1950er-Jahren nahm Dr. Kissinger als junger Professor in Harvard an einer Reihe von Treffen teil, bei denen führende Wissenschaftler und Akademiker wie er selbst die möglichen Folgen eines Atomkriegs und die erforderlichen Maßnahmen zu seiner Verhinderung erörterten und diskutierten. Aus diesen Treffen gingen Doktrinen hervor, die unsere Welt seither vor den schlimmsten Befürchtungen der Teilnehmer schützen.

Jahrzehnte später sprach er mit uns beiden oft über diese Treffen – ihre Struktur, ihren Zweck und ihre Bedeutung im Rückblick. Seine Sichtweise blieb bis zum Schluss dieselbe, er war weder dem Lauf des Schicksals ergeben noch einer Utopie verhaftet. In der KI herrscht dasselbe Gleichgewicht wie im nuklearen Kontext: Kleine Gruppen engagierter Individuen können die Geschichte verändern, indem sie eingreifen und ihre Werte manifestieren. Gleichzeitig war Dr. Kissinger jedoch der Meinung, dass die Ausbildung der Wissenschaftler, die die neuen Intelligenzen entwickeln, bei all ihrer Genialität nicht ausreichen würde, um das notwendige Mindestmaß an Sicherheit beim Betrieb dieser neuesten Instrumente zu gewährleisten.

Daher beschränkt sich sein Vermächtnis im Bereich der KI nicht auf rein philosophische und wissenschaftliche Untersuchungen, sondern umfasst auch praktische Vorschläge. Ein halbes Jahrhundert nach seinem Geheimflug nach Peking und der anschließenden Aufnahme der Beziehungen zwischen den Vereinigten Staaten von Amerika und der Volksrepublik China reiste Dr. Kissinger ein weiteres Mal in die chinesische Hauptstadt. Er tat dies auf dringende und ausdrückliche Einladung von Präsident Xi Jinping, um in erster Linie die Risiken zu erörtern, die der Menschheit durch die künstliche Intelligenz drohen. Es war seine letzte Auslandsreise und seine letzte diplomatische Mission.

Wenn Dr. Kissinger in der Vergangenheit das Studium und die Praxis der Staatsführung zu einer Kunst erhoben hat, so hat seine Suche nach Antworten heute die KI zu einem über die Wissenschaft hinausreichenden Thema gemacht. Zusammen mit einem von uns und mit Professor Daniel Huttenlocher vom MIT hat er das Buch „The Age of AI: And Our Human Future“ verfasst, das 2021 veröffentlicht wurde. In ihm sagt er voraus, dass das Aufkommen der KI eine neue Epoche in der Geschichte einleiten wird, die in ihren Auswirkungen mit der Aufklärung des 18. Jahrhunderts vergleichbar ist, da sie das menschliche Denken auf tiefgreifende und unerwartete Weise verändern kann. In diesem neuen Zeitalter ist die Menschheit jedoch nicht mehr mit den Fragen konfrontiert, die der Mensch gestellt hat, sondern mit den Antworten, die die KI auf Fragen gibt, die der Mensch niemals gestellt hat. Während KI die Bereiche des menschlichen Wissens erobert, versuchte Dr. Kissinger, sich auf die Ressourcen der menschlichen Weisheit zu verlassen und diese zu nutzen.

In diesem Buch erkunden wir gemeinsam mit Dr. Kissinger die Auswirkungen der KI auf acht verschiedene Bereiche des menschlichen Handelns und Denkens, die in seiner eigenen philosophischen Antwort auf die ständige Suche nach einer praktikablen Strategie zum Ausgleich von Chancen und Risiken gipfeln. Dabei analysiert er die Aussichten für eine menschliche Koexistenz mit der KI und, zu gegebener Zeit, für eine Koevolution von Mensch und KI. Indem er die Möglichkeit einer Versöhnung dieser beiden Spezies – die eine organisch, die andere synthetisch – konzeptionell erschließt, zeigt er auch die Notwendigkeit einer Wahl auf: eine Welt zu schaffen, in der die KI uns ähnlicher wird, oder eine, in der wir der KI ähnlicher werden.

Seit der Veröffentlichung seines ersten Buches über das Zeitalter der KI machte Dr. Kissinger zunehmend eine Grenze für den Nutzen der Vernunft in den letzten Tagen eines solchen Zeitalters aus. Uns Menschen können Erklärungen, die jenseits unseres eigenen Verständnisses liegen – oder unseres eigenen Schaffens –, völlig rätselhaft erscheinen; instinktiv nehmen wir an, dass sie weniger fortschrittlich und primitiver sind als unsere wissenschaftlichen Erklärungen, ein Schritt zurück und nicht nach vorn. Das ist aber eine gefährliche Annahme.

Wenn, um es mit den Worten von Arthur C. Clarke zu sagen, „jede hinreichend fortgeschrittene Technologie nicht von Magie zu unterscheiden ist“ und wenn Wunder von der Mathematik hervorgebracht werden, dann sollte die Zukunft unerklärlich, verwirrend und sogar magisch sein. In den Jahrzehnten, in denen wir Dr. Kissinger kennengelernt haben, hat er uns großzügig an seinen Erfahrungen mit der Staatskunst – diesem komplexen Bereich menschlicher Angelegenheiten – teilhaben lassen und uns gelehrt, dass die Vernunft zwar das vorherrschende Paradigma ist, mit dem wir Menschen unsere Welt beherrscht haben, dass sie aber nicht das Paradigma sein kann, mit dem wir uns selbst beherrschen.

Wir sollten daher nicht erwarten, dass wir uns in Zukunft ausschließlich auf die Vernunft verlassen werden – den historischen Motor für unsere größten menschlichen Fortschritte. Wir können aber auch nicht völlig auf sie verzichten. Nicht unähnlich seiner Abwägung zwischen Idealismus und Realismus erreichen Dr. Kissingers abschließende Untersuchungen über unsere Zukunft ein Gleichgewicht zwischen dieser empirischen Qualität der Wahrheit und etwas anderem – philosophisch jenseits der Vernunft, aber chronologisch dahinter zurückbleibend. Genauso wenig wie sich die Außenpolitik ein Übermaß an einem der beiden Extreme leisten kann, kann dies auch unser Rahmenplan für die Zukunft.

KI ist also eine einzigartige Herausforderung, die ein Denken erfordert, das auf den ersten Blick irrational oder überzogen erscheinen mag – und tatsächlich sind die in diesem Buch beschriebenen Szenarien erschreckend. Doch indem Dr. Kissinger uns und andere darauf hinwies, dass er selbst nur ein bescheidener Student sowohl der Menschheit als auch ihrer jüngsten und potenziell letzten Schöpfung war, hat er uns eingeschärft, dass die größte Gefahr, die von der KI ausgeht, darin besteht, dass wir zu früh oder zu vollumfänglich erklären, dass wir sie verstehen.

Seine intellektuelle Tiefe und sein Gespür für Menschen sind Eigenschaften, die uns wohl nicht mehr begegnen werden. Wir kennen niemanden sonst, der im Alter von 93 Jahren ein völlig neues und bis dahin unbekanntes technisches Wissensgebiet beherrschte. Mit seiner unstillbaren Neugier und geistigen Vitalität, gepaart mit der Hingabe an seine Arbeit und seinem Sendungsbewusstsein, konnte kein körperlicher oder seelischer Schmerz jemals seine Leidenschaft für den Fortschritt dämpfen. Ungeachtet der Gebrechen des Alters stand er jeden Tag mit der unüberwindlichen Entschlossenheit auf, die Welt voranzubringen. Seine unbeugsame Stärke rührte vielleicht von seiner unübertroffenen Disziplin her – in der Jugend durch Unterdrückung gestählt, durch den Dienst im Krieg geformt und jahrzehntelang durch die Mühen des öffentlichen Lebens auf die Probe gestellt.

Wir sind nur zwei von vielen, deren Leben von diesem außergewöhnlichen Mann geprägt wurden. Wir werden ihn sehr vermissen – zweifellos auf mehr Arten, als wir uns jetzt vorstellen können. Da er uns im Angesicht einer großen Ungewissheit verlässt, wird er jetzt mehr denn je gebraucht. Deshalb schien uns kein Titel für dieses Buch passender als „KI Genesis“ – ein neuer Anfang für ihn wie für alle Menschen. Ob die Menschheit Erfolg hat oder scheitert, er wird nicht mehr hier sein, um das Endergebnis seiner Bemühungen mitzuerleben. Wenigstens bleibt uns seine Weisheit, von der wir uns leiten lassen können.

– Eric Schmidt und Craig Mundie

EINFÜHRUNG

Noch vor wenigen Jahren fristete die künstliche Intelligenz (KI) ein Schattendasein in der öffentlichen Debatte. Heute, nach den rasanten Fortschritten, ist KI ein Thema, das überall auf den Titelseiten steht und die führenden Köpfe in Wissenschaft, Wirtschaft, Journalismus, Staatsdienst, Bildung und Politik auf der ganzen Welt beschäftigt.

Unserer Meinung nach übersehen sowohl die breite Öffentlichkeit als auch viele Experten immer noch wichtige Aspekte dieses neuen Zeitalters der KI. Neue Formen der KI und die menschlichen Reaktionen darauf könnten nicht weniger als das Verhältnis des Menschen zur Realität und zur Wahrheit, die Erkundung des Wissens sowie die physische Entwicklung der Menschheit, den Fortgang der Diplomatie und das internationale System verändern. Dies sind einige der entscheidenden Themen der kommenden Jahrzehnte und sie sollten die führenden Köpfe auf allen Gebieten beschäftigen.

Die neuesten Fähigkeiten der KI, so beeindruckend sie auch sein mögen, werden im Nachhinein als gering erscheinen, da ihre Fähigkeiten immer schneller zunehmen. Mächte, die wir uns noch nicht vorstellen können, werden unser tägliches Leben durchdringen. Künftige Systeme werden enorme und weitgehend nutzenbringende Fortschritte ermöglichen, unsere Gesundheit verbessern und gleichzeitig Wohlstand schaffen.

Diese Fähigkeiten sind jedoch mit technischen und menschlichen Risiken verbunden, von denen einige bekannt und andere unbekannt sind. Die heutigen Technologien funktionieren bereits auf eine Weise, die ihre Erfinder nicht vorausgesehen haben, und dies wird sich wahrscheinlich fortsetzen. Jeder ergiebige Forschungspfad, den unsere Wissenschaftler beschreiten – und es wird mehr als einen geben –, könnte neue Bereiche mit unvorhergesehenen Kräften hervorbringen, die für den Menschen nachvollziehbar oder nützlich sein können oder auch nicht.

Die KI scheint menschliche Zeithorizonte zu komprimieren. Die Objekte der Zukunft sind näher, als es scheint. Nur ein Beispiel: Maschinen, die ihre eigenen Ziele definieren können, sind nicht mehr weit entfernt. Wenn wir auch nur die geringste Hoffnung haben wollen, mit den damit verbundenen Risiken Schritt zu halten, müssen wir innerhalb kürzester Zeit reagieren und handeln. Wir sind uns der Bedeutung und der Dringlichkeit der vor uns liegenden Aufgabe bewusst und können hier nur einige ihrer vielen Facetten aufzeigen.

In dem Maße, in dem Partnerschaften zwischen Mensch und Maschine allgegenwärtig werden, wird der Mensch die Frage nach der Natur dieser Beziehungen beantworten müssen. Die Antworten können sich aus der Logik von Sicherheit und Effizienz ergeben, aus dem Studium der Geschichte entwickelt oder vom Göttlichen her abgeleitet werden. Individuen, Nationen, Kulturen und Religionen werden die Grenzen der Macht der KI über die Wahrheit bestimmen müssen, sofern es diese Grenzen überhaupt gibt. Sie werden entscheiden müssen, ob sie zulassen, dass die KI zu einem Vermittler zwischen Mensch und Realität wird. In diesem Zusammenhang werden sie auch eine Wahl treffen müssen zwischen einerseits der Beibehaltung der traditionellen Rolle des menschlichen Unternehmungsgeistes (wobei sie wahrscheinlich die Führung bei der Entdeckung neuen Wissens an die KI abtreten) und andererseits der Aufgabe des biologisch begrenzten menschlichen Verstandes zugunsten einer potenziell neu gestalteten Partnerschaft mit der KI im intellektuellen Grenzbereich. Wählen wir unsere Ziele aus und nutzen die KI, um sie zu erreichen, oder lassen wir die KI dabei helfen, einige der Ziele auszuwählen? Am dringlichsten ist, dass die Menschheit der Menschenwürde eine moderne und nachhaltige Definition verleiht, die eine philosophische Orientierung für unsere Entscheidungen in den kommenden Jahren bieten kann.

Das Aufkommen der KI ist unserer Ansicht nach eine Frage des menschlichen Überlebens. Wie wir im weiteren Verlauf dieses Buches erläutern, werden die künftigen Fähigkeiten der KI, die mit nichtmenschlicher Geschwindigkeit arbeiten, die traditionelle Regulierung nutzlos machen. Wir werden eine grundlegend neue Form der Kontrolle benötigen. Für die globale wissenschaftliche Gemeinschaft besteht die unmittelbare Aufgabe darin, technische Maßnahmen zu finden, die jedes KI-System mit inhärenten Sicherheitsvorkehrungen versehen. Nationen und internationale Organisationen ihrerseits müssen, sobald sie sich auf einen Konsens geeinigt haben, neue politische Strukturen zur Überwachung, Durchsetzung und Krisenreaktion entwickeln. Dies erfordert nicht nur die Lösung eines, sondern zweier „Angleichungsprobleme“: die technische Angleichung menschlicher Werte und Absichten an die Handlungen der KI und die diplomatische Angleichung der Menschen an ihre Mitmenschen.

Dr. Henry Kissinger, einer der Co-Autoren dieses Buches, hat seine beiden Mitarbeiter in Bezug auf das letztgenannte Problem intensiv beraten, während jene – als frühere Führungskräfte von Microsoft und Google – wiederum ihn in Bezug auf das erstgenannte Problem auf den neuesten Stand gebracht haben. Craig Mundie war Microsofts oberster technologiepolitischer Verbindungsmann nach Washington und zu ausländischen Regierungen weltweit und leitete gleichzeitig Microsoft Research, bevor er unlängst die Führung der Forschungsorganisation OpenAI beriet. Eric Schmidt leitete Google ein Jahrzehnt lang und verbrachte das folgende Jahrzehnt damit, an der Schnittstelle von Technologie, Philanthropie und Sicherheit ein Netzwerk von Talenten und Ideen mit dem Ziel zu schmieden, die Menschheit zu schützen.

Die Dringlichkeit der Probleme, mit denen wir uns gemeinsam auseinandergesetzt haben, ist so groß, dass wir nicht auf eine Krise warten wollen, sondern es für zwingend erforderlich halten, dass unsere Gesellschaft, ja unsere Spezies diese Probleme proaktiv angeht. Und obwohl die Sicherheit der Menschen ein notwendiger Bestandteil einer erfolgreichen Antwort auf die KI ist, kann sie nicht die Antwort auf alle Fragen sein, die die KI aufwirft – denn im Zeitalter der KI wird sich die Menschheit verändern. Die Frage ist, ob und inwieweit wir Menschen uns dafür entscheiden werden, weiterhin die Kontrolle darüber zu behalten, wie dieser Wandel vonstattengeht.

TEIL IAM ANFANG

KAPITEL 1 ENTDECKUNG

Die Fähigkeit der Entdeckung ist die vielleicht aufregendste Fähigkeit der menschlichen Spezies. Angetrieben von Neugier und begeistert vom Unerwarteten füllen wir die Lücken, die wir wahrnehmen, und verwandeln die Fragen, die wir stellen, in Antworten. Das Erforschen ist ein so wesentlicher Bestandteil unserer Selbstdefinition, dass wir trotz offensichtlicher Gefahren und Frustrationen unablässig seine zahlreichen Wege beschreiten.

Im Laufe der Geschichte war die Erforschung durch den Menschen, insbesondere die Erforschung unserer physischen Umwelt, eine Angelegenheit von großem Mut im Angesicht großer Risiken. Menschen, die zu solchen Unternehmungen aufbrachen, waren häufig mit ihrer eigenen Sterblichkeit konfrontiert. Zu Beginn des 16. Jahrhunderts war Ferdinand Magellans Weltumsegelung eine dreijährige Odyssee voller Gewalt, Hunger und Tod. Magellans Reise war die erste, bei der erfolgreich ein Kurs rund um den Globus eingeschlagen wurde. Dabei brach er den Rekord für die längste Zeit auf hoher See, wies die Dimensionen des Planeten nach und ebnete – da das Unternehmen im Kontext des europäischen Kolonialismus stattfand – den Weg für sozialen und wirtschaftlichen Austausch auf internationaler Ebene.

Die meisten von Magellans Seeleuten hatten begriffen, dass sie das Risiko einer Katastrophe eingingen. Obwohl man nicht mehr verbreitet glaubte, dass die Erde flach sei, war ihre Kugelform noch nicht bewiesen und viele aus der Mannschaft fürchteten wohl, über den Rand der Welt hinauszusegeln.