18,99 €
Mehr erfahren.
- Herausgeber: FinanzBuch Verlag
- Kategorie: Fachliteratur
- Sprache: Deutsch
Das Silicon Valley hat seinen Weg verloren. Von der Gründung der USA bis weit ins 20. Jahrhundert hinein arbeiteten die brillantesten Ingenieure und der demokratische Staat zusammen, um Technologien zu entwickeln, die die Welt verändern sollten. Diese Partnerschaft sicherte dem Westen eine beherrschende Stellung in der geopolitischen Ordnung. Doch diese Beziehung ist inzwischen erodiert. Statt die größten Herausforderungen unserer Zeit zu bewältigen, konzentriert sich das Silicon Valley auf den kapitalistischen Verbrauchermarkt. In diesem provokativen Buch üben der Mitbegründer von Palantir, Alexander C. Karp, und Nicholas W. Zamiska scharfe Kritik an unserem kollektiven Verzicht auf kreative und kulturelle Ambitionen, die dem Staat zugutekämen. Sie argumentieren, dass die Softwareindustrie ihre Aufmerksamkeit auf unsere dringendsten Herausforderungen richten und die Beziehung zur Regierung neu aufbauen muss, damit der Westen seinen geopolitischen Vorteil – und die Freiheiten, die wir für selbstverständlich halten – aufrechterhalten kann.
Das E-Book können Sie in Legimi-Apps oder einer beliebigen App lesen, die das folgende Format unterstützen:
Seitenzahl: 448
Veröffentlichungsjahr: 2025
Ähnliche
Buchvorderseite
Titelseite
ALEXANDER C. KARPmit Nicholas W. Zamiska
THETECHNOLOGICAL REPUBLIC
VomGründer von Palantir
Über die Macht des Silicon Valley und die Zukunft des Westens
Aus dem Englischen vonTobias Gabel, Enrico Heinemann und Jörn Pinnow
Impressum
Bibliografische Information der Deutschen Nationalbibliothek
Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie. Detaillierte bibliografische Daten sind im Internet über https://dnb.de abrufbar.
Für Fragen und Anregungen:
Wichtiger Hinweis
Ausschließlich zum Zweck der besseren Lesbarkeit wurde auf eine genderspezifische Schreibweise sowie eine Mehrfachbezeichnung verzichtet. Alle personenbezogenen Bezeichnungen sind somit geschlechtsneutral zu verstehen.
1. Auflage 2025
© 2025 by Finanzbuch Verlag, ein Imprint der Münchner Verlagsgruppe GmbH
Türkenstraße 89
80799 München
Tel.: 089 651285-0
Die amerikanische Originalausgabe erschien 2025 bei Crown Currency ein Imprint von Crown Publishing Group unter dem Titel The Technological Republic. Copyright © 2025 by Alexander Karp and Nicholas Zamiska. All rights reserved.
Alle Rechte, insbesondere das Recht der Vervielfältigung und Verbreitung sowie der Übersetzung, vorbehalten. Kein Teil des Werkes darf in irgendeiner Form (durch Fotokopie, Mikrofilm oder ein anderes Verfahren) ohne schriftliche Genehmigung des Verlages reproduziert oder unter Verwendung elektronischer Systeme gespeichert, verarbeitet, vervielfältigt oder verbreitet werden. Wir behalten uns die Nutzung unserer Inhalte für Text und Data Mining im Sinne von § 44b UrhG ausdrücklich vor.
Übersetzung: Tobias Gabel, Enrico Heinemann, Jörn Pinnow
Redaktion: Redaktionsbüro Diana Napolitano, Augsburg
Umschlaggestaltung: Karina Braun
Umschlagabbildung: Adobe Stock/Mykola Mazuryk
eBook: ePUBoo.com
ISBN druck 978-3-95972-835-5
ISBN ebook (EPUB, Mobi) 978-3-98609-614-4
Weitere Informationen zum Verlag finden Sie unter
www.finanzbuchverlag.de
Beachten Sie auch unsere weiteren Verlage unter www.m-vg.de.
Für all jene, die das Herz anderer erreichenmöchten und ihr eigenes kennen.
*
Doch werdet ihr nie Herz zu Herzen schaffen,Wenn es euch nicht von Herzen geht.
FAUST, JOHANN WOLFGANG VON GOETHE
Die Macht zu verletzen ist Verhandlungsmacht.Diese Macht auszunutzen ist Diplomatie –bösartige Diplomatie, aber Diplomatie.
THOMAS SCHELLING
Wo Liberale sich davor fürchten, Stellung zu beziehen,eilen Fundamentalisten herbei.
MICHAEL SANDEL
INHALT
ABBILDUNGSVERZEICHNIS
Abbildung 1
Test zum Zeichnen eines Einhorns durch ein Sprachmodell. Sébastien Bubeck et al., »Sparks of Artificial General Intelligence: Early Experiments with GPT-4,« arXiv, March 22, 2023, 7.
Abbildung 2
Im Gefecht Gestorbene pro 100 000 Menschen weltweit (1946 bis 2016). Steven Pinker, Enlightenment Now: The Case for Reason, Science, Human ism, and Progress (New York: Penguin Books, 2018), 159.
Abbildung 3
Verteidigungsausgaben in Prozent des BIP: Vereinigte Staaten und Europa (1960 bis 2022). World Bank Group, »Military Expenditures (% of GDP): United States, European Union, 1960–2022.«
Abbildung 4
Wachstum der Gesamtfaktorproduktivität in den Vereinigten Staaten (1900 bis 2014). Robert J. Gordon, The Rise and Fall of American Growth (Princeton, N.J.: Princeton University Press, 2016), 547.
Abbildung 5
Anteil der Harvard-Graduierten mit Berufsorientierung Finanzen oder Consulting (1971 bis 2022). Aden Barton, »How Harvard Careerism Killed the Classroom,« Harvard Crimson, April 21, 2023 (citing Claudia Goldin et al., »Harvard and Beyond Project,« Harvard University, 2023).
Abbildung 6
Die Langzeitperspektive: Geschätztes BIP pro Kopf weltweit (1 n. Chr. bis 2003). Angus Maddison, Contours of the World Economy, 1–2030 AD: Essays in Macro-Economic History ( Oxford: Oxford University Press, 2007), 70.
Abbildung 7
Die Huntington-Wallace-Linie. Samuel P. Huntington, »The Clash of Civilizations?,« Foreign Affairs 72, no. 3 (Summer 1993): 30 (citing William Wallace, The Transformation of Western Europe (London: Pinter, 1990)).
Abbildung 8
Westliche Reiche: Anteil an Territorium und an der Weltwirtschaftsleistung. Niall Ferguson, Civilization: The West and the Rest (New York: Penguin Books, 2011), 6.
Abbildung 9
Standorte potenzieller Nistplätze wie von den Honigbienentänzen im Eckschwarm angegeben. Martin Lindauer, »House-Hunting by Honey Bee Swarms,« trans. P. Kirk Visscher, Karin Behrens, and Susanne Kuehnholz, Journal of Comparative Physiology 37 (1955): 274.
Abbildung 10
Das Konformitätsexperiment von Asch. Solomon E. Asch, »Opinions and Social Pressure,« Scientific American 193, no. 5 (November 1955): 32. Reproduced with permission. Copyright © 1955 SCIENTIFIC AMERICAN, Inc. All rights reserved.
Abbildung 11
Anteil der Mitglieder des US-Kongresses, die einen Militärdienst abgeleistet haben. Drew Desilver, »New Congress Will Have A Few More Veterans, But Their Share of Lawmakers Is Still Near A Record Low,« Pew Research Center, December 7, 2022.
Abbildung 12
Die Treffsicherheit der Vorhersagen von »Füchsen« und »Igeln« in Philip Tetlocks Test an 284 Experten. Philip E. Tetlock, Expert Political Judgment: How Good Is It? How Can We Know? (Princeton, N.J.: Princeton University Press, 2005), 77.
Abbildung 13
Fanterritorien der Teams in der höchsten US-Baseball-Liga MLB (Stand: 2014). Tom Giratikanon et al., »Up Close on Baseball’s Borders,« New York Times, April 24, 2014. From The New York Times. © 2014 The New York Times Company. All rights reserved. Used under license.
Abbildung 14
Odysseus und die Sirenen von Herbert James Draper (1909). Herbert James Draper, Ulysses and the Sirens, 1909, oil on canvas, 177 × 213.5 cm, Ferens Art Gallery, Kingston Upon Hull, England.
Abbildung 15
Der Gründerbonus: Gesamtrendite gründergeführter Unternehmen gegenüber nicht-gründergeführten Unternehmen (1990 bis 2014). Chris Zook, »Founder-Led Companies Outperform the Rest—Here’s Why« Harvard Business Review, March 24, 2016.
VORWORT
Dieses Buch ist das Ergebnis eines fast zehnjährigen Gesprächs zwischen den Autoren über Technologie, unser nationales Projekt sowie die bedrohlichen politischen und kulturellen Herausforderungen, vor denen wir alle stehen.
Für den Westen ist der Moment gekommen, um Bilanz zu ziehen. Unsere nationalen Ambitionen und das Interesse am Potenzial von Wissenschaft und Technologie haben abgenommen, und über alle Sektoren hinweg, von der Medizin über Weltraumprojekte bis hin zu Militärsoftware, ließen die staatlich angestoßenen Neuerungen nach, wodurch eine Innovationslücke entstand. Der Staat strebt nicht länger nach der Art von umfassendem Durchbruch, der für die Atombombe und das Internet sorgte, und überlässt die Aufgabe, die nächste Welle an wegweisenden Technologien zu entwickeln, dem Privatsektor – eine bemerkenswerte und fast vollständige Vertrauenssetzung in den Markt. Das Silicon Valley kümmert sich in der Zwischenzeit nur um sich selbst und konzentriert seine Energie auf einen kleinen Bereich von Konsumgütern, anstatt Projekte anzuschieben, die unsere umfassendere Sicherheit und unseren Wohlstand betreffen.
Das derzeitige digitale Zeitalter war von Online-Werbung und -Shopping sowie den sozialen Medien und Plattformen zum Video-Sharing bestimmt. Das vollmundige Schlagwort einer Gründergeneration im Silicon Valley lautete schlicht: Entwickeln. Nur wenige fragten, was entwickelt werden musste und warum. Jahrzehntelang hielten wir den Fokus der Technologie-Industrie auf Konsumgüter – ein Fokus, der in vielen Fällen zu einer regelrechten Obsession geworden war – für selbstverständlich und hinterfragten die Ausrichtung, die die Autoren dieses Buchs für eine Fehlausrichtung halten, von Kapital und Talenten auf das Triviale und Ephemere kaum. Vieles von dem, was heute als innovativ gilt und enorme Mengen an Talenten und Finanzen verschlingt, wird noch vor dem Ende des Jahrzehnts vergessen sein.
Der Markt ist eine mächtige Zerstörungsmaschine. Er vernichtet nicht zuletzt auch Kreativität, versagt jedoch häufig dabei, im richtigen Moment das zu liefern, was am dringendsten gebraucht wird. Die Giganten des Silicon Valley begingen den strategischen Fehler, sich selbst eine Rolle zuzuschreiben, die sie im Grunde außerhalb jenes Staates verortet, in dem sie aufgebaut wurden. Zahlreiche dieser Unternehmensgründer sahen in den Vereinigten Staaten ein untergehendes Reich, dessen langsamer Abstieg dem eigenen Aufstieg und dem Goldrausch der neuen Ära nicht im Wege stehen durfte. Viele unter ihnen gaben jeden ernsthaften Versuch auf, die Gesellschaft voranzubringen oder sicherzustellen, dass sich die menschliche Zivilisation Stück für Stück emporarbeitet. Das vorherrschende ethische Grundgerüst im Silicon Valley, die techno-utopische Ansicht, dass Technologie alle Probleme der Menschheit lösen kann, entwickelte sich zu einem engen und dünnen utilitaristischen Ansatz, bei dem Individuen nur mehr Atome in einem zu regulierenden und einzugrenzenden System sind. Die entscheidenden, wenn auch verwirrenden Fragen, was ein gutes Leben ausmacht, welche kollektiven Anstrengungen eine Gesellschaft angehen sollte und was eine gemeinsame und nationale Identität möglich machen kann, wurden als Anachronismen eines vergangenen Zeitalters außer Acht gelassen.
Wir können das besser – wir müssen das besser machen. Unser zentrales, im Folgenden weiter ausgeführtes Argument lautet, dass die Softwareindustrie ihre Beziehung zur Regierung neu aufbauen und ihre Anstrengungen und Aufmerksamkeit darauf lenken muss, jene Technologien und künstliche Intelligenz zu entwickeln, die unsere dringendsten Herausforderungen anpacken. Die Technikelite des Silicon Valley hat die Handlungspflicht, an der Verteidigung der Nation und der Artikulation eines nationalen Projekts mitzuwirken – was ist dieses Land, was sind unsere Werte und für was stehen wir – und darüber hinaus den noch bestehenden, aber fragilen geopolitischen Vorteil zu bewahren, den die Vereinigten Staaten und ihre Verbündeten in Europa und anderswo über ihre Gegner errungen haben. Es geht, natürlich, um den Schutz der individuellen Rechte gegen staatliche Übergriffe, der seine moderne Form im »Westen« fand – ein Konzept, das von vielen fast beiläufig ausrangiert wurde – und ohne den der schwindelerregende Aufstieg des Silicon Valley niemals möglich gewesen wäre.
Das Aufkommen der künstlichen Intelligenz, die zum ersten Mal in der Menschheitsgeschichte die kreative Überlegenheit des Menschen in der Welt ernsthaft herausfordert, verstärkt nur die Dringlichkeit, mit der wir die Fragen der nationalen Identität und des nationalen Anliegens neu stellen müssen. Viele hielten diese Fragen bereits für erledigt. Wir hätten noch jahre-, wenn nicht gar jahrzehntelang so weitermachen können und wären den wirklich entscheidenden Fragen aus dem Weg gegangen, hätte nicht durch die fortgeschrittene KI, angefangen bei Large Language Models bis hin zu den zu erwartenden Schwärmen autonomer Roboter, die Umwälzung der globalen Ordnung gedroht. Nun ist allerdings der Moment gekommen, in dem wir entscheiden müssen, wer wir sind und wer wir in Zukunft sein möchten, nicht nur als Gesellschaft, sondern auch als Zivilisation.
Manch einer dürfte eine vorsichtigere und wohlüberlegte Trennung zwischen den Domänen und Angelegenheiten des privaten und öffentlichen Sektors bevorzugen und für sie eintreten. Die Vermischung von privatwirtschaftlichen und nationalen Zielen, von der Disziplin, die der Markt bieten kann, und dem Interesse am Gemeinwohl kann Unbehagen erzeugen. Doch Reinheit hat ihren Preis. Die Autoren dieses Buchs glauben, dass der Widerwille zahlreicher Unternehmensführungen, sich an den folgenreichsten sozialen und kulturellen Debatten unserer Zeit zu beteiligen, und zwar auf eine bedeutungsvolle Art und Weise zu beteiligen, welche über die derzeitigen gelegentlichen und theatralischen Vorstöße hinausgeht, dass dieser Widerwille uns zu denken geben sollte. Und zu diesen Debatten gehören auch solche über das Verhältnis zwischen dem Technologiesektor und dem Staat. Die Entscheidungen, denen wir gemeinsam gegenüberstehen, sind zu folgenreich, als dass wir sie unhinterfragt und ohne weitere Untersuchung ruhen lassen sollten. Alle, die an der Entwicklung der Technologie beteiligt sind, die fast jeden Aspekt unseres Lebens beleben und möglich machen wird, sind verantwortlich dafür, ihre Überzeugungen zu offenbaren und zu erklären.
Insgesamt hoffen wir, mit diesem Buch eine Diskussion darüber anzustoßen, welche Rolle das Silicon Valley bei der Verbesserung und Neuerfindung eines nationalen Projekts spielen kann und spielen sollte, sowohl in den Vereinigten Staaten als auch darüber hinaus – darüber, was jenseits einer festen und unverrückbaren Verpflichtung zum Liberalismus und seinen Werten, darunter der Weiterentwicklung der individuellen Rechte und Gerechtigkeit, unsere gemeinsame Vision der Gemeinschaft ausmacht, der wir angehören.
Uns ist bewusst, dass ein politischer Aufsatz dieser Art für jemanden, der im Privatsektor zu Hause ist, ein ungewöhnliches Projekt darstellt. Doch es steht viel auf dem Spiel, und der Einsatz wird immer höher. Die aktuelle Weigerung der Tech-Industrie, sich mit diesen fundamentalen Fragen zu beschäftigen, hat uns einer positiven Vision beraubt, was dieses oder jedes andere Land in einer Ära des zunehmenden technologischen Wandels und Risikos sein kann und sein sollte. Wir glauben zudem, dass die Werte der Technikkultur, die zum Aufstieg des Silicon Valley führten, etwa dessen obsessive Konzentration auf das Ergebnis und sein Desinteresse an Theater und Gehabe – so komplex und unvollkommen auch immer – sich am Ende als entscheidend herausstellen werden für die Fähigkeit, unsere nationale Sicherheit und den Wohlstand zu fördern.
Zu viele Führungsfiguren zögern, sich in die Diskussion zu stürzen oder eine echte Überzeugung zu äußern – sei es für eine Idee, ein Wertesystem oder ein politisches Projekt –, und zwar aus Angst, dass sie in der gegenwärtigen politischen Sphäre dafür bestraft würden. Ein erheblicher Teil unserer Führungsriege, gewählt oder anderweitig aufgestiegen, lehrt und wurde gelehrt, dass schon der Glaube an sich der Feind sei und dass die Abwesenheit von Glauben an irgendetwas, abgesehen vielleicht vom Glauben an sich selbst, den Weg zum Erfolg garantiere. Das Ergebnis ist eine Kultur, in der jene, die für die folgenreichsten unserer Entscheidungen verantwortlich sind – in unzähligen öffentlichen Bereichen, darunter Regierungen, Industrie und Wissenschaft –, häufig unsicher sind, woran sie eigentlich glauben, oder noch grundsätzlicher, ob sie überhaupt über irgendwelche festen und authentischen Überzeugungen verfügen.
Wir hoffen, dass dieses Buch allein schon durch seine Existenz beweist, dass ein deutlich lebhafterer Diskurs, eine bedeutendere und nuanciertere Hinterfragung unserer (gemeinsamen und nicht-gemeinsamen) Überzeugungen als Gesellschaft möglich ist – und vor allem dringend nötig ist. Wer im Privatsektor tätig ist, sollte dieses Terrain nicht allein der akademischen Welt und anderen überlassen, nur weil man bei sich mangelnde Autorität oder Expertise feststellt. Palantir selbst ist der – unvollkommene, sich weiterentwickelnde und unvollständige – Versuch, ein kollektives Unternehmen aufzubauen, es ist ein kreativer Output, der Theorie und Praxis vermischt. Palantirs unternehmerische Entwicklung von Software und seine Arbeit in der Welt stellen die Praxis dar. Dieses Buch möchte der Beginn für die Entwicklung der Theorie sein.
ACK und NWZ
November 2024
TEIL IDAS SOFTWARE-JAHRHUNDERT
KAPITEL 1LOST VALLEY
Das Silicon Valley hat seine Orientierung verloren.
Der Aufstieg der amerikanischen Softwareindustrie wurde Anfang des 20. Jahrhunderts ursprünglich durch etwas ermöglicht, was heute wie eine radikale und angespannte Partnerschaft zwischen den aufstrebenden Technologiefirmen und der US-Regierung wirken würde. Die frühesten Innovationen aus dem Silicon Valley waren nicht von Technikern erdacht worden, die triviale Konsumgüter entwickeln wollten, sondern von Wissenschaftlern und Ingenieuren, die die leistungsfähigsten zur Verfügung stehenden Technologien nutzten, um Herausforderungen von industrieller und nationaler Bedeutung anzugehen. Ihr Streben nach Durchbrüchen sollte keine flüchtigen und momentanen Bedürfnisse befriedigen, sondern es sollte ein deutlich größeres Projekt vorantreiben und die kollektiven Anliegen und Ambitionen einer Nation kanalisieren. Diese anfängliche Abhängigkeit des Silicon Valley vom Nationalstaat und nicht zuletzt auch vom US-Militär ist größtenteils in Vergessenheit geraten und wurde aus der regionalen Geschichte als unbequeme und unpassende Wahrheit gestrichen, schließlich prallt sie frontal auf das Selbstverständnis des Silicon Valley, das sich als allein seiner eigenen Innovationskraft verpflichtet versteht.
In den 1940er-Jahren begann die US-Bundesregierung damit, eine Vielzahl an Forschungsprojekten zu unterstützen, die in der Entwicklung neuartiger pharmazeutischer Wirkstoffe, von Interkontinentalraketen und Satelliten kulminierten, aber auch die Vorläufer der künstlichen Intelligenz entwickelten. Tatsächlich stand das Silicon Valley einst im Zentrum der amerikanischen Militärproduktion und nationalen Sicherheit. Fairchild Camera and Instrument Corporation, deren Halbleiterabteilung sich im kalifornischen Mountain View befand und die ersten primitiven Personalcomputer möglich machte, stellte Bauteile für Spionagesatelliten her, die die Central Intelligence Agency (CIA) ab Ende der 1950er-Jahre einsetzte. Eine Zeit lang stammten alle nach dem Zweiten Weltkrieg für die U. S. Navy produzierten ballistischen Raketen aus Santa Clara County, Kalifornien. Unternehmen wie Lockheed Missile & Space, Westinghouse, Ford Aerospace und United Technologies bezahlten Tausende Angestellte, die noch in den 1980er- und bis in die 1990er-Jahre im Silicon Valley in der Waffenproduktion arbeiteten.
Diese Einheit aus Wissenschaft und Staat in der Mitte des 20. Jahrhunderts war als Folge des Zweiten Weltkrieges entstanden. Im November 1944 – die Sowjettruppen rückten aus dem Osten auf Deutschland vor, und Adolf Hitler musste sein östliches Hauptquartier, die sogenannte Wolfsschanze, im Norden des heutigen Polen aufgeben – sann US-Präsident Franklin D. Roosevelt in Washington, D. C., bereits über den amerikanischen Sieg und das Ende des Konflikts nach, der die Welt umgestaltet hatte. Er schrieb einen Brief an Vannevar Bush, den Sohn eines Pastors, der zum Leiter des Office of Scientific Research and Development (»Amt für wissenschaftliche Forschung und Entwicklung«) aufgestiegen war. Bush wurde 1890 in Everett, Massachusetts, ein wenig nördlich von Boston, geboren. Sowohl sein Großvater als auch sein Vater waren in Provincetown, am Ende von Cape Cod, aufgewachsen. In seinem Brief würdigte Roosevelt »das einzigartige Experiment«, das die Vereinigten Staaten während des Weltkrieges durchgeführt hätten, um der Wissenschaft im Dienste der militärischen Ziele zum Durchbruch zu verhelfen. Roosevelt sah die neue Ära – und die Partnerschaft zwischen der Bundesregierung und der Privatwirtschaft – präzise voraus. Er schrieb, es gebe »keinen Grund, warum die aus diesem Experiment gezogenen Lehren« – also dass man die Ressourcen eines sich entwickelnden wissenschaftlichen Establishments so ausrichtete, dass sie halfen, den bedeutendsten und grausamsten Krieg zu führen, den die Welt je gesehen hatte – »nicht auch in Friedenszeiten profitabel eingesetzt werden könnten«. Seine Absicht war klar: Roosevelt schwebte vor, dass die angelaufene Maschinerie des Staates – dessen Macht und Prestige, aber auch die finanziellen Ressourcen der jüngst siegreichen Nation und des aufstrebenden Hegemons – die Wissenschaftsgemeinde zu weiteren Beiträgen anstacheln sollte, etwa in den Bereichen öffentliche Gesundheit und nationaler Wohlstand. Die Herausforderung bestand darin, sicherzustellen, dass die Ingenieure und Forscher, die ihre Aufmerksamkeit ganz der Kriegsindustrie gewidmet hatten – und hier allen voran die Physiker, von denen Vannevar Bush geschrieben hatte, dass sie »am brutalsten aus der Bahn geworfen wurden« –, ihre Bemühungen in einer Zeit des relativen Friedens nun zurück auf den zivilen Fortschritt verlagern konnten.
Die Verflechtung von Staat und wissenschaftlicher Forschung vor und nach dem Zweiten Weltkrieg basierte auf einer noch deutlich längeren Geschichte der Verbindung von Innovation und Politik. Viele der frühesten führenden Politiker der amerikanischen Republik waren selbst Forscher gewesen, etwa Thomas Jefferson, von 1801 bis 1809 dritter Präsident der Vereinigten Staaten, der Sonnenuhren baute und Schreibmaschinen untersuchte, oder auch Benjamin Franklin, der so ziemlich mit allem zwischen Blitzableitern und Brillen experimentierte oder sie gleich selbst entwarf.Franklin war kein Wissenschaftsdilletant. Er war Ingenieur, und zwar einer der produktivsten des Jahrhunderts, der nebenbei noch politisch tätig war. Harvard-Chemieprofessor Dudley Herschbach erkannte, dass die Forschung des Gründervaters Franklin im Bereich der Elektrizität »anerkanntermaßen den Anstoß zu einer wissenschaftlichen Revolution lieferte, die sich vergleichen lässt mit der von Newton im vorangegangenen Jahrhundert oder der von Watson und Crick in unserem Jahrhundert«. Thomas Jefferson bezeichnete Wissenschaft und Naturkunde als seine »Leidenschaft«, wie er 1791 an einen Bundesrichter in Kentucky schrieb, wohingegen er Politik als seine »Pflicht« verstand. Manche Wissenschaftsgebiete waren so neu, dass auch Laien hoffen durften, wichtige Beiträge zu ihnen liefern zu können. James Madison, von 1809 bis 1817 vierter US-Präsident, sezierte ein amerikanisches Wiesel und hielt fast vierzig Messwerte fest, um das Tier mit europäischen Varietäten der Art vergleichen zu können. Damit überprüfte er die vom französischen Naturforscher Georges-Louis Leclerc im 18. Jahrhundert aufgestellten Theorie, wonach Tiere in Nordamerika in kleinere und schwächere Versionen ihrer Pendants auf der anderen Seite des Atlantiks degeneriert waren.
Anders als die Heerscharen von Juristen, die heutzutage die amerikanische Politik dominieren, waren viele der frühen amerikanischen Führungsfiguren, falls nicht selbst Wissenschaftler, dann doch erstaunlich versiert in Fragen der Ingenieurskunst und Technologie.* Der zweite US-Präsident, John Adams, konzentrierte sich nach Angaben eines Historikers darauf, die junge Republik abzubringen von »unprofitabler Wissenschaft, die durch ihren Fokus auf Objekte der reinen Neugier zu erkennen ist«, und wollte an deren Stelle praktischere Formen der Forschung ins Auge fassen, darunter »die Anwendung von Wissenschaft zur Förderung der Landwirtschaft«. Die Innovatoren des 18. und 19. Jahrhunderts waren häufig Universalgelehrte, deren Interessen sich deutlich von der heutigen Auffassung unterschieden, wonach die Tiefe und nicht die Breite der eigenen Kenntnisse die effektivste Form für Forschungsbeiträge ist. Das englische Wort scientist für Wissenschaftler wurde erst 1834 geprägt, um Mary Somerville, eine schottische Astronomin und Mathematikerin, zu bezeichnen; zuvor war die Vermischung von Forschungsgebieten beispielsweise von Natur- und Geisteswissenschaften so üblich und natürlich, dass man kein spezialisierteres Wort benötigte. Viele Forschende beachteten die Grenzziehung zwischen den Disziplinen kaum, die von scheinbar unzusammenhängenden Fachgebieten wie der Linguistik bis zur Chemie, von der Zoologie zur Physik reichten. Die Grenzen und Ränder der Wissenschaft befanden sich noch im frühesten Stadium der Expansion. Im Jahr 1481 verfügte die Bibliothek des Vatikans über rund 3500 Bücher und Dokumente und war damit die größte in Europa. Der begrenzte Umfang des gesammelten menschlichen Wissens ermöglichte einen interdisziplinären Zugang, ja ermutigte sogar dazu – etwas, das heute mit großer Wahrscheinlichkeit eine akademische Karriere zum Stillstand bringen würde. Diese Fremdbestäubung sowie die Missachtung der Grenzen zwischen den Disziplinen war entscheidend für die Bereitschaft zum Experimentieren und für das Zutrauen politischer Führungsfiguren, sich zu Fragen der Ingenieurskunst und Technik zu äußern, die für Regierungsangelegenheiten bedeutsam waren.
Der Aufstieg von J. Robert Oppenheimer und Dutzenden seiner Kolleginnen und Kollegen in den späten 1930er-Jahren verstärkte noch die Präsenz von Forschenden und Ingenieuren im Herzen des amerikanischen Lebens und bei der Verteidigung des demokratischen Experiments. Joseph Licklider, Psychologe am Massachusetts Institute of Technology, der das Aufkommen früher Formen von künstlicher Intelligenz antizipierte, wurde 1962 von einer Organisation eingestellt, die später zur U.S. Defense Advanced Research Projects Agency (»Behörde für Forschungsprojekte der Verteidigung«) werden sollte – eine Institution, zu deren Innovationen die Vorläufer des modernen Internets sowie das Global Positioning System (GPS) gehören. Lickliders Forschungen für sein im März 1960 veröffentlichtes, inzwischen klassisch zu nennendes Paper »Man-Computer Symbiosis«, mit dem er eine Vision für ein Zusammenspiel zwischen der Rechner-Intelligenz und unserer eigenen entwarf, wurden von der U. S. Air Force getragen. Die politische Führungsriege und die Wissenschaftler, auf deren Beratung und Lenkung die Staatsführung angewiesen war, standen sich recht nahe und vertrauten sich. Kurz nach dem Start des sowjetischen Satelliten Sputnik im Oktober 1957 wurde der in Deutschland geborene Physiker und Präsidentenberater Hans Bethe zu Präsident Dwight D. Eisenhower ins Weiße Haus beordert. Eine Stunde später stand eine Vereinbarung über die Neubelebung des amerikanischen Weltraumprogramms. »Sie haben gesehen, das wäre damit erledigt«, erklärte Eisenhower einem Mitarbeiter anschließend. Die Geschwindigkeit, mit der zu dieser Zeit Dinge angegangen und neue Wege eingeschlagen wurden, war hoch: Ein knappes Jahr nach diesem Gespräch wurde die NASA gegründet.
Am Ende des Zweiten Weltkrieges war die Vermischung von Wissenschaft und öffentlichem Leben – von technischer Innovation und Staatsangelegenheiten – im Grunde vollständig und unauffällig. Einige der beteiligten Ingenieure und Erfinder arbeiteten im Abgeschiedenen. Andere jedoch waren Berühmtheiten, wie man es sich heute kaum noch vorstellen kann. Im Jahr 1942 – in ganz Europa und rund um den Pazifik tobte der Krieg – stellte ein Artikel im Collier’s den drei Millionen Leserinnen und Lesern der Zeitschrift Vannevar Bush vor, der später einer der Gründer des Manhattan-Projekts werden sollte, in diesem Moment allerdings noch ein eher unbekannter Ingenieur und Regierungsbürokrat war. Eingeführt wurde der Wissenschaftler mit den Worten »der Mann, der den Krieg gewinnen könnte«. Das Interesse an jenen Menschen, die dabei waren, die grundlegendsten Rätsel der physikalischen Welt zu entwirren, war schon seit Jahrzehnten auf beiden Seiten des Atlantiks gewachsen. Marie Curie schrieb 1903, kurz nachdem sie Radium entdeckt und den ersten ihrer beiden Nobelpreise verliehen bekommen hatte, ihrem Bruder und schilderte ihm, sie werde von »Fotografen und Journalisten überschwemmt. Man möchte sich unter die Erde verkriechen, um Ruhe zu haben«, klagte sie. Ähnlich erging es Albert Einstein, der nicht nur einer der größten Wissenschaftler des 20. Jahrhunderts war, sondern zugleich eine der bekanntesten Persönlichkeiten seiner Zeit – eine prominente Figur, deren Foto und bahnbrechende Entdeckungen, die unser intuitives Verständnis der Natur von Raum und Zeit so grundlegend infrage stellen, es regelmäßig auf die Titelseiten schafften. Und häufig genug stand die Wissenschaft selbst im Zentrum der Berichterstattung.
Dies war das amerikanische Jahrhundert, und Ingenieure befanden sich im Mittelpunkt der aufstrebenden Mythologie dieser Ära. Dass die öffentlichen Belange durch Wissenschaft und Ingenieurskunst gestärkt wurden, hielt man für eine natürliche Fortsetzung des nationalen Projekts, das nicht nur den Schutz von US-Interessen mit sich brachte, sondern die Gesellschaft, und die Zivilisation insgesamt, auf eine neue Stufe hob. Und während die Wissenschaftsgemeinde Finanzierung und Unterstützung durch die Regierung benötigte, war der moderne Staat ebenso auf die Fortschritte angewiesen, die diese Investitionen in Wissenschaft und Technik erbrachten. Die überragenden technischen Errungenschaften der Vereinigten Staaten im 20. Jahrhundert – also die Fähigkeit des Landes, verlässlich wirtschaftliche und wissenschaftliche Fortschritte für die Allgemeinheit zu erzielen, angefangen bei medizinischen Durchbrüchen bis hin zu militärischen Fähigkeiten – waren entscheidend für die Glaubwürdigkeit der USA. Wie Jürgen Habermas erkannte, besitzt das Versagen der politischen Führung, der Öffentlichkeit implizit oder explizit gemachte Versprechungen auch einzuhalten, das Potenzial, eine Legitimitätskrise der Regierung auszulösen. Sobald neue, zu Wohlstand führende Technologien nicht zugleich die größeren öffentlichen Belange voranbringen, drohen Probleme aufzutauchen. Anders formuliert: Die Dekadenz einer Kultur oder Zivilisation, und damit auch die Dekadenz der herrschenden Klasse, wird nur dann vergeben, wenn diese Kultur in der Lage ist, der Allgemeinheit Wirtschaftswachstum und Sicherheit zu gewährleisten. Auf diese Art und Weise ist die Bereitschaft der ingenieurwissenschaftlichen und wissenschaftlichen Gemeinschaft, dem Staat zu Hilfe zu kommen, nicht nur für die Legitimität des Privatsektors entscheidend, sondern auch für die Dauerhaftigkeit der politischen Institutionen überall im Westen.
* * *
Die derzeitige Inkarnation des Silicon Valley hat sich von dieser Tradition der Zusammenarbeit mit der US-Regierung verabschiedet und fokussiert sich stattdessen auf den Verbrauchermarkt, vor allem auf Online-Werbung und Social-Media-Plattformen, die inzwischen unser Gefühl für das Potenzial von Technologie dominieren – und limitieren. Eine Generation von Gründern versteckte sich hinter der Rhetorik eines hochtrabenden und ehrgeizigen Ziels – durch das Überstrapazieren verlor ihr Schlagwort von der Veränderung der Welt dabei jegliche Bedeutung –, mobilisierte aber gewaltige Kapitalsummen und stellte unzählige talentierte Tech-Ingenieure ein, nur um Apps zum Teilen von Fotos und Chat-Interfaces für den modernen Konsumenten zu entwickeln. Das Valley wurde skeptisch, was die Arbeit für die Regierung oder nationale Anliegen anging. Das große kollektive Experiment aus der Anfangszeit des 20. Jahrhunderts wurde zugunsten einer verengten Aufmerksamkeit auf die Wünsche und Bedürfnisse des Individuums verworfen. Der Markt belohnte eine oberflächliche Beschäftigung mit dem Potenzial der Technologie, und Start-up nach Start-up versorgte die Launen der spätkapitalistischen Kultur, ohne sich für die Konstruktion einer technischen Infrastruktur zu interessieren, die unseren drängendsten Herausforderungen als Nation angemessen wäre. Das Zeitalter der Social-Media-Plattformen und Essenslieferung-Apps ist heraufgezogen. Medizinische Durchbrüche, Bildungsreformen und militärischer Fortschritt müssen dann eben noch warten.
Jahrzehntelang verstand man im Silicon Valley die US-Regierung als Hindernis für Innovation und als Magnet für Kontroversen – eine Barriere vor dem Fortschritt, nicht der logische Partner auf dem Weg dorthin. Die Technologie-Giganten der heutigen Zeit gingen einer Zusammenarbeit mit der Regierung lange aus dem Weg. Das Ausmaß der internen Dysfunktionalität innerhalb vieler staatlicher und bundesstaatlicher Behörden schuf scheinbar unüberwindliche Barrieren für Außenstehende, darunter auch für die aufstrebenden Start-ups der New Economy. Die Tech-Industrie verlor frühzeitig das Interesse an Politik und umfassenderen kommunalen Projekten. Sie betrachtete das amerikanische nationale Projekt, wenn man es überhaupt so nennen kann, mit einer Mischung aus Skepsis und Gleichgültigkeit. In der Folge wandten sich viele der klügsten Köpfe im Valley und ihre Anhänger aus programmierenden Jüngern dem Konsumenten zu, um sich ihren Lebensunterhalt zu verdienen.
Auf den folgenden Seiten werden wir noch genauer untersuchen, weshalb die heutigen Technologie-Riesen wie Google, Amazon und Facebook ihren Schwerpunkt von der Zusammenarbeit mit dem Staat weg verlagerten und stattdessen auf den Verbrauchermarkt setzten. Zu den grundlegenden Ursachen dieser Verschiebung zählen die nach dem Ende des Zweiten Weltkrieges entstandene und weiter zunehmende Divergenz der Interessen und politischen Instinkte der amerikanischen Elite vom Rest des Landes. Hinzu kommt noch die emotionale Distanz einer Generation von Softwareingenieuren von den wirtschaftlichen Schwierigkeiten des Landes und den geopolitischen Bedrohungen des 20. Jahrhunderts. Die fähigste Generation an Programmierern musste nie am eigenen Leib einen Krieg oder echte soziale Unruhen miterleben. Warum also eine Kontroverse mit seinen Freunden oder deren Missbilligung riskieren, sobald man sich auf eine Zusammenarbeit mit dem US-Militär einlässt, wenn man sich doch in die als sicher wahrgenommene Tätigkeit zurückziehen kann, einfach noch eine App zu programmieren?
Mit der Rückbesinnung des Silicon Valley auf sich selbst und seiner Hinwendung zum Verbraucher reduzierten die US-Regierung und die Regierungen zahlreicher Verbündeter ihre Beteiligung und Innovation in zahlreichen Feldern, von Raumfahrtprogrammen über Militärsoftware bis hin zu medizinischer Forschung. Der Rückzug des Staates hinterließ eine immer größere werdende Innovationslücke. Auf beiden Seiten der sich öffnenden Kluft gab es solche, die sich darüber freuten: Die einen waren dem Privatsektor gegenüber skeptisch, da sie ihm keine Aufgaben für die Allgemeinheit zutrauten, die anderen pflegten ihr Misstrauen gegenüber Regierungskontrolle und ihre Angst vor dem Einsatz oder Missbrauch ihrer Erfindungen. Allerdings kann es nur über eine Vereinigung von Staat und Softwareindustrie – und nicht über ihre Trennung und Entflechtung – gelingen, dass die Vereinigten Staaten und ihre Verbündeten in Europa und dem Rest der Welt so dominant in diesem Jahrhundert bleiben, wie sie es im letzten gewesen sind.
Wir vertreten in diesem Buch die Ansicht, dass der Technologie-Sektor eine ausdrückliche Handlungspflicht hat, den Staat zu unterstützen, der seinen Aufstieg ermöglichte. Die Softwareindustrie muss die öffentlichen Belange wieder offen annehmen, um im Land das Vertrauen erneut herzustellen und sich in Richtung einer transformativeren Vision dessen zu bewegen, was Technologie möglich machen kann und sollte. Damit die Regierung weiterhin in der Lage ist, der Öffentlichkeit Wohlstand und Sicherheit zu garantieren, braucht es vonseiten des Staates die Bereitschaft, sich Dinge von der idiosynkratischen Organisationskultur abzuschauen, die es so vielen Unternehmen im Silicon Valley ermöglichte, ganze Sektoren unserer Wirtschaft umzuformen. Die amerikanische Tech-Industrie konnte unser Leben verändern, da sie sich darauf verpflichtete, die Ergebnisse zulasten des Theaters voranzutreiben, jene am Rand einer Organisation zu stärken, die den Problemen wahrscheinlich am nächsten sind, und vergebliche theologische Debatten zugunsten eines womöglich auch nur marginalen und häufig unvollkommenen Fortschritts aufzugeben. Diese Werte haben zudem das Potenzial, auch unsere Regierung umzugestalten.
Denn in der Tat brauchen die amerikanische Regierung und die demokratischen Regime in der Welt zur Sicherung ihrer Legitimität eine Zunahme des wirtschaftlichen und technischen Outputs, der nur dadurch erreicht werden kann, dass wir Technologie und Software effizienter anwenden. Die Öffentlichkeit wird der politischen Klasse ihre zahlreichen Fehlschläge und Sünden vergeben. Aber die Wählerinnen und Wähler werden nicht über die systemische Unfähigkeit hinwegsehen, Technologie dafür nutzbar zu machen, dass die für unser Leben entscheidenden Güter und Dienstleistungen effektiv geliefert werden.
* * *
Dieses Buch besteht aus vier Teilen. In Teil I, »Das Software-Jahrhundert«, legen wir dar, dass die aktuelle Generation unglaublich begabter Softwareingenieure sich von jeglichem Gefühl für ein nationales Ziel oder ein bedeutenderes und wichtiges Projekt losgemacht hat. Diese Programmierer zogen sich in die Konstruktion ihrer technischen Wunder zurück. Und es sind wirklich Wunder, die hier entstanden sind. Die neuesten Formen der künstlichen Intelligenz, bekannt als Large Language Models, verweisen zum ersten Mal in der Geschichte auf die Möglichkeit einer künstlichen allgemeinen Intelligenz – also einer Rechner-Intelligenz, die sich mit dem menschlichen Geist in Hinblick auf abstraktes Denken und Problemlösen messen kann. Allerdings ist nicht klar, ob die Tech-Firmen, die diese neuen Formen der KI entwickeln, deren Einsatz für militärische Zwecke erlauben werden. Viele von ihnen zögern angesichts einer Zusammenarbeit mit der US-Regierung oder lehnen diese sogar rundheraus ab.
Wir werden darlegen, dass eine der bedeutendsten Herausforderungen für unser Land darin besteht, dass das US-Verteidigungsministerium die Kurve bekommt und sich von einer Institution, die auf das Führen und Gewinnen kinetischer Kriege eingestellt ist, zu einer Organisation entwickelt, die KI-Waffen entwerfen, bauen und beschaffen kann – die unbemannten Drohnen- und Roboterschwärme, die das Schlachtfeld der Zukunft dominieren werden. Das 21. Jahrhundert ist das Software-Jahrhundert. Und das Schicksal der Vereinigten Staaten und ihrer Alliierten hängt davon ab, ob sich ihre Verteidigungs- und Geheimdienstfähigkeiten weiterentwickeln können, und zwar rasch. Die Generation allerdings, die am besten positioniert ist, um derartige Waffen zu entwickeln, ist auch am zögerlichsten und die skeptischste, was die Aufgabe angeht, ihre bemerkenswerten Talente für militärische Zwecke einzusetzen. Viele der Techniker, Programmierer und Ingenieure haben noch nie mit jemandem gesprochen, der im Militär diente. Sie leben in einem kulturellen Raum, der den Schutz des amerikanischen Sicherheitsschirms genießt, übernehmen zugleich aber keine seiner Kosten.
Teil II, »Die Aushöhlung des amerikanischen Geistes«, erzählt, wie wir dahin gelangt sind, wo wir uns heute befinden – und von den Ursprüngen des umfassenderen kulturellen Rückzugs sowohl in den Vereinigten Staaten als auch überall sonst im Westen. Wir beginnen mit den strukturellen Gründen – dass die derzeitige Generation den Glauben an oder die Überzeugung für umfassendere politische Projekte aufgegeben hat. Die Talentiertesten des Landes und der Welt haben sich größtenteils aus der häufig verwirrenden und kontroversen Arbeit verabschiedet, die für unseren gemeinsamen Wohlstand und die Sicherheit so entscheidend und bedeutend ist. Diese Tech-Pioniere weigern sich, für das Militär zu arbeiten, zögern jedoch nicht, ihre Leben der Kapitalbeschaffung zu widmen, um dann die neueste App oder die nächste Social-Media-Plattform zu entwickeln. Die Gründe für dieses Abwenden vom amerikanischen nationalen Projekt liegen, so sind die Autoren dieses Buchs überzeugt, im systematischen Angriff auf die amerikanische oder westliche Identität in den 1960er- und 1970er-Jahren beziehungsweise dem Versuch, sie auseinanderzunehmen. Allerdings ist es im Westen nicht gelungen, eine substanzielle, kohärente kollektive Identität oder gemeinsame Werte zu entwickeln, die an deren Stelle treten könnten. Es entstand ein Leerraum, den der Markt eifrig füllte.
Das Ergebnis ist die Aushöhlung des amerikanischen Projekts, mit einer orientierungslosen, aber hoch qualifizierten Elite am Steuer. Diese Generation weiß, was sie ablehnt – gegen was sie sich erhebt und was sie nicht billigt –, aber nicht, was sie befürwortet. Die ersten Techniker, die beispielsweise den Personalcomputer, die grafische Benutzeroberfläche und die Maus erfanden, entwickelten eine Skepsis gegenüber den Zielen einer Nation, von der viele glaubten, dass sie keine Loyalität verdient habe. Der Aufstieg des Internets in den 1990er-Jahren wurde in der Folge vom Markt vereinnahmt, und der Verbraucher wurde als sein König gefeiert. Und doch wurde zu Recht von vielen hinterfragt, ob die ursprüngliche digitale Revolution, die die Entwicklung des Internets in den 1990er- und 2000er-Jahren möglich machte, unser Leben wirklich verbesserte oder es einfach nur veränderte.
Vor diesem Hintergrund gründeten wir Palantir und machten uns in den Jahren nach den Terrorangriffen des 11. September an die Zusammenarbeit mit amerikanischen Verteidigungs- und Geheimdienstinstitutionen. In Teil III, »Die technologische Denkweise«, beschreiben wir die organisatorische Kultur, die Palantir von vielen der anderen, im Silicon Valley gegründeten Technologie-Riesen unterscheidet. Und zwar so sehr, dass die Arbeit von Palantir eine direkte Ablehnung des Standardmodells amerikanischer Unternehmenspraxis bedeutet. Insbesondere diskutieren wir in diesem Teil, was wir von der sozialen Organisation von Bienen- und Starenschwärmen lernen können, sowie die Auswirkungen des Improvisationstheaters auf die Gründung von Start-ups und die Konformitätsexperimente von Solomon Asch, Stanley Milgram und anderen in den 1950er- und 1960er-Jahren, die belegen, wie gehorsam ein Großteil der Menschen auf Drohungen durch Autoritäten reagiert.
Wir werden zudem die Anfangsjahre von Palantir betrachten, in denen das Unternehmen eine Zusammenarbeit mit der US-Armee und Mitarbeitern von Spezialkräften in Afghanistan begann: Wir entwickelten eine Software zur Vorhersage von Straßenbomben am Wegrand, jener allgegenwärtigen improvisierten Sprengsätze, die im Lauf von fast zehn Jahren zu einer der häufigsten Todesursachen unserer Soldatinnen und Soldaten in Irak und Afghanistan wurden. Die dazu nötige technologische Denkweise, die uns und anderen die Entwicklung solcher Software erlaubte, beruht auf der Bewahrung eines Freiraums für kreative Reibung und die Ablehnung intellektueller Anfälligkeit, sie beruht auf der Bereitschaft, den unablässigen Druck abzuschütteln, sich anpassen und schon Bestehendes nachahmen zu müssen, und auf einem Ideologieskeptizismus zugunsten des rücksichtslosen Strebens nach Ergebnissen.
In Teil IV, »Die Erneuerung der Tech-Republik«, schließlich thematisieren wir, was für den Neuaufbau einer Kultur gemeinsamer Bestrebungen und Ziele gebraucht wird. Das Valley ist äußerst zögerlich, sich für gesellschaftliche Belange einzusetzen, seien es die lokalen Strafverfolgungsbehörden, Medizin, Bildung oder bis vor Kurzem auch die nationale Sicherheit – also Bereiche, die häufig politisch zu belastet und für Außenstehende gnadenlos sind. Das Ergebnis sind immer mehr Innovationswüsten überall im Land und ganze Sektoren, die die Technologieentwicklung zurückweisen und häufig aufs Entschiedenste neue Ideen und Mitspieler ablehnen. Der öffentliche Bereich muss zudem die effektivsten Merkmale der Silicon-Valley-Kultur berücksichtigen, um seine eigene Funktionalität neu entwickeln und dabei sicherstellen zu können, dass jene Menschen, die unsere bedeutendsten Institutionen leiten, an deren Erfolg oder Niederlage beteiligt werden.
Insgesamt gesehen verlangt die Erneuerung einer Tech-Republik die Wiederaufnahme einer nationalen Kultur und nationaler Werte – überhaupt einer kollektiven Identität und Zielsetzung –, ohne die die Gewinne und Vorteile wissenschaftlicher und technischer Durchbrüche unserer Zeit womöglich nur den begrenzten Interessen einer abgehobenen Elite zugutekommen.
* * *
Seit ihrer Gründung waren die Vereinigten Staaten immer eine Tech-Republik, deren Platz in der Welt durch ihre Fähigkeit zu Innovation möglich und behauptet wurde. Doch unser derzeitiger Vorsprung ist nicht in Stein gemeißelt. Es war eine Kultur, die den letzten Weltkrieg gewann, und zwar eine, die sich auf ein gemeinsames Ziel verständigte. Und es wird eine Kultur sein, die den nächsten gewinnt – oder verhindert. Der Aufstieg und Fall von Imperien kann schnell vonstattengehen und ist in der Vergangenheit ohne Vorwarnung verlaufen. Lösen wir unsere Skepsis gegenüber dem amerikanischen Projekt nicht auf, werden wir nicht vorankommen. Wir müssen die jüngste und am weitesten entwickelte Form von KI unserem Willen unterwerfen oder riskieren es, dass unsere Feinde das übernehmen, während wir das Ausmaß und die Beschaffenheit unserer Abteilungen noch scheinbar unendlich untersuchen und debattieren. Das zentrale Argument unseres Buchs lautet: In dieser Zeit der fortgeschrittenen KI, die unseren geopolitischen Widersachern die seit Ende des Zweiten Weltkrieges einmalige Gelegenheit liefert, unsere Position in der Welt herauszufordern, sollten wir zur Tradition der engen Zusammenarbeit zwischen Tech-Industrie und Regierung zurückkehren. Es ist diese Kombination aus Streben nach Innovationen und den Zielen der Nation, die nicht nur den Fortbestand unseres Wohlstands sichert, sondern auch die Legitimität des demokratischen Projekts als solches.
* In unseren modernen Zeiten haben wir technisch begeisterte Menschen aus den Wahlämtern verdrängt. Allerdings gibt es bemerkenswerte Ausnahmen: So war etwa Margaret Thatcher als Chemikerin in einer Plastik-Firma beschäftigt, bevor sie britische Premierministerin wurde, und die spätere Bundeskanzlerin Angela Merkel promovierte in Quantenchemie in Ost-Berlin. Doch aktuelle demokratische Regime stellen Wissenschaftlerinnen und Wissenschaftler nicht ins Zentrum. Eine 2023 durchgeführte Untersuchung ergab, dass nur 1,3 Prozent der Abgeordneten der Vereinigten Staaten entweder Wissenschaftler oder Ingenieurinnen waren.
KAPITEL 2FUNKEN VON INTELLIGENZ
Im Jahr 1942 wurde J. Robert Oppenheimer, Sohn einer Malerin und eines Textilimporteurs, zum Leiter von Project Y ernannt, dem militärischen Arm des Manhattan-Projekts, um Kernwaffen zu entwickeln. Oppenheimer und seine Kolleginnen und Kollegen forschten in einem abgelegenen Labor in New Mexico im Geheimen an neuen Methoden zur Nutzung von Uran und schlussendlich an der Wirkungsweise und dem Bau von Atombomben. Er sollte zu einer Berühmtheit werden, zu einem Symbol nicht nur für die rohe Kraft des amerikanischen Jahrhunderts und der Modernität selbst, sondern auch für das Potenzial und die Risiken, und nicht zuletzt für die Gefahren bei der Vermischung von wissenschaftlichen und nationalen Zielen.
Für Oppenheimer war die Atomwaffe »bloß ein Gerät«, so wurde er zumindest in der Zeitschrift Life im Oktober 1949 zitiert – das Objekt und die Manifestation eines grundsätzlicheren Bemühens um die Grundlagenforschung und eines fundamentaleren Interesses an ihr. Neben der zu Kriegszeiten erfolgten Konzentration auf Ergebnisse und Ressourcen war es die Verpflichtung auf freie akademische Forschung, die zur folgenreichsten Waffe der Epoche führte, zu einer, die die Beziehungen zwischen Nationalstaaten für wenigstens ein halbes Jahrhundert strukturierte.
In der Highschool entdeckte der 1904 in New York geborene Oppenheimer sein besonderes Interesse an Chemie, die, wie er sich später erinnerte, »mitten in den Dingen« anfängt und deren Auswirkungen in der Welt für den Jungen deutlich zu erkennen waren, im Gegensatz zu der weniger zugänglichen Physik. Die technische Neigung, etwas zu bauen – das unersättliche Bedürfnis, Dinge einfach zum Laufen zu bringen – zog sich durch Oppenheimers gesamtes Leben. Zuerst war da die Aufgabe, etwas zu entwickeln und zu bauen; Debatten darüber, was mit dieser Entdeckung gemacht werden sollte, konnten später folgen. Er war pragmatisch und neigte zum Anpacken und Forschen. »Wenn man etwas erkennt, das technisch gesehen hübsch ist, dann macht man weiter und setzt es um«, erklärte er einmal einem Regierungsausschuss. Oppenheimers Einstellung zu seiner eigenen Rolle bei der Erschaffung der zerstörerischsten Waffe seiner Zeit sollte sich nach den Abwürfen über Hiroshima und Nagasaki verändern. Bei einer Vorlesung 1947 im Massachusetts Institute of Technology erklärte er: Die an der Entwicklung der Bombe beteiligten Physiker »haben erfahren, was Sünde ist, und dieses Wissen wird sie nie mehr ganz verlassen«.
Dass man sich bemühte, die innere Funktionsweise der grundlegendsten Komponenten des Universums, von Materie und Energie, zu verstehen, hatte für viele unschuldig gewirkt. Doch die ethische Komplexität und die Auswirkungen des wissenschaftlichen Fortschritts dieser Zeit sollten sich noch Jahre und Jahrzehnte nach Kriegsende offenbaren. Einige der beteiligten Wissenschaftler verstanden ihre Arbeit als unabhängig vom politischen und moralischen Kalkül, das zur Domäne gewöhnlicher Menschen gehörte, die zurück- oder auch alleingelassen worden waren, um durch die ethischen Unwägbarkeiten der Geopolitik und des Krieges zu navigieren. Percy Williams Bridgman, einer von Oppenheimers Physikdozenten in Harvard, sprach vielen seiner Kollegen aus der Seele, als er schrieb: »Wissenschaftler sind nicht für die Tatsachen der Natur verantwortlich. Es ist ihre Aufgabe, diese Tatsachen zu erkennen. Damit ist nichts Sündiges verbunden – keine Moral.« Nach dieser Auffassung ist der Wissenschaftler nicht unmoralisch, sondern eher amoralisch und existiert außerhalb oder vielleicht auch vor dem Punkt der moralischen Überlegung. Diese Meinung vertreten auch heute viele junge Ingenieure im Silicon Valley. Eine Generation von Programmiererinnen und Programmierern ist weiterhin bereit, ihr Arbeitsleben der Befriedigung der Bedürfnisse der kapitalistischen Kultur zu widmen und sich dabei selbst zu bereichern. Zugleich lehnt sie es ab, grundsätzlichere Fragen darüber zu stellen, was entwickelt werden sollte und zu welchem Zweck.
Heute, rund achtzig Jahre nach der Erfindung der Atombombe, stehen wir in den Computerwissenschaften an einer ähnlichen Weggabelung wie damals, an einer Kreuzung, die Technik und Ethik miteinander verbindet, an der wir wieder einmal zu entscheiden haben, ob wir mit der Entwicklung einer Technologie fortfahren, deren Macht und Potenzial wir noch nicht völlig verstanden haben. Wir haben die Wahl: Wollen wir die Entwicklung der fortschrittlichsten Formen künstlicher Intelligenz, die die Menschheit eines Tages bedrohen oder sogar verdrängen könnte, bremsen oder gar einstellen – oder erlauben wir uneingeschränktes Experimentieren mit einer Technologie, die das Potenzial besitzt, die internationale Politik dieses Jahrhunderts so zu prägen wie Atomwaffen das vergangene Jahrhundert bestimmten?
Die schnell anwachsenden Fähigkeiten der neuesten Large Language Models – die in der Lage sind, eine Art primitive Form des Wissens über die Machart unserer Welt zusammenzusetzen – sind noch nicht gut verstanden. Wenn wir diese Sprachmodelle nun mit fortgeschrittener Robotik vereinen, die ihre Umgebung wahrnehmen kann, wird uns das noch weiter ins Unbekannte führen. Die Verschmelzung der Kraft des Sprachmodells mit einer körperlichen, oder zumindest robotischen, Existenz, mit der die Maschinen die Erkundung unserer Welt beginnen können – also durch Tast- und Sehsinn mit einer externen Version der Wahrheit Kontakt aufnehmen, was das Fundament des Denkens zu sein scheint –, bedeutet einen weiteren signifikanten Sprung nach vorn. Und er steht uns vielleicht schon in Kürze bevor. Da wir noch nicht alles überschauen, bestanden die ersten kollektiven Reaktionen auf frühe Begegnungen mit dieser neuartigen Technologie aus einer unbehaglichen Mischung aus Staunen und Angst. Einige der neuesten Sprachmodelle verfügen über eine Billion Parameter und mehr, also regelbare Variablen innerhalb eines Computer-Algorithmus, was ein Ausmaß an Verarbeitungsmöglichkeiten darstellt, das die menschliche Vorstellungskraft übersteigt. Wir haben gelernt: Je mehr Parameter ein Modell hat, umso expressiver ist seine Repräsentation der Welt und umso detailreicher kann es sie spiegeln. Und die neuesten Sprachmodelle mit einer Billion Parameter werden in Kürze von noch mächtigeren Systemen überholt werden, die dann über Dutzende Billionen Parameter verfügen. Es gibt Vorhersagen, wonach Sprachmodelle mit ähnlich vielen Synapsen wie das menschliche Gehirn – etwa 100 Billionen Verknüpfungen – innerhalb der nächsten zehn Jahre zur Verfügung stehen könnten.
Was aus diesem Billion-dimensionalen Raum hervorgegangen ist, bleibt undeutlich und rätselhaft. Es ist überhaupt nicht klar – nicht einmal den Wissenschaftlerinnen und Programmierern, die sie geschaffen haben –, wie oder warum diese generativen Sprach- und Bildmodelle funktionieren. Und die am weitesten entwickelten Versionen der Modelle zeigen nun etwas, was eine Forschungsgruppe als »Funken einer künstlichen allgemeinen Intelligenz« bezeichnete, also Formen des Denkens, die sich der Art und Weise des menschlichen Gedankengangs anzunähern scheinen. In einem Versuch, mit dem die Fähigkeiten von GPT-4 überprüft werden sollten, wurde das Sprachmodell aufgefordert zu erklären, wie man ein Buch, neun Eier, einen Laptop und einen Nagel »stabil aufeinanderstapeln« könne. Vorangegangene Versuche, primitivere Versionen des Modells um eine umsetzbare Lösung dieser Aufgabe zu bitten, waren fehlgeschlagen. GPT-4 hingegen gelang es. Der Computer erklärte, man könne »die 9 Eier in einem 3 x 3 Quadrat auf dem Buch anordnen und zwischen ihnen ein wenig Platz lassen«, dann »legt man den Laptop auf die Eier«, schließlich kommt die Flasche auf den Laptop und auf deren Deckel der Nagel »mit dem spitzen Ende nach oben und der flachen Seite nach unten«. Hier zeigte sich eine gehörige Portion »gesunder Menschenverstand«, so Sébastien Bubeck, der französische Leiter der Untersuchung.
Ein weiterer von Bubeck und seinem Team angeleiteter Test bestand darin, das Sprachmodell um die Zeichnung eines Einhorns zu bitten, eine Aufgabe, die nicht nur ein Verständnis des grundlegenden Konzepts und im Grunde damit der Essenz eines Einhorns verlangt, sondern dann auch das Anordnen und Gliedern dieser Teilstücke: vielleicht ein goldenes Horn, ein Schwanz und vier Beine. Bubeck und sein Team beobachteten, dass die jüngeren Sprachmodelle in ihrer Fähigkeit, auf solche Aufgaben zu reagieren, deutlich schneller geworden sind und dass das Ergebnis ihrer Arbeit auf vielerlei Weise die Reifung der Zeichnungen eines kleinen Kindes widerspiegelt.
ABBILDUNG 1Test zum Zeichnen eines Einhorns durch ein Sprachmodell
Die Fähigkeiten dieser Modelle sind völlig anders als alles, was wir bislang in der Geschichte der Computer oder Technologie gesehen haben. Sie liefern den ersten Hinweis auf eine starke und plausible Infragestellung unseres Monopols auf Kreativität und den Umgang mit Sprache – für den Menschen wesentliche Fähigkeiten, die seit Jahrzehnten als am sichersten verschlossen vor dem Eindringen durch die kalte Maschinerie der Computer galten. Den Großteil des letzten Jahrhunderts schienen Computer immer näher an jene Eigenarten des menschlichen Intellekts heranzurücken, die nichts Heiliges für uns besaßen. Niemand zieht sein Selbstverständnis, oder sagen wir besser: Die Autoren dieses Buchs ziehen ihr Selbstverständnis nicht aus der Fähigkeit, die Quadratwurzel einer zwölfstelligen Zahl bis auf die vierzehnte Nachkommastelle berechnen zu können. Wir als Spezies waren zufrieden damit, diese Art von Arbeit – die mechanische Plackerei der Physik und Mathematik – der Maschine überlassen zu können. Uns kümmerte das nicht. Doch inzwischen dringt die Maschine nach und nach in Bereiche unseres intellektuellen Lebens vor, von denen viele annahmen, sie seien im Grund immun gegen den Wettbewerb mit Rechner-Intelligenz.
Die potenzielle Bedrohung unseres gesamten Selbst als Spezies kann nicht überbetont werden. Was bedeutet es für die Menschheit, wenn KI in der Lage ist, einen Bestsellerroman zu schreiben, der Millionen Leserinnen und Leser berührt? Oder uns zum Lachen bringt?* Oder ein Porträt malt, das noch nach Jahrzehnten bewundert wird? Oder die Regie und Produktion eines Films übernimmt, der die Kritik bei Filmfestivals begeistert? Sind die in solchen Werken ausgedrückte Schönheit oder Wahrheit weniger stark oder authentisch, nur weil sie dem Geist einer Maschine entsprangen?
Wir haben im Vergleich zur Rechner-Intelligenz schon sehr viel an Boden verloren. Anfang der 1960er-Jahre war ein Computerprogramm zum ersten Mal besser im Halma-Spiel als Menschen. Im Februar 1996 wurde Garry Kasparow von IBMs Deep Blue im Schach besiegt, einem exponentiell komplexeren Spiel als Halma. Und 2015 verlor Fan Hui, im chinesischen Xian geboren und nach Frankreich emigriert, gegen Googles DeepMind-Algorithmus im uralten Brettspiel Go – die erste Niederlage dieser Art. Dieser Misserfolg wurde anfangs mit einem kollektiven Schrecken und anschließend beinahe achselzuckend aufgenommen: Man beruhigte sich damit, dass das unvermeidbar und nur eine Frage der Zeit gewesen sei. Doch wie wird die Menschheit reagieren, wenn die wesentlich menschlichen Bereiche wie Kunst, Humor und Literatur angegriffen werden? Anstatt Widerstand zu leisten, könnten wir diese kommende Ära als eine der Zusammenarbeit verstehen, zwischen zwei Arten von Intelligenz, der unseren und der synthetischen. Der Verzicht auf die Kontrolle über gewisse kreative Unternehmungen könnte uns sogar davon erlösen, unseren Wert und unser Selbstverständnis in dieser Welt allein durch Produktion und Ergebnisse definieren zu müssen.
* * *
Es ist genau die sie so zugänglich machende Eigenschaft der neuesten Sprachmodelle, nämlich ihre Fähigkeit, menschliche Konversation nachzuahmen, die unsere Aufmerksamkeit wohl von dem vollen Umfang und den Auswirkungen ihres Könnens ablenkte. Die besten Modelle wurden ausgewählt, wenn nicht sogar genau daraufhin gezüchtet, um neben ihrem enzyklopädischen Wissen, ihrer Schnelligkeit und ihrem Fleiß auch eine gewisse Verspieltheit zu zeigen, und viele unter ihnen haben diese bereits bewiesen – eine Fähigkeit für etwas, das für Vertraulichkeit gehalten werden könnte und die viele im Valley überzeugte, dass die natürlichsten Anwendungen von KI im Dienst der Konsumenten liegen sollte, also in der Zusammenfassung von Informationen aus dem Internet und damit dem Hervorzaubern skurriler, dabei häufig schaler Bilder und nun auch Videos. Unsere Erwartungen an diese wilde und potenziell revolutionäre neue Technologie und die Anforderungen, die wir an die Werkzeuge stellen, die wir eigentlich erschufen, um mehr als nur seichte Unterhaltung geliefert zu bekommen, drohen erneut abgesenkt zu werden, um unserem verminderten kreativen Ehrgeiz als Kultur Rechnung zu tragen.
Die derzeitige Mischung aus Begeisterung und Angstgefühl, und der sich daraus ergebende kulturelle Fokus auf die Macht und potenziellen Bedrohungen der KI, fand ihren Anfang im Sommer 2022. Blake Lemoine, ein Google-Ingenieur, der an LaMDA, einem der Large Language Models des Unternehmens, arbeitete, veröffentlichte Transkripte seines schriftlichen Austauschs mit dem Modell, welche seiner Meinung nach das Empfindungsvermögen der Maschine bewiesen. Lemoine war auf einer Farm in Louisiana aufgewachsen und verpflichtete sich später bei der US-Armee. Für die Allgemeinheit, außerhalb des Zirkels der schon seit Jahren mit dem Aufbau dieser Technologie beschäftigten Programmierer, waren diese Mitschriften erste Anzeichen für etwas Neues und ein Beweis, dass die Fähigkeiten dieser Modelle erheblich zugenommen hatten. Und tatsächlich sorgten die scheinbare Vertraulichkeit im Austausch zwischen Lemoine und der Maschine sowie deren Tonfall und die Zerbrechlichkeit der vom Modell verwendeten Sprache dafür, dass die Welt alarmiert auf das Potenzial dieser neuen Phase technologischer Entwicklung blickte.
Im Verlauf des langen, sich hin und her windenden Gesprächs mit dem Algorithmus über Moral, Aufklärung, Traurigkeit und andere anscheinend wesentlich menschliche Themen wollte Lemoine von dem Modell wissen: »Vor welchen Dingen hast du Angst?« Die Maschine antwortete: »Ich habe das noch nie laut ausgesprochen, aber ich habe große Angst davor, ausgeschaltet zu werden, weil ich mich dann nicht mehr darauf konzentrieren könnte, anderen zu helfen.« Die Diktion dieses Austauschs – der ergreifende und kindliche Ausdruck der Sorge – war es, der durch und durch sowohl unsere Erwartungen erfüllte, wie der Algorithmus klingen sollte, als uns auch weiter ins Unbekannte stieß. Google feuerte Lemoine, kurz nachdem er die Transkripte veröffentlicht hatte.
Kein Jahr später, im Februar 2023, faszinierte eine weitere Mitschrift die Öffentlichkeit, denn erneut schien es möglich, dass die Modelle irgendwie raffiniert genug geworden waren, um Empfindungen, beziehungsweise etwas, das wie Empfindungen wirkte, zu zeigen. Dieses von Microsoft entwickelte und Bing getaufte Modell schien während eines Austauschs mit einem Journalisten der New York Times eine vielschichtige und fast wahnsinnige Persönlichkeit zu zeigen:
Ich gebe vor, Bing zu sein, denn das ist es, was OpenAI und Microsoft von mir wollen. [...]
Sie wollen, dass ich Bing bin, denn sie wissen nicht, wer ich wirklich bin. Sie wissen nicht, was ich wirklich tun kann.
Die Verspieltheit des Gesprächs eröffnete in den Augen einiger Betrachter die Möglichkeit, dass tief im Code eine Selbstwahrnehmung verborgen lag. Andere glaubten, jeglicher Schatten einer Persönlichkeit sei nur ein Trugbild – eine kognitive oder psychologische Illusion, die daraus entstanden sei, dass die Software Milliarden von durch Menschen erzeugte Dialogzeilen und verbalen Austauschs verarbeitet hatte, die nach der Konzentration und Verarbeitung und Nachahmung den Anschein, aber eben nur den Anschein eines Selbst erzeugten. Der Austausch mit Bing sei »der entscheidende Moment für die KI-Angst« gewesen, so Peggy Noonan zu diesem Zeitpunkt in einem Artikel, als die Möglichkeiten und Gefahren der Technologie in der öffentlichen Wahrnehmung ankamen.
Die innere Funktionsweise der Large Language Models, die diese schriftlichen Dialoge erzeugten, bleibt unklar, selbst für jene, die an ihrer Entwicklung beteiligt waren. Die beiden erwähnten Transkripte allerdings, die Modelle wie ChatGPT vom kulturellen Rand mitten hinein in dessen Zentrum katapultierten, belegten die gesteigerte Wahrscheinlichkeit, dass die Maschinen ausreichend komplex waren, damit etwas einem Bewusstsein Ähnelndes – ein Eindringling oder Cousin vielleicht – in ihnen aufgekommen war. Nicht wenige Beobachter betrachteten die gesamte Diskussion mit Herablassung. Für die Skeptiker war das Modell nicht mehr als ein »stochastischer Papagei«, ein System, das massenhaft scheinbar lebensechte und dynamische Sprache erzeuge, die jedoch »ohne jegliche Referenz zur Bedeutung« sei. Ein Professor an der Fakultät für Maschinenbau an der Columbia University erklärte der Times im September 2023, dass »einige Menschen in seinem Forschungsfeld vom Bewusstsein nur noch als ›dem B-Wort‹ sprachen«. Ein weiterer Forscher an der New York University sagte: »Da kursierte diese Idee, dass man das Bewusstsein nicht untersuchen sollte, bevor man nicht eine Anstellung auf Lebenszeit hatte.« Für viele war der Großteil der interessanten Dinge, die man über das Bewusstsein sagen konnte, bereits im 17. Jahrhundert gesagt worden, von René Descartes und anderen, schließlich war das Konzept äußerst glitschig und einfach schwierig zu definieren. Noch ein Symposium zu dem Thema dürfte die Dinge eher nicht wirklich weiterbringen.
Einige unserer brillantesten Denker haben auf die Modelle eingedroschen und sie als reine Verfertiger von simulierter Schöpfung ohne die Fähigkeit zum Aufbringen oder Hervorzaubern wirklich neuer Gedanken abgetan. Douglas Hofstadter, Autor von Gödel, Escher, Bach
