Werden wir ersetzt? E-Book

Robert Skidelsky

• Herausgeber: Kunstmann, A
• Kategorie: Geisteswissenschaft
• Sprache: Deutsch
• Veröffentlichungsjahr: 2024

Seitenzahl: 574

Beschreibung

Es ist ein alter Menschheitstraum, von Mühsal und Not befreit zu sein. Ein Traum, der durch die rasante technologische Entwicklung sowohl zu einer realistischen Perspektive als auch zu einer realen Bedrohung wird, wenn nur einige wenige von diesem Fortschritt profitieren, während er für zu viele mit Arbeitslosigkeit, Abhängigkeit und Armut einhergeht. Zeit, sich die Grundfragen neu zu stellen: Kontrollieren wir die Maschinen oder kontrollieren die Maschinen – und die, denen sie gehören – uns? Was droht uns im Fortschrittswahn verloren zu gehen? Wie können wir eine gerechte Arbeitswelt und ein gutes Leben für alle organisieren? Robert Skidelsky erzählt kenntnisreich die wechselhafte Beziehung von Mensch und Maschine: Wie haben führende Denker, von der Antike bis ins 21. Jahrhundert, über den technischen Fortschritt – von den ersten Werkzeugen bis zur künstlichen Intelligenz – und seine Auswirkungen auf die Menschheit nachgedacht? Ein grundlegendes Buch zu den drängenden Fragen unserer Zeit, das uns zeigt, auf was wir jetzt achten müssen, damit wir unsere Zukunft in der eigenen Hand behalten.

Leseprobe

Robert Skidelsky

WERDEN WIR ERSETZT?

VOM FORTSCHRITTSWAHNZU EINER ÖKONOMIE DES GERECHTEN LEBENS

Aus dem Englischen vonEnrico Heinemann

Verlag Antje Kunstmann

INHALT

Vorwort

Einführung

Glossar für technisch Unbedarfte

Prolog: Robotik-Hype, alt und neu

TEIL I: DIE MECHANISIERUNG DER ARBEIT

1.Der Einzug der Maschinen

2.Natürliche Hindernisse

3.Der Aufstieg des Kapitalismus

4.Ökonomen und Ludditen

5.Warum Europa und nicht Asien?

6.Angenehme und lausige Jobs

7.Upskilling oder Downskilling?

TEIL II: DAS STREBEN NACH VOLLKOMMENHEIT

8.Das krumme Holz gerade richten

9.Aufklärungen

10.Der Teufel in der Maschine

11.Die Qualen der Moderne

12.Technik und Zivilisation

13.Von der Utopie zur Dystopie

TEIL III: AUF DEM WEG IN DIE APOKALYPSE

14.Der Einzug des Computers

15.KI als Rettung?

16.Befreiung versus Verstrickung

17.Extremereignisse

Finale

Literaturverzeichnis

Anmerkungen

Register

VORWORT

Dieses Buch erzählt drei Geschichten über den Einfluss von Maschinen auf das Menschsein: auf unsere Arbeitsweisen, unsere Lebensart und unsere Zukunft. Die Geschichten folgen einer Ordnung, da sie das zunehmende Eindringen von Maschinen in unser Leben beschreiben, sind aber historisch und antizipatorisch miteinander verknüpft, beginnend mit den ersten einfachen Maschinen bis zur komplexen Technologie unserer Gegenwart, in der Verbundsysteme ein immer breiteres Spektrum an manuellen und geistigen Tätigkeiten übernehmen. Jede Geschichte führt uns näher an die Kliffkante heran, ab der jede Ausweitung unserer Freiheit, selbst über unsere Lebensumstände zu entscheiden, offenbar auch die Macht der Technologie ausweitet, diese zu kontrollieren. Jede Geschichte birgt eine Vision von Himmel und Hölle: Der Verheißung von der Befreiung von Zwängen, religiösen Dogmen und Naturkatastrophen steht das Gespenst der Nutzlosigkeit, der Diktatur des Algorithmus und der physischen Vernichtung als ihr Gegenteil gegenüber. Dass Menschen gegen Vorhaben, die ihre Lebensbedingungen verbessern sollten, Widerstand leisten, ist eine der Konstanten und Paradoxien, die in allen dreien dieser Geschichten zutage treten. Technologen und Sozialingenieure schlossen daraus nur selten, dass ihre Pläne manchen Grundvoraussetzungen für ein menschliches Gedeihen entgegenstehen könnten, und zogen es vor, Sturheit, Dummheit, Ignoranz und Aberglauben dafür verantwortlich zu machen.

Anstoßgebend für dieses Buch war John Maynard Keynes’ kurzer Aufsatz »Wirtschaftliche Möglichkeiten für unsere Enkelkinder« (1930). Keynes hatte ausgehend vom damaligen technischen Fortschritt hochgerechnet, dass seine mutmaßlichen Enkelkinder nur noch drei Stunden am Tag arbeiten müssten, um »den alten Adam in uns zufriedenzustellen«.1 Die theologische Anspielung war klar: Maschinen würden den Großteil der Arbeit übernehmen und uns damit eine Rückkehr ins Paradies ermöglichen, in dem »weder Adam grub noch Eva spann«. Keynes’ Prognose wurzelte in der uralten Idee, dass sich ein Raum für ein »gutes Leben« eröffne, sobald die materiellen Bedürfnisse der Menschheit befriedigt seien. Effizienz in der Produktion sei nicht Selbstzweck, sondern Mittel zum Guten und eben nur ein Mittel. Dabei sagte Keynes keineswegs, dass sich das von Arbeit befreite Individuum zwangsläufig für ein gutes Leben entscheiden würde. Vielmehr gewinne es die Freiheit für eine solche Entscheidung. Maschinen waren einfach nur ein Mittel zum Zweck.

Mir kam der Gedanke, die Prophezeiung in Keynes’ Aufsatz zu aktualisieren und dabei nicht einfach nur die Entwicklungen seit 1930, sondern auch die Faktoren zu berücksichtigen, die Keynes schon zu seiner Zeit in den Blick hätte nehmen können. Dadurch ist die Abhandlung deutlich länger geworden als Keynes’ Aufsatz, der aber wohl ebenso umfangreich ausgefallen wäre, hätte Keynes nicht ein bestimmtes Anliegen verfolgt: Menschen in der Zeit der wirtschaftlichen Depression mit einem Gedankenspiel Mut zu machen.

Keynes’ Prognose stellte sich als nur teilweise zutreffend heraus. Der technische Fortschritt seit 1930 hat die Pro-Kopf-Einkommen in reichen Ländern tatsächlich von rund 5000 Dollar auf 25 000 Dollar (umgerechnet auf Kaufkraft 1990) um etwa das Fünffache erhöht – soweit zumeist im Einklang mit Keynes’ Erwartungen. Dabei ist aber die durchschnittliche Wochenarbeitszeit von Vollzeitbeschäftigten nur um 20 Prozent, von 50 auf 40 Stunden gesunken, weitaus weniger als von Keynes vorhergesehen. Er scheint sich in drei Dingen geirrt zu haben.

Er ließ den Unterschied zwischen Bedürfnissen und Wünschen unbeachtet und übersah so die Möglichkeit, dass die Unersättlichkeit unseren Adam korrumpieren und ihn so anstatt zum Liebhaber des Guten und Schönen zum Sklaven des Überflüssigen machen könnte. Es ist dieses – natürliche und vorsätzlich geschaffene – Nie-genug-Bekommen, das Maschinen am Laufen hält, indem es dafür sorgt, dass die grundlegenden Requisiten des menschlichen Glücks dauerhaft Mangelware bleiben. Zweitens behandelte Keynes die Arbeit rein als Kosten, oder, wie Ökonomen sagen, als Disnutzen oder »sozialen Unwert«, obwohl sie zugleich ein Fluch und die Vorbedingung für ein sinnerfülltes Leben ist. Menschen wägen die Lebenshaltungskosten gegen die Arbeitsfreude ab. Drittens ignorierte Keynes die Verteilungs- und damit auch die Machtfrage. Er ging stillschweigend davon aus, dass Gewinne aus Effizienzsteigerungen allen und nicht nur den Wenigen zufließen würden. Dabei gibt es keinen Automatismus, der dies sicherstellt, und die sozialen Mechanismen, die für reale Lohnzuwächse sorgten, sind seit dem Siegeszug der neoliberalen Ökonomie in den letzten vierzig Jahren erlahmt oder laufen jetzt in die Gegenrichtung. Während es sich manche Beschäftigte leisten konnten, ihre Arbeitszeit zu reduzieren, zwingt das verzweifelte Bemühen, den gewohnten Lebensstandard zu halten, viele andere zu unerwünschter Mehrarbeit.2 Deswegen stellt sich die wirtschaftliche Zukunft unserer Enkelkinder deutlich weniger rosig dar, als es für Keynes 1930 den Anschein hatte.

Doch das ist nicht das Ende der Diskussion. Wie Marx war Keynes überzeugt, dass eine Verringerung der wirtschaftlichen Zwänge automatisch zu einem Mehr an Freiheit führe: Tatsächlich war seine Wirtschaftstheorie der Vollbeschäftigung darauf ausgelegt, uns so schnell wie möglich über die Schwelle dieser Zwänge hinwegzuhelfen. Er war kurioserweise blind gegenüber der Möglichkeit, dass die Maschinen, die uns von Arbeit befreiten, unser Leben in Besitz nehmen könnten. In der Rückschau erscheint die Verstrickung, dass tatsächlich Maschinen den Anstoß gaben, anzunehmen, dass sich auch das Leben selbst wie eine Maschinerie organisieren ließe, unvermeidlich, sobald die Wissenschaft die Hoheit über beide Bereiche gewonnen hatte. Diese Entwicklung führte zu dem, was ich die »Qualen der Moderne« nenne. In seinem Klassiker Der Weg zur Knechtschaft hat Friedrich Hayek vor der »unkritische[n] Übertragung von technologischen Begriffen auf die Gesellschaftsprobleme […] durch die Denkweise des Naturwissenschaftlers und des Ingenieurs«3 gewarnt. Dabei war es gerade der technische Ehrgeiz, die Gesellschaft auf die Effizienz der Fabrik oder des Büros zu trimmen, der die moderne Welt formte und der Keynes’ Reich der Freiheit in Max Webers »stahlhartes Gehäuse der Hörigkeit« verwandelte. Meine zweite Geschichte handelt folglich vom Verhältnis zwischen Technik und Freiheit. Sie stellt die Frage: Sind Maschinen der Motor für Befreiung oder für Verstrickung?

Die umfassenderen Möglichkeiten der Technik illustrierte Jeremy Bentham 1786 mit seinem Panopticon, einem berühmten architektonischen Entwurf. In diesem idealen Gefängnisbau konnte der Direktor von einem Wachturm im Zentrum aus die Insassen in den umliegenden Zellen beobachten, ohne im Gegenlicht selbst gesehen zu werden.4 Dies sollte Aufseher grundsätzlich überflüssig machen, da die Gefangenen im Bewusstsein ihrer ständigen Überwachung den Anstaltsregeln freiwillig gehorchen würden. Benthams Ehrgeiz erstreckte sich hinsichtlich dieser Erfindung über die Gefängnismauern hinaus auch auf Schulen, Krankenhäuser und Arbeitsplätze. Seine Vision war die von der Gesellschaft als ein ideales Gefängnis, in dem unpersönliche und auf alle anwendbare Regeln herrschten, die aus eigenem Antrieb befolgt würden. Seine Methodik beruhte dabei im Kern auf dem nur in eine Richtung verlaufenden Informationsfluss: Der Vorsteher würde über die Gefangenen alles wissen, selbst aber unsichtbar bleiben.

Inzwischen ist Benthams Welt Wirklichkeit geworden. Die heutigen digitalen Kontrollsysteme operieren nicht mit Wachtürmen, sondern mit Computern mit elektronischen Ortungssystemen sowie Programmen zur Stimm- und Gesichtserkennung. Wir begeben uns freiwillig in Benthams Gefängnis, ohne an Fallstricke zu denken. Aber einmal drinnen, wird ein Entkommen immer schwieriger. Plattformen und Regierungen leiten uns über unsere Computer online ihre Mitteilungen zu und schöpfen im Gegenzug Daten über unsere Vorlieben und Gewohnheiten ab. Wer von diesem Handel mehr profitiert, ist fraglich.

Keynes war sich natürlich bewusst, zu welch niederträchtigen Zwecken Überwachungstechnik in seiner Zeit, vor allem im Deutschland des aufkommenden Nationalsozialismus und in Sowjetrussland, eingesetzt wurde. Aber er ließ sich offenbar von seiner Überzeugung blenden, dass freie Gesellschaften durch ausreichende Vorkehrungen gegen orwellsche Entwicklungen gewappnet seien.5 Dass sich Überwachung unbemerkt und vielleicht sogar unbeabsichtigt bis an einen Punkt einschleichen könnte, an dem eine Umkehr unmöglich würde, kam ihm nicht in den Sinn. Wir müssen unsere Enkel also vor der potenziellen Bösartigkeit von Maschinen warnen, die für sie zur Selbstverständlichkeit geworden sind.

»Unter der Annahme, daß keine wichtigen Kriege und keine erhebliche Vermehrung der Bevölkerung stattfinden …«6 Mit diesen Worten tat Keynes kurzerhand die offensichtlichsten Hindernisse ab, die der Verwirklichung seiner Utopie im Weg standen. Dass er dies gerade in jener Zeit tat, erscheint außergewöhnlich. Europa hatte soeben den verlustreichsten Krieg in seiner Geschichte durchlitten, und in seinem Buch Krieg und Frieden. Die wirtschaftlichen Folgen des Vertrags von Versailles (im Original 1919) hatte er selbst – in Erkenntnis des Kommenden – prognostiziert, dass die Rache auf dem Fuße folgen werde. Im selben Buch hatte er die Revolution der Bolschewiki auf die »Sprengkraft der Fruchtbarkeit einer Nation« zurückgeführt.7 Die Möglichkeit, dass sich derlei Ereignisse in noch erschreckenderem Ausmaß wiederholen könnten, durfte die glanzvollen Aussichten, die er für seine Enkel ausmalte, nicht eintrüben. Ging er davon aus, dass der Erste Weltkrieg ein ausreichend lauter »Weckruf« gewesen war? Existenzielle Herausforderungen einfach so auszublenden, ist heute nicht mehr möglich. Sie sind allzu dringlich und umfassend geworden. Meine dritte Geschichte behandelt folglich das zerstörerische Potenzial einer unkontrollierten technologischen Entwicklung.

Unser Planet wurde von jeher von Naturkatastrophen bedroht: Vor 60 Millionen Jahren löschte wahrscheinlich ein Asteroideneinschlag die Dinosaurier aus. Aber inzwischen bedrohen erstmals menschengemachte Katastrophen das Leben auf der Erde – direkt oder indirekt von unserem eigenen Handeln verursacht. Die Angst vor einem Atomkrieg, die globale Klimaerwärmung und biotechnologisch entfesselte Pandemien machen nicht nur Hoffnungen auf ein besseres Leben, sondern sogar auf ein Weiterleben überhaupt zunichte. Die Menschen, schrieb H. G. Wells, müssen sich entweder zu Göttern erheben oder untergehen. Manche Naturwissenschaftler und Philosophen stellen sich den neuen Gott als eine superintelligente Maschine vor, die dazu fähig ist, die Menschheit vor den Mängeln rein humaner Intelligenz zu erretten. Aber wie können wir sicher sein, dass unser neuer Gott wohlwollend sein wird? Es ist ein Kennzeichen dieser Zeit, dass sich niemand mit der Frage beschäftigt, wozu der alte Gott angesichts dieser Verhältnisse geraten hätte.

Heute herrscht Konsens darüber, dass der Vormarsch der Automatisierung unaufhaltsam ist: Maschinen werden zwangsläufig immer leistungsfähiger und könnten durchaus außer Kontrolle geraten. Daher die aus der Science-Fiction stammende und jetzt auch in Wissenschaft und Philosophie erhobene Forderung, sie mit ethischen Regularien auszustatten, bevor sie sich »verselbstständigen«. Das Problem besteht darin, sich auf angemessene ethische Regularien in einer Zeit zu einigen, in der in den westlichen Gesellschaften der erkenntnistheoretische Nihilismus herrscht und der geopolitische Konflikt zwischen Demokratien und Autokratien wieder aufbricht.

Was also sollten wir unseren Enkeln raten? Im Grunde gibt es zwei Alternativen. Wir können sie entweder dazu drängen, nach technischen Lösungen für die vielfältigen, lebensbedrohlichen Risiken zu suchen, die ihnen die gegenwärtigen Technologien hinterlassen werden, oder sie dazu ermahnen, ihre Abhängigkeit von Maschinen zu verringern. Beim Verfassen dieses Buchs bin ich zu der Überzeugung gelangt, dass der erstgenannte Ansatz zwar Fragmente menschlichen Lebens retten könnte, aber alles zerstören würde, was dieses Leben wertvoll macht. Die zweite Möglichkeit ist die einzige des gesunden Menschenverstands, erfordert aber die Wiederentdeckung einer Denkweise, in der sowohl Religion als auch Wissenschaft eine Rolle dabei spielen, dem menschlichen Leben eine Richtung zu geben. Dem redete Einstein mit beispielhafter Klarheit das Wort: »Wissenschaft ohne Religion ist lahm, Religion ohne Wissenschaft blind.« Das eine solche Rückbesinnung in ausreichendem Umfang stattfindet, um rechtzeitig den Gang der Ereignisse zu beeinflussen, erscheint mir undenkbar. Deswegen führt die Argumentation dieses Buchs zu einer finsteren Schlussfolgerung. Biblisch gesprochen, ist eine Heuschreckenplage ein notwendiges Vorspiel für die Wiederkunft Christi.

Dieses Buch hat seine Ambitionen zu hoch geschraubt. Es handelt hauptsächlich davon, wie sich die westlichen Zivilisationen durch die Wissenschaft zu utopischen Träumen hinreißen ließen, und von den nachfolgenden Stadien, die zu bitterer Ernüchterung führten. Es beruht auf meiner akademischen Verankerung in Geschichte und Ökonomie, dringt aber auch auf fachfremde hoch spezialisierte Felder vor und ist deswegen offen für die Kritik, die Wissenschaftler gewöhnlich gegen Eindringlinge in ihre geschützten Hoheitsgebiete erheben. Zu jedem Thema, das in diesem Buch behandelt wurde, ist eine gewaltige Masse an Spezialliteratur aufgelaufen, die ich vielfach nur oberflächlich streifen konnte. Wie Steven Shapin anmerkte, ist das interdisziplinäre Gebiet ein »bedrohtes Habitat«.8 Meine einzige Rechtfertigung lautet, dass sich die Beziehung zwischen Mensch und Maschine als das dringlichste Problem unserer Zeit darstellt und die Auseinandersetzung mit ihr ein geradezu philosophisches Unterfangen ist – nicht im Sinne von Philosophie als Disziplin, sondern im traditionellen Sinn des Nachdenkens über die Bedeutung des menschlichen Lebens. Ich habe es vorgezogen, diese Untersuchung in einer gewöhnlichen Sprache durchzuführen, die Erinnerungen daran weckt, wie früher über solche Themen geredet wurde.

Ich danke dem Centre for Global Studies, das die Recherchen für dieses Buch unterstützt hat. Besonders dankbar bin ich meinem Sohn Edward Sidelsky für seine Zeit und Mühen beim Durchsehen des Manuskripts. Es hat sich im Ergebnis verbessert. Meghnad Desai und Rodion Garshin haben es vollständig oder zu einem großen Teil gegengelesen. Sie und Ewa Atanassow, Massimilliano Bolodin, Harold Lind, Edward Luttwak, Michael Mertes, Heinrich Petzol, Peter Radford, Max Skidelsky, Allan Strong, Lanxin Xiang und Junquin Wu haben allesamt Erkenntnisse beigesteuert, von denen ich profitiert habe.

Mein Dank geht an Alex Bagenal, Nan Crig, Michael Davies, Rachel Kay, Jack Perraudin, Erik Schurkus, Leanne Stickland, Jessica Tomlinson und Thomas Tozer für ihre Unterstützung bei der Recherche. Besonderer Dank geht an Alex Bagenal. Sein philosophischer Scharfsinn war mir eine unschätzbare Hilfe. Sein Beitrag und der Nan Craigs gingen über das hinaus, was Forschungsassistenten gewöhnlich leisten. Ich danke meinem Lektor Ben Sinyor für seine zahlreichen nützlichen Hinweise, die den Aufbau und den Stil des Buchs bedeutend verbessert haben. Überflüssig zu sagen, dass für die Endfassung dieses Buchs, seinen Inhalt und seine Mängel allein ich verantwortlich bin.

Abschließend geht mein Dank an meine Frau Augusta für ihre Unterstützung im Kampf gegen das Alter und die Zeit.

Juni 2023

EINFÜHRUNG

Die meiste Zeit in ihrer Geschichte nutzten die Menschen Werkzeuge und Maschinen, lebten aber nicht in einem Maschinenzeitalter. Dies soll heißen, dass Maschinen nicht ihre Lebensverhältnisse bestimmten. Heute leben wir in einer solchen Ära. Wir sind zu »verdrahteten« Komponenten eines komplexen technologischen Systems geworden, von dem wir hinsichtlich dessen, wie wir Krieg führen, arbeiten, leben und denken, inzwischen abhängig sind.

Den Anbruch des »Maschinenzeitalters« hatte 1829 Thomas Carlyle (1795–1881) angekündigt.1 Wie er es sah, hatte die Menschheit erstmals die Schwelle zu einer von Maschinen bestimmten Zivilisation überschritten, die sich über vier Elemente definiert: ein mechanistisches Weltbild, neue praktische Künste oder Gewerbe, eine systematische Arbeitsteilung und eine unpersönliche Bürokratie. Carlyles Elemente sollten sich zu dem vereinen, was ein Jahrhundert später Lewis Mumford den »technologischen Komplex« nannte. Im Maschinenzeitalter bestimmt nicht das Zusammenspiel von Mensch und Natur, sondern das von Mensch und Gerät die Bedingungen der menschlichen Existenz.

Carlyles Ansatz bietet einen nützlichen Weg für Überlegungen, wie Menschen an diesen Punkt gelangt sind. An die erste Stelle setzt er das »mechanistische Weltbild« (mechanical philosophy) – die Betrachtung der Welt als Maschine (oder, wie damals konzipiert, als ein von Gott aufgezogenes Uhrwerk). Dieser Sichtweise zufolge waren Menschen als wertschöpfende Mechanismen aufzufassen. Die wissenschaftliche Methode würde es ermöglichen, Gesetze des menschlichen Verhaltens wie die der Physik zu ermitteln und deren Kenntnis dazu zu nutzen, eine bessere Gesellschaft zu errichten. In diesem Buch bezeichne ich mit dem Ausdruck »Technologie« die Anwendung des mechanistischen Weltbilds zunächst auf die Organisation der Arbeit und dann auf die des Lebens.

An zweiter Stelle folgten die »neuen praktischen Künste oder Gewerbe«. Dies war Technologie im engeren Wortsinn als Anwendung wissenschaftlicher Erkenntnisse zur Herstellung nützlicher Dinge, wobei die antike Trennlinie zwischen episteme (Wissen) und techne (Können) verwischt wurde. Die Geschichte der Maschinen war bis dato eine des »Herumbastelns mit Werkzeugen« gewesen, basierend auf Erfahrung und lokalem Wissen. Mit der industriellen Revolution wurden erstmals wissenschaftliche Erkenntnisse auf die Produktion angewendet, was im 19. Jahrhundert für einen nie da gewesenen Zuwachs an materiellem Wohlstand führte, der sich im 20. Jahrhundert weiter beschleunigte.

An dritter Stelle stand die Arbeitsteilung. Das Maschinenzeitalter markierte eine grundlegende Abkehr von der Praxis, ein Produkt in Gänze (oder zu einem Großteil) von einer einzigen Person (wie dem Töpfer an der Scheibe) fertigen zu lassen, hin zu einer Produktionsweise, bei der die einzelnen Arbeitsschritte der Herstellung wie in Adam Smith’ Stecknadelfabrik klar voneinander getrennt wurden. Dies steigerte gewaltig die Effizienz der Produktion. Die Spezialisierung von Aufgaben galt nicht nur für Einzelpersonen, sondern auch für Nationen: Eine »Weltwirtschaft« entstand, in der Staaten Handel mit Gütern und Dienstleistungen trieben, für deren Bereitstellung sie aufgrund von Klima oder Fähigkeiten als besonders begünstigt galten. Auf die Art wurden immer mehr menschliche Tätigkeiten »optimiert«, was dazu führte, dass Menschen nunmehr als die austauschbaren »Glieder« der nationalen und globalen Lieferketten konzipiert wurden. Dabei war die Spezialisierung bei der Produktion von Ideen ein bedeutender Aspekt der Arbeitsteilung. Forschungsfelder wurden zu »Disziplinen« mit eigenen Hierarchien. Gelehrte und Universitätsangehörige wurden Spezialisten in kleinteilig zersplitterten Bereichen des Denkens, ohne eine Vorstellung davon, wie diese jeweils miteinander zusammenhingen, um dem vollständigen Produkt Gestalt und Bedeutung zu geben.

Carlyles viertes Element, die »unpersönliche Bürokratie«, bezeichnet den Gehorsam gegenüber Regeln ohne Rücksicht auf Personen. Max Weber sollte dies später als »Rationalisierung« bezeichnen – der Prozess, bei dem ein auf Gewohnheit oder Gefühl basierendes Verhalten in eines überführt wird, das auf der rationalen Anpassung von Mitteln an Zwecke basiert. Weber sah die Rationalisierung als unvermeidliches Ergebnis von »Gottes Tod« an. Sie ist für das Verständnis moderner Herrschaftstechniken besonders bedeutsam. Heutzutage beherrschen uns digitale Bürokraten, deren Anweisungen durch ihre wissenschaftliche Rationalität legitimiert sind und damit jenseits der Zuneigungen, Kompromisse und Animositäten in Religion, Politik oder persönlichen Beziehungen stehen. Mit der Verbreitung von Computernetzwerken werden die Grenzen, die den traditionellen Bürokratien beim Eingreifen ins Alltagsleben gesetzt waren, überwunden, wobei sich das Laster der Undurchsichtigkeit ihres Wirkens weiter verschärft.

Während Verfechter des mechanistischen Weltbilds den Nutzen von Maschinen hervorhoben, den wirtschaftlichen und gesellschaftlichen Fortschritt rationaler und somit effizienter zu gestalten, setzte Carlyle auf eine grundlegende Unterscheidung zwischen dem Inhumanen und dem Humanen. Er verglich die oft inhumanen Bedingungen des vorindustriellen Lebens mit der inhumanen Herrschaft unpersönlicher Regeln. Ich versuche zu zeigen, dass diese Disharmonie zwischen Menschsein und Menschlichkeit eine Erklärung für die Qualen der Moderne liefert. Ich behaupte zudem, dass dies eine einzigartig westliche Disharmonie ist, die durch westliche Wissenschaft und westliche Waffen in die nichteuropäische Welt exportiert wurde.

Das Buch ist um die Anwendung des mechanistischen Weltbildes erst auf die Arbeit und dann auf die Gesellschaft herum strukturiert. Das moderne Zeitalter wird von Maschinenbauern beider Art, Ingenieuren des Körpers und Ingenieuren der Seele, sowie durch den beharrlichen Widerstand beherrscht, den Dichter, Schriftsteller und Künstler beiden entgegensetzen.

Die erste Hälfte dieses Buchs handelt hauptsächlich von den Auswirkungen von Maschinen auf die Arbeit. Der Prolog über den – antiken wie modernen – Robotik-Hype führt die bedeutende, mythologische Idee des Automaten ein, aus der sich letztlich der heutige Hype um die künstliche Intelligenz speist: die der unbeseelten Materie, die durch verborgene Mächte zum Leben erweckt wird. Dass sich solche Archetypen auf dem Weg der Menschheit vom Mythos zur Wissenschaft hartnäckig gehalten haben, ist ein zentrales Kennzeichen unserer Beziehung zu Maschinen.

Die nachfolgenden Kapitel behandeln den Aufstieg der Maschinenzivilisation, ihren materiellen und kulturellen Hintergrund, ihre materiellen Verheißungen, das Hervortreten Großbritanniens als »erste Industrienation« sowie den Widerstand gegen die Zwangsindustrialisierung. Der Protest und das Schicksal der Ludditen, der zum Untergang verurteilten Handweber im frühindustrialisierten Großbritannien, bilden den Rahmen für die gegenwärtigen Debatten um die »Zukunft der Arbeit« und die Bedeutung des »Upskillings«. Ein zentraler Diskussionspunkt dreht sich um die Frage, ob unsere Zukunft von unserer Technologie bestimmt sein wird.

Folgende Fragen beherrschen die gegenwärtige Debatte: Werden menschliche Arbeitskräfte vollständig oder nur teilweise durch Maschinen ersetzt? Wollen Menschen ihre Arbeitszeiten reduzieren oder mehr konsumieren? Welche sozialen Übereinkünfte sorgen am ehesten dafür, dass die Früchte der Produktivitätszuwächse gerecht verteilt werden? Inwieweit soll beim Streben nach Produktionsoptimierung Rücksicht auf den sittlichen Wert von Arbeit genommen werden? In dieser Erörterung werden uns das zentrale Thema der Kosten des Lernens im »Wettlauf mit den Maschinen« und die Frage begegnen, ob der Preis dafür ist, auch das zu opfern, was das Menschsein ausmacht.

Wie Carlyle schon 1829 anmerkte, betrafen Maschinen nicht nur bestimmte Gewerbe, sondern »veränderten die Grundfesten der Gesellschaft durch die Verinnerlichung mechanistischer Axiome«. Deren Effekt war, dass wir eine Reihe von Verhaltensnormen, die uns die Ingenieure der Seele von außen vorschrieben, internalisiert (uns zu eigen gemacht) haben. Wir haben dem Großen Bruder nicht deshalb gehorcht, weil er uns mit einem dicken Knüppel bedrohte oder weil wir ihn gar liebten, sondern, weil er uns auf eine unwiderstehlich rationale Weise angesprochen hat.

Die Auswirkungen des Aufstiegs des »mechanistischen Weltbilds« fasste, obwohl unbeabsichtigt, Rick Fernandez, der Chef von Googles Abteilung für Lernen und Entwicklung, klar in einer Frage zusammen: »Wie können wir, während wir unsere Technologie optimieren, unser Leben optimieren, um unser bestes Selbst zu verwirklichen?« Der Gedanke, »unser Leben zu optimieren«, ist sehr verlockend. Aber er beruht auf einer Verwechslung von Streben und Ziel. Ein optimaler Zustand kann aus Sicht des Kriminellen oder des Staates sehr weit von dem entfernt sein, was aus dem Blickwinkel der Gesellschaft das Beste ist. Die zweite Hälfte des Buchs befasst sich mit den Auswirkungen von Versuchen, »unser Leben zu optimieren«.

Es braucht sicher keine besondere Hypothese, um das Streben der Herrschenden nach optimalem Gehorsam ihrer Untertanen zu erklären. Das Spitzelwesen gehört mit der Prostitution zu den ältesten Gewerben. Der Zweck der Kontrolle hat sich allerdings im Einklang mit den Verheißungen der Wissenschaft ausgeweitet, die menschlichen Lebensbedingungen zu verbessern. Herrschaftssysteme, die von der Voraussetzung ausgingen, wonach menschliches Verhalten unverbesserlich sei, sind anderen mit der Idee gewichen, dieses zu perfektionieren. Seitdem die Fortschrittsdoktrin im 18. Jahrhundert in Europa Fuß gefasst hat, versuchten Sozialreformer, anstatt bestimmte Mängel oder Ursachen für Unmut zu beseitigen, Gesellschaften zu errichten, in denen solche Unvollkommenheiten unmöglich sind. Die Sozialwissenschaften und die Psychologie behandeln Menschen als unfertige Erzeugnisse. Das herausragende zeitgeschichtliche Beispiel für das radikale Social-Engineering-Projekt lieferte der Sowjetkommunismus. Erst die Informationstechnologie hat eine derartige »Hochskalierung« von Herrschaft möglich gemacht – so die Botschaft der drei großen dystopischen Romane von Jewgeni Samjatin, Aldous Huxley und George Orwell im 20. Jahrhundert.

Die darauffolgenden Kapitel folgen der Spur der Utopie von Platon bis zur Aufklärung, mit einem Christentum, das in einem Kontrapunkt dem platonischen Traum vom idealen Staat die unerbittliche augustinische Lehre von der Ursünde entgegensetzt. Wir begegnen den Denkern der Aufklärung, die die Hindernisse, die das Christentum dem Aufbau eines irdischen Paradieses in den Weg legte, ungeduldig beiseitefegten, und befassen uns mit dem viel diskutierten Thema der Beziehung zwischen Wissenschaft und Religion. Sind dies widerstreitende Prinzipien, wie zahlreiche Verfechter beider Seiten meinten (und noch meinen), oder sich ergänzende Formen der Erkenntnis, und, falls ja, wie könnten die Bedingungen ihrer Koexistenz aussehen? Das Kapitel »Der Teufel in der Maschine« macht den Zeitpunkt am Ende des 18. Jahrhunderts aus, an dem Philosophen und Schriftsteller in ihren Zukunftsvisionen erstmals die disruptive Macht von Technik erkannten. Anschließend beschreibe ich die politische Revolte gegen das »mechanistische Weltbild«, die nach meiner Lesart in der deutschen Version der Romantik ihr Zentrum gefunden und in der Nazibarbarei ihren Gipfel erreicht hat – als eine Bestandsaufnahme der bedeutenden Diskussion um die »Frage der Technik« in der Zeit zwischen den Kriegen und mit einem Überblick über den Übergang von der Utopie zur Dystopie in der fantastischen und fiktionalen Literatur des 19. und 20. Jahrhunderts. Vorherrschend in den Erörterungen in Teil II ist die Frage, ob der konstruktivistische Ansatz, Gesellschaft aufzubauen, vereinbar ist »mit Wahrheitssuche, mit Liebe, mit Kunst, mit spontanem Entzücken, mit jedem Ideal, das bisher der Mensch gehegt hat«,2 wie Bertrand Russell es ausgedrückt hat.

Schließlich gelangen wir zu der von der Technik aufgeworfenen Frage nach der Zukunft. Am Ende seines Lebens, 1945, meinte H. G. Wells, mit der Menschheit könne es entweder bergauf oder bergab gehen, ein Gedanke, den die gegenwärtigen Transhumanisten wieder aufgreifen. Teil III dieses Buchs behandelt den Siegeszug des Computers von dessen bescheidenden Anfängen des Zählens und Rechnens bis zum Projekt, eine künstliche Intelligenz zu erschaffen – nach meiner Deutung ein willentlicher Versuch, das Streben nach Perfektionierbarkeit vor den vernichtenden Schlägen zu retten, die ihm die rein humane Intelligenz beigebracht hat. Sowohl die Natur- als auch die Sozial- und Militärwissenschaften waren in dieses transformative Projekt intensiv eingebunden, mehrheitlich über Finanzierungen durch Regierungen und visionäre Unternehmer. Die Frage, die wie ein Schatten über diesem Teil des Buchs liegt, lautet, ob uns KI am Ende aus den tragischen Zyklen der Menschheitsgeschichte ausbrechen lässt oder ob sie der Königsweg in die geistige Auslöschung und physische Vernichtung ist.

Heute sind fünf Wege in die Zukunft denkbar. Der erste ist optimistisch. Arnold Toynbee pries die Vorzüge der Maschinen, welche die banalen Aufgaben des Lebens übernehmen, als »eine Kräfteverlagerung von einer niederen zu einer höheren Lebensform und Handlungsmöglichkeit«.3 Damit stellt er sich in eine lange Reihe von Technikoptimisten, zu denen Karl Max, John Stuart Mill, Lewis Mumford und John Maynard Keynes zählen. Sie und viele weitere begriffen Wissenschaft und Technik als ein Mittel, den Geist vom Alltagsballast zu befreien, um ihm höhere und umfassendere Möglichkeiten zu eröffnen. Diese Hoffnung ist trotz der Schläge, die ihr die Geschehnisse des 20. Jahrhunderts versetzt haben, immer noch lebendig und wohlauf.

Eine zweite Prognose ist ebenfalls optimistisch, allerdings nur bedingt. Eine Version davon lautet, dass eine bessere Zukunft entscheidend davon abhängt, dass der Kapitalismus durch den Sozialismus abgelöst wird. Dies ist die marxistische Tradition. Anders als Keynes, der überzeugt war, dass der Kapitalismus automatisch enden würde, sobald er »seine Aufgabe erledigt«, also die Welt mit Investitionsgütern versorgt habe, argumentierten Marxisten, dass das Ende des Kapitalismus durch planvolles politisches Handeln herbeigeführt werden müsse. Andernfalls bleibe die Realisierung der Utopie außer Reichweite. Die andere Schule der bedingten Optimisten sind die Technikutopisten, die daran glauben, dass die Verwirklichung des »best self«, der authentischen Identität der Menschheit, von der Entwicklung superintelligenter Maschinen abhänge.

Ein drittes mögliches Zukunftsszenario ist die geistige Auslöschung. Dies ist das große Thema des dystopischen Denkens, das sich zu Beginn des 20. Jahrhunderts Bahn brach. Wissenschaft und Technik haben Menschen nicht zu Über-, sondern zu Untermenschen gemacht. In Aldous Huxleys Schöne neue Welt (1932) wird die menschliche Freiheit durch chemische und psychologische Eingriffe ausgelöscht. In einer Lesung 1961 verkündete der Autor:

[I]n der nächsten Generation [wird es] eine pharmakologische Methode geben […], um die Menschen dazu zu bringen, ihre Knechtschaft zu lieben und sozusagen eine Diktatur ohne Tränen zu produzieren. Eine Art schmerzloses Konzentrationslager für ganze Gesellschaften zu schaffen, damit den Menschen tatsächlich ihre Freiheiten genommen werden können, sie es aber eher genießen, weil sie von jedem Wunsch nach Rebellion abgelenkt werden – durch Propaganda oder Gehirnwäsche oder durch eine mit pharmakologischen Methoden verbesserte Gehirnwäsche. Und das scheint die letzte Revolution zu sein.4

Ein viertes Zukunftsszenario ist apokalyptisch. Fast täglich warnen Tech-Experten davor, dass Technologie die Menschheit in die Auslöschung führen könnte.5 Technik ist die moderne Bestie der Apokalypse. Entweder beschleunigt sie die Katastrophe – einen nuklearen oder ökologischen Holocaust –, oder sie stellt ihren Betrieb ein und lässt die Menschen ohne die Mittel zum Überleben zurück. Beide dieser Versionen einer dystopischen Prophetie beinhalten die Vernichtung weiter Teile der menschlichen Bevölkerung und die Rückkehr der »Geretteten« zu einer einfacheren Lebensweise. Mary Shelleys Frankenstein oder Der moderne Prometheus (1818) ist die Vorausschau auf eine Amok laufende Technik; E. M. Forsters Kurzgeschichte »Die Maschine steht still« (1909) imaginiert ein Szenario dessen, was passiert, wenn ein Maschinensystem ins Stocken gerät, von dem wir uns abhängig gemacht haben. Filme wie Der Tag, an dem die Erde Feuer fing (1961) zeigen Atomexplosionen, die Extremwetterereignisse heraufbeschwören. Im Kern der apokalyptischen Prophetie steht die alte Vorstellung der Hybris des Menschen, der den Platz der Götter einnehmen will und von deren Rache ereilt wird.

Dostojewskis Aufzeichnungen aus dem Kellerloch (1864) zeigt einen fünften Weg auf, um die Frage umfassender zu beleuchten. Auf Behauptungen des Technikers antwortet der Erzähler:

Sie schicken sich beispielsweise an, den Menschen von seinen alten Angewohnheiten abzubringen und seinen Willen auszurichten gemäß den Forderungen der Wissenschaft und des gesunden Menschenverstandes. Woher aber wollen Sie wissen, nicht nur, ob es möglich, sondern ob es überhaupt nötig ist, den Menschen zu ändern. Woraus wollen Sie schließen, daß das menschliche Wollen einer Verbesserung so dringend bedürfe? Mit einem Wort, woher wollen Sie wissen, daß eine solche Verbesserung dem Menschen wirklich einen Vorteil brächte? […] Selbst wenn wir annehmen, daß es ein logisches Gesetz sei, so brauchte es noch kein menschliches zu sein.6

Dostojewski wirft die grundlegende Frage auf, was Menschsein eigentlich heißt. Seine Wehklage gilt der verlorenen Welt der Wahlfreiheit – und der Welt, die wir über Religion und einfache Dinge dennoch zurückgewinnen könnten. Sie weist auch den Weg in eine nichtwestliche Zukunft für die Menschheit.

Ist ein nichtwestlicher Humanismus möglich? Die oben aufgeworfenen Fragen quälten abendländische Denker, seitdem sich die technische Entwicklung im 18. Jahrhundert beschleunigt hat. Meine Erklärung für die Vernachlässigung des östlichen Denkens mit Blick auf diese Themen lautet, dass das von Carlyle beschriebene »mechanistische Weltbild« eine westliche Erfindung ist, die sich durch das Beispiel, den Erfolg und die Eroberungen des Westens rund um die Welt ausgebreitet hat. Aber wenn diese Version keinen sicheren Weg zur Befreiung des Menschen mehr bietet, sondern stattdessen ein großes Risiko für Zerstörung birgt, dann braucht es eine parallele Geschichtsdarstellung nichtwestlicher Zivilisationen, um eine angemessene Vorstellung davon zu bekommen, welche möglichen Arten von Zukunft unserem Planeten bevorstehen. In Kapitel 5 biete ich den kürzestmöglichen Abriss zu einer solchen Geschichte mit wenigen markanten Vergleichspunkten. Es bleibt abzuwarten, ob eine Technologie mit sinnvollen »chinesischen« oder »indischen« Charakteristika möglich ist.

Seinen Zweck hat dieses Buch dann erfüllt, wenn es der Hybris der Ingenieure der Seele einen Dämpfer versetzt. Wie Augustinus von Hippo über die neuplatonischen Philosophen seiner Zeit schrieb: »[Sie] halten sich für leuchtend und erhaben wie die Sterne« und sind am Ende »in ihrem Dichten eitel geworden«. Die Botschaft dieses Buchs lautet, dass dieses »Dichten« die uns bekannte Welt zerstören wird.

GLOSSAR FÜR TECHNISCH UNBEDARFTE

Arbeit, Jobs, Beschäftigung, Muße

ARBEIT verbraucht Energie: Ein Mensch arbeitet, und ebenso eine Maschine. Wenn Menschen oder Maschinen nicht arbeiten, »rosten sie ein«.

JOBS oder Arbeitsplätze beinhalten eine bestimmte zugewiesene Aufgabe. Sie sind das Ergebnis der Aufteilung von Arbeit in einzelne Tätigkeiten. Heutzutage sind sie mit dem »Gang zur Arbeit« verbunden, die mit einer festgelegten Dauer, zum Beispiel in einer Fabrik oder einem Büro, stattfindet. Heute bezeichnet Job gewöhnlich eine bezahlte Beschäftigung.

BESCHÄFTIGUNG ist gewöhnlich mit einem Arbeitgeber verbunden – mit jemandem, der einen »einstellt«, damit man gegen Lohn oder Gehalt für ihn arbeitet. Aber es gibt auch die selbstständige Beschäftigung, in der auf eigene Rechnung gearbeitet wird. Heute werden die Ausdrücke Jobs, Tätigkeit, Arbeit, Beschäftigung generell (und ungenau) synonym verwendet.

MUSSE UND UNTÄTIGKEIT. Muße ist gleichbedeutend mit »Freizeit«, dem Zustand der Freistellung von einer Erwerbsarbeit, oder gar nicht arbeiten zu müssen. Untätigkeit heißt dagegen, gar nichts zu tun. Diese beiden Zustände sind nicht dasselbe, auch wenn sie häufig verwechselt werden.

Werkzeuge, Maschinen, Roboter, Automaten

Ein WERKZEUG ist ein Gegenstand, der sich dazu nutzen lässt, die Erledigung einer Aufgabe zu erleichtern. Das wichtigste Merkmal des einfachen Werkzeugs besteht darin, dass es mithilfe von – menschlicher oder tierischer – Muskelkraft eingesetzt wird.

Eine MASCHINE ist ein Werkzeug, das aus Einzelteilen wie Hebeln, Rädern oder Rollen konstruiert wurde, die durch menschliche oder natürliche Kräfte »in Gang gesetzt werden«. Ein Hammer ist somit ein Werkzeug, aber ein elektrischer Bohrer eine Maschine. Der Übergang vom Werkzeug zur Maschine ist fließend: Ist eine Uhr oder eine Wassermühle ein Werkzeug oder eine Maschine?

Der Begriff ROBOTER (auch Automat) wurde anfänglich zur Beschreibung einer dem Menschen gleichenden Maschine gebraucht, die Arbeiten ausführte, ohne zu denken. Tatsächlich wurde er von dem tschechischen Schriftsteller Karel Čapek nach dem Ausdruck robota für Zwangs- oder Fronarbeit geprägt. Ein Roboter ist eine Maschine, die anhand weniger Anweisungen menschliche Tätigkeiten nachahmt, um bestimmte, sich wiederholende Aufgaben zu erledigen, so z. B. ein Roboterarm in der Automobilfertigung oder ein Saugroboter. Allerdings sind Roboter in ihren Aufgaben höchst spezialisiert und können Menschen deswegen gegenwärtig nur in einem sehr begrenzen Spektrum an Tätigkeiten ersetzen. Wir haben den Punkt, an dem ein Roboter Roger Federer im Tennis schlagen könnte, längst nicht erreicht.

Ein AUTOMAT (auch Roboter, Avatar) ist eine altertümliche Version eines Roboters. Automaten waren einstmals ein mechanisches Gerät, häufig in menschlicher oder tierischer Gestalt, das sich scheinbar aus eigenem Antrieb bewegte und häufig für Sinnestäuschungen und Tricks bei gesellschaftlichen Veranstaltungen eingesetzt wurde. Heutzutage bezeichnet Mechanisierung gewöhnlich den Ersatz von körperlicher Arbeit durch Maschinen, während Automatisierung für die Übernahme von Routinetätigkeiten oder sich wiederholenden körperlichen und geistigen Aufgaben durch Computer steht.

Computer, Halbleiter, Mooresches Gesetz

COMPUTER sind wörtlich genommen Rechenmaschinen oder Anlagen zum schnellen »Addieren« und »Weiterleiten« von Informationen und Anweisungen. Ihre Erfindung geht auf den Zweiten Weltkrieg zurück, als mechanische Rechenmaschinen nach und nach durch elektrische ersetzt wurden. Heute bezieht sich das Wort »Rechner« fast ausschließlich auf den digitalen Computer, der nach logischen Regeln generell mit Sequenzen eines Binärcodes operiert. Die Bedeutung des modernen digitalen Computers liegt in seiner Fähigkeit, ohne menschliches Zutun in Hochgeschwindigkeit Berechnungen mit vielen – oft Millionen – Zwischenschritten vorzunehmen. Supercomputer sind Netzwerke von Computern, die von Wissenschaftlern und Ingenieuren zur Durchführung von Berechnungen eingesetzt werden, für die Menschen viele Tausend Stunden benötigen würden.1 Computer werden in verschiedenen Größen und Typen vertrieben, darunter als Desktop-Rechner, Laptops, Tablets und Smartphones.

HALBLEITER sind die Grundbausteine von Computerchips. Sie ermöglichen die Leitung von elektrischem Strom in nur eine Richtung. Bei richtiger Anordnung auf einem Computerchip bilden sie Logikgatter, die es Strom und damit Informationen ermöglichen, kaskadenartig durch den Computerchip zu fließen. Dank dieser Grundstruktur kann sich der Computer in seinem Binärcode ausdrücken.

MOORESCHES GESETZ: die Vorhersage des amerikanischen Ingenieurs George Moore von 1965, dass sich die Anzahl der Transistoren (elektronischen Informationsübermittlern) auf jedem Siliziumchip mit jedem Jahr verdoppelt – beruhend auf ständiger Verkleinerung. Je höher die Dichte der Transistoren, desto größer der Informationsfluss.

Hardware, Software, Algorithmen, Apps, Social Media, Internet

HARDWARE ist ein physisches Objekt wie ein Desktop-Computer, Laptop oder Smartphone.

SOFTWARE enthält die Anweisungen an die Hardware, gespeicherte Daten aufzufinden oder sie abzurufen. Sie bildet die Schnittstelle zwischen Nutzer und Hardware.

ALGORITHMEN sind »Verfahren oder Mengen an Regeln, die für Berechnungen und zur Problemlösung eingesetzt werden«.2 Sie dienen als die Basissprache für alle Computerprogramme und Anwendungen. Aufgaben wie »öffne Google«, »wähle dieses Bild aus«, »rufe dieses Videospiel ab« werden allesamt mit Algorithmen durchgeführt, die dem Computer Instruktionen geben.

APPS (von applications, Anwendungen) sind Programme für bestimmte Aufgaben wie dem Erstellen von Excel-Tabellen oder Geschäftsberichten oder zum Abspielen von Lieblingsmusik.

SOCIAL MEDIA(Plattformen, soziale Medien) werden von Menschen zur Kommunikation über das Internet genutzt. Die wichtigsten sind Facebook, X, das einstige Twitter, sowie Instagram und TikTok.

DAS INTERNET (wie von ChatGPT definiert): »Das Internet ist ein globales Netzwerk miteinander verbundener Computer und anderer Geräte, die über eine Reihe standardisierter Kommunikationsprotokolle miteinander kommunizieren. Es ermöglicht es Nutzern, unabhängig vom physischen Standort weltumspannend Informationen weiterzuverbreiten und miteinander zu kommunizieren. Das Internet besteht aus zahlreichen miteinander verbundenen Netzwerken, die mit einer Vielfalt an Technologien arbeiten, darunter Festnetz- und drahtlose Verbindungen, die eine Übermittlung von Daten zwischen Geräten ermöglichen.«

Technologie, Informationstechnik, Digitalisierung

TECHNOLOGIE ist die Anwendung naturwissenschaftlicher Erkenntnisse auf Gegenstände mit dem Ziel, deren Funktion zu verbessern. Der Ausdruck bezeichnet allgemein ein System aus miteinander verbundenen Komponenten (z. B. Computern), die darauf programmiert sind, vorgegebene Aufgaben auf geordnete Weise zu erledigen.

INFORMATIONSTECHNIK (IT) ist die Lehre von Computern, Software und Hardware.

DIGITALISIERUNG ist die Umwandlung von Informationen oder Anweisungen in elektronische Form. Zeitungen sind inzwischen hauptsächlich online verfügbar und können mithilfe eines Computers oder Smartphones im Internet abgerufen werden. Viele heutige Unternehmen durchlaufen ein Programm zur Digitalisierung im Versuch, ihre Kommunikation und Arbeitsabläufe von analog auf digital umzustellen.

Künstliche Intelligenz, maschinelle Sprachverarbeitung, Maschinenlernen, Big Data, Deep Learning, Superintelligenz

KÜNSTLICHE INTELLIGENZ (KI) »wird inzwischen zur Bezeichnung eines heterogenen Netzwerks an Technologien eingesetzt – darunter Maschinenlernen, maschinelle Sprachverarbeitung, Expertensysteme, Deep Learning, Bilderkennung und Robotik –, die alle automatisch Aufgaben bewältigen, die bislang menschliche Gehirne erledigten«.3 Forscher unterscheiden zwischen »schwacher« und »starker KI«, je nachdem, ob diese auf spezielle Aufgaben beschränkt ist oder im Sinne einer allgemeinen Intelligenz eine Vielfalt an Aufgaben erledigen kann. »Im Gegensatz zu früheren technologischen Innovationen ist KI eine Feedback-Technologie, die auf nichtlineare Weise auf Benutzereingaben reagiert und zusätzliche Entscheidungspunkte im sozialen Netzwerk generiert.«4

MASCHINELLE SPRACHVERARBEITUNG (MSV) nutzt KI, um das geschriebene und gesprochene Wort zu verstehen.

MASCHINENLERNEN ist ein Gebiet, das Computer im Umgang mit Big Data trainiert.

BIG DATA bezeichnet eine große Menge an Daten, die bei der Analyse von Trends in der Wirtschaft oder in sozialen Medien anfallen und dazu eingesetzt werden, menschliches Verhalten zu verstehen. Das Verhalten von »Milliarden von Individuen« wird anhand von Informationen, die sie in den sozialen Medien über sich hinterlassen, »von der Wiege bis zur Bahre minutiös verfolgt«.5

DEEP LEARNING hievt maschinelles Lernen durch eine Nachahmung der Analysemethode des menschlichen Gehirns auf die nächsthöhere Stufe. Anstatt vom Nutzer detaillierte Anweisungen zu erhalten, nutzt der Computer ein künstliches neuronales Netz, um die Funktionsweisen des menschlichen Gehirns zu simulieren. Dies ermöglicht eine weitaus schnellere und »intelligentere« Datenanalyse als mit einem normalen Computer.

SUPERINTELLIGENZ ist eine höherentwickelte Form von KI, bei der Maschinen menschliche Leistungen in allen Aufgaben übertreffen. Bislang handelt es sich bei diesem Projekt nur um Überlegungen zum Möglichen, aber falls es real wird, birgt es die offenkundige Gefahr, dass KI die gewöhnlich Intelligenten versklavt oder ausmerzt.

Metaversum, Virtuelle Realität, Erweiterte Realität, Gamification

Das METAVERSUM bildet derzeit einen zentralen Punkt in der Diskussion um die Zukunft des Internet. Einfach ausgedrückt, handelt es sich dabei um eine Vision der im Internet zum Leben erweckten realen Welt, beschworen von Meta, dem einstmals als Facebook bekannten Unternehmen. Es soll uns einander näherbringen, uns darin unterstützen, mehr zu lernen und effizienter zu arbeiten.

VIRTUELLE REALITÄT (VR) ist die Technik, die einen Zugang zum Metaversum ermöglicht. Mithilfe einer Datenbrille mit Flüssigkristallbildschirmen als Gläsern wird die virtuelle Realität vor den eigenen Augen sichtbar. Im Sitzen kann man sich so eine 360-Grad-Ansicht einer neuen Umgebung verschaffen. Man stelle sich vor, dass man nicht nur seiner Spielfigur dabei zusieht, wie sie Handlungen in einem Videospiel ausführt, sondern selbst zur Figur wird und dabei die virtuelle Welt so wie sie sieht. Eine übliche Bezeichnung für dieses Erlebnis ist die Immersion, also das Eintauchen in das Spiel.

ERWEITERTE REALITÄT(Augmented Reality, AR) ähnelt der virtuellen Realität, aber mit dem entscheidenden Unterschied, dass der Kontakt zum realen Umfeld erhalten bleibt. Die erweiterte Realität zeigt durch Einblendungen oder Überblendung zeitgleich die reale und die virtuelle Realität. Man stelle sich vor, wie man auf dem Bildschirm seines Smartphones sein von der Kamera erfasstes Wohnzimmer anschaut, mit einem hineinprojizierten virtuellen Sofa, das sich steuern und durch wischende Handbewegungen nach rechts oder links im Raum verschieben lässt. Weder die VR noch die AR haben bislang einen praktischen Nutzen, aber die Branchenführer hoffen, die Arbeitswelt mithilfe immersiver virtueller Konferenzen und weiteren Techniken produktivitätssteigernd zu revolutionieren. Die Abhängigkeit von Hardware soll sich dadurch verringern.

GAMIFICATION (Gamifizierung oder Spielifikation) bezeichnet den Einsatz von Spielabläufen in einer traditionell nicht spielerischen Umgebung wie einer Website, dem Arbeitsplatz oder in Schulen. Sie funktioniert durch Stimulierung des Belohnungssystems im Gehirn, um Kontakte mit Kunden, Studenten oder Mitarbeitern interessanter und vergnüglicher zu gestalten.

Kybernetik, Neurowissenschaft, Nanotechnologie, Biotechnologie, Kognitionstechnik, Cyborg

KYBERNETIK leitet sich vom griechischen kybernetes für den Steuermann des Schiffs ab. Kybernetiker erforschen die Art, wie »komplexe Systeme – ob Gehirne, Organisationen, Insektenschwärme oder Computernetzwerke – kontrolliert gesteuert werden können«.6

NEUROWISSENSCHAFT bezeichnet allgemein das Bemühen, menschliches Verhalten mit Blick auf seine Verbindung zur Gehirnstruktur aufzuklären. Sie zielt darauf ab, die Verschaltungen und Muster der neuronalen Aktivität zu verstehen, aus denen mentale Abläufe und Verhaltensweisen hervorgehen. Schätzungen zufolge enthält das Gehirn 100 Milliarden Neuronen.

NANOTECHNOLOGIE befasst sich mit der Nutzung extrem kleiner Teilchen und Bausteine zur Entwicklung einer für das menschliche Auge unsichtbaren Technologie. Eine ihrer Verwendungen in der Gehirnforschung hatte ihren Ausgangspunkt in einem Vortrag des Physikers Richard Feynman von 1959 mit dem Titel »Es gibt viel Raum nach unten«. Als Beispiel für eine mögliche Nutzung führte Gerald Yonas, der Vizepräsident und Forschungsleiter der Sandia National Laboratories in New Mexico, an, dass Verhaltensweisen oder Gehirnfunktionen mithilfe von Gehirnimplantaten verändert werden könnten.

BIOTECHNOLOGIE ist ein Zweig der Biologie, der darauf abzielt, lebende Organismen entweder durch Bioengineering oder durch Bioenhancement zu verändern. Beide Wissenschaftsbereiche entwickelten sich rasant nach der Entdeckung der Doppelhelix-Struktur der DNA (Desoxyribonukleinsäure, auch DNS) als den Grundbauplan allen Lebens in den 1950er-Jahren. Als Wissenschaftler die Sprache des Erbguts entziffert hatten, konnten sie in dem Buch, in dem der Aufbau unseres Körpers niedergeschrieben ist, einzelne Wörter oder gar ganze Sätze verändern. Dieses neue Feld wird als Bioengineering bezeichnet. Es zielt darauf ab, die Funktionen von Pflanzen und Tieren mithilfe von Technologien wie Gewebsengineering, Biopharmazie oder Genmanipulation zu verbessern. Laut José Delgado liegt »das Endziel dieser Forschung [zur Fernsteuerung von Tieren mehrerer Arten] darin, […] ein praktisches System aufzubauen, das sich zur Anwendung am Menschen eignet«. Das Human Brain Project zielt darauf ab, das menschliche Gehirn vollständig zu kartieren. Dies könnte es ermöglichen, die gespeicherten Inhalte unseres Gehirns »herunterzuladen« und in einen Computer »hochzuladen«. Zumindest für unseren Geist würde dies Unsterblichkeit bedeuten. Bei »Neuralink«, Elon Musks jüngstem geistigen Kind, geht es darum, einen Chip in unser Gehirn zu implantieren, um die Interaktion zwischen Geist und Maschine zu intensivieren. Warum darauf warten, dass sich unsere schwerfälligen Körper zu einem Tun aufraffen, wenn unser Geist die Aufgabe in Millisekunden bewältigen könnte?

KOGNITIONSTECHNIK ist aus einer konvergenten Entwicklung von Informationstechnik, Nanotechnologie und Biotechnologie hervorgegangen. »Die interessanten Entdeckungen finden in der Schnittstelle zwischen Nano-, Informations- und Kognitionstechnologie statt«, begeistert sich ein Wissenschaftler. In ihrem Zentrum steht die Vorhersageanalyse, die sich auf die Fernüberwachung von Gehirnsignalen konzentriert, um die Absichten bei der Suche von Internetnutzern zu ermitteln. Eingesetzt werden kann diese Technologie, um zum Beispiel Absichten zu erkennen, eine Brücke in die Luft zu sprengen oder eine Bank auszurauben. Die Biotechnologie und die Kognitionstechnik sind der hauptsächliche Stoff für dystopische Fantasien und haben die Atomtechnologie als das im Fokus stehende Motiv von Katastrophenfiktionen abgelöst.

Ein CYBORG ist ein fiktives Wesen, das sich aus biologischen sowie elektronischen und mechanischen Teilen zusammensetzt. Bislang existiert es nur in der Fantasie. Den berühmtesten Cyborg im Film verkörpert Arnold Schwarzenegger in Terminator.

PROLOG:ROBOTIK-HYPE, ALT UND NEU

»Alle Dinge sind voll von Göttern.«

THALES VON MILET, vorsokratischer griechischerPhilosoph (um 626 – ca. 545 v. Chr.)

Die Beziehung des Menschen zu Maschinen war von jeher geprägt von einer Mischung aus praktischem Nutzen und magischer Faszination: Menschen empfanden sie als nützlich, aber auch als ein Mysterium. So wie in der Vergangenheit den meisten die Naturgewalten ein Rätsel waren, so versteht heute kaum noch jemand, wie Computer funktionieren. Die meisten benutzen sie, ohne sie zu verstehen, wodurch diejenigen, sich bestens damit auskennen. aus ihrem Wissen eine ebenso große Macht ziehen können wie einst Priester, Zauberer, Schamanen und Medizinmänner und -frauen.

In sämtlichen alten Mythen des Altertums galten die Naturgewalten als Götter, die günstig gestimmt werden mussten durch Verehrung oder Opfergaben, weil sie die Herrscher über die menschlichen Geschicke waren. So lesen wir:

Menschen [des Aztekenreichs] verehrten Quetzalcoatl, den Gott des Lichts und der Luft, der die Menschheit errettete, nachdem Tezcatlipoca, Gott des Gerichts, der Finsternis und Hexerei, die vierte Sonne vernichtet hatte. Um Tezcatlipoca zu besänftigen, musste er mit geopfertem Menschenblut befriedigt und genährt werden. Sollte das nicht in ausreichendem Maß geschehen, würde er die Sonne [erneut] verdunkeln. Dann würde bei einem heftigen Erdbeben die Welt zerbersten, und Tzitzimitl, die Göttin der Sterne, würde die gesamte Menschheit niedermetzeln.1

Den Griechen diente das Wort Hybris als Bezeichnung des Strebens von Menschen, im großen Getriebe des Lebens den Platz der Götter an sich zu reißen, eine Anmaßung, auf die unausweichlich die Strafe der Nemesis folgte. Beispielhaft ist der Mythos des Ikarus, dessen wächserne Flügel schmolzen, weil er sich im Flug zu stark der Sonne angenähert hatte. Die Alten bauten auch »Automaten«, künstliche Menschen, die sich bewegen, blinzeln und selbstständig sprechen konnten.

Vormoderner Hype

In China gibt es die Geschichte vom »wunderbaren Automaten« aus dem fünften vorchristlichen Jahrhundert, erzählt von dem daoistischen Philosophen Liezi in Das wahre Buch vom quellenden Urgrund. Ein Mechaniker präsentierte König Mu und seinen Konkubinen einen Apparat in Menschengestalt:

»Was ist das für ein Mensch, der da mit dir kommt?« Er erwiderte: »Den habe ich gemacht, er kann singen.« Der König sah mit Erstaunen, wie er mit Hofschritten gehen, sich verneigen und aufrichten konnte wie ein richtiger Mensch. Der Mechaniker faßte ihn am Kinn, da sang er richtig im Tone. Der König hielt ihn für einen wirklichen Menschen. […] Als nun die Kunststücke zu Ende waren, da blinzelte der Sänger den Sklavinnen in der Umgebung des Königs zu.

Als sie ihn zerlegten, stellte sich heraus, dass alle inneren Organe vollständig vorhanden und künstlich waren. »[Der König] nahm zur Probe das Herz heraus, da konnte der Mund nicht mehr reden; er nahm die Leber heraus, da konnten die Augen nicht mehr sehen; er nahm die Nieren heraus, da konnten die Füße nicht mehr gehen.«2

Antike Automaten waren ein Schwindel in dem Sinn, dass sie Fähigkeiten vortäuschen sollten, die sie nicht besaßen. Auf dieser Grundlage entsteht jeder Hype. So wurde die Statue des altägyptischen Gottes Re mithilfe einer Röhre zum Reden gebracht, in die ein Priester von einem Versteck aus hineinsprach. Weil den Zuschauern dieser Vorführung die Funktionsweise verborgen blieb, glaubten sie tatsächlich, dass die Statue zu ihnen redete. Auch stellten Kunsthandwerker im Hellenismus und in der Römerzeit Puppen zur Unterhaltung her. Antike Automaten waren somit Werkzeuge wie auch Spielzeuge: Werkzeuge der Priesterherrschaft und technische Spielereien. Ihre Wirkung rührt nach wie vor von der Vorstellung des Unheimlichen her, von den verborgenen und beunruhigenden Kräften, die hinter den Kulissen die Fäden ziehen. Jahrhunderte später fragte sich Thomas Hobbes (1588–1679), ob es nicht auch möglich wäre, solche leblosen Gestalten mithilfe der Wissenschaft tatsächlich in Bewegung zu setzen, denn ist »nicht das Herz als Springfeder anzusehen; sind nicht die Nerven ein Strickwerk, und der Gliederbau eine Menge von Rädern, die im ganzen Körper die […] Bewegungen hervorbringen«? Die Idee, künstliche Menschen zu erschaffen, war in der Welt – und mit ihr die Frage, welche Fähigkeiten diese haben und ob sie nützlich oder gefährlich sein würden.

Die Menschen der Antike suchten göttlichen Beistand hauptsächlich aus vier Gründen: der wichtigste war, um in einer Schlacht zu siegen. Die Antike war dicht bevölkert mit wundersam mächtigen Kriegsgöttern wie Skanda (hinduistisch), Ares sowie Athene (griechisch) und Thor (altnordisch). Das überrascht nicht. Der vormoderne Mensch verbrachte seine Zeit häufiger im Krieg als im Frieden. Tapferkeit war hochgeschätzt. Soldaten sehnten sich danach, durch Siege den Heldenstatus zu erringen. Der militärische Wettbewerb war die Geschichte hindurch der wichtigste Innovationstreiber. Ohne ihn hätte sich die heutige Technik kaum entwickelt. Die Griechen ersannen Mythen von Bronzekriegern wie Talos, der sich bis zur Rotglut erhitzte, um Feinde abzuschrecken, von Drachenzähnen, die sich zu voll ausgebildeten Recken auswuchsen, und Adlern, die Prometheus die Leber aushackten. Die heutigen Adler sind mit Computern und Sensoren ausgestattete Militärdrohnen.

Die zweite große Sorge im vormodernen Leben galt – und gilt bis heute – der Gesundheit. Soma war der hinduistische Hauptgott der Heilkunst, Apollon führte in seinem prallen Portfolio auch Medizin und Gesundung mit sich. Priester, heilige Männer und Schamanen traten als erste Ärzte auf. Eine offenbar unheilbare Krankheit war der Tod, weswegen Halbgötter in den antiken Mythen als das Bindeglied zwischen Sterblichkeit und Ewigkeit fungierten. Heutige »Verjüngungsforscher« und Transhumanisten glauben, dass die Wissenschaft dem Tod ein Schnippchen schlagen könne.

Ein drittes Anliegen an die Götter war, nicht überraschend, die Sexualität. Weibliche Fruchtbarkeit und Manneskraft standen hoch im Kurs. Aphrodite und Athene waren Göttinnen der Liebe. Priapus und Shiva wurden mit großen erigierten Phalli dargestellt. Pygmalion soll die elfenbeinerne Statue eines Mädchens erschaffen, mit ihr geschlafen und ein Kind gezeugt haben – mit »einem der ersten weiblichen androiden Sexualpartner in der westlichen Geschichte«, eine antike Paraphilie als Vorwegnahme der »Robotophilie«.3

An vierter Stelle standen die Wohlstand spendenden Gottheiten wie die Hindu-Göttin Lakshmi oder der römische Gott Pluto (der zugleich Herrscher über die Unterwelt war). Hinduistische Gläubige opferten ihnen, um an Rinder, Pferde und Gold zu kommen. Glück war ein Geschenk der Götter, nicht das Ergebnis harter Arbeit. Mit dieser stand in der griechischen Mythologie eine einzige Gottheit in Verbindung – Hephaistos, der Gott der Schmiedekunst und des Handwerks, dessen verkrüppelter Leib von seinem niedrigen Status in der olympischen Hierarchie zeugte. Nichtsdestotrotz war er auch Schutzpatron dieser Gewerbe und wertete deren gesellschaftlichen Status auf – darin lag die Verheißung einer demokratischen Zukunft.

Das Geschenk des Feuers, mit dem Prometheus die Menschheit bedachte, um wiedergutzumachen, dass ihr sein Bruder Epimetheus die Gabe der Vorausschau vorenthalten hatte, lässt sich als das erste Projekt einer Verbesserung des Menschen deuten. Aber mit dem Feuer kamen auch alle Übel über die Menschheit, gesandt von Zeus – als Strafe für den Diebstahl des Prometheus – in Gestalt der aus Lehm erschaffenen Pandora. Deren unbedacht geöffneter Büchse entsprang die Täuschung, die den Menschen lächelnd ins Verderben lockt. Victoria Nelson, die den Topos der Belebung der Materie von der Antike bis in die Renaissance und darüber hinaus verfolgt hat, verweist auf die anhaltende Anziehungskraft des Unheimlichen, des Gefühls, dass es Welten gibt, welche die Wissenschaft nicht zu erklären vermag.4 Der Magus – Magier, Hexer und Schwindler –, eine undurchsichtige teuflische Figur mit »beseelenden« Kräften, die im Spätmittelalter im Quartett mit dem Theologen, dem Philosophen und dem Alchimisten auftauchte – inspirierte die Faust-Sage vom Gelehrten, der dem Teufel für Macht seine Seele verkauft. Mit Mary Shelleys Frankenstein wurde der »irre Wissenschaftler« zu einer vertrauten Figur der viktorianischen Gruselliteratur.

So war dem Denken über Roboter und künstliche Intelligenz schon lange vor dem heute ausufernden Robotik-Hype der imaginative Boden bereitet. Ob singende Statuen, sich bewegende künstliche Diener, mechanische Enten und Puppen als die tatsächlichen Vorläufer von Erfindungen oder als wissenschaftlicher Schwindel zu betrachten sind, ist für unsere Zwecke weniger wichtig als die Tatsache, dass sie Zeugnis vom ewigen menschlichen Drang ablegen, das Menschliche zu überwinden.

Moderner Hype

Der heutige Technik-Hype wird von den gleichen übertriebenen oder betrügerischen Versprechen befeuert. Die Welt der Science-Fiction und die der Verheißungen der Wissenschaft sind inzwischen enger zusammengerückt, beflügeln sich wechselseitig und speisen sich auch aus der antiken Vorstellungskraft. Eine typische Äußerung im Sprech der modernen Businessmissionare:

KI ist aus der Ära der Entdeckung in eine der Umsetzung eingetreten, und die größten Chancen liegen in Geschäftsbereichen, in denen KI und Automatisierung für erhebliche Effizienzsteigerungen und Kostenersparnisse sorgen können. […] Wir haben Unternehmen in unseren Portfolios, die KI-Lösungen entwickeln, um das Mathelernen zu personalisieren und zu gamifizieren [sic], und die Aussprache in Englisch zu verbessern und sogar um Prüfungen und Hausaufgaben zu bewerten. Dies verspricht, Lehrer von Routineaufgaben zu befreien, damit sie ihre Zeit dazu nutzen können, inspirierende und anregende Beziehungen zu den nächsten Generationen aufzubauen.

In der Gesundheitsfürsorge haben wir Unternehmen, die Deep Learning und generative Chemie zusammenbringen, um die Zeit für Medikamentenentdeckung um den Faktor drei oder vier zu verkürzen. Und wir haben in ein Unternehmen investiert, das KI und Big Data dazu nutzt, Lieferketten zu optimieren, und so die Arzneimittelknappheit für über 150 Millionen Menschen im ländlichen China reduziert. Ich bin besonders zuversichtlich, dass sich die Ausbildung in KI und Anwendungen im Gesundheitsbereich in Richtungen weiterentwickeln, von denen gegenwärtige und künftige Generationen massiv profitieren.5

Wie Simon Colton schreibt:

Der Hype ist verständlich: Technologieführer müssen das lebensverändernde Potenzial ihrer KI-Systeme massiv übertrieben darstellen, um derzeit überhaupt eine Chance zu bekommen, Risikokapital einzusammeln. Journalisten müssen die Stärke der Ergebnisse von KI-Projekten in ein überzogen günstiges Licht rücken, um in einem Clickbait-Umfeld mitzuhalten. Und um sich selbst einen Namen zu machen, müssen Politiker und Philosophen einen extremen oder auf kurze Sicht angelegten Standpunkt zur KI beziehen, damit sie als bedeutend und zeitgemäß erscheint.6

Hinter dem Hype steht das Wettbewerbsgerangel um Geld: Je aufgebauschter die Story, mit desto mehr Mitteln lassen sich die Projekte unterfüttern. Das Versprechen von Maschinen, die töten oder heilen, erscheint heute so finanzierungswürdig wie einst. Christian Brose, Chef der Strategieabteilung von Anduril Industries, ein von Risikokapital gestütztes Unternehmen in Verteidigungstechnik – und Autor von The Kill Chain (2020) –, ist ein rastloser Verfechter revolutionärer Kriegstechnologie. Künftige Waffen sollen »durch Nervensignale direkt vom Gehirn aus« gesteuert werden und so Menschen in die Lage versetzen, »die Operationen von Drohnen und anderen militärischen Robotersystemen allein durch Gedanken zu steuern und zu überwachen«. Dieses Versprechen steht ganz im Einklang mit den klassischen Strategien zur Budgetausweitung, basierend auf der »ungeheuren Übertreibung, was die künftigen Fähigkeiten des Gegners angeht«. China kann die Hochleistungschips, die es bis zum Lieferverbot durch US-Präsident Trump aus den USA bezogen hat, bis heute nicht selbst fertigen, soll bei der Drohnenentwicklung aber angeblich in Führung gehen. Um die Widerstände gegen seine Reformen zu überwinden, schlägt Brose vor, sich die Unterstützung der Rüstungslobbyisten mit dem Versprechen zu sichern, dass das neue Beschaffungsprogramm ihren Klienten genauso viel Geld einbringen werde wie die schon bestehenden Programme.7

Das Versprechen medizinischer Verbesserungen war schon immer eine sprudelnde Quelle für Hypes. Wie absehbar, sorgte die Covid-19-Pandemie von 2020 bis 2023 dafür, dass die rastlose Suche nach Wunderkuren in den Turbo schaltete. KI-Verfechter glauben, was wir erleben, sei »nur der Anfang einer Revolution in der Medikamentenentdeckung, die sich darauf stützen wird, dass immer mehr biologische und chemische Daten vorliegen, die Rechenkapazität immer weiter wächst und die Algorithmen immer intelligenter werden. All dies kann für eine Reduktion der ausufernden Kosten im Gesundheitswesen und für die Entwicklung von Behandlungen von Krankheiten sorgen, für die es bislang noch keine gibt.«8

Die Menschen der Antike träumten von Unsterblichkeit. Heute ist die Unsterblichkeitsforschung durch massive Finanzmittel von Tech-Milliardären abgesichert, die ihrem Weiterleben nachvollziehbarerweise besonderen Wert beimessen. 25 Millionen Menschen in den USA haben sich medizinische Implantate (Gelenke, Linsen, Herzklappen, Herzschrittmacher, Stents, Nervenimplantate, künstliche Organe) geleistet, die ihr Leben verlängern und verbessern sollen. Jenseits des »Methusalem-Alters« erstreckt sich die Ewigkeit. Berühmte Bühnen- und Leinwanddarsteller können als Avatare ins Leben zurückgeholt werden. Und eine kosmische Unsterblichkeit ist vielleicht dadurch zu erreichen, dass »digitalisierte Gehirne« ins All geschossen werden.

Jeder Hype befördert Betrug. Theranos, ein Start-up-Unternehmen der Biotechnologie im Silicon Valley, behauptete, eine Desktop-Technologie entwickelt zu haben, mit der sich anhand eines einzigen Tropfen Blutes Hunderte Erkrankungen diagnostizieren ließen. Elizabeth Holmes, die charismatische Gründerin und CEO, wurde 2023 zu elf Jahren Haft verurteilt, weil sie mit ihrer fingierten Technologie Investoren geprellt und Millionen Nutzer hinters Licht geführt hatte.9 Sam Bankman-Frieds Kryptobörse, die mit hohen moralischen Ansprüchen beworben wurde, entpuppte sich als groß angelegte Betrugsmasche, wegen der er zu einer Gefängnisstrafe von 155 Jahren verurteilt wurde.10

Der Mad Max der KI-Welt ist der südafrikanische Tech-Magnat Elon Musk. Dieser reichste Mensch der Welt (Nettovermögen Ende 2021 fast 300 Milliarden Dollar) startete seine Karriere in den 1990er-Jahren, als er das später PayPal genannte Unternehmen gründete. Heute ist er als der Mann bekannt, der hinter den am besten beworbenen Start-up-Unternehmen des Silicon Valley steht. Musks Elektromobilfirma Tesla hat eine Technologie entwickelt, die alle Fahrabläufe scheinbar gefahrlos autonom ausführen kann. Seine »Boring Company« arbeitet an Plänen, ein unterirdisches Netz aus Hyperloop-Tunneln zu bauen, um die Verkehrsprobleme von Los Angeles zu lösen. Und seine Firma SpaceX verheißt die Gründung einer Kolonie auf dem Mars, um »das Licht des Bewusstseins zu bewahren«.

Ende August 2020 veranstaltete Musk eine Vorführung mit dem Schwein Gertrude, in dessen Gehirn ein münzgroßer Computerchip implantiert war – die erstmalige öffentliche Enthüllung einer sogenannten »Gehirn-Maschine-Schnittstelle«, entwickelt von Neuralink, einem seiner Tech-Unternehmen. Diese Technologie sollte es theoretisch ermöglichen, das Gehirn mithilfe der elektrischen Signale eines Chips zu manipulieren, der direkt unter der Schädeldecke sitzt. Wenn Gertrude in ihrem Stroh schnüffelte oder vom Pfleger gereichtes Futter fraß, ließen sich ihre Gehirnaktivitäten anhand einer Grafik am Computer mitverfolgen. Die unmittelbaren Hoffnungen bei dieser Technologie liegen in der Medizin: Wenn sie sich gefahrlos mit Implantaten am Menschen umsetzen lässt, könnte sie zur Heilung neurologischer Störungen dienen, von Suchterkrankungen über Ängste bis zur Blindheit. Musks langfristige Ambitionen bei Neuralink zielen dagegen in die Stratosphäre: Technologie zur Gehirnerweiterung, so seine Hoffnung, solle uns in ein Zeitalter der »übermenschlichen Kognition« führen, in dem Computerchips zur Optimierung der geistigen Aktivitäten leicht und günstig verfügbar werden. Implantiert werden sollen sie in einem vollständig automatisierten und minimal invasiven Verfahren – einem Eingriff, durchführbar in einer Mittagspause. Und alle paar Jahre könnte der Chip angesichts technischer Verbesserungen entfernt und durch ein aktuelleres Modell ersetzt werden – so wie sich Verbraucher das neueste iPhone kaufen. Das klingt nicht nur so, als sei es aus einem Science-Fiction-Roman entlehnt. Wie Musk einräumt, wurde sein Interesse an Gehirnerweiterung beim Lesen von Iain Banks’ Zyklus Die Kulturgeweckt.11 Traum oder Albtraum? Bislang ist die Technologie vor allem ein PR-Gag: In Wahrheit ist Musk nicht annähernd in der Lage, das menschliche (oder überhaupt irgendein) Gehirn zu beherrschen.

Elon Musks erweiterter Mensch ist ein Cyborg: eine Gehirn-Computer-Schnittstelle. Eine weitere Stoßrichtung des Hypes verspricht superintelligente Maschinen. 2005 sagte der Technikutopist Ray Kurzweil für 2045 die Einführung von »bewusst denkenden Robotern« voraus. Zu diesem verblüffend präzise benannten Zeitpunkt werde eine »technologische Singularität« eintreten oder ein »Kipppunkt« erreicht, nach dem die weitere technologische Entwicklung von den Maschinen selbst übernommen würde. So werde sich der technische Fortschritt exponentiell beschleunigen. Voraussetzung sei, dass Maschinen, so intelligent wie die intelligentesten Menschen, in der Lage seien, superintelligente Versionen von sich selbst zu erschaffen, und dies weitaus schneller, als die fehlbare humane Intelligenz dies zulasse. Laut Kurzweil könne in dieser Superintelligenz noch ein gewisses Erbe aus der humanen Intelligenz enthalten sein, aber sie stelle in jedweder Hinsicht etwas wirklich Neues, Besseres und Posthumanes dar. Im Anschluss an die Singularität, so Kurzweils Prophezeiung, könnte diese Intelligenz von der Erde in Form winziger, sich selbst replizierender Sonden, besetzt mit Nanorobotern, »ausstrahlen«, zunächst ins Sonnensystem, dann in den interstellaren Raum sowie in die Galaxien und so weiter, bis das gesamte Universum mit einem intelligenten, wenn auch künstlichen Leben durchzogen sei. In Anlehnung an Kant bezeichnet Kurzweil diesen Prozess als das »Erwachen« des Universums.12 Kurzweils Prophetie enthält etwas anziehend Mystisches, das über die Armut seines Denkens hinwegtäuscht.

Das besondere Ereignis, mit dem die KI Schlagzeilen in aller Welt machte, war der Sieg von IBMs Deep Blue im Mai 1997 über den Schachweltmeister Garri Kasparow in sechs Partien. 21 Jahre zuvor hatte der Psychologieprofessor Eliot Hearst von der Universität Indiana noch verkündet, dass ein Computerprogramm einen professionellen Spieler nur dann besiegen könne, wenn »sich der Meister, womöglich in angetrunkenem Zustand […], einen Patzer leistet, wie er nur einmal im Jahr vorkommt«. Heute finden gesonderte Schachturniere für Computer statt, weil Menschen keine gleichwertigen Gegner mehr sind. Dennoch stellte sich heraus, dass Computer und Mensch gemeinsam einen allein spielenden Menschen oder Computer schlagen können. Für Optimisten legte dies nahe, dass Computer in einem breiten Spektrum an Aufgaben Menschen nicht ersetzen, sondern ergänzen würden.

Deep Blue war hauptsächlich eine Input-Output-Maschine, die Informationen aus vielfältigen Systemen aufnahm und sie mechanisch auf das anstehende Problem anwandte. Ein weiterer Schritt erfolgte 2016, als Googles Programm AlphaGo dem weltbesten Spieler, Lee Sedol, in vier von fünf Spielen im Go eine Niederlage beibrachte. Go ist das komplexeste Brettspiel der Welt. Ein Jahr später wurde AlphaGo in hundert Spielen von einer verbesserten Version seiner selbst, AlphaZero, geschlagen. Die Neuheit an AlphaGo bestand darin, dass es anhand von Hunderten Millionen Partien »selbstständig lernte«. Anstatt mit einem Programm war es mit einer Aufgabe und der Anweisung versehen worden, diese eigenständig zu bewältigen. Insofern AlphaGo Informationen erzeugte, die nicht schon in den Daten enthalten waren, nahm es eine höhere Stufe künstlicher Intelligenz vorweg. Die einzige menschliche Eingabe bestand darin, die Aufgabe festzulegen: Für die Durchführung selbst war niemand mehr notwendig.

In den letzten paar Jahren schossen wilde Spekulationen darüber ins Kraut, wie sich die Erfolge von Computern von der geschlossenen Welt der Brettspiele auf das offene Spiel des Lebens ausweiten würden. Wenn Computer im Schach Menschen übertreffen, warum sollten sie dann nicht auch bessere Romane schreiben oder schönere Musik komponieren können? Die Ambitionen von Demis Hassabis, einem ehemaligen Schachmeister und Mitbegründer von DeepMind Technologies, richten sich darauf, »die Intelligenz zu enträtseln« und dann das Ergebnis »darauf zu verwenden, alles zu enträtseln«, durch