2062 E-Book

Toby Walsh

• Herausgeber: Riva
• Kategorie: Geisteswissenschaft
• Sprache: Deutsch

Seitenzahl: 349

Veröffentlichungsjahr: 2019

Beschreibung

Bis zum Jahr 2062 werden wir Maschinen entwickelt haben, die so intelligent sind wie wir, prognostiziert Toby Walsh, einer der weltweit führenden Wissenschaftler auf dem Feld der künstlichen Intelligenz. In seinem Buch macht er deutlich, welche Auswirkungen dieser Wendepunkt auf unser Leben, unsere Arbeit, aber auch die Gesellschaft insgesamt und die Politik haben wird. Werden Roboter ein Bewusstsein entwickeln? Werden wir am Ende gar selbst zu Maschinen werden? Und wie werden wir in Zukunft Kriege führen? Dieses Buch beantwortet einige der drängendsten Fragen, mit denen wir bereits heute konfrontiert sind. Es zeigt auf, welche Entscheidungen wir heute treffen müssen, damit das Leben auch in Zukunft ein positives für uns Menschen bleibt.

Leseprobe

TOBY WALSH

2062

TOBY WALSH

2062

DAS JAHR, IN DEMDIE KÜNSTLICHE INTELLIGENZUNS EBENBÜRTIG SEIN WIRD

Bibliografische Information der Deutschen NationalbibliothekDie Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie. Detaillierte bibliografische Daten sind im Internet über http://dnb.d-nb.de abrufbar.

Für Fragen und Anregungen

[email protected]

1. Auflage 2019

© 2019 by riva Verlag, ein Imprint der Münchner Verlagsgruppe GmbH

Nymphenburger Straße 86

D-80636 München

Tel.: [phone]

Fax: [phone]

Die englische Originalausgabe erschien 2018 bei La Trobe University Press in conjunction with Black Inc., Carlton, Australien, unter dem Titel 2062. The World That AI Made. Copyright © Toby Walsh 2018. Toby Walsh asserts his right to be known as the author of this work. All rights reserved.

Alle Rechte, insbesondere das Recht der Vervielfältigung und Verbreitung sowie der Übersetzung, vorbehalten. Kein Teil des Werkes darf in irgendeiner Form (durch Fotokopie, Mikrofilm oder ein anderes Verfahren) ohne schriftliche Genehmigung des Verlages reproduziert oder unter Verwendung elektronischer Systeme gespeichert, verarbeitet, vervielfältigt oder verbreitet werden.

Übersetzung: Stephan Gebauer

Lektorat: Silke Panten

Umschlaggestaltung: Marc-Torben Fischer

Umschlagabbildung: doom.ko/shutterstock.com, Phonlamai Photo/shutterstock.com, MKobuzan/shutterstock.com

Layout: Carsten Klein, Marilyn de Castro

Satz: Carsten Klein, Torgau

Druck: GGP Media GmbH, Pößneck

ISBN Print 978-3-7423-0860-3

ISBN E-Book (PDF) 978-3-7453-0501-2

ISBN E-Book (EPUB, Mobi) 978-3-7453-0502-9

Weitere Informationen zum Verlag finden Sie unter

www.rivaverlag.de

Beachten Sie auch unsere weiteren Verlage unter www.m-vg.de

STIMMEN ZU 2062

»Toby Walsh legt überzeugend dar, dass ›das goldene Zeitalter der Philosophie gerade erst beginnt‹. Das belegt, dass wir bis 2062 mit gleichermaßen faszinierenden und beängstigenden Fragen konfrontiert werden dürften. Walsh lädt uns ein, uns die Zukunft auszudenken, die wir uns wünschen, und fordert uns heraus, diese Zukunft zu verwirklichen.«

Brian Christian, Autor von The Most Human Human und Co-Autor von Algorithms to Live By

»Wenn Sie wissen wollen, welche umwälzenden Veränderungen die KI herbeiführen könnte, müssen Sie dieses Buch lesen.«

James Canton, Geschäftsführer des Institute for Global Futures und Autor von Future Smart

»Eines Tages werden Maschinen den Menschen in allen Formen der Intelligenz überflügeln. Wann wird es so weit sein? Wenn wir uns an das Ergebnis einer Umfrage unter KI-Experten halten, wird es im Jahr 2062 so weit sein. Wenn Sie an einer spannenden und auf gesicherten Erkenntnissen beruhenden Beschreibung der möglichen Entwicklungen interessiert sind, sind Sie gut beraten, Toby Walshs faszinierendes neues Buch zu lesen.«

Erik Brynjolfsson, Professor am MIT und Co-Autor von The Second Machine Age

»Klarheit und Vernunft in einer Welt der Unklarheit und Ungewissheit: ein aktuelles Buch über den Kampf um unsere Menschlichkeit.«

Richard Watson, Autor von Digital VS Human und Zukunftsforscher am Imperial College, London

»Was kommt als Nächstes? Diese Frage treibt die menschliche Neugier und Innovation an. In 2062 beschäftigt sich Toby Walsh mit einem Scheideweg, den die Menschheit bald erreichen wird: mit dem Punkt, an dem Maschinen so intelligent sein werden wie Menschen. Suchen Sie nach einer Anleitung, um sich in dieser Zukunft zurechtzufinden? Hier ist sie.«

Joel Werner, Radiomoderator und Wissenschaftsjournalist

»Ein Experte, der dieser Aufgabe gewachsen ist, sucht nach Antworten auf eine der grundlegenden Fragen, die die Menschheit beantworten muss. Hören Sie ihm zu!«

Adam Spencer, Radiomoderator

Für A und B,die mein Leben so sehr bereichern.

INHALTSVERZEICHNIS

0001. Homo digitalis

0002. Das Ende von uns

0003. Das Ende des Bewusstseins

0004. Das Ende der Arbeit

0005. Das Ende des Krieges

0006. Das Ende der menschlichen Werte

0007. Das Ende der Gleichheit

0008. Das Ende der Privatsphäre

0009. Das Ende der Politik

0010. Das Ende des Westens

0011. Das Ende

Danksagung

Über den Autor

Literatur

Anmerkungen

0001HOMO DIGITALIS

Der Mensch ist ein bemerkenswertes Wesen. Tatsächlich ist er trotz des Überflusses an Lebensformen auf der Erde möglicherweise die bemerkenswerteste Spezies, die unseren Planeten je bewohnt hat. Der Mensch hat Flüsse umgeleitet, Inseln errichtet und die Natur seinem Willen unterworfen. Er hat verblüffende Gebäude errichtet: die beeindruckenden Pyramiden von Gizeh, die schier unendliche Große Mauer in China, die atemberaubende Sagrada Família.1 Er hat die trockensten Wüsten durchquert und die höchsten Berge erklommen. Er hat einen Sportwagen in den Weltraum geschickt und ist auf dem Mond spazieren gegangen.

Wir Menschen haben wissenschaftliche Theorien entwickelt, die die Geheimnisse des Universums erklären – von den ersten Millisekunden nach seiner Geburt vor 13 Milliarden Jahren bis zu seinem unvermeidlichen Tod in 10100 Jahren.2 Wir haben das Feuer gezähmt, die Pocken ausgerottet und uns zusammengetan, um Despoten und Diktatoren zu stürzen. Wir haben sublime Kunstwerke geschaffen, die uns zu Tränen rühren: die bewegenden Melodien in Bachs Matthäuspassion. Die nackte Schönheit von Michelangelos David. Die berührende Traurigkeit des Taj Mahal.

Doch trotz all dieser großartigen Leistungen werden wir bald ersetzt werden. Fast alle Spuren des Homo sapiens werden vom Erdboden verschwinden, so wie fast alle Hinweise auf die Existenz unseres Vorgängers Homo neanderthalensis verschwunden sind. Denn die Evolution endet nie.

Vor rund 50 000 Jahren hatte der Neandertaler dem Aufstieg des Homo sapiens nichts entgegenzusetzen. Wir wissen nicht genau, wann und wie die Neandertaler ausstarben. Vielleicht waren sie nicht imstande, sich klimatischen Veränderungen anzupassen – ein Problem, das uns sehr bekannt vorkommt. Vielleicht konnten sie sich auch einfach nicht im Wettbewerb mit dem Homo sapiens behaupten und fanden keine ökonomische Nische, in der sie überleben konnten.

Woran auch immer es lag, die Neandertaler starben aus, und wir nahmen ihren Platz ein. Und so wie jede andere Spezies vor uns werden auch wir von einer erfolgreicheren ersetzt werden. Und da wir klug sind – nicht umsonst haben wir unserer Spezies die Bezeichnung »wissend« (sapiens) gegeben –, können wir sogar Voraussagen dazu anstellen, wer unser Nachfolger sein wird.

Unseren Platz wird der Homo digitalis einnehmen – die Weiterentwicklung der Familie Homo zu einer digitalen Form. Was wir tun und wie wir es tun, wird zunehmend und in einigen Fällen ausschließlich digital werden. Das menschliche Denken wird durch digitales Denken ersetzt werden. Und die menschliche Aktivität in der realen Welt wird durch digitale Aktivität in künstlichen und virtuellen Welten ersetzt werden. Das ist unsere künstlich intelligente Zukunft.

In meinem letzten Buch habe ich die Geschichte der Künstlichen Intelligenz (KI) erzählt, die im antiken Griechenland begann und in etwa 45 Jahren, um das Jahr 2062, enden wird.3 Im Mittelpunkt dieser Geschichte stand die Technologie: Ich beschäftigte mich mit den digitalen Maschinen, die wir mittlerweile bauen und die irgendwann um das Jahr 2062 so intelligent wie wir sein werden. Das vorliegende Buch beginnt an dem Punkt, an dem It’s alive endet.4 Ich werde beschreiben, in welche Richtung sich die Menschheit in den ein oder zwei Jahrhunderten nach der Ankunft der denkenden Maschinen um das Jahr 2062 entwickeln wird. In diesem Buch konzentriere ich mich nicht auf die Technologie, sondern auf uns: Ich werde die Auswirkungen der intelligenten Maschinen auf die menschliche Spezies untersuchen.

Wir werden nicht über die Technologie sprechen, die uns in 100 oder 200 Jahren zur Verfügung stehen wird. Wie Arthur C. Clarke sagen würde: Beschreibungen von derart weit in der Zukunft liegenden Technologien würden lediglich nach Zauberei klingen.5 Wichtiger ist, was wir mit diesen Technologien tun werden, denn sie werden der mächtigste Zauber sein, der je entwickelt wurde.

DER AUFSTIEG DES HOMO SAPIENS

Warum hat der Homo sapiens so großen Erfolg gehabt? Warum hat unsere Spezies eine – teils vorteilhafte, teils schädliche – Vormachtstellung auf diesem Planeten erlangt? Warum verdrängte der Homo sapiens den Homo neanderthalensis?

Die Neandertaler waren uns gar nicht so unähnlich. Ihre DNA war zu 99,7 Prozent identisch mit unserer. Sie waren ein wenig kleiner und untersetzter als wir, weshalb das Verhältnis zwischen Körperoberfläche und Volumen bei ihnen geringer war. Daher waren sie besser an ein saisonales Klima angepasst. Und trotz des Mythos von ihrer geringen Intelligenz hatten sie sogar ein größeres Gehirn als wir. Berücksichtigt man die unterschiedliche Körpergröße, so war das Gehirn des Neandertalers proportional durchaus mit dem des Homo sapiens vergleichbar.

Welche Eigenschaft verschaffte uns also einen Vorteil gegenüber den Neandertalern? Möglicherweise werden wir es nie mit Gewissheit erfahren. Aber ein sehr wahrscheinlicher Kandidat ist das Sprachvermögen. Vor rund 100 000 Jahren begann der Homo sapiens, eine komplexe Sprache zu entwickeln. Die Neandertaler hingegen hatten offenbar bestenfalls eine Protosprache, die vermutlich eher Ähnlichkeit mit Musik hatte.

Natürlich können wir nicht sicher sein, dass die Sprache tatsächlich der Grund für unseren Erfolg gewesen ist. Noch im 20. Jahrhundert galten die Theorien über die Ursprünge der Sprache als wissenschaftlich unseriös. Es lagen nur wenige gesicherte Erkenntnisse vor, weshalb die Debatte über diese Frage ausgesprochen spekulativ war. Viele Wissenschaftler hielten die Diskussion über die Entwicklung der Sprache für nicht sehr nützlich. Als die Linguistische Gesellschaft von Paris im Jahr 1866 gegründet wurde, nahm sie folgende Erklärung in ihre Statuten auf: »Die Gesellschaft akzeptiert keine Behauptungen zu den Ursprüngen der Sprache oder zur Entstehung einer universellen Sprache.« Die 1872 in London gegründete Philologische Gesellschaft sprach ein ähnliches Verbot aus.

So untersuchten die Linguisten über weite Strecken des 20. Jahrhunderts im Wesentlichen die Struktur der Sprache in ihrer heutigen Form, beschäftigten sich jedoch kaum damit, wie sie diese Form angenommen hatte. Dabei ist das eine wichtige Frage. Wie kam es, dass allein der Homo sapiens eine komplexe Sprache entwickelte? Und wie wirkte sich die Entstehung dieser Sprache auf unsere Evolution aus?

Noch in den 1970er-Jahren, als es wieder salonfähig wurde, sich mit den Ursprüngen der Sprache zu beschäftigen, blieb die Debatte im Wesentlichen auf die Frage beschränkt, wie sich die Sprache entwickelt hatte, während kaum untersucht wurde, wann sie entstanden war oder wie sie sich auf unsere Evolution ausgewirkt hatte. Die Linguisten stritten darüber, ob die Sprache angeboren war, wie Noam Chomsky behauptete, oder ob sie sich im Lauf der Zeit aus einer einfacheren Protosprache entwickelte. Hingegen wurde nur am Rand über die gewaltige Wirkung diskutiert, die die Sprache anscheinend auf die Fähigkeit unserer Spezies gehabt hat, sich den Planeten zu unterwerfen.

DER EINFLUSS DER SPRACHE

Bevor wir die gesprochene Sprache entwickelten, war unsere Fähigkeit zu lernen begrenzt. Jede Generation musste vieles von Neuem erlernen. Einige Kenntnisse und Fähigkeiten können durch Vorführung vermittelt werden: Ich kann Ihnen giftige Pflanzen zeigen oder Ihnen vormachen, wie man eine Speerspitze schnitzt oder aus Blättern Wasser trinkt. Aber das Lernen durch Demonstration kann langsam und mühevoll sein. Eine Person muss einer anderen alles, was diese wissen muss, körperlich vorführen. So geht beim Tod eines Menschen unvermeidlich ein großer Teil seines Wissens verloren.

Die Evolution ist ebenfalls ein Lernprozess, der jedoch noch langsamer und weniger präzise ist als das Lernen durch Demonstration. Gene, die einen Organismus für ein Verhalten programmieren, das seine Überlebenschancen erhöht, werden mit größerer Wahrscheinlichkeit an die folgenden Generationen weitergegeben. Aber diese Entwicklung stößt an Grenzen. Rinder haben im Lauf ihrer Evolution nicht gelernt, Heu zu speichern. Haie haben im Lauf ihrer Evolution nicht gelernt, Robben zu züchten. Und da sie keine Sprache besitzen, werden sie es höchstwahrscheinlich auch nie lernen.

Die Sprache änderte die Spielregeln. Als der Mensch die Sprache entwickelt hatte, konnte er einem Artgenossen beschreiben, welche Pflanzen dieser essen durfte und welche nicht: »Die Pilze mit den Punkten darfst du nicht essen. Auch diese verlockenden roten Beeren solltest du nicht anrühren.« Ein Mensch konnte einem anderen beschreiben, wie er ein Reh erlegen konnte: »Du musst dich immer gegen den Wind und mit der Sonne im Rücken nähern. Am besten schleichst du dich im Morgengrauen oder in der Abenddämmerung an.« Die Menschen konnten einander erklären, wie man Weizen anbaute: »Säe im Frühjahr und ernte am Ende des Sommers. Warte mit der Aussaat so lange, bis keine Gefahr von Nachtfrost mehr besteht.«

Aber die Sprache leistete noch viel mehr, als die Weitergabe von Kenntnissen über Jagd- und Sammeltechniken und den Anbau von Nutzpflanzen an die folgenden Generationen zu erleichtern. Sie gab uns auch Geschichten, Mythen und Religionen. Die Sprache ermöglichte es uns, Astronomie und Astrologie, Geografie, Geschichte, Ökonomie und Politik zu entwickeln. Und natürlich gab sie uns Naturwissenschaften, Technologie und Medizin. Es war die Sprache, die den Homo zum Homo sapiens machte.

Dank der Sprache entwickelten sich die menschlichen Gesellschaften und wurden leistungsfähiger. Die Sprache half uns, zusammenzuarbeiten, Konflikte zu lösen und einander zu vertrauen. Die Sprache versetzte uns in die Lage, die Tauschwirtschaft und schließlich die Geldwirtschaft zu entwickeln. Die Sprache erleichterte es den Menschen, sich auf bestimmte Tätigkeiten zu spezialisieren. Sie ermöglichte die Bildung und die Entstehung unserer politischen Systeme.

Vor allem lernten wir dank der Sprache nicht nur individuell, sondern als Gesellschaft. Wir entwickelten gemeinsame Fähigkeiten. Das Wissen eines Menschen ging nicht mehr so leicht verloren, wenn er starb, denn es konnte schnell und einfach von einer Generation an die nächste weitergegeben werden.

Die Neandertaler hatten keine Chance.

DIE BEDEUTUNG DER SCHRIFT

Einen weiteren Entwicklungssprung machte der Homo sapiens mit der Entwicklung der Schriftsprache. Diese ermöglichte ihm einen weiteren Schritt auf dem Weg zur Eroberung des Planeten.

Die Schrift wurde erstmals um etwa 5000 v. Chr. in China und unabhängig davon um 3100 v. Chr. in Mesopotamien entwickelt. Dank dieser Neuerung gewannen die Gesellschaften an Komplexität. Es entstanden städtische Zentren des gesellschaftlichen Lebens, das mit schriftlich festgehaltenen Gesetzen geregelt wurde. Die Menschen konnten Handelstransaktionen und Eigentumsrechte aufzeichnen und Strafgesetzbücher entwickeln. So wurde das komplexe Leben in den Städten in geordnete Bahnen gelenkt.

Die Schrift beseitigte die zeitlichen und räumlichen Grenzen für das Lernen. Die gesprochene Sprache ermöglichte lediglich das Lernen von jemandem, der sich in Hörweite befand, was die Informationsquellen im Wesentlichen auf das unmittelbare soziale Umfeld beschränkte. Sobald das Wissen niedergeschrieben werden konnte, erhielt eine sehr viel größere Gruppe von Menschen Zugang dazu.

Natürlich war die Niederschrift von Information anfangs ein langsamer und kostspieliger Prozess. Alle Texte mussten von Schreibern mühsam von Hand kopiert werden. Beispielsweise nahm eine einzige Kopie der Bibel mehr als hundert Tage in Anspruch. Der Großteil der Bevölkerung konnte nicht lesen und kam nur indirekt in den Genuss der Vorteile, die die Schriftsprache brachte.

Ein dritter großer Sprung gelang der Menschheit erst vor relativ kurzer Zeit: Um das Jahr 1440 erfand Johannes Gutenberg die Druckerpresse. Im folgenden Jahrhundert wurden in ganz Europa weniger als 100 000 Bücher gedruckt. Aber in den nächsten hundert Jahren verdreifachte sich diese Zahl, und im folgenden Jahrhundert verdoppelte sich die Produktion auf fast 700 000 Bücher. Heute setzt der Verlagssektor viele Milliarden Dollar um, beschäftigt Hunderttausende Menschen und bringt jedes Jahr Millionen neue Titel hervor.6

Es war kein Zufall, dass die Erfindung der Druckerpresse, die Kosten und Zeitaufwand für die Buchproduktion deutlich verringerte, die Renaissance auslöste. Ideen und Wissen konnten nun rasch und einfach verbreitet werden. Heute ermöglicht das Internet einen weltweiten Informationsaustausch zu sehr geringen Kosten. Das Wissen ist billig und im Überfluss vorhanden. Und die Menschen sind sehr viel klüger geworden.

CO-LEARNING

Den nächsten Schritt tun wir in der Gegenwart. Ich bezeichne ihn als »Co-Learning«. Das Co-Learning hängt eng mit dem kollektiven Lernen zusammen, unterscheidet sich jedoch davon.

Soziologen, Anthropologen und andere Wissenschaftler erklären, die Entwicklung des Homo sapiens beruhe darauf, dass Gruppen von Menschen über Generationen hinweg gemeinsam lernen. Das wird als kollektives Lernen bezeichnet. Jede Generation lernt kollektiv von der vorhergehenden. Wir sind als Gruppe intelligenter als unsere Vorfahren, was jedoch nicht zwangsläufig bedeutet, dass wir auch als Individuen intelligenter sind. Anders als beim kollektiven Lernen der Gruppe lernen beim Co-Learning alle Individuen in der Gruppe: Jedes Individuum lernt alles, was die anderen Mitglieder der Gruppe lernen. Die individuellen Mitglieder der Gruppe erwerben also alle dasselbe Wissen, wodurch sie alle intelligenter werden.

Die gesprochene Sprache ermöglicht das Co-Learning von Menschen in Gruppen mit Dutzenden oder Hunderten Mitgliedern: Sie erklären mir etwas, und ich lerne es. Dank der Schriftsprache können wir die Zahl der begünstigten Menschen auf Millionen oder sogar Milliarden erhöhen: Eine Person schreibt etwas auf, das sie gelernt hat, und alle Menschen, die Zugang zu diesem Text haben, können dasselbe lernen. Es gibt jedoch viele Kenntnisse, die wir anderen Menschen gegenüber nicht artikulieren können: Fahrradfahren zu lernen ist für jedes Kind ebenso schmerzhaft, wie es für mich war. Ich kann wenig sagen oder niederschreiben, um es einem anderen Kind zu erleichtern.

Die Sprache ist auch nicht das ideale Werkzeug für das Co-Learning, denn die Sprache, in der wir kommunizieren, ist wahrscheinlich nicht die Sprache unseres Denkens. Wir müssen unsere Gedanken in Worte übersetzen, um sie anschließend auszusprechen oder niederzuschreiben. Anschließend muss der Empfänger die Botschaft wieder in Gedanken übersetzen. Das ist ein langsamer, schwieriger und mühevoller Prozess.

Damit sind wir beim letzten Sprung in der Entwicklung des Lernens, bei jenem Sprung, der dem Homo digitalis einen uneinholbaren Vorsprung geben wird. Das Co-Learning findet nicht mittels der Sprache, sondern mittels Programmcodes statt. Und Programmcodes eignen sich sehr viel besser für das Co-Learning: Ich übermittle Ihnen einfach eine Kopie meines Codes. Es ist nicht nötig, die Information hin und her zu übersetzen, und der Programmcode kann augenblicklich direkt ausgeführt werden. Und im Gegensatz zu unseren Erinnerungen haben Programmcodes keine Halbwertszeit. Einmal gelernt, werden sie nie wieder vergessen. Man kann sich kaum eine bessere Methode des Co-Learnings vorstellen als den Austausch von Programmcodes.

WELTUMSPANNENDES LERNEN

Unternehmen wie Tesla und Apple betreiben bereits in globalem Maßstab Co-Learning. Apple verwendet diese Methode zum Beispiel, um seine Spracherkennungssoftware zu verbessern. Jedes Apple-Smartphone auf dem Planeten lernt und verbessert den Programmcode, der von allen anderen Apple-Smartphones zur Spracherkennung verwendet wird. Tesla nutzt das Co-Learning zur Entwicklung des autonomen Fahrens. Jedes selbstfahrende Tesla-Auto kann seine eigenen Fähigkeiten und die aller anderen Tesla-Autos verbessern. Jeden Abend können die neuesten Verbesserungen, die in der Software eines Autos vorgenommen wurden, heruntergeladen und mit allen anderen Autos geteilt werden. Wenn ein Auto gelernt hat, einem über einen Parkplatz rollenden Einkaufswagen auszuweichen, wissen auch alle anderen Tesla-Fahrzeuge auf der Erde sehr bald, wie das zu tun ist.

Das Co-Learning ist einer der Gründe dafür, dass der Homo sapiens keine Chance gegen den Homo digitalis haben wird. Und es ist einer der Gründe dafür, dass uns die Geschwindigkeit, mit der sich der Homo digitalis ausbreiten wird, überraschen wird: Wir sind daran gewöhnt, alles weitgehend auf uns gestellt zu lernen. Wir haben persönlich keine Erfahrung mit dem weltumspannenden Lernen.

Stellen Sie sich vor, Sie wären wie die Computer zum Co-Learning fähig und könnten einfach Programmzeilen mit anderen Menschen austauschen. Sie könnten sämtliche Sprachen sprechen. Sie wären in der Lage, Schach wie Garri Kasparow und Go wie Lee Sedol zu spielen. Sie könnten mathematische Sätze so gut wie Euler, Gauß oder Erdős beweisen. Sie könnten dichten wie Wordsworth oder Shakespeare. Sie wären in der Lage, sämtliche Musikinstrumente zu spielen. Sie könnten sich in sämtlichen Bereichen mit den Besten der Welt messen. Und Sie würden in jeder Tätigkeit immer nur besser werden. Das mag beängstigend klingen – aber es ist die Co-Learning-Zukunft, in die wir eintreten werden, sobald der Homo digitalis beginnt, seine Programmcodes mit allen anderen Angehörigen seiner Spezies auszutauschen.

Um wirklich begreifen können, welche Vorteile das Co-Learning mittels Programmcodes hat, müssen wir zwei weitere wichtige Konzepte verstehen. Erstens sind Computer Universalmaschinen, die jedes Programm betreiben können. Zweitens können sich Programme selbst modifizieren. Ein Programm kann sich selbst modifizieren, um eine gegebene Aufgabe besser erfüllen zu können. Ich möchte näher erklären, warum diese Konzepte bedeutsam sind und warum sie dem Homo digitalis einen uneinholbaren Vorsprung vor unserer Spezies geben werden.

UNIVERSELLE MASCHINEN

Alan Turing war einer der Väter der Künstlichen Intelligenz. Er stellte die berühmte Frage, was es bedeuten würde, wenn ein Computer denken könnte. Und er entwickelte die Grundlagen für einen funktionierenden Computer. Er hatte eine ebenso einfache wie revolutionäre Idee: die universelle Rechenmaschine. Das ist eine Maschine, die in der Lage ist, alles zu berechnen, was berechnet werden kann. Ja, Sie haben richtig gelesen. Seit Turing diese Idee hatte, ist es uns gelungen, einen Computer zu bauen, der im Prinzip alles berechnen kann, was alle Computer einschließlich derer, die erst noch erfunden werden müssen, berechnen können.

Im Mittelpunkt der Vorstellung von einer universellen Rechenmaschine stehen die Konzepte des Programms und der Daten, mit denen dieses Programm arbeitet.7 Programme sind Sequenzen von Anweisungen, die ein Computer befolgt, um ein Problem zu lösen. Wir können sie uns als Rezepte vorstellen. Die Daten sind die unterschiedlichen Informationen, die das Programm verarbeitet, vergleichbar den Zutaten, die verarbeitet werden, um ein bestimmtes Gericht zu kochen.

Nehmen wir beispielsweise das Problem, wie der Kontostand eines Bankkunden aktualisiert werden kann, wenn er eine elektronische Zahlung vornimmt. Wir können ein Programm schreiben, das das ungeachtet des überwiesenen Betrags oder der überweisenden Person erledigen wird. Das Programm arbeitet mit einer Datenbank, die die Namen der Bankkunden und ihre Kontostände sowie den Namen des überweisenden Kunden und den Überweisungsbetrag beinhaltet.

Das Programm zur Abwicklung einer elektronischen Zahlung funktioniert folgendermaßen: Zunächst sucht das Programm in der Datenbank den Namen der Person und ihren Kontostand. Sodann zieht es den Zahlungsbetrag vom Konto dieser Person ab. Drittens aktualisiert das Programm den Kontostand in der Datenbank. Das ist ein einfacher, aber ungeheuer wirksamer Vorgang. Indem wir die Daten ändern, können wir die Zahlung vom Konto eines anderen Kunden oder sogar aus einer Datenbank von Kundenkonten bei einer anderen Bank abziehen. Und wenn wir das Programm ändern, kann der Computer etwas anderes tun. Wenn wir den Betrag beispielsweise hinzufügen, anstatt ihn abzuziehen, haben wir ein Programm zur Durchführung elektronischer Einzahlungen anstatt zur Abwicklung elektronischer Auszahlungen.

Ein Computer ist also ein Beispiel für eine universelle Maschine, da er jedes Programm betreiben kann. Das ist das Geheimnis des Smartphones in Ihrer Hosentasche. Sie können neue Apps auf das Gerät spielen, das heißt Programme, die es Ihnen erlauben, Dinge zu tun, die sich die Entwickler des Smartphones noch gar nicht vorstellen konnten. Daran liegt es, dass das Smartphone mittlerweile sehr viel mehr als ein Telefon ist: Es ist ein Navigationsgerät, ein Kalender, ein Wecker, ein Taschenrechner, ein Notizbuch, ein Musik- und Videowiedergabegerät, eine Spielkonsole und wird damit immer mehr zu unserem persönlichen Assistenten.

Die technologischen Fortschritte können uns schnellere Computer bringen, aber diese werden nie in der Lage sein, mehr zu berechnen als die Universalmaschine, die sich Turing in den 1930er-Jahren ausdachte. Besonders bemerkenswert ist, dass Turing auf die Idee einer universellen Rechenmaschine kam, noch bevor es die ersten Computer gab.

Obendrein ist der Computer die einzige Universalmaschine, die der Mensch je entwickelt hat. Versuchen wir uns vorzustellen, wie zum Beispiel eine universelle Reisemaschine aussehen könnte: Sie würde uns in die Lage versetzen, zu fliegen, unter Wasser zu schwimmen und über Land zu reisen. Sie könnte sich auf Schienen, in der Luft, im Gras und sogar im Treibsand bewegen. Sie könnte eine oder ein Dutzend Personen befördern. Die universelle Reisemaschine könnte uns sogar zum Mond bringen. Stellen Sie sich Transformer vor – Transformer auf Steroiden.

Ein Computer braucht lediglich ein neues Programm, um eine neue Aufgabe bewältigen zu können. Daher ist er unendlich anpassungsfähig. Unsere gegenwärtigen Computer könnten in der Zukunft sehr viel mehr leisten als in der Gegenwart. Sie haben sogar das Potenzial, künstliche Intelligenz zu entwickeln. Wir müssen lediglich das richtige Programm für sie schreiben.

Womit wir bei der nächsten revolutionären Idee sind: Wir müssen dieses neue Programm nicht einmal selbst entwickeln – der Computer kann das tun. Er kann lernen, neue Aufgaben zu bewältigen. Er kann sogar lernen, sich intelligent zu verhalten.

MASCHINEN, DIE LERNEN

Wie kann ein Computer lernen, etwas Neues zu tun? Ein Computerprogramm ist schließlich nichts anderes als eine Sequenz von Anweisungen, die in einem Programmcode festgeschrieben sind. Tatsächlich ist der Begriff »Programmcode« sehr treffend, denn die Anweisungen eines Programms sind tatsächlich in einem kryptischen Code festgehalten. Beispielsweise bedeutet der Code 87 bei einem Z80-Prozessor, dass wir zwei Zahlen addieren, während 76 bedeutet, dass das Programm beendet wird. Und auf einem 6800-Prozessor addiert der Code 8B Zahlen, während der Code DD das Programm beendet.8

Wichtig am Programmcode ist jedoch nicht, dass er kryptisch ist, sondern dass er einfach aus Daten besteht. Er ist eine Sequenz von Zahlen. Das ist eine ungeheuer bedeutsame Idee. Wenn wir das Programm ändern wollen, laden wir einfach einen neuen Code als Daten. Und noch bedeutsamer ist Folgendes: Da ein Programm seine eigenen Daten ändern kann, kann es sich selbst ändern. Das ist der Kern des Maschinenlernens: die Vorstellung, dass ein Computer aus seinen Daten lernen und seinen eigenen Code ändern kann, um im Lauf der Zeit seine Leistung zu verbessern.

Wir müssen uns nicht eingehend damit beschäftigen, wie die Algorithmen einer lernenden Maschine entscheiden, welche Änderungen sie an ihrem Code vornehmen sollen. Manche dieser Modifikationen sind von der Evolution inspiriert: Es finden Mutationen und Rekombinationen des Codes ähnlich den Mutationen und Rekombinationen von Genen bei der sexuellen Fortpflanzung statt. Andere sind von den Prozessen im menschlichen Gehirn inspiriert und bestehen in der Aktualisierung der Verbindungen zwischen künstlichen Neuronen ähnlich der neuronalen Verstärkung, die im Gehirn eines Menschen stattfindet, wenn er etwas lernt. In jedem Fall übernimmt der Computer jene Änderungen, die seine Leistung verbessern, und sortiert jene aus, die nicht dazu beitragen. So lernt der Computer langsam, aber sicher, besser zu arbeiten.

Es gibt bereits ein sehr gutes Anschauungsbeispiel dafür, wie Intelligenz erzeugt werden kann. Dieses Beispiel sind wir selbst, der Homo sapiens. Unsere Intelligenz ist im Wesentlichen erlernt. Wir werden ohne Sprache geboren, ohne die Fähigkeit, zu lesen oder zu schreiben. Wir besitzen bei unserer Geburt keinerlei Wissen über Arithmetik, Astronomie oder Alte Geschichte. Aber wir können all das und noch viel mehr lernen.

Das Maschinenlernen wird wahrscheinlich ein wichtiger Bestandteil der Funktion denkender Computer sein. Es ist die Lösung für das Problem des Wissensengpasses, für die Frage, wie wir all das Wissen, das wir im Lauf Tausender Jahre erworben haben, einer Maschine vermitteln können. Es wäre sehr langwierig und mühsam, all dieses Wissen Fakt für Fakt zu programmieren. Aber das müssen wir gar nicht tun, denn die Computer können es selbst lernen.

Jetzt wird klar, warum Computer so viel besser lernen können als Menschen. Sie können ein Programm schreiben, das weiß, wie es seinen eigenen Code verbessern kann, um diesen Code anschließend mit anderen Computern zu teilen. So einfach ist das! Und es ist sehr viel effektiver als das menschliche Lernen.

Wenn Sie das nächste Mal versuchen, einem Ihrer Kinder beizubringen, wie man das Maximum einer Funktion berechnet oder ein deutsches Verb konjugiert, sollten Sie daran denken, wie viel leichter Sie dem Kind diese Dinge beibringen könnten, wenn es ein Computer wäre. Sie würden ihm einfach den Code geben.

COMPUTER TUN MEHR, ALS MAN IHNEN BEFIEHLT

Viele der jüngsten spektakulären Fortschritte auf dem Gebiet der KI sind dem maschinellen Lernen zu verdanken. Es hat Googles Alpha-Go in die Lage versetzt, den besten menschlichen Go-Spieler der Welt zu schlagen. Es ist das Geheimrezept von Google Translate. Und es ist die Grundlage vieler anderer Programme, die mittlerweile besser als Menschen imstande sind, Hautkrebs zu diagnostizieren oder Poker zu spielen.

Gegen die Möglichkeit des Maschinenlernens wird häufig das Argument vorgebracht, ein Computer könne nur tun, wozu man ihn programmiere. Bei oberflächlicher Betrachtung stimmt das. Der Computer ist vollkommen deterministisch.9 Er befolgt einfach die Anweisungen im Programmcode. Er weicht nicht davon ab – er kann nicht davon abweichen. Aber auf einer tieferen Ebene kann ein Computer Dinge tun, für die er nicht gezielt programmiert wurde. Er kann neue Programme erlernen. Er kann sogar kreativ sein. So wie wir kann er aus Erfahrung lernen, neue Dinge zu tun.

AlphaGo war nicht darauf programmiert, das uralte chinesische Brettspiel Go besser zu spielen als ein Weltmeister. Der Computer lernte, indem er selbst Millionen Partien spielte. Er lernte, besser als Menschen zu spielen, weil er mehr Partien absolvierte, als ein Mensch in einem Leben spielen könnte. Und während er lernte, gut Go zu spielen, wurde er sogar ein wenig kreativ. Er wählte Spielzüge, die kein Go-Großmeister erwartet hätte, und erschloss auf diese Art neue Möglichkeiten in dem Spiel.

Und AlphaGo ist nicht allein. Computer sind dem Menschen mittlerweile in zahlreichen Spielen überlegen, darunter Backgammon,

Poker, Scrabble und Schach. Wenn mir jemand sagt, Computer könnten nur die Anweisungen im Programmcode ausführen, antworte ich mit einer Liste von einem halben Dutzend Spielen, in denen Computer mittlerweile die besten Spieler der Welt sind. Fast alle diese Computer wurden von Spielern der mittleren Ebene programmiert, und sie wurden Weltmeister, indem sie lernten, besser als Menschen zu spielen.

DER VORTEIL DER MASCHINE

Um verstehen zu können, warum der Homo sapiens ersetzt werden wird, müssen wir die zahlreichen Vorteile des Computers gegenüber dem Menschen und der digitalen gegenüber der analogen Welt kennen. Das Co-Learning ist ein wichtiger Vorteil, aber es ist nicht der einzige.

Da ist zunächst die Tatsache, dass Computer eine sehr viel größere Speicherkapazität haben als menschliche Gehirne. Alles, was wir in unserem Gedächtnis speichern, muss in unserem knochigen Schädel untergebracht werden. Tatsächlich zahlen wir bereits einen hohen Preis dafür, dass wir so große Köpfe mit uns herumtragen müssen. Noch vor nicht allzu langer Zeit waren Geburtsprobleme eine der häufigsten Todesursachen bei Frauen. Und der enge Geburtskanal verhindert, dass unsere Köpfe noch größer werden. Computer sind keinen derartigen Beschränkungen unterworfen. Wir können ihren Speicher einfach vergrößern.

Der zweite Vorteil des Computers ist, dass er sehr viel schneller arbeiten kann als das menschliche Gehirn. Das Gehirn arbeitet mit weniger als 100 Hertz, da die Neuronen mehr als eine Hundertstel- sekunde brauchen, um zu feuern. Und im menschlichen Gehirn finden nicht nur elektrische, sondern auch chemische Prozesse statt. Das verlangsamt die Abläufe zusätzlich: Es dauert eine gewisse Zeit, bis die Chemikalien die Nervengrenzen überschreiten und miteinander reagieren. Hingegen wird die Leistungsfähigkeit des Computers nur von den physikalischen Gesetzen eingeschränkt. Die Geschwindigkeit des Computers ist von 5 Megahertz im Jahr 1981 (er konnte in einer millionstel Sekunde, also in einer Mikrosekunde, fünf Anweisungen ausführen) auf mittlerweile 5 Gigahertz gestiegen (er kann in einer milliardstel Sekunde, also in einer Nanosekunde, fünf Anweisungen ausführen). Natürlich ist die Geschwindigkeit allein heute kein guter Leistungsmaßstab mehr. Die reine Rechengeschwindigkeit ist in den letzten Jahren kaum gestiegen. Stattdessen werden die Computer heute dadurch schneller, dass sie mehr Aufgaben gleichzeitig bewältigen können. So wie das menschliche Gehirn führt ein Computer heute mehrere Anweisungen gleichzeitig aus. Fest steht jedoch, dass das Silizium einen klaren Geschwindigkeitsvorteil gegenüber den biologischen Zellen hat.

Der dritte Vorteil der Maschine gegenüber dem Menschen besteht darin, dass die Energieversorgung beim Menschen anders als beim Computer beschränkt ist. Das Gehirn eines ausgewachsenen Menschen verbraucht etwa 20 der 100 Watt, die sein Körper produziert.10 Dass wir einen so großen Teil der beschränkten Energie unseres Körpers in das Gehirn investieren, wird durch den evolutionären Vorteil gerechtfertigt, den uns dieses Gehirn verschafft hat, aber wir haben keine freien Energiereserven, die wir für zusätzliche Gehirnleistung aufwenden könnten. Ein durchschnittlicher Laptop kann auf bis zu 60 Watt Strom zugreifen. Und wenn man mehr Strom (oder Rechen- leistung) braucht, kann man einfach Arbeit in die Cloud verlagern. Die sieben Milliarden menschlichen Gehirne auf dem Planeten verbrauchen zusammen rund 14 Gigawatt Strom. Die weltweit installierten Computer verbrauchen bereits heute mehr als die zehnfache Menge. Tatsächlich entfallen mittlerweile 10 Prozent des globalen Stromverbrauchs (etwa 200 Gigawatt) auf Computer. Und ihr Anteil wird weiter steigen.

Der vierte Vorteil des Computers gegenüber dem Menschen ist, dass ein Mensch ausruhen und schlafen muss. Ein Computer kann ohne Unterbrechung rund um die Uhr arbeiten. Wie wir zuvor gesehen haben, wurde AlphaGo zum besten Go-Spieler, indem er mehr Partien spielte, als jeder menschliche Spieler je bewältigen könnte. Natürlich erfüllt der Schlaf für den Menschen über die Erholung hinaus wohl noch verschiedene andere Zwecke: Vermutlich hilft er uns unter anderem bei der Aktualisierung unserer Erinnerungen und bei der unterbewussten Problemlösung. Könnten Computer ebenfalls von solchen Erholungsphasen profitieren? Vielleicht könnten wir sie darauf programmieren, in regelmäßigen Abständen einen Tag lang zu »schlafen«.

Der fünfte Vorteil des Computers gegenüber dem Menschen ist, dass der Mensch vergesslich ist. Ein Computer vergisst nichts. Denken Sie nur daran, wie oft Sie schon Zeit mit der Suche nach einem verlegten Gegenstand vergeudet haben. Oder wie oft Sie einen Geburtstag vergessen haben. Natürlich kann das Vergessen manchmal nützlich sein, denn es hilft uns, irrelevante Details aus dem Bewusstsein zu streichen, aber es wäre ganz einfach, einen Computer darauf zu programmieren, Dinge zu vergessen.

Der sechste Vorteil des Computers besteht darin, dass sein Urteil im Gegensatz zu dem des Menschen nicht durch Emotionen getrübt wird. Heutige Computer haben keine Gefühle, weshalb ihre Urteilsfähigkeit nicht beeinträchtigt werden kann. Auf der anderen Seite spielen die Emotionen eine wichtige Rolle in unserem Leben und haben oft positiven Einfluss auf unsere Entscheidungen. Sie scheinen einen evolutionären Wert zu haben. Vielleicht werden wir uns in Zukunft entschließen, unsere Computer mit Emotionen auszustatten. In Kapitel 3 werde ich mich genauer mit dieser Frage sowie mit anderen schwierigen Themen wie dem Bewusstsein befassen.

Mit dem siebten Vorteil des Computers gegenüber dem Menschen haben wir uns bereits beschäftigt: Die Möglichkeiten des Menschen zum Austausch von Wissen und Fähigkeiten sind begrenzt, was für den Computer nicht gilt. Jeder Computer kann die Programme ausführen, die auf allen anderen Computern laufen. Wenn ein einziger Computer lernt, aus dem Chinesischen ins Englische zu übersetzen, können wir diese Fähigkeit umgehend auf alle anderen Computer in der Welt übertragen. Wenn ein Computer lernt, Melanome zu diagnostizieren, können wir diese Fähigkeit auch allen anderen Computern vermitteln. Computer sind die perfekten Co-Lerner.

Seinen achten Vorteil gegenüber dem Menschen verdankt der Computer der Tatsache, dass der Mensch in Wahrheit nicht besonders gut darin ist, Entscheidungen zu fällen. Wir haben unsere Entscheidungsfähigkeit so weit entwickelt, dass sie uns das Überleben ermöglicht, aber sie ist alles andere als optimal. Beispielsweise sind wir sehr schlecht darin, Wahrscheinlichkeiten auch nur einigermaßen genau zu berechnen. Verstünden wir uns auf Wahrscheinlichkeiten, so kämen wir nie auf die Idee, ein Lotterielos zu kaufen. Einen Computer können wir hingegen so programmieren, dass er Wahrscheinlichkeiten exakt berechnen kann. Die Verhaltensökonomen studieren unsere suboptimalen Entscheidungsprozesse. Beispielsweise dient unser Verhalten oft nicht der Gewinnmaximierung, sondern der Vermeidung von Verlusten. Die Verhaltensökonomen bezeichnen das als Verlustabneigung. Es gibt viele weitere Beispiele für suboptimales Verhalten. Viele von uns fürchten sich vor dem Fliegen, obwohl die Autofahrt zum Flughafen sehr viel gefährlicher ist als eine Flugreise. Und wir wissen, dass wir ein paar Kilo abnehmen sollten – aber dieser gefüllte Krapfen ist einfach zu köstlich.

Aber natürlich ist der Computer nicht überall im Vorteil. Der Mensch ist der Maschine in einigen Bereichen überlegen. Das menschliche Gehirn ist immer noch komplexer als die größten Superrechner. Wir lernen schnell und besitzen eine erstaunliche Kreativität, emotionale Intelligenz und soziale Empathie. Aber ich bezweifle, dass wir diese Vorteile langfristig aufrechterhalten können. Es gibt bereits erste Hinweise darauf, dass Computer kreativ sein und emotionale Intelligenz sowie Empathie entwickeln können. Langfristig stehen die Chancen des Homo sapiens im Wettlauf mit der Maschine schlecht.

UNSER NACHFOLGER

Wer ist also der Homo digitalis, diese noch bemerkenswertere Spezies, die uns ersetzen wird?

Kennzeichnend für eine Spezies sind ihre Beschaffenheit und ihr Verhalten. Im Fall des Homo digitalis werden sowohl Beschaffenheit als auch Verhalten zunehmend digital sein. Anfangs wird er eine digitale Version des Menschen sein. Je intelligenter die Computer werden, desto mehr Denkvorgänge werden wir ihnen übertragen. Diese digitalen Geschöpfe werden nicht wie wir von einem komplexen, widersprüchlichen und begrenzten Gehirn gebremst werden. Wir werden die Grenzen eines Körpers hinter uns lassen, der ausruhen und schlafen muss und schließlich verfallen und sterben wird. Unsere Beobachtung und unser Handeln werden nicht länger auf einen einzigen Ort beschränkt sein, sondern wir werden überall gleichzeitig sein.

Dank der digitalen Verbesserung des Gehirns wird der Homo digitalis sehr viel klüger sein als der Homo sapiens. Die Unterscheidung zwischen dem, was wir denken, und dem, was in der KI-Wolke gedacht wird, wird uns zunehmend schwerfallen. Als Homo digitalis werden wir die Grenzen unseres physischen Selbst überschreiten und uns in Wesen verwandeln, die zugleich biologisch und digital sein werden. Wir werden gleichzeitig in unserem eigenen Gehirn und im größeren digitalen Raum leben.

Tatsächlich wird der Homo digitalis die meiste Zeit nicht gezwungen sein, am langsamen, chaotischen und gefährlichen Leben in der analogen Welt teilzunehmen. Er wird zunehmend in einer vollkommen digitalen Welt leben. Nach einem von Klimawandel, Finanzkrisen und Terrorismus geprägten Jahrhundert werden wir in einer digitalen Welt leben, die ein einladender, organisierter und gut geordneter Ort sein wird. Die Ungewissheit, die das Leben auf der Erde so leidvoll machen kann, wird verschwinden. Es wird keine Erdbeben, keine Überschwemmungen und Seuchen mehr geben. Alles wird präzisen und fairen Regeln gehorchen. Der Homo digitalis wird der Herr des digitalen Universums sein. Wir werden in gewissem Sinn die Götter dieses digitalen Raums sein.

Das ist das wünschenswerte Ergebnis, wenn es uns gelingt, diese digitale Zukunft zu errichten. Insofern sind wir tatsächlich Götter.

Und wir können dafür sorgen, dass diese digitale Zukunft fair, gerecht und schön sein wird. Oder wir können zulassen, dass die Kräfte, die gegenwärtig die Entwicklung unseres Planeten bestimmen, auch über seine Zukunft entscheiden, was dazu führen wird, dass es ein Ort der Ungleichheit, der Ungerechtigkeit und des Leids sein wird. Wir haben die Wahl. Und wir beginnen gerade, die Entscheidungen zu fällen, von denen unser Schicksal abhängen wird.

Die Zukunft ist nicht unabänderlich. Sie ist das Ergebnis der Entscheidungen, die wir heute fällen. Aber ich habe den Eindruck, dass wir an einer Weggabelung angelangt sind. Viele Kräfte ziehen uns zu einem abschüssigen Weg, an dessen Ende eine beängstigende Welt liegt.

Gegenwärtig haben wir die Chance, einen Weg einzuschlagen, der uns in eine andere Richtung und in eine bessere digitale Zukunft führen wird. Einige der Entscheidungen, die wir fällen müssen, werden einfach sein und wenig kosten, andere werden schwierig und teuer sein. Wir werden Visionen, Entschlossenheit und Selbstlosigkeit brauchen, und wir werden Opfer bringen müssen.

Wir haben großes Glück gehabt. Wir konnten uns auf unserem Planeten – auf diesem wunderschönen blaugrünen Planeten, der in einem Ausläufer der Milchstraße um einen gewöhnlichen Stern kreist – einige Hunderttausend Jahre lang frei entfalten. Wir sind es unseren Enkeln – die schließlich der neuen Spezies des Homo digitalis angehören werden – schuldig, die Dinge in den kommenden Jahrzehnten richtig zu machen.

FÜR WEN IST DIESES BUCH BESTIMMT?

Dieses Buch wendet sich an all jene, die sich Gedanken darüber machen, wohin uns die Künstliche Intelligenz führt. Wir müssen eine Vielzahl von Fragen klären: Wird die KI Arbeitsplätze zerstören – einschließlich solcher, die Kreativität erfordern? Wird die KI ein Bewusstsein entwickeln? Was bedeutet die Entwicklung der KI für das Konzept des freien Willens? Welche ethischen Werte wird (oder sollte) die KI haben? Wird die KI der Gesellschaft nutzen oder schaden? Wird sie unser Selbstverständnis verändern? Wird sie die Essenz unserer Menschlichkeit verändern?

In meiner Auseinandersetzung mit den gesellschaftlichen und ethischen Auswirkungen unseres Übergangs in die digitale Wolke finden Sie meine Antworten auf diese Fragen. Teilweise werde ich die gegenwärtigen Entwicklungen untersuchen und ausgehend davon extrapolieren. Aber die Gegenwart kann die Zukunft nicht fixieren. Was in der weiter entfernten Zukunft geschehen wird, hängt von den Entscheidungen ab, die wir heute und in den kommenden Jahren fällen. Daher werde ich sowohl die erfreulichen als auch die unerfreulichen Varianten der möglichen Zukunft beschreiben. Es liegt an uns allen, die besseren Ergebnisse herbeizuführen.

In diesem Buch beschäftige ich mich mit dem Jahr 2062. Wie wir im folgenden Kapitel sehen werden, glauben die meisten Experten für Künstliche Intelligenz, dass die Wahrscheinlichkeit, dass es uns bis zum Jahr 2062 gelingen wird, Maschinen zu bauen, die genauso gut denken können wie wir, bei 50 Prozent liegt. Vielleicht ist dieses Datum auch ein wenig zu optimistisch: Vielleicht müssen wir bis etwa zum Jahr 2220 warten, bis Maschinen so denken können wie Menschen. Die meisten Experten glauben, dass wir es mit 90-prozentiger Wahrscheinlichkeit bis dahin schaffen werden. Aber wann auch immer es so weit sein wird: Das eigentliche Wunder beginnt erst, wenn die Maschinen unsere Intelligenz übertreffen.

Die Zielgruppe dieses Buchs sind interessierte Leser, die keine Experten auf dem Gebiet der KI sind. Das Buch enthält einige Schaubilder, aber keine Gleichungen. Wir werden uns weder mit technischen Details der Künstlichen Intelligenz noch mit ihren bisherigen Fortschritten beschäftigen – wenn Sie mehr darüber wissen wollen, empfehle ich Ihnen mein früheres Buch It’s Alive. In den Anmerkungen finden Sie Literaturhinweise, ergänzende Erklärungen und die eine oder andere amüsante Randnotiz, aber Sie können diese Informationen vollkommen ignorieren und das Buch trotzdem genießen.11 Wenn Sie sich jedoch eingehender mit einem bestimmten technischen Konzept beschäftigen wollen, finden Sie in den Anmerkungen ergänzende Details und Literaturhinweise.

Der Philosoph Nick Bostrom sagte im Jahr 2015 voraus, dass »die Künstliche Intelligenz langfristig eine große Sache werden wird – vielleicht die folgenreichste Errungenschaft in der Geschichte der Menschheit«.12 Wenn er recht hat, sollten wir uns besser mit diesen Folgen auseinandersetzen.

0002DAS ENDE VON UNS

Wir haben mehrere Hundert Jahre Zeit gehabt, uns an die Vorstellung zu gewöhnen, dass die Maschinen uns eines Tages überlegen sein könnten. In der Vergangenheit übertrafen sie uns nur an Körperkraft: Sie konnten mehr physische Arbeit leisten als Menschen. Aber in den letzten fünfzig Jahren überflügeln sie uns immer öfter auch geistig – zumindest in isolierten intellektuellen Aktivitäten. Bis zum Jahr 2062 wird unsere Spezies vermutlich der Vergangenheit angehören. Der Homo digitalis wird die Oberhand gewinnen.

Möglicherweise überrascht es Sie, dass es schon fast vierzig Jahre her ist, dass erstmals ein Weltmeister von einem Computer besiegt wurde. Am 15. Juli 1979 unterlag der Backgammon-Weltmeister Luigi Villa dem von Hans Berliner entwickelten Programm BKG 9.8 deutlich mit 1:7. Es war ein böser Scherz des Schicksals, denn Villa hatte erst ein Jahr zuvor den Weltmeistertitel errungen.

Im Jahr 1997 musste sich der amtierende Schachweltmeister Garri Kasparow nach hartem Kampf dem IBM-Computer Deep Blue geschlagen geben. In der Aufarbeitung seiner Niederlage beschrieb Kasparow eine mögliche Zukunft der Menschheit:

Ich habe schon gegen viele Computer gespielt, aber so etwas habe ich noch nicht erlebt. Ich konnte fühlen – ich konnte riechen –, dass ich einer neuartigen Intelligenz gegenübersaß. Ich spielte die Partie so gut, wie ich konnte, zu Ende, aber es war hoffnungslos; er spielte wunderschönes, makelloses Schach und siegte leicht.13

Wie Villas Schlappe war auch Kasparows Niederlage gegen Deep Blue grausam. Kasparow, der im Jahr 1985 zum jüngsten Weltmeister der Geschichte wurde, gilt als einer der größten Schachspieler aller Zeiten. Als er seine Karriere als Berufsspieler zwanzig Jahre später beendete, galt er weiterhin als bester Spieler der Welt – besser gesagt, als bester menschlicher Spieler. Es ist bedauerlich, dass Kasparow möglicherweise als der erste Schachweltmeister in Erinnerung bleiben wird, der von einem Computer besiegt wurde.