Die Digitale Kränkung E-Book

Matthias Zehnder

• Herausgeber: Neue Zürcher Zeitung NZZ Libro
• Kategorie: Geisteswissenschaft
• Sprache: Deutsch
• Veröffentlichungsjahr: 2019

Seitenzahl: 193

Beschreibung

Seit dem legendären Schachmatt von Deep Blue gegen Garry Kasparov 1997 haben Computer den Menschen in nahezu jedem Brettspiel geschlagen: von Schach über Dame bis zu Go, dem komplexesten Spiel der Welt. Kasparov erlebte stellvertretend für die ganze Menschheit die erste digitale Kränkung. Indem der Computer besser Schach und Dame spielen, besser rechnen, ja: besser denken kann als der Mensch, nimmt er ihm zusehends das weg, was ihn bisher auszeichnete: rationale Leistung. Noch nie haben Maschinen den Menschen so grundsätzlich herausgefordert wie heute. Seit der Aufklärung definieren wir uns als vernunftbegabte Wesen. Plötzlich macht der Computer uns diese Ratio streitig. Was bedeutet das jenseits der digitalen Kränkung für das Menschenbild der Zukunft? Und: Folgt auf das rationale Zeitalter der Aufklärung nun das emotionale?

Leseprobe

DAS BUCH

Seit dem legendären Schachmatt von Deep Blue gegen Garry Kasparov 1997 haben Computer den Menschen in nahezu jedem Brettspiel geschlagen: von Schach über Dame bis zu Go, dem komplexesten Spiel der Welt. Kasparov erlebte stellvertretend für die ganze Menschheit die erste digitale Kränkung. Indem der Computer besser Schach und Dame spielen, besser rechnen, besser denken kann als der Mensch, nimmt er ihm zusehends das weg, was ihn bisher auszeichnete: rationale Leistung. Noch nie haben Maschinen den Menschen so grundsätzlich herausgefordert wie heute.

Seit der Aufklärung definieren wir uns als vernunftbegabte Wesen. Plötzlich macht der Computer uns diese Ratio streitig. Was bedeutet das jenseits der digitalen Kränkung für das Menschenbild der Zukunft? Und: Folgt auf das rationale Zeitalter der Aufklärung nun das emotionale?

Matthias Zehnder

DIE DIGITALE KRÄNKUNG

ÜBER DIE ERSETZBARKEIT DES MENSCHEN

NZZ Libro

Bibliografische Information der Deutschen Nationalbibliothek

Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie; detaillierte bibliografische Daten sind im Internet über http://dnb.d-nb.de abrufbar.

© 2019 NZZ Libro, Schwabe Verlagsgruppe AG

Der Text des E-Books folgt der gedruckten 1. Auflage 2019 (ISBN 978-3-03810-409-4)

Lektorat: Sigrid Weber, Freiburg

Umschlaggestaltung: icona basel

Datenkonvertierung: CPI books GmbH, Leck

Dieses Werk ist urheberrechtlich geschützt. Die dadurch begründeten Rechte, insbesondere die der Übersetzung, des Nachdrucks, des Vortrags, der Entnahme von Abbildungen und Tabellen, der Funksendung, der Mikroverfilmung oder der Vervielfältigung auf anderen Wegen und der Speicherung in Datenverarbeitungsanlagen, bleiben, auch bei nur auszugsweiser Verwertung, vorbehalten. Eine Vervielfältigung dieses Werks oder von Teilen dieses Werks ist auch im Einzelfall nur in den Grenzen der gesetzlichen Bestimmungen des Urheberrechtsgesetzes in der jeweils geltenden Fassung zulässig. Sie ist grundsätzlich vergütungspflichtig. Zuwiderhandlungen unterliegen den Strafbestimmungen des Urheberrechts.

ISBN E-Book 978-3-03810-482-7

www.nzz-libro.ch

NZZ Libro ist ein Imprint der Schwabe Verlagsgruppe AG.

INHALT

Einführung: schachmatt

Die Maschine besiegt den Menschen

Ausgespielt

Die digitale Kränkung

Kränkungen der Menschheit

Die Erschütterung macht die Kränkung

Das Erschütternde des Digitalen

Revolutionäre Maschinen

Wie Technik zu Revolutionen führt

Wie Technik schrittweise den Menschen ersetzt

Revolutionäre Computer:von der Dechiffriermaschine zur Denkmaschine

Es begann im Zweiten Weltkrieg

Die Singularität

Auf dem Weg zur intelligenten Maschine

Revolutionäre Roboter

Traum und Albtraum der Menschen

Roboter kommen aus der Fiktion

Vom Zerstörer zum Verführer

Roboter in der Realität

Hand in Hand mit den Menschen

Wie uns die Maschinen über den Kopf wachsen

Die Gott-Perspektive

Der grosse Stellenabbau

Was die Menschen wollen

Konsequenzen für den Menschen

Wir stehen erst am Anfang

Ausblick

Anmerkungen

Literatur

Der Autor

EINFÜHRUNG: SCHACHMATT

Am 11.Mai 1997, nachmittags um 16Uhr, sass Schachweltmeister Garry Kasparow im 35.Stockwerk eines Hochhauses in Manhattan regungslos vor einem Schachbrett, den Kopf in beide Hände gestützt. Dann schüttelte er den Kopf, stand auf, gestikulierte wild und verliess den Raum. Das bis dahin Unvorstellbare war geschehen: Ein Computer namens Deep Blue hatte den amtierenden Schachweltmeister in einem regulären Match geschlagen. Kasparow war 1997 der beste Schachspieler der Welt und überzeugt, dass eine Maschine ihn nie würde schlagen können. Umso wütender war er nach dem verlorenen Match.

DIE MASCHINE BESIEGT DEN MENSCHEN

Garry Kimowitsch Kasparow, 1963 in Baku, Aserbaidschan, als Sohn einer Armenierin und eines jüdischen Vaters geboren, hatte im Alter von fünf Jahren die Schachregeln erlernt. Mit zwölf war er bereits sowjetischer Jugendmeister. Kasparow spielte aggressiv und temperamentvoll. Sein Spitzname lautete «das Biest aus Baku». Als er 17 Jahre alt war, erreichte er den Status eines Grossmeisters. 1984, im Alter von 21 Jahren, forderte er den damals amtierenden Schachweltmeister Anatoli Karpow heraus. Karpow war nicht nur der beste Schachspieler der Welt, sondern auch der Liebling der sowjetischen Führung. Kasparow war das egal. Er spielte nicht einfach gegen Karpow, er rannte gegen ihn an, aggressiv, skrupellos – und zermürbte ihn schliesslich. Nach 48Partien ohne Sieger wurde der Wettkampf abgebrochen und sieben Monate später als Schachweltmeisterschaft 1985 fortgesetzt. Kasparow gewann diesen Kampf und wurde mit 22 Jahren der jüngste Schachweltmeister aller Zeiten.

Als Kasparow 1997 gegen Deep Blue verlor, war er 34 Jahre alt und immer noch Schachweltmeister. Zuvor hatte er erklärt, dass eine Maschine es nie schaffen würde, den Menschen im Schach zu besiegen. Bis dahin war es ihm auch mühelos gelungen, gegen die Maschinen zu gewinnen. Bereits 1989 hatte er sich erfolgreich gegen einen Computer namens Deep Thought behauptet. Doch dann hatte IBM Research das Team übernommen, das Deep Thought entwickelt hatte, und diesem enorme Ressourcen für die Weiterentwicklung des Rechners zur Verfügung gestellt. Als Kasparow im Februar 1996 gegen den Nachfolger von Deep Thought antrat, gewann der Rechner denn auch das erste Spiel. Doch Kasparow drehte auf, ging aus drei Spielen als Sieger hervor, erzielte zwei Unentschieden und entschied das Match für sich. Der Mensch hatte noch einmal gegen die Maschine gesiegt.

Doch Deep Blue, der dritten Inkarnation des Computers, gelang es schliesslich, Kasparow vom Thron zu stossen. IBM hatte massiv in Rechenkraft investiert. Experten nennen das die «brute force»-Taktik. Der Computer war in der Lage, 200 Millionen Züge pro Sekunde zu berechnen. Dafür arbeiteten 30Rechnerknoten nebeneinander, die mit je 120Prozessoren bestückt waren. Diese Rechnerarchitektur erreichte 1997 (für damalige Verhältnisse) sagenhafte 11,38Gigaflops, war also in der Lage, über elf Billionen Gleitkommaoperationen pro Sekunde zu berechnen. Zu viel für Garry Kasparow.

Das erste Spiel des Matchs hatte Kasparow noch gewonnen. Im zweiten wurde er von Deep Blue besiegt, die folgenden Spiele endeten unentschieden, bis Deep Blue das sechste und entscheidende Spiel gewann. Der Computer eröffnete das Spiel mit dem weissen Bauern von e2 nach e4. Kasparow wählte, sehr untypisch für das «Biest von Baku», eine vorsichtige Strategie: die sogenannte Caro-Kann-Verteidigung. Er schob den schwarzen Bauern von c7 nach c6. Kasparow, einer der besten Kenner von Eröffnungen, wusste genau, dass diese Eröffnung für ihn schwierig werden würde – es sei denn, Weiss machte einen Fehler, und darauf setzte er wohl. Denn Weiss kann bei dieser Eröffnung seinen Vorteil nur behaupten, wenn ein Pferd geopfert wird. Und Computer neigten damals dazu, materialistisch Schach zu spielen, das heisst, sie versuchten, den Verlust einer Figur möglichst zu vermeiden. Doch Deep Blue kannte wohl die entscheidende Seite im Buch über Eröffnungen und opferte das weisse Pferd. Wenige Züge später fand sich Kasparows König auf einem Feld gefangen. Kasparow musste den König verteidigen und kam nicht mehr dazu, anzugreifen. Bereits nach 18Zügen gab er auf. Die Maschine hatte den Menschen besiegt.1

Kasparow tobte. Er beschuldigte IBM, geschummelt zu haben. Der Computer habe im zweiten Spiel im 37.Zug gespielt, wie das nur ein Mensch könne. Die Programmierer hätten den Computer folglich unzulässig unterstützt. Auf der Pressekonferenz erklärte Kasparow, die Partie erinnere ihn an das berühmte Tor, das der argentinische Stürmer Diego Maradona gegen England im Viertelfinalspiel der Fussballweltmeisterschaft 1986 erzielt hatte. Fernsehbilder bewiesen damals, dass Maradona den Ball nicht mit dem Kopf, sondern mit der Hand ins Tor gelenkt hatte. Maradona sprach später von der «Hand Gottes». Kasparow warf den Programmierern vor, die «Hand Gottes» zur Hilfe genommen und sich unzulässig manuell ins Spiel des Rechners eingemischt zu haben.

Nach dem Match verlangte Kasparow deshalb von IBM die Veröffentlichung der Computerlogs, auf denen zu sehen war, was der Computer während des Spiels gerechnet hatte. Dass IBM sich lange weigerte, diese Logs herauszugeben, schürte den Verdacht, Kasparow könnte recht haben. Doch Feng-Hsiung Hsu, einer der Konstrukteure von Deep Blue, widersprach Kasparow später in einem Buch vehement. Er konnte belegen, dass Deep Blue schlicht schneller rechnen konnte. Mittlerweile sind auch die Computerlogs verfügbar. Sie belegen, dass 1997 alles mit rechten Dingen zugegangen ist. Der Computer hatte den Menschen besiegt.2

Oder hatte Kasparow einfach nur einen schlechten Tag? «Kasparow hat gegen den Computer so defensiv gespielt, wie ich ihn noch nie erlebt habe», erklärte Vizeweltmeister Viswanathan Anand gegenüber dem deutschen Nachrichtenmagazin Der Spiegel.3 Kasparow habe nicht sein Schach gespielt, sondern ein «Anti-Computer-Schach. Er hat versucht, Spielverläufe zu verhindern, bei denen die Maschine erfahrungsgemäss besonders gut spielt.» Er wollte die Maschine offenbar mit Spielzügen beschäftigen, für die es in der abgespeicherten Schachbibliothek keine Antwort gab. «Das ist effektiv, aber langweilig.» Auf diese Weise habe Kasparow Stellungen provoziert, «die der Rechner nicht mehr kapiert – Kasparow allerdings auch nicht». Die Niederlage Kasparows könne nur einen Grund haben: «Nicht die Maschine, er selbst hat sich besiegt, weil er zu viel Respekt hat oder zu nervös ist.» Kasparow selbst sah das freilich anders. Noch eineinhalb Jahre nach der verlorenen Schachpartie gegen Deep Blue warf er IBM in einem Interview mit der französischen Zeitung Libération vor, den Schachcomputer manipuliert, «in jeder Beziehung gemogelt» und illegale Methoden benutzt zu haben.4

Warum machte dieses eine Match in Manhattan so grosse Schlagzeilen? Warum wollte Kasparow seine Niederlage um keinen Preis eingestehen? Warum das Theater? Der Computer Deep Blue hatte Garry Kasparow nicht in irgendeinem Spiel besiegt, sondern im Schach, dem königlichen Spiel, dem, wie Stefan Zweig in der Schachnovelle schreibt, «einzigen unter allen Spielen, die der Mensch ersonnen, das sich souverän jeder Tyrannis des Zufalls entzieht und seine Siegespalmen einzig dem Geist oder vielmehr einer bestimmten Form geistiger Begabung zuteilt».5 Schach sei viel mehr als ein Spiel, es sei eine Wissenschaft, eine Kunst! Und ausgerechnet in diesem Spiel hatte der Computer den besten menschlichen Spieler besiegt.

Vor diesem Hintergrund wird Kasparows Zorn verständlich. Es war nicht einfach die Wut eines besiegten Manns. Es war die Wut des von der Maschine bezwungenen Menschen per se, es war eine Kränkung. Kasparows Niederlage am 11.Mai 1997 steht für mich deshalb sinnbildlich für die digitale Kränkung der Menschheit, eine Kränkung, die sich seither 100-fach, 1000-fach, millionenfach wiederholt hat.

Dieser digitalen Kränkung ist dieses Buch gewidmet. Dass Kasparow das Schachmatch 1997 verlor, beleidigte nicht einfach ein grosses Ego (das wohl auch), es war stellvertretend eine Kränkung der ganzen Menschheit, weil der Computer den Menschen in jenem Punkt übertroffen hatte, von dem der Mensch bis dahin davon ausgegangen war, dass er ihn ausmacht. Der Computer hatte den Verstand, oder, wie Stefan Zweig schreibt, sogar den Geist eines Menschen besiegt.

Seit der Antike gilt der Mensch als «animal rationale». Das ist die lateinische Übersetzung der Definition des Menschen von Aristoteles als «zoon logon» echon, als Vernunftwesen.6 Damit hob Aristoteles die Denkfähigkeit des Menschen als jene Eigenschaft hervor, die ihn vom Tier unterscheidet. Immanuel Kant ging vor 250 Jahren noch einen entscheidenden Schritt weiter: Er bezeichnete den Menschen als «animal rationabile», also als potenziell vernunftbegabtes Wesen. Erst die Verwirklichung seiner Vernunftfähigkeit mache den Menschen aus. 1784 schrieb Kant seinen Essay «Beantwortung der Frage: Was ist Aufklärung?» Er beginnt mit den berühmten Sätzen: «Aufklärung ist der Ausgang des Menschen aus seiner selbstverschuldeten Unmündigkeit. Unmündigkeit ist das Unvermögen, sich seines Verstandes ohne Leitung eines anderen zu bedienen.» Der mündige Mensch zeichnet sich dadurch aus, dass er sich «seines Verstandes ohne Leitung eines anderen» bedienen kann. Kant fordert deshalb: «Sapere aude! Habe Mut, dich deines eigenen Verstandes zu bedienen!»

Der Mensch zeichnet sich also durch seinen Verstand aus, durch seine Ratio. Und jetzt kommt da so ein Computer und besiegt den besten Schachspieler der Welt. Damit zeigt der Computer, dass seine Fähigkeit dem Verstand des Menschen zumindest im Schachspiel überlegen ist. Weil Schach aber als Spiel des Verstands gilt, wird aus dem Sieg des Schachcomputers über Kasparow der symbolische Sieg der Maschine über den Verstand des Menschen.

Das bedeutet nichts weniger, als dass sich der Mensch nicht mehr auf den Verstand berufen kann, wenn es darum geht, was den Menschen ausmacht. Insofern neigt sich das Zeitalter der Aufklärung dem Ende zu und wir brauchen ein neues Menschenbild. Ein Menschenbild, das sich nicht mehr auf den Verstand als jene Instanz beruft, die den Menschen ausmacht.

Dieser Behauptung gilt es im Folgenden auf den Grund zu gehen. Dabei stehen folgende Fragen im Zentrum:

–Was bedeutet es genau, dass die Menschheit gekränkt wurde? Was ist eine Kränkung und was löst diese Kränkung aus?

–Wenn der Computer den Menschen besiegt und ihn damit kränkt, was bedeutet das für die künftige Entwicklung? Wo stehen wir in der Entwicklung von Computern oder genereller: von Maschinen und in welche Richtung werden sie sich weiterentwickeln?

–Wenn der Computer den Menschen generell «besiegt», ihn also überflügelt – ersetzt er ihn dann künftig in Arbeitsprozessen? Werden wir alle arbeitslos? Und sehen die Menschen dieser Ersetzung durch den Computer einfach zu?

–Und schliesslich: Was bedeutet das für unser Menschenbild, wenn uns Computer und Roboter überflügeln und ersetzen? Was macht künftig den Menschen noch aus, wenn der Computer ausgerechnet das dem Menschen abnimmt, worüber er sich in den letzten 250 Jahren definiert hat?

War der Sieg von Deep Blue über Garry Kasparow also wirklich ein Wendepunkt in der Geschichte oder ist es nur eine spannende Episode?

AUSGESPIELT

Es war definitiv keine Episode. Heute mögen wir über Kasparows heiligen Zorn lächeln. Wir merken nicht einmal mehr, wie unsere Computer uns demütigen: Wir haben uns damit abgefunden. Denn Computer haben sich so rasch weiterentwickelt, dass Leistungen wie die von Deep Blue längst alltäglich sind. Der Grossrechner, der Kasparow 1997 besiegte, war so gross wie ein Familienkühlschrank und hatte eine Rechenleistung von 11,38Gigaflops. Heutige Mobiltelefone leisten etwa das 50-Fache. Wir alle tragen also etwa 50 Deep-Blue-Rechner in der Westentasche herum, Rechner, die jederzeit in der Lage sind, uns nicht nur im Schach zu schlagen. Wir tragen sie mit uns herum und bilden uns ein, dass wir sie beherrschen. Wir verdrängen die digitale Kränkung, die Kasparow damals noch so wütend gemacht hat – oder wir haben sie akzeptiert.

Noch 2002 erklärte Kasparow gegenüber dem Spiegel, dass Computer zwar immer cool bleiben und rasend schnell rechnen können, aber um wirklich gut Schach spielen zu können, brauche es mehr. «Wenn sie in bestimmten Endspielen Wendungen erzwingen können, spielen sie wie Gott – fehlerlos. Dennoch glaube ich, dass ich derzeit mit taktischen Manövern gute Chancen habe, gegen die Maschine zu gewinnen.»7 In einigen Jahren werde das vielleicht bei einem längeren, ermüdenden Wettkampf nicht mehr so sein. «Aber auf absehbare Zeit wird der beste Schachspieler immer mal eine Partie gegen den Computer gewinnen. Darauf kommt es an. Auf diese eine Partie, in der wir Menschen uns durch Kreativität durchsetzen – solange das geht, sind wir noch vorn.»8

Doch in vielen Bereichen gelingt genau das nicht mehr: Der Computer hat mittlerweile die jeweils besten menschlichen Spieler in praktisch jedem Spiel besiegt.

In einem ersten Schritt hat sich der Computer Spiele datenmässig komplett einverleibt. Ein Beispiel dafür ist Dame. Schon früh haben sich Computerwissenschaftler für das Spiel mit 24Steinen auf einem schachgleichen Brett, das in Amerika «Checkers» heisst, interessiert. 1994 brachte es ein Damecomputer namens Chinook zum Weltmeister: Er besiegte den amtierenden Titelträger Marion Tinsley, einen Mann, der jahrzehntelang die Welt des Damespiels beherrscht hatte. Wie Kasparow im Schach war Tinsley in Dame nicht einfach Weltmeister, sondern der mit Abstand beste Spieler der Welt.

Hinter Damecomputer Chinook stand Jonathan Schaeffer, Computerwissenschaftler an der Universität von Alberta in Edmonton, Kanada. Seit 1989 beschäftigte sich Schaeffer mit Dame und gab seinen Computern den Befehl, das Spiel zu lösen. Diese kalkulierten jeden möglichen Spielzug durch – eine herkulische Aufgabe. Über 18 Jahre lang arbeiteten die Rechner. 2007 war es dann soweit: Schaeffer erklärte, das Damespiel sei gelöst. Der Computer kannte nun jeden möglichen Spielzug und konnte nicht mehr verlieren. Selbst bei perfektem Spiel des Gegners holen die Rechner aus jeder Situation mindestens ein Unentschieden heraus. Das heisst nicht, dass der Computer intelligent wäre: Er simuliert die Spielintelligenz nur – für den Menschen ist das Resultat aber dasselbe. Er hat keine Chance mehr im Spiel. Game over.9

Es gibt Spiele, die sich auf diese Weise nicht lösen lassen. Die amerikanische Quiz-Show Jeopardy ist so ein Fall: Das Spiel beruht auf Konversation und Um-die-Ecke-Denken. Den drei Kandidaten, die um Geld spielen, werden nicht einfach Fragen gestellt. Sie erhalten Schlüssel in Form von Antworten präsentiert und müssen dazu eine passende Frage formulieren. Das ist ganz schön schwierig. Der Schlüssel lautet zum Beispiel: «Er hat die Dampfmaschine erfunden.» Die Lösung, also die passende Frage darauf, lautet: «Wer war James Watt?» Dank sogenannter Künstlicher Intelligenz (KI) sind Computer aber in der Lage, so clever auf grosse Wissensdatenbanken zuzugreifen, dass sie auch in diesem Spiel den besten menschlichen Spielern den Rang ablaufen. Im Februar 2011 besiegte IBM-Supercomputer Watson, ein Nachfolgeprojekt von Deep Blue, die beiden Jeopardy-Champions Brad Rutter und Ken Jennings.

Verglichen mit der Aufgabe, der sich Supercomputer Watson stellen musste, war das Schachspiel von Deep Blue ein Kinderspiel. Deep Blue konnte sich auf zwei Dinge verlassen: auf eine riesige Datenbank mit Schachstellungen und auf seine Rechenpower, die es ihm erlaubte, mögliche Schachzüge in Sekundenbruchteilen durchzurechnen. Watson hingegen benötigt mehr als nur Speicher und Rechenkraft. Er braucht etwas, das man bei einem Menschen als Intelligenz bezeichnen würde. Der Computer muss Sprache interpretieren, Bezüge schaffen, eine Antwort finden und diese Antwort dann zu einer Frage umformulieren. Anders gesagt: Es geht um Sprachverständnis und Weltwissen, kombiniert mit Intuition – und jeder Menge Hintersinn. Denn das Fernsehquiz ist bekannt für «launige Fragen voller Anspielungen und verdrehter Logik», wie der Spiegel schreibt.10 Ein Beispiel: «Der Name dieses Hutes ist elementar, mein lieber Kandidat!» Menschen hören daraus eine Anspielung auf den berühmten Satz von Sherlock Holmes «mein lieber Watson!» und erinnern sich daran, dass er immer eine seltsame, karierte Mütze mit Augen- und Nackenschirm sowie Ohrenklappen trug. Wenn sie jetzt noch wissen, dass es sich dabei um eine Jagdmütze handelt, die «Deerstalker-Mütze» heisst, ist es ihnen möglich, eine passende Frage zu formulieren. Menschen können mit ihrem Wissen auf diese Art und Weise spielen. Aber wie soll ein Computer Anspielungen, ja Ironie verstehen?

Dazu kommt, dass das grösste Computergedächtnis der Welt nichts nützt, wenn man die Frage nicht richtig versteht. Menschen haben keine Probleme, eine Frage zu beantworten wie: «Chile teilt seine längste Grenze mit diesem Land.» Computer tun sich hingegen schwer damit, weil es keine Datenbank gibt, in der sie die Antwort sofort finden. Sie müssen «denken». IBM-Chefwissenschaftler David Ferrucci und sein Team haben deshalb einen ganz neuen Weg eingeschlagen: Sie haben Watson das Wissen, das er braucht, nicht von Hand eingeträufelt, sondern ihn selbstständig lernen lassen. Ein wichtiges Instrument dabei ist die Statistik: Watson merkt sich häufige Verbindungen und kann auf diese Weise zum Beispiel mit mehrdeutigen Wörtern umgehen. Wenn in der Umgebung des Worts «Kiwi» von Joghurt oder von Löffel die Rede ist, handelt es sich wohl um die Frucht. Wenn dagegen das Wort «Nest» oder «fressen» vorkommt, dann meint «Kiwi» den Vogel.

Rohmaterial für das statistische Lernen findet der Computer problemlos, zum Beispiel im Internet. Auf diese Weise «lernt» er, dass Boote sinken können, aber nicht in einem Swimmingpool – es sei denn, es handelt sich um ein Spielzeugboot. Neues Wissen zerlegt Watson in seine Bestandteile und überprüft, ob es zu dem passt, was er sich schon gemerkt hat. Das ist maschinelles Lernen. Und das kann auch schiefgehen. «Künstliche Intelligenz voller Vorurteile: Algorithmen fallen immer öfter durch Rassismus und Sexismus auf», berichtete etwa die NZZ.11 Selbstlernende Algorithmen lernen anhand von Vorbildern, die sie in der Welt (meistens im Internet) finden. Das führt dazu, dass sich die Maschinen auch Vorurteile und Werturteile aneignen, die sie zum Beispiel im Internet vorfinden – und die sind oft sexistischer und rassistischer Natur.

Beim Jeopardy-Spielen zerlegt Watson die Frage in ihre Bestandteile und sucht in seinen Datenbanken nach möglichen Lösungen. In einem ersten Schritt trägt er alle möglichen Lösungen zusammen. In einem zweiten Schritt überprüfen Hilfsprogramme die Lösungen auf ihre Plausibilität. Wie wahrscheinlich ist die Lösung? Stimmen die Zeitangaben? Watson sortiert nach Wahrscheinlichkeit und streicht, was nicht passt, bis er auf die wahrscheinlichste Lösung gestossen ist. Mit anderen Worten: Watson antwortet nicht einfach, er überprüft vorher, ob die Antwort auch zutreffen kann.

Gegenüber der New York Times erklärte David Ferrucci: «Unser Ziel war der Computer aus Star Trek, mit dem ein intelligenter Suchdialog möglich ist, ein Computer, dem man Nachfragen stellen kann und der alle möglichen Fakten sucht und selbst nachfragt.»12 Drei Tage dauerte das Jeopardy-Quiz zwischen Brad Rutter und Ken Jennings und der Maschine. Am ersten Tag lagen Menschen und Computer noch gleichauf. Doch das änderte sich rasch. Am Ende des dritten Tags hatte Watson dreimal so viele Punkte auf seinem Konto wie die beiden menschlichen Spieler.

Watson beeindruckte die Experten und das Publikum wunderte sich. Trotzdem machte der Jeopardy-Sieger im Februar 2011 lange nicht so dicke Schlagzeilen wie sein Vorgänger Deep Blue 14 Jahre zuvor. Allen Beteiligten war klar, dass Watson das Verstehen von Sprache und damit die Intelligenz nur simuliert hatte. Er hatte keine Vorstellung von Sherlock Holmes und seiner Mütze, sondern fand nur die Wörter in der richtigen Konstellation in seinen Datenbanken. Anders als Garry Kasparow waren Ken Jennings und Brad Rutter auch nicht wütend oder zornig. Sie nahmen die Niederlage sportlich. Hatten die Menschen eingesehen, dass die Computer keine Gefahr für sie sind? Oder hatten sie sich bereits daran gewöhnt, von Computern herausgefordert – und geschlagen – zu werden?

Als komplexestes Spiel der Welt gilt das asiatische Brettspiel Go. Bis vor Kurzem gingen auch Experten davon aus, dass es einem Computer nie gelingen würde, den Menschen darin zu schlagen. Denn Go lässt sich nicht berechnen wie Dame und eine blosse KI reicht auch nicht aus, um das Spiel zu beherrschen. Mittlerweile ist der Computer aber in der Lage, die Funktionsweise des menschlichen Gehirns zu imitieren, und zwar mithilfe sogenannter Künstlicher Neuronaler Netze (KNN). Auf diese Weise ist es dem Experimentalcomputer AlphaGo von Google am 9.März 2016 in Seoul gelungen, den 33-jährigen Südkoreaner Lee Se-dol, den besten menschlichen Go-Spieler, spektakulär zu schlagen.

Go ist vor über 3000 Jahren in China entstanden. Zwei Spieler kämpfen mit schwarzen und weissen Steinen auf einem Brett, das aus 19 mal 19Linien besteht, um Territorium. Go ist viel komplexer als Schach, hat viel mehr mögliche Spielzüge und setzt nicht nur strategisches Denken, sondern auch Instinkt und Psychologie voraus. Trotzdem hatte der Computer von Google gegen Lee Se-dol nicht etwa knapp gewonnen, sondern ihn mit 5:0 förmlich vom Platz gefegt.

«Ich bin sehr überrascht, ich hätte nicht gedacht, dass ich verliere», erklärte Lee nach dem Spiel. «Ich wusste nicht, dass AlphaGo ein so perfektes Go spielen wird.»13 Anders als Garry Kasparow, der 20 Jahre zuvor wütend aus dem Raum gestürmt war, behielt aber auch Lee die Contenance und nahm die Niederlage hin. 2016 hatten sich die Menschen schon daran gewöhnt, dass ihnen Computer in vielen Dingen überlegen sind.

Es besteht kein Zweifel: Der Sieg von Deep Blue über Garry Kasparow war kein Zufall. Es war der Anfang vom Ende der verstandesmässigen Vorherrschaft der Menschen. Der Mensch hat ausgespielt.

DIE DIGITALE KRÄNKUNG

Das Schachspiel zwischen Garry Kasparow und Deep Blue 1997 wurde also zum symbolischen Ur-Fall dessen, dass die Maschine den Menschen besiegte. Für Kasparow war die Niederlage ein Schlag ins Gesicht: eine Kränkung.

KRÄNKUNGEN DER MENSCHHEIT

Der Begriff der Kränkung geht auf Sigmund Freud zurück. Vor etwa 100 Jahren hat er die Idee der narzisstischen Kränkung entwickelt und in Trauer und Melancholie (1917) beschrieben. Es handle sich um eine «Verletzung eines anderen Menschen in seiner Ehre, seinen Gefühlen und seiner Selbstachtung», mit anderen Worten um eine «Verwundung der seelisch-psychischen Integrität».14

Was heisst das genau? Der österreichische Psychiater, Psychotherapeut und Neurologe Reinhard Haller beschreibt die Kränkung als «nachhaltige Erschütterungen des Selbst und seiner Werte».15