Menschliches Denken und Künstliche Intelligenz E-Book

Matthias Pfeffer

• Herausgeber: Verlag J.H.W. Dietz Nachf.
• Kategorie: Geisteswissenschaft
• Sprache: Deutsch

Seitenzahl: 231

Veröffentlichungsjahr: 2021

Beschreibung

"Intelligente" Maschinen umgeben uns überall. Doch was macht digitale Technik mit uns, was macht Künstliche Intelligenz mit unserer Vernunft? Verstehen wir, wie sie uns dient, aber auch beherrscht? Nein! Und diese Unklarheit ist gewollt, sagt Matthias Pfeffer. Was wir von Künstlicher Intelligenz erwarten dürfen und was wir heute tun müssen, damit wir morgen noch selbstbestimmt leben können – davon handelt dieses Buch. Es ist eine Einladung, über die Verführungskraft intelligenter Technologien nachzudenken. Und eine Aufforderung, Künstliche Intelligenz nicht ohne menschliches Denken einzusetzen. Ob autonome Autos oder autonome Waffen – die Anwendungsbereiche Künstlicher Intelligenz sind enorm und werden unser Leben auch in Zukunft immer stärker bestimmen. Aber kann eine Maschine überhaupt autonom sein? Und was ist mit der These, dass die Menschen irgendwann durch eine überlegene Superintelligenz abgelöst werden? Wenn wir uns diesen beängstigenden Fragen nicht aktiv stellen, kann es irgendwann zu spät dafür sein. Eine freiheitliche Demokratie, die hier passiv bleibt, läuft Gefahr, eines Tages von der Macht Digitaler Konzerne und ihrer intelligenten künstlichen Helfershelfer übernommen zu werden. Dagegen hilft nur kritisches Denken. Von Menschen für eine menschliche Welt.

Leseprobe

MEINEM VATER WERNER PFEFFER (1936 – 2021)

Verstehen, was ist.

Bibliografische Information der Deutschen Nationalbibliothek Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie; detaillierte bibliografische Daten sind im Internet über http://dnb.dnb.de abrufbar.

ISBN 978-3-8012-0617-8 (Printausgabe)

ISBN 978-3-8012-7037-7 (E-Book)

1. Auflage 2021

Copyright © 2021 by

Verlag J.H.W. Dietz Nachf. GmbH

Dreizehnmorgenweg 24, 53175 Bonn

Umschlag: Ute Lübbeke | Designbüro Lübbeke Naumann Thoben, Köln

Satz: Rohtext, Bonn

E-Book-Herstellung: Zeilenwert GmbH, 2021

Alle Rechte vorbehalten

Besuchen Sie uns im Internet: www.dietz-verlag.de

INHALT

Einleitung

1Die beinahe Machtübernahme

2Das digitale Paradox

3Schafft sich die Menschheit ab?

4Von der Herrschaft durch Technik zur Herrschaft der Technik?

5Der Todesalgorithmus

6Das Täuschungsspiel

7Kein Halt, nirgends!

8Schnelles Rechnen, langsames Denken

9What is it like to be a bot?

10KI denkt nicht

11Zurück aus der Zukunft

12Das Gewicht der Welt

13Keine Freiheit unter dem Himmel – die Philosophie des himmlischen Friedens

14Der gekränkte Mensch

15Kommen wir zur Vernunft

16Regeln für den Maschinenpark

17Digitale Vernunft?

Danke für den Austausch der Gedanken

Über den Autor

Anmerkungen

Einleitung

»Dimidium facti qui coepit habet: sapere aude.«

»Wer begonnen hat, hat schon zur Hälfte gehandelt: Wage zu denken!« Horaz

Dieses Buch handelt von Ihnen, liebe Leserin, lieber Leser und von mir, dem Autor. Davon, wie wir als denkende menschliche Wesen in einer Zeit leben können, die dieses Denken immer stärker automatisiert und für eine angeblich überlegene Künstliche Intelligenz reklamiert. In der diese Künstliche Intelligenz bei ungebremstem und ungesteuertem Wachstum zu einer der größten Bedrohungen für uns werden kann. Und es handelt davon, was getan werden muss, damit wir und unsere Kinder und Enkel weiter in Freiheit und Selbstbestimmung leben können.

Geht es heute um KI, ist die Rede von einer Intelligenzexplosion der Maschinen, die zu einer künstlichen Superintelligenz führen kann. Ein Szenario, das nicht sicher, aber durchaus denkbar ist. Leider ist derzeit nicht ausgeschlossen, dass vorher die Implosion der menschlichen Vernunft erfolgt. Dafür gibt es jedenfalls schon mehr Anzeichen. Beide Szenarien hängen miteinander zusammen. Sie haben einen gemeinsamen Kern: die Krise der Vernunft, die sich zur Krise der Moderne und zur Krise des Menschen ausgewachsen hat.

Dabei geht es um die Frage, wer in Zukunft entscheidet, und wer die Kontrolle hat. Es geht um die Machtfrage. Eine immer mächtigere KI wirft das Kontrollproblem auf, und das auf zwei Ebenen: Sollte eine superintelligente KI geschaffen werden, was Fachleute zunehmend für möglich halten, steht die Menschheit vor dem Problem, ob sich diese KI überhaupt noch durch Menschen kontrollieren ließe, und wenn ja, wie. Sollte die Antwort darauf nein lauten, ist auch die Frage nach der Möglichkeit menschlicher Freiheit negativ entschieden, denn eine nicht kontrollierbare KI gewinnt gegen den Menschen jedes Spiel. Das Risiko, dass eine solche Superintelligenz geschaffen wird, mag heute noch gering sein, da ihre Folgen aber derart massiv wären, muss es untersucht und die Entwicklungen heutiger KI entsprechend so gelenkt werden, dass die Risiken möglichst beherrschbar bleiben.

Die zweite Ebene des Kontrollproblems, das KI aufwirft, muss uns ebenso beschäftigen, denn es gefährdet schon heute die Freiheit: Es geht um die Macht, die Unternehmen und Staaten durch KI über Menschen ausüben. Eine Macht, die die Demokratie weltweit bedroht und die eine Gegenreaktion erfordert. Es geht – dramatisch formuliert – um die beiden Szenarien einer potenziellen (Welt-)Herrschaft durch KI oder einer potenziellen (Welt-)Herrschaft der KI. Beide Ebenen bilden das politische Kontrollproblem der mächtigsten Technologie, die Menschen je entwickelt haben. Es sind Fragen, die wir heute beantworten und Entscheidungen, die wir heute treffen müssen, um morgen überhaupt noch Entscheidungen treffen zu können.

Auch wenn dieses Buch kritisch mit KI ins Gericht geht, so ist es doch nicht radikal technikskeptisch oder gar technikablehnend. KI kann auch viel Gutes ermöglichen: bessere Medikamente, bessere Maschinen, eine bessere Versorgung der Weltbevölkerung vor allem mit Wasser, Lebensmitteln und Bildung. Vielleicht gelingt es sogar, mit ihrer Hilfe viele der großen sozialen und politischen Konflikte unserer Zeit oder auch die größte derzeitige Herausforderung, die Klimakrise, besser zu lösen. Das alles setzt aber voraus, dass die Menschen die Kontrolle über sie behalten.

Die Frage, welche Richtung diese Technologie nehmen wird, ist offen. Fest steht allein, dass heute schon darüber entschieden wird.

Auch durch Sie. Denn Sie nehmen an dieser Debatte teil, ob Sie wollen oder nicht. Sei es als Nutzer der zahlreichen digitalen Dienste oder als Bürger, der sich um eine lebenswerte Zukunft sorgt. In jedem Fall als Mensch, dessen Vermögen, vernünftig zu denken und zu entscheiden, durch KI einem nie gekannten Stresstest ausgesetzt wird.

Deshalb will dieses Buch eine Aufforderung sein zum Denken und zum Engagement in der Demokratie, will Anstöße geben zum menschlichen Denken in Zeiten Künstlicher Intelligenz. Damit Sie und wir alle eine menschliche Zukunft haben können.

1 Die beinahe Machtübernahme

»Die Demokratie setzt die Vernunft im Volke voraus, die sie erst hervorbringen soll.«Karl Jaspers

Am 6. Januar 2021 hält die Welt den Atem an. Ein aufgebrachter Mob stürmt, angefeuert durch den eigenen Präsidenten, das Kapitol in Washington und damit das Herz der amerikanischen Demokratie. Viele der Teilnehmer filmen live und übertragen den Sturm auf Amerikas Demokratie über Facebook. Einige tragen die Videokameras montiert auf ihren Helmen. Der Facebook-Algorithmus schaltet dazu passende Werbung von Waffen und Militaria.1 Neben einem Sturmgewehr, einer schusssicheren Weste und Kisten voller Munition erscheint die Werbezeile: The survival gear that you are missing, Die Überlebensausrüstung, die Ihnen fehlt. Die Teilnehmer hatten zuvor ihre Pläne ganz offen in den einschlägigen Gruppenchats besprochen, dennoch traf die Eskalation die Polizei für die Weltöffentlichkeit erkennbar unvorbereitet. Der Facebook-Algorithmus zeigte sich weniger überrascht, er sah schon den Bedarf an weiteren Waffen und Material voraus und regierte mit entsprechender Werbung. Ist er doch darauf trainiert, die Absichten der Nutzer aus ihren Datenspuren herauszulesen und ihnen dann entsprechend passende Kaufangebote zu unterbreiten. Er weiß, was Sie brauchen, wenn Sie tagelang mit Gleichgesinnten den Sturm auf die Demokratie geplant haben, schließlich hat er selbst seinen Beitrag dazu geleistet.

Denn er kann noch viel mehr, als nur Werbung verkaufen: Er kann Menschen mit ähnlichen Ansichten erkennen, schon bevor sie selbst wissen, dass sie diese Ansichten haben. Und daraus Absichten machen. Durch das permanente Durchpflügen gewaltiger Datenbestände, das Erkennen von Mustern und die Bildung milliardenfacher persönlicher Profile kann er größeres Wissen über seine Datenlieferanten gewinnen, als diese selbst über sich haben, deshalb ihre Vorhaben, Wünsche und Gefühle besser verstehen als sie selbst und darum auch besser steuern. Durch gezielt verschickte Nachrichten und Beiträge kann er aus latentem Ärger über einzelne Angehörige von Bevölkerungsgruppen manifeste Fremdenfeindlichkeit machen, aus dem Ärger über bestimmte Politiker einen Hass auf die Demokratie. Bei diesem Prozess spielen Fakten kaum eine Rolle, sie sind sogar hinderlich. Der Algorithmus will Emotionen mobilisieren. Und er ist auf Steigerung aus, weil er Aufmerksamkeit gewinnen und nicht mehr abgeben will. Dabei hilft ihm eine zunehmende Polarisierung. Eine bestimmte psychische Disposition des Nutzers, die er aus dessen Daten herausgelesen hat, kombiniert mit anderen Datenpunkten reicht ihm aus, um ihn einschlägigen Gruppen vorzuschlagen, die ihn dort mit weiterem »passenden« Material versorgen. Ein radikaler Anführer, der den Ton vorgibt, hat sich dort schon längst gefunden: Er hat die meisten Likes der anderen Gruppenmitglieder eingesammelt, indem er den Ärger durch immer spektakulärere und unglaublichere »Enthüllungen« und emotionalisierende Aufrufe befeuert. Wenn er noch dazu selbst der Präsident ist, umso besser.

So hat sich die Eskalation der Proteste gegen das Ergebnis einer demokratischen Wahl in der wichtigsten Demokratie, die lange als Anführer der freien Welt galt, vor den Augen eines alles sehenden Algorithmus abgespielt, der dabei keineswegs passiv blieb: Ist er doch darauf trainiert, die Nutzer, die ähnlich ticken, zusammenzubringen, um gleich einer ganzen Gruppe ein passendes Produkt zu empfehlen und sie durch »Anstupsen« dazu zu bringen, es dann auch zu kaufen. An diesem Tag war die Zahl der entschlossenen potenziellen Käufer von Waffen und Militärausrüstung erfreulich hoch. Erfreulich für die Facebook-Algorithmen. Weniger erfreulich für die Demokratie.

Die Werbetreibenden konnten zufrieden sein: Ihre Botschaft erreichte eine zu hundert Prozent passende Zielgruppe, hatte doch der Algorithmus mitgeholfen, sie passend zuzurichten: Eine Gruppe von Menschen, die buchstäblich zu allem entschlossen war, vor allem dazu, Gewalt einzusetzen. Der Algorithmus hatte seinen unmerklichen, aber wesentlichen Beitrag dazu geleistet, diesen Werbeerfolg zu ermöglichen. Mission accomplished. Dass dabei kurzzeitig die Demokratie am Abgrund stand, wurde als Kollateralschaden in Kauf genommen.

Der gesellschaftliche Preis für ein solches Werbetool ist hoch, ihn zahlen am Ende alle. Denn der Algorithmus teilt die Bevölkerung in Gruppen und Grüppchen auf, je nachdem wo ihre Schwächen liegen und sie am leichtesten manipulierbar sind, und bestärkt sie dann in diesem Gruppendenken mit »passenden« Nachrichten. Eine Untersuchung zeigte nach den Ereignissen des 6. Januar, dass in den Tagen nach der Erstürmung die Gruppen der Trump- und Biden-Sympathisanten jeweils zwei völlig unterschiedliche Wirklichkeiten bei Facebook angezeigt bekamen.2 Das Ereignis wurde so zum Katalysator weiterer gesellschaftlicher Spaltung. Alles Folge eines Werbemodells, das auf Personalisierung setzt und dabei den gemeinsamen Grund von Überzeugungen, der die Basis von Gemeinsinn bildet, gezielt untergräbt. Und Folge von Algorithmen, deren Belohnungssysteme ausschließlich darauf programmiert sind, die Verweildauer der Nutzer und die Klickrate der Werbeanzeigen zu maximieren.

Ein Algorithmus, der alle überwacht und dabei die Strippen zieht, um die Überwachten in seinem Sinne zu lenken. Natürlich ist das eine Metapher. Die aber einen maßgeblichen Kern des neuen Überwachungskapitalismus trifft. So hat die amerikanische Autorin Shoshanna Zuboff das neue digitale ökonomische System bezeichnet, das die Daten der Nutzer sammelt und auswertet, um aus ihnen Verhaltensprognosen zu erstellen, die an den Warenterminmärkten der Aufmerksamkeitsökonomie hoch profitabel gehandelt werden.3 Doch wer ist der Algorithmus, und wenn ja, wie viele? Hinter diesen hochkomplexen Programmen lassen sich die Ziele der Unternehmen erkennen, die sie betreiben. Und einige von ihnen sind sehr tückisch. Man sollte glauben, dass sie ihr Ziel, die Klickrate zu erhöhen, um dadurch mehr Werbung zu verkaufen, lediglich dadurch verfolgen, dass sie dem Nutzer Informationen anzeigen, die er mag, damit er daraufklickt und das Produkt erwirbt. Das ist aber nur die Hälfte der Wahrheit. Im Online-Marketing werden sogenannte Bandit-(sic!)-Algorithmen, sowie Algorithmen für Reinforcement Learning (selbstverstärkendes Lernen) eingesetzt. Diese Algorithmen verfolgen nicht nur das Ziel, durch ihre Nachrichtenauswahl den Nutzer mit dem passenden Angebot zufriedenzustellen, sie versuchen vielmehr die Vorlieben der Nutzer so zu ändern, dass sie für den Algorithmus transparenter werden. Einem durchschaubaren Nutzer lassen sich die passenden Waren leichter verkaufen und am einfachsten durchschauen lassen sich Menschen mit radikalen politischen Ansichten. »Wie ein rationales Wesen lernt der Algorithmus, wie er den Zustand seiner Umgebung verändern kann, um die eigene Belohnung zu maximieren« so einer der weltweit führenden KI-Forscher über dieses perfide Modell.4 Demnach wäre die politische Radikalisierung der Bevölkerung nicht nur eine unbeabsichtigte Nebenfolge ungehemmten Online-Marketings – sie wäre ihr Ziel. Die Verdummung und Spaltung der Gesellschaft als Geschäftsmodell, das die reichsten Unternehmen der Welt immer mächtiger macht und die demokratische Ordnung dabei unterminiert.

Noch erfolgt das eigentliche »Strippenziehen« in den sozialen Netzwerken durch recht dumme Algorithmen. Doch auch sie sind Teil der »Künstlichen Intelligenz«, also von Programmen, die sich bei dem, was sie tun, »selbst« »verbessern«, jedenfalls aber selbsttätig verändern. Und die dabei immer besser werden, wenn es darum geht, ihre Ziele zu erreichen. Wenn schon die dummen Bandit-Algorithmen von Facebook die Demokratie an den Rand treiben, was haben wir dann von wirklich intelligenten Algorithmen zu erwarten? Bei den am weitesten entwickelten Künstlichen Intelligenzen ist ein Programmierer nicht mehr erforderlich. Sie programmieren sich selbst. Wer übernimmt dann die Verantwortung für das, was sie anrichten?

Nach dem Sturm auf das Herz der Demokratie war die Welt geschockt. Als die Ermittlungen begannen, wollte keiner dafür verantwortlich sein, auch diejenigen nicht, die sich doch bei der Erstürmung bildträchtig selbst in Szene gesetzt hatten. So tappte die Polizei, die unter den fünf Toten einen der ihren zu beklagen hatte, zunächst im Dunkeln. Nicht so der Mitarbeiter eines Werbeunternehmens, der einige Tage danach mit einem brisanten Datensatz in den Redaktionsräumen der New York Times auftauchte. Unterm Arm: über einhunderttausend exakte Standortdaten für Tausende von Smartphones, deren Besitzer sich am 6. Januar in der Nähe des Kapitols aufgehalten hatten. Exakte Bewegungsdaten von Trump-Anhängern, Randalierern, Passanten. Fast alle davon ließen sich den betreffenden Personen zuordnen, denen die Handys gehörten. Der Werbe-Whistleblower setzte die New York Times unter Druck, die Daten zu veröffentlichen, andernfalls werde er selbst bekannt machen, welche enorme Überwachungsmacht in den Diensten einer optimal geölten Werbemaschine inzwischen aufgebaut worden sei.

Die New York Times veröffentlichte die Geschichte. Sie schrieb, die Messdaten ermöglichten einen Blick auf das Geschehen des »dunklen Tages« im Stil des »Auges Gottes«. Die Daten konnten auch belegen, dass vierzig Prozent der Smartphones, die sich während Trumps aufstachelnder Rede in der Nähe der Kundgebungsbühne auf der Nationalmall befunden hatten, später während der Belagerung im Kapitol geortet wurden und geben damit einen Hinweis auf die Ursachen des Geschehens. Enormes Wissen – in den Händen der Werbeindustrie. »Unsere Privatsphäre der Regierung zu überlassen, wäre schon dumm genug. Noch heimtückischer ist jedoch der faustische Handel mit der Marketingindustrie, die jeden Standort-Ping in eine Währung verwandelt, da er auf dem Marktplatz der Überwachungswerbung gekauft und verkauft wird,« schreibt die New York Times. Der verständliche Protest gegen staatliche Überwachung laufe angesichts der kommerziellen Überwachungsmacht ins Leere: »Aber zu jedem anderen Zeitpunkt werden die Standortdaten von Hedgefonds, Finanzinstituten und Vermarktern überprüft, um mehr darüber zu erfahren, wo wir einkaufen und wie wir leben.«5

Die Gefahren, die solche Algorithmen bergen, und die Schäden, die sie anrichten, sind enorm, weil sie Milliarden Menschen auf der ganzen Welt beeinflussen. Sie erfordern, dass wir besser verstehen, wie sie funktionieren. Es ist wichtig, die unterschiedlichen Dimensionen dieses »faustischen Handels« zu beleuchten. Mit welchem Mephisto lassen wir uns ein, wenn wir mit den Instrumenten der Digitalisierung erkunden wollen, was die Welt im Innersten zusammenhält und wie wir uns in ihr orientieren können? Welchen Preis zahlen wir am Ende, wenn wir uns bedenkenlos in seine Hände begeben? Und lautet dabei die neue Gretchenfrage vielleicht: Wie hältst du’s mit der Demokratie?

Fest steht: Durch die immer feiner gesponnene Vernetzung aller Menschen mit allen Menschen, vor allem aber mit den datenhungrigen Riesenservern der Plattformunternehmen, haben sich Formen der Überwachung und Manipulation entwickelt, die längst nicht mehr nur das Konsumverhalten steuern. Die Sphäre der Öffentlichkeit, Garant und gleichzeitig Voraussetzung einer funktionierenden Demokratie, ist in den vergangenen Jahrzehnten durch eine ganze Reihe digitaler Technologien umgestaltet worden: durch Big Data, Cloud-Technologie, Internet of Things, Blockchain und vor allem durch Künstliche Intelligenz, die die gefährlichste Hochrisikotechnologie des 21. Jahrhunderts ist. Denn sie zielt direkt auf das Vermögen des Menschen, das Selbstbestimmung erst ermöglicht: Auf die menschliche Vernunft, die sie durch eine überlegene Künstliche Intelligenz ablösen will. Zumindest wollen das einige der Propagandisten einer schönen neuen digitalen Welt, die alles andere als schön sein wird, wenn sie sich durchsetzen.

Die digitale Transformation hat bereits weltweit Demokratien unter Druck gesetzt. Sah es noch vor einigen Jahren durch Bewegungen wie den Arabischen Frühling so aus, als würden durch die digitalen Möglichkeiten Demokratie und Selbstbestimmung befeuert, rücken seit einiger Zeit die negativen Effekte dieser Entwicklung immer mehr in den Fokus. Die digitale Organisation einer solchen Freiheitsbewegung allein kann offenbar nicht ihren nachhaltigen Erfolg sichern. Dazu bedürfte es eines Zusammenschlusses von Menschen, die sich langfristig engagieren, ihre Interessen in einem politischen Programm umzusetzen. Das Digitale kann einen solchen Zusammenschluss ermöglichen, es bietet aber keinen Ersatz für dauerhaftes Engagement und die institutionelle Absicherung erkämpfter Freiheiten. Demgegenüber funktionieren die Angriffe auf die Demokratie von innen wie außen durch Autokraten oder Populisten, durch Troll-Fabriken und Hacker digital umso besser.

Auch in Deutschland bekommen wir die Auswirkungen zu spüren. Nach einer Umfrage glauben nur noch weniger als die Hälfte der Deutschen, ihre Meinung frei sagen zu können.6 Unfreiheit als Lebensgefühl in einem der freiesten Länder der Welt. Die gefühlte Freiheit weicht immer stärker von der verfassungsmäßig garantierten Freiheit ab. Der Grund ist nicht staatliche Überwachung, sondern sind rüde Umgangsformen und durch die allgegenwärtigen »Shitstorms« erzwungene Konformität an einen vermeintlichen Mainstream. Jeder zweite Bürgermeister im Land hat damit inzwischen einschlägige Erfahrungen, immer mehr überlegen deshalb, ihr Amt aufzugeben. Die Mechanismen einer neuen automatisierten Öffentlichkeit unterminieren unmerklich, aber wirkungsvoll die Grundfeste der Demokratie. So hat sich die einst versprochene grenzenlose Freiheit des Cyberspace in ihr glattes Gegenteil verkehrt. Wir müssen erneut fragen: Wenn bereits die derzeitigen dummen und auf Werbeklicks getrimmten Algorithmen von Facebook und Co. die Demokratie an den Abgrund führen, was haben wir dann in den kommenden Jahren von den Systemen zu erwarten, die sich Künstlicher Intelligenz bedienen, die täglich leistungsfähiger werden und immer mehr Steuerungsaufgaben »autonom« bündeln können?

Und das Tempo dieser Entwicklung steigert sich zusehends, denn die Schlüsseltechnologie der Digitalisierung, die Künstliche Intelligenz, entwickelt sich immer schneller. Es ist denkbar, dass an die Stelle einer Herrschaft durch Technik, die wir heute bereits sehen, auch einmal eine Herrschaft der Technik tritt. Schließlich hören wir immer, dass KI dem Menschen überlegen sei und zunehmend eigene Entscheidungen treffen kann. Gerade deshalb wird sie ja überall eingesetzt. Um die menschlichen Schwächen, die in einer hoch technisierten Welt zum Risiko werden, zu beheben, um den Menschen selbst zu optimieren, diesen abgründigen und fehlerhaften Mutanten der Natur.

Und einige Fragen stellen sich ganz fundamental: Was passiert eigentlich mit unserem Denken, mit unserer Vernunft, wenn diese durch ihre eigene technische Erfindung übertroffen wird? Wird Homo Sapiens getrieben durch eine eigene Schöpfung zum Homo Digitalis mutieren und dabei seine Sapientia, seine Weisheit einbüßen? Wird er dadurch gar zum Homo Deus, zum Prothesengott seiner eigenen Schöpfung? Und was, wenn KI dann so etwas wie Vernunft und Bewusstsein entwickeln oder zumindest solche Phänomene erfolgreich simulieren kann? Oder bleibt das unmöglich? Und darauf zu vertrauen, dass es die KI schon richten wird, eine gefährliche Illusion?

Auf diese Fragen sucht das vorliegende Buch Antworten. Dafür lade ich Sie ein auf eine kurze Reise durch verschiedene Problemzonen der Künstlichen Intelligenz und der menschlichen Vernunft. Denn die menschliche Vernunft ist Schöpferin der Technologie, die ihr den Platz streitig macht. Sie hat dem Menschen den Aufbruch aus dem Reich der Natur in das der Kultur und Zivilisation überhaupt erst ermöglicht, allerdings auf diesem Weg auch unüberschaubar große Probleme erzeugt. Im Zeitalter der höchsten jemals entwickelten Technologie treten mit der Klimakrise, dem durch den Menschen verursachten Artensterben und gewaltiger sozialer Ungleichheit auf dem Planeten Probleme auf, die die Moderne verursacht hat, scheinbar aber mit eigenen Mitteln nicht in den Griff bekommt. Heute stellt sich die Frage, ob diese Probleme durch die Vernunft selbst geheilt werden können, die sie erzeugt hat, oder ob wir dazu das »Andere der Vernunft« brauchen, sei es in Gestalt einer technischen Superintelligenz oder einer unbegreiflich vernunftlosen höheren Macht.

Wollen wir dabei auf die Vernunft setzen, müssen wir zunächst konstatieren, dass sie derzeit weltweit auf der Anklagebank sitzt. Sie gilt weithin als Verursacherin der großen Probleme, kaum als Mittel zu deren Lösung. Im Westen herrscht seit einigen Jahren ein radikales Vernunft-Bashing, das mit dem Scheitern der revolutionären Hoffnungen in Paris 1968 einsetzte, vor allem befeuert durch postmoderne Philosophen wie Foucault, Derrida und Lyotard,7 fortgesetzt durch heutige Denker der Identitätspolitik linker wie rechter Provenienz. Die Vernunft wird darin als Verursacherin der Probleme gesehen, der kaum noch zugetraut wird, Teil der Lösung sein zu können.

Dieses Buch will einladen zum Denken. Denn das Denken ist nicht nur Werkzeug zum »Optimieren« von Wirtschaft und Technologie, sondern auch Mittel der Selbstbesinnung und Selbstbestimmung, von Kritik und schöpferischer Fantasie. Deshalb kann vernünftiges Denken auch helfen, diese Fragen zu beantworten. Und wenn wir nachdenken, können wir kaum anders, als die Vernunft einzusetzen. Genau betrachtet haben wir dazu nur unvernünftige Alternativen, die die Probleme mit Sicherheit vergrößern, aber kaum lösen würden.

Jetzt werden Sie fragen: Wo bleiben in diesem Szenario die enormen Möglichkeiten zur Verbesserung des menschlichen Lebens, die KI bietet? Sie sollen keinesfalls in Abrede gestellt werden. Die wichtigste positive Leistung von KI ist, dass sie uns helfen kann, uns selbst und die Welt, in der wir leben, immer besser zu verstehen. Aber das positive Potenzial, das KI in Verbindung mit anderen digitalen Technologien birgt, kann nur entfaltet werden, wenn wir verstehen, wie sie funktioniert und sie nach menschlichen Regeln entwickelt wird. Und wenn es gelingt, eine Möglichkeit zu entwickeln, sie auf Dauer zu kontrollieren. Das bedeutet auch: bestimmten unerwünschten Entwicklungen klare Grenzen zu setzen. Andernfalls könnte ihr negatives Potenzial sehr schnell die Oberhand gewinnen und künftige Generationen zwingen, nach ihren Regeln zu leben. Das wäre dann kein menschliches Leben mehr, jedenfalls kein Leben in Freiheit.

Haben wir also den Mut, vernünftig zu denken.

Denn wie sich zeigen wird, werden wir die Weisheit des Homo Sapiens weiter brauchen – auch und gerade im Zeitalter Künstlicher Intelligenz.

2 Das digitale Paradox

»Was machst du aus dem Denken.Das ist das Edelste, was der Mensch tun kann,und du machst es zu einem schmutzigen Geschäft.«Berthold Brecht, Turandot

Haben Sie sich schon einmal gefragt, warum in der Epoche, in der das größte je verfügbare Wissen für so viele Menschen wie nie zuvor zugänglich ist, immer mehr Zeitgenossen gegen offenkundige Fakten protestieren, warum gerade heute satt des Wissens die Dummheit zu wachsen scheint? Und haben Sie sich schon einmal gefragt, warum dieselbe digitale Technologie, die die Menschen über den ganzen Globus direkt miteinander verbinden kann, stattdessen zu Absonderung, Vereinzelung und zur Spaltung der Gesellschaft führt? Die bisher mächtigste digitale Technologie, die Künstliche Intelligenz, bedroht heute Demokratie, ebenso wie die Freiheit und das Denken. Dabei werden mit ihr doch so viele Hoffnungen verbunden. Wie ist es zu dieser paradoxen Situation gekommen?

Am Anfang stand der Traum von einem grenzenlosen neuen Reich des Geistes, der Freiheit und Selbstverwirklichung versprach. Das Internet war in seinen Anfangsjahren ein neuartiges Menschheitsversprechen, geeignet, endlich Wissen für alle zugänglich zu machen und alle Menschen direkt miteinander zu verbinden. Voraussetzung für ein neues Zeitalter, in dem Krieg, Ausbeutung und Ungleichheit endlich der Vergangenheit angehören, und eine universale Verständigung an ihre Stelle treten sollte. Soweit der ursprüngliche Traum.

Doch aus dem großen Freiheitsversprechen wurde ein Freibrief für marktbeherrschende Plattformunternehmen, die auch Verleumdung, Hass und Desinformation verbreiten. Sie konnten ein unvergleichlich profitables Geschäftsmodell etablieren, das im Fahrwasser der vorherrschenden neoliberalen Wirtschaftsideologie vor allem in den USA die Fähigkeit besaß, den Kapitalismus zum digitalen Überwachungskapitalismus zu transformieren, und das mittlerweile weltweit zu einer der ernstesten Bedrohungen der Demokratie geworden ist.

Um diese Entwicklung zu verstehen, muss man in die Entstehungszeit von Computer und Internet zurückschauen, ins Silicon Valley, in dem die neue Technologie von sinnsuchenden Hippies mit einem geradezu religiösen heilsgeschichtlichen Erlösungsversprechen aufgeladen wurde, das sie bis heute kennzeichnet. Dieses Erlösungsversprechen, verbunden mit der Ablehnung jeglichen Rechts, ist Grundfigur jenes Paradoxes, das hier kritisch beschrieben wird. Dass die Freiheitsbewegung der 1960er-Jahre Erfolge erzielt hat, soll dabei nicht geleugnet werden. Im Gegenteil: Wir verdanken ihr spürbare Freiheitszuwächse und gewaltige Kulturleistungen. Am Ende des kalifornischen Weges der Befreiung steht aber der digitale Überwachungskapitalismus und damit ein Nettoverlust an Freiheit. Deshalb ist es so wichtig zu verstehen, wie es dazu kam und was wir daraus für die aktuelle digitale Entwicklungsphase lernen können.

Das Silicon Valley liegt nicht nur räumlich in der Nähe der damaligen Hippiehochburg San Francisco. Es hat in der Flower-Power Gegenkultur der späten 1960er-Jahre auch seine geistigen Wurzeln. 1967 hatten sich jugendliche Vertreter des Anti-Vietnam-Protests in San Francisco versammelt, um Love, Peace und Happiness in alternativen Lebensformen zu erproben. Im Umfeld von Bands wie Grateful Dead und Jefferson Airplane sammelten sich auch Technikbegeistere, die die Ideale der Hippierevolte mit digitalen Mitteln verwirklichen wollten. Durch die neuen Kommunikationstechniken, mit denen erstmals jeder mit jedem direkt kommunizieren konnte, entstand ein völlig neuer Raum, den die Idealisten auf den Namen Cyberspace tauften und den sie als Reich paradiesischer Freiheit beschworen.

An die Stelle großer Rechenungetüme, wie sie IBM damals für Militär und Verwaltung baute, setzten sie ein Netzwerk aus kleinen, sogenannten Personal Computern, den PCs. Diese dezentrale Struktur stellten sie den zentralistischen Großrechnern von Staat, Militär und Industrie gegenüber, deren Macht sie brechen wollten. Die Utopie des freien, durch keinerlei Gesetze und Regeln gebrochenen Internet war geboren. Es fand seinen wirkungsvollsten Ausdruck in der Erklärung zur Unabhängigkeit des Internets, die der Viehzüchter und Grateful-Dead-Texter John Perry Barlow 1996 am Rande des Weltwirtschaftsforums in Davos veröffentlichte.8

Barlow fasste darin das Credo der Kalifornischen Ideologie zusammen, wie es seither in der Tech-Szene tradiert wird: Kein durch Parlamente verabschiedetes Gesetz sei für das Internet geeignet, auf Rechtsstaatlichkeit beruhende traditionelle Regierungsformen könnten »keine Souveränität haben, wo wir (die Akteure des Cyberspace) zusammenkommen«. Soweit Barlow. Aus den spontanen Handlungen der Einzelnen ergibt sich seiner Auffassung zufolge ganz von allein Harmonie im Großen – lediglich durch eine unsichtbare Hand gesteuert. Adam Smith sah noch den Markt als anonymen Akteur am Werk, der die Eigeninteressen der wirtschaftenden Subjekte zu einem Ganzen fügt, das alle Teilnehmer mit den optimalen Ergebnissen versorgt. Barlow hingegen macht die technische Infrastruktur selbst zum letztlich bestimmenden Ordnungsprinzip. Das Recht als demokratisch legitimiertes Prinzip des Zusammenlebens lehnt er radikal ab.

Im Anschluss daran gelang es der sogenannten Netzgemeinde viele Jahre, mit der Berufung auf das Recht auf freie Meinungsäußerung und Entfaltung der Persönlichkeit, jegliche demokratische Regulierung des Internets durch Kampagnen zu verhindern. In diesen Kampagnen erwies sich erstmals die Macht der neuen digitalen Gegenöffentlichkeit und sie erweist sich bis heute. Doch aus der ursprünglichen kritischen Gegenöffentlichkeit ist längst eine machtvolle neue digitale Öffentlichkeit entstanden, die nun zunehmend von ganz anderen Antrieben und einer gänzlich anderen Logik bestimmt wird.

Der macht- und staatskritische Ur-Impuls der kalifornischen Ideologie wuchs sich zu einer technologischen Ideologie aus: Immer mehr wurde behauptet, dass sich Probleme der Menschheit nur durch technische Mittel und nicht durch Politik lösen ließen. Es entstand ein technologischer Solutionismus, der eine überlegene Problemlösungskompetenz in allen Bereichen des Lebens für sich reklamierte. Und dabei spielte die Fantasie über das Entstehen einer Künstlichen Intelligenz eine immer stärkere Rolle. Denn diese Technik sollte dem Menschen überlegen sein und damit auch seiner bisherigen Praxis, mit Politik und Recht das Zusammenleben zu regeln.

Es war der erste Sündenfall in der Geschichte dieser mächtigen und bald weltumspannenden Technologie: Technik sollte an die Stelle des Rechts treten. Aus Kritik des Staates wurde eine Ablehnung des Rechts. Aus einem machtkritischen Impuls hatten ihre Vertreter ein anarchistisches Dogma gemacht, das die Voraussetzung für die rasend schnelle Entwicklung von Unternehmen schuf, die bald alle Bereiche der Wirtschaft und der Gesellschaft umwandeln und beherrschen sollten.

Damit sind wir beim zweiten Sündenfall des Digitalen: Der Verbindung von technologischer Macht mit einem neuartigen ökonomischen Modell, das einige wenige Unternehmen zu den heute am höchsten bewerteten und mächtigsten der Welt machte. Er geschah, als zwei junge Absolventen der Standford University auf den Plan traten, die für das neu entstandene immer schneller wachsende Internet das unverzichtbare Werkzeug entwickelt hatten: Eine Suchmaschine, die in Bruchteilen von Sekunden sicher durch den digitalen Ozean der Informationen zu navigieren versprach.

Sergey Brin und Larry Page hatten zunächst das Ziel verfolgt, durch Algorithmen Ordnung ins gerade entstehende Informationschaos zu bringen: Die Relevanz eines Treffers bei einer Suchanfrage sollte sich nach dessen Verlinkung mit anderen Seiten im Netz und damit nach einem »objektiven« Relevanzkriterium entscheiden. Um sicherzustellen, dass jeder Nutzer das fand, wonach er suchte, wurden die Daten der Nutzer aufgezeichnet. Sie sollten dem Algorithmus helfen, aus beiden Kriterien – Vernetzung mit anderen Seiten und persönliche Absichten des Nutzers – ein für jeden Einzelnen perfekt passendes Ergebnis anzuzeigen. Der Clou: Mit jedem Anklicken oder Überspringen eines Treffers durch die Nutzer lernte die Maschine hinzu, die User fütterten sie mit immer neuen Daten. Soweit das ursprüngliche Modell Googles, das man tatsächlich noch als »faire Suche« bezeichnen kann. Sammelt es die Daten der Nutzer doch lediglich, um die Wahrscheinlichkeit zu erhöhen, ein für diesen Nutzer relevantes Ergebnis anzuzeigen.