Prinzip Mensch E-Book

Paul Nemitz

• Herausgeber: Verlag J.H.W. Dietz Nachf.
• Kategorie: Geisteswissenschaft
• Sprache: Deutsch

Seitenzahl: 763

Veröffentlichungsjahr: 2020

Beschreibung

Mensch oder Algorithmus – Wer entscheidet im Zeitalter Künstlicher Intelligenz über unsere Zukunft? Überwältigend groß ist schon jetzt die Macht der digitalen Konzerne im Silicon Valley und damit die Bedrohung für Demokratie und Freiheit. Paul Nemitz und Matthias Pfeffer zeigen eindrücklich, wie die derzeitigen Versuche ethischer Regulierung von Künstlicher Intelligenz zu kurz greifen. Nemitz ist Mitglied der Datenethikkommission der Bundesregierung und war maßgeblich verantwortlich für die Einführung der EU-Datenschutzgrundverordnung. Pfeffer beschäftigt sich als freier TV-Journalist und Produzent mit dem Thema Künstliche Intelligenz. Die Autoren bieten eine genaue Analyse und legen dabei den Schwerpunkt auf die Rolle der Öffentlichkeit und die Gefährdung des Journalismus in digitalen Zeiten. Sie fordern die strikte Regulierung Künstlicher Intelligenz und eine Neubesinnung auf das Prinzip Mensch, das gegen das Prinzip Maschine verteidigt werden muss. Ihr Buch schließt mit klaren Handlungsempfehlungen an Politik, Zivilgesellschaft und insbesondere an die technische Intelligenz. Ihr Wissen wird dringend gebraucht, wenn wir dem Zangengriff von Technologie und Populismus auf die Demokratie entgehen wollen.

Leseprobe

Paul Nemitz / Matthias Pfeffer

PRINZIP MENSCH

Macht, Freiheit und Demokratie im Zeitalter der Künstlichen Intelligenz

Alle Fußnoten dieses Buches zum Anklicken und Weiterlesen aufwww.prinzipmensch.eu

Bibliografische Information der Deutschen Nationalbibliothek

Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie;

detaillierte bibliografische Daten sind im Internet über http://dnb.dnb.de abrufbar.

ISBN 978-3-8012-7018-6 (E-Book)

ISBN 978-3-8012-0565-2 (Printausgabe)

Copyright © 2020

by Verlag J.H.W. Dietz Nachf. GmbH

Dreizehnmorgenweg 24, 53175 Bonn

Cover: Petra Bähner, Köln

Satz: Jens Marquardt, Bonn

E-Book-Herstellung: Zeilenwert GmbH, 2020

Alle Rechte vorbehalten

Besuchen Sie uns im Internet unter: www.dietz-verlag.de

Inhalt

Cover

Titel

Impressum

Vorbemerkung

AEINLEITUNG: WARUM DIESES BUCH?

BKRITIK DER TECHNOLOGISCHEN MACHT

B 1Die Kontrolle technischer Macht als zentrale Funktion der Demokratie

1.1.Macht und Herrschaft – was ist das eigentlich?

1.2.Hans Jonas und das Vorsorgeprinzip als Element der Politikgestaltung

1.3.Der Soziologe Heinrich Popitz und die Phänomene der Macht

B 2Herrschaft durch Technik kommt vor der Herrschaft der Technik

2.1.Wann übernimmt die allgemeine KI oder eine Superintelligenz die Macht?

B 3Systemsicht der technisch beherrschten Zukunft

3.1.Das Internet als zentrales Vernetzungsmedium

B 4Die an das Internet anschließenden zehn Machttechnologien

4.1.Big Data

4.2.Cloud (Wolke) – der Ort der Verarbeitung und die Macht

4.3.Internet of Things – das Internet der Dinge (IoT) erweitert die Kontroll- und Steuerungsfähigkeit

4.4.Mobilfunk 5G erweitert die Anschlussfähigkeit des mobilen Internets

4.5.Satelliten, Drohnen und autonome Tötungsroboter

4.6.Blockchain

4.7.Künstliche Intelligenz

4.8.Hirn-Internet-Verbindung und biophysische Systeme

4.9.Virtual Reality (VR) und Augmented Reality (AR)

4.10.Quantencomputer und Quanteninternet

B 5Gesamtschau der an das Internet anschließenden Technologien und die Analyse der Macht der GAFAM-Konzerne

B 6Machtkonzentration in der Hand des digital-technologisch-wirtschaftlichen Komplexes

B 7Geschäftsmodelle der Tech-Giganten

7.1.Die starke Kritik an GAFAM in den USA

7.2.Die Geschäftsmodelle der digitalen Konzerne

7.3.Google

7.4.Apple

7.5.Facebook

7.6.Amazon

7.7.Microsoft

7.8.Google und Microsoft: Ausdifferenzierung der KI-Investitionsschwerpunkte Gesundheit, Mobilität und mobiles Bezahlen

B 8Die acht Quellen der Macht des technologisch-wirtschaftlichen Komplexes

8.1.Die GAFAM-Unternehmen sind die wertvollsten und reichsten der Welt

8.2.Akkumulation persönlicher Datenprofile und Verhaltensvorhersagen über alle Menschen

8.3.Die Netzwerk- und Lock-in Effekte der Plattformökonomie

8.4.Dominanz bei der systemintegrierenden Innovation im Bereich der KI

8.5.Aufkaufen, Imitieren oder Verdrängen konkurrierender oder anschließender Innovation

8.6.Politische Einflussnahme

8.7.Kontrolle der elektronischen Öffentlichkeit und des Journalismus

8.8.Ideologie der totalen technischen Machbarkeit

CDAS WELT- UND MENSCHENBILD DES DIGITALEN KOMPLEXES

C 1Die Kalifornische Ideologie

1.1.Zum Ideologiebegriff

1.2.Stewart Brand und der Whole Earth Catalog – Technik statt Politik

1.3.John Perry Barlow und die ungebrochene Freiheit des Internet

1.4.Mehr Technologie wagen! Die Demokratiefeindlichkeit bei Peter Thiel

1.5.Ray Kurzweil: Technik an Stelle des Menschen oder Écrasez GAFAM!

C 2Die drei Quellen der Kalifornischen Ideologie

2.1.Kybernetik

2.2.Darwinismus und Sozialdarwinismus

2.3.Neoliberale Spieltheorie

C 3Dataismus und Sozialdataismus – die Kalifornische Ideologie heute

3.1.Was bedeutet das »Ende des Außen« für unsere Analyse?

3.2.Die Aushöhlung von Sprache, Selbstbestimmung und Demokratie und ihre Folgen

3.3.Konfuzius und die große Harmonie

C 4Internet als Religion, KI als Gott

4.1.An ihren Daten sollt ihr sie erkennen

4.2.Der Gottmensch als Superheld der GAFAM-Meistererzählung

C 5Kritik des Menschenbilds und Weltbilds der Kalifornischen Ideologie

5.1.Wo bleibt die Erfindung der Zukunft?

DWIE GAFAM RECHT UND DEMOKRATIE UNTERMINIEREN

D 1Wie GAFAM eine Kultur der Verachtung der Demokratie und des Rechts befördern

1.1.Freiwilligkeit statt verbindliches Recht, private statt staatliche Kontrolle

1.2.Ein hippokratischer Eid für Ingenieure wäre gut, reicht aber nicht

1.3.Wie die GAFAM durch den Bitkom den Staat raushalten wollen

1.4.Wie der durch die GAFAM angeschobene Ethikdiskurs die gesetzliche Regulierung der KI verzögert

1.5.GAFAM bilden mit der NSA eine Private Public Partnership der Überwachung

1.6.Kein Wahlkampf ohne Facebook und Google

1.7.Die GAFAM wollen selbst die Regeln setzen

1.8.GAFAM wollen eine eigene Gerichtsbarkeit

1.9.Die zwei Schulen der Selbstregulierung in Amerika

D 2Gesetze verhindern oder weichspülen, wo es nur geht

2.1.Der Kampf gegen das NetzDG

2.2.Der Kampf gegen Datenschutzgesetze in den USA und in Europa

2.3.Der Instrumentenkasten der Lobby gegen das Gesetz

2.4.Lieber kein Gesetz als ein schlechtes Gesetz

2.5.Der Test des Erdoğan

2.6.Keine horizontale Gesetzgebung – nur Spezialgesetze

2.7.Befristung von Gesetzen und lange Übergangsfristen bis zum Inkrafttreten

D 3Gesetze gelten nicht für uns

3.1.Dauerhafter Kampf gegen Gesetze vor Gericht

EÖFFENTLICHKEIT UND DEMOKRATIE

E 1Strukturwandel der Öffentlichkeit

1.1.Strukturwandel der Öffentlichkeit 2.0: Vermachtung und Personalisierung zerstören die Öffentlichkeit

1.2.Journalismus als vierte Gewalt – ein Zukunftsmodell?

1.3.Öffentlichkeit 2.0: Demokratie im Zangengriff von Populismus und Technologie

E 2Vermachtung und Automatisierung zerstören die demokratische Öffentlichkeit

2.1.Allmächtige Algorithmen?

2.2.Vom Volksempfänger zum Volksverstärker

2.3.Der Puppenspieler, nicht die Puppe!

2.4.Macht und Gewalt im digitalen Raum

2.5.Niedergang der Zeitungen, Aufstieg der Social-Media- und Video-Plattformen

2.6.Wie Google und Facebook mit News-Initiativen Macht über Medien erhalten und Ideenklau betreiben

2.7.Automatisierter Journalismus als Zukunftsmodell?

2.8.Von DeepMind zu Deep Fake

E 3Fake News - Schafft sich die Wahrheit ab?

3.1.Gefühlte Fakten

E 4Sucht und Manipulation

4.1.Manipulation/Design for Persuasion

4.2.Aufmerksamkeit in der Systemtheorie

E 5Ein neues Naturrecht - ohne Rechte

FGEGENENTWURF UND SELBSTVERGEWISSERUNG

F 1Demokratie braucht Öffentlichkeit und Autonomie

F 2Was heißt »sich im Denken orientieren«?

2.1.Zwei Elemente der Autonomie: Subjektivität und Rationalität

2.2.Humanismus

2.3.Humanismus heute

F 3Vom Prinzip Verantwortung zum Prinzip Mensch

3.1.Der Januskopf der Technik

3.2.Das Prinzip Verantwortung

3.3.Das Prinzip Verantwortung heute

3.4.Das Problem der Prognosen und die Heuristik der Furcht

3.5.Prinzip Verantwortung heißt die Demokratie im technischen Zeitalter sichern

F 4Exkurs zu Rawls: Der unsichtbare Schleier um das Digitale

F 5Philosophische Alternativen zum technologischen Absolutismus

5.1.Humboldt-Brüder als Inspiration

5.2.Lernen von der Quantentheorie?

5.3.Kritische Theorie des Digitalen

5.4.Adornos Flaschenpost

GWAS TUN?

G 1Können wir auf die Demokratie in Amerika hoffen?

1.1.Lawrence Lessig: Von Code and Other Laws zur »wehrhaften Demokratie«

1.2.Lernt Silicon Valley dazu? Können wir auf Selbstregulierung der GAFAM hoffen?

1.3.Der Weltkonzern als Staat im Staate? Brad Smith, Microsoft, die digitale Souveränität und die Demokratie

1.4.Mehr Einsatz von Open Source und kein Staat im Staate

1.5.Das digitale Innovationsmodel des »Minimal Viable Product« kann nicht auf die Demokratie übertragen werden

G 2Aktive Demokratie und Technologiepolitik

2.1.Unabhängigkeit von Journalismus und Wissenschaft als Pfeiler der Demokratie sichern

2.2.Transparenz der Wahlwerbung im Internet einheitlich gesetzlich regeln

2.3.Forschungs- und Industriepolitik: Edge Computing und ein neues mobiles Betriebssystem als Beispiele der Chancen von 5G und KI

2.4.Gemeinwohlorientierung in zukünftigen technisch-ökonomischen Strukturen sichern: Datentreuhänder und Plattformen im öffentlichen Interesse

G 3Was tun gegen Machtkonzentration bei den GAFAM-Unternehmen?

3.1.Wettbewerbsrecht und Behördenstrukturen reformieren

3.2.Die Prinzipien des Verfassungsstaates als Vorbild für die Kontrolle technischer Macht

3.3.Gewaltenteilung im modernen Verfassungsstaat als Vorbild für die Einhegung digitaler Macht im Zeitalter der KI

3.4.Von der Netzneutralität zur Plattformneutralität

3.5.Von der Gewaltenteilung im Staat zum Trennungsprinzip für GAFAM-Plattformen

3.6.Interkonnektivitätspflicht für Messenger und soziale Netze, um den Netzwerkeffekt zu brechen

G 4Ethik und Recht, um sicherzustellen, dass die KI dem öffentlichen Wohl dient

4.1.Das Wesentlichkeitsprinzip hilft bei der Bestimmung der notwendigen gesetzlichen Regelungen

4.2.Rechtstaatlichkeit, Grundrechte und Demokratie im Design der KI

4.3.Die Bindung an das Recht und das Legalitätsprinzip als Prinzip der Kontrolle technischer Macht

4.4.Die DSGVO reguliert KI bei der Verarbeitung persönlicher Daten

4.5.Wir brauchen eine regelmäßige Überwachungsgesamtrechnung

4.6.Nichtdiskriminierung und Verbraucherschutz

G 5Die Zukunft des KI Rechts

5.1.Die EU DSGVO ist ein Beispiel für technikneutrales und innovationsoffenes Recht

5.2.Was für Menschen rechtswidrig ist kann für KI nicht rechtmäßig sein

5.3.Grundsätze der Technikregulierung, des Arzneimittelrechts und der Chemikalienregulierung

5.4.Eine Renaissance und Intensivierung der Technikfolgenabschätzung auf drei Ebenen

5.5.Empfehlung der Datenethikkommission umsetzen – in Deutschland und der EU

G 6Netzneutralität und Datenschutz: USA fragmentiert, Europa einheitlich – Die Stärke des EU-Binnenmarktes

G 7Schutz der Whistleblower und Unterstützung der Selbstorganisation von Mitarbeitern der GAFAM

G 8Entwicklung von Kontrolltechnologien für Datenverarbeitung und KI

G 9Wahrheitspflicht: Schluss mit den Lügen von GAFAM gegenüber Regierungen und Parlamenten

G 10Die Finanzmärkte: Von ESG zu demokratie- und rechtsstaatstreuer KI als Investitionsobjekt

G 11Die Zukunft der Kontrolle der technischen Macht im Zeitalter der KI

G 12Die neue Verantwortung der technischen Intelligenz

G 13Nachwort: Das Buch, ein Werk der Freundschaft

Endnoten

Literatur

Register

Über die Autoren

Vorbemerkung

Liebe Leserin, lieber Leser,

dieses Buch wurde in der Vor-Coronazeit geschrieben.

Nur kurz können wir unmittelbar vor Drucklegung auf den Einschnitt eingehen, den die Corona-Pandemie für unsere Zeit markiert. Sie hat die Sprache um den Begriff der »Infodemie« bereichert. So bezeichnete die Weltgesundheitsorganisation WHO die Verbreitung von Fake News rund um das Virus, die virale Falschmeldungen im doppelten Sinne sind.

Für Prinzip Mensch haben wir die Grundlagen von Infodemien im digitalen Zeitalter sowie ihr Gefährdungspotential für Demokratie und Freiheit schon analysiert, bevor der Begriff aufkam.

Unser Buch beschäftigt sich mit einem Weltbild, das der Digitalisierung zugrunde liegt und das mit »Künstlicher Intelligenz« Technik an die Stelle des Menschen setzen will, um Natur und Gesellschaft zu »optimieren«. In Wahrheit aber dient diese Ideologie, wie sich zeigen wird, vorrangig einem digitalökonomischen Komplex bei seinem Versuch, die Gesellschaft zu steuern und zu beherrschen.

Dass es jedoch nicht möglich ist, die Zukunft vollständig zu berechnen, weil, wie der Philosoph Hans Jonas sagte, jede solche Berechnung am unberechenbaren »Faktor X« scheitere1, beweist einmal mehr die weltweite Covid-19-Pandemie. Sie zeigt, dass die Menschen heute wie seit jeher mit Unbekanntem rechnen und auch bei unvollständigem Wissensstand bestmöglich verantwortungsvoll handeln müssen. Das Nicht-Wissen des Wissens des Sokrates ist deshalb dem vorgeblichen Allwissen einer »Künstlichen Intelligenz« noch heute überlegen.

Gerade die Corona-Krise lehrt, dass wir unsere Entscheidungen angesichts des Nicht-Wissens der Zukunft nicht Maschinen überlassen können. Vielmehr sind gerade in der technisierten und globalisierten Welt menschliche Vernunft und Verantwortung gefordert. Die Corona-Krise belegt auch, dass wir in einer globalen »Risiko-Gesellschaft« leben, wie der Soziologe Ulrich Beck sagte, und dass wir gerade heute mehr in die Abschätzung und Erforschung von Zukunftsrisiken investieren müssen.

Dabei geht es auch um die Zukunft der Demokratie. Sehr schnell wurde die Bekämpfung der Pandemie zu einem Wettkampf der Systeme umgedeutet. PR und Propaganda versuchten den Menschen einzureden, nur ein autokratisches zentral gesteuertes System sei zu den einschneidenden Maßnahmen fähig, die die Verbreitung des Virus eindämmen könnten. Eine vollständige Überwachung des Verhaltens der Bevölkerung mittels der Bewegungsprofile, die unsere Mobiltelefone ermöglichen, sei nötig, um das Virus erfolgreich zu bekämpfen.

Doch Viren lassen sich auf Dauer, ebenso wenig wie der Klimawandel, nicht durch Methoden autoritärer Systeme wie Fake News und Totalüberwachung stoppen. Rationales und verantwortungsvolles Handeln ist vielmehr gefragt. Die demokratische Öffentlichkeit ist in dieser Krise als Ort der Meinungsbildung und der Kritik des Regierungshandelns gefordert wie nie. Nur in ihr können sich die Bürger der Fakten vergewissern, um demokratische Entscheidungen zu ermöglichen und zu kritisieren, und dadurch jederzeit lernfähig bleiben. Dabei erscheint sie durch die jahrelange digitale Disruption derzeit eher geschwächt. Die Krise zeigt damit, wie essenziell eine funktionierende Öffentlichkeit für Freiheit und Demokratie ist. Die Akzeptanz der einschneidenden Maßnahmen zum Seuchenschutz, gerade wenn sie Grundrechte vorrübergehend einschränken, zeugt von einer Rückkehr der Vernunft, die sich in einer freien Öffentlichkeit artikuliert. Nur in ihr wird sich auch die ebenfalls für Demokratie essenzielle Kritik formulieren, sollten die Einschränkungen nicht verhältnismäßig und angemessen sein oder nach Abklingen des Virus nicht zurückgenommen werden. Eine durch intransparente Marktlogik gesteuerte digitale Öffentlichkeit ist zu all diesen Aufgaben nicht ohne Weiteres in der Lage. Demokratische Gesellschaften, so wird immer deutlicher, müssen sich eine wirksame Herdenimmunität gegen die viralen Gefährdungen ihres elektronischen Nervensystems zulegen. Sie müssen insbesondere in einer austarierten Balance die Sphäre der Öffentlichkeit gegen die Feinde der Demokratie immunisieren, ohne die Freiheit der Meinung preiszugeben.

In der Medizin bezeichnet die Krise die Phase im Krankheitsverlauf, in der sich entscheidet, ob der Patient überlebt. Durch die Corona-Krise wird deutlich, dass die Selbsterhaltung der Menschen auf Vernunft und Freiheit auf Solidarität angewiesen sind. Die Zukunft ist offen. Um sie zu bewältigen, brauchen wir menschliche Intelligenz und menschliche Werte. Künstliche Intelligenz schafft lediglich künstliche Werte. Sie ist eine Chance, birgt aber auch Risiken, die Bill Gates mit denen der Atomkraft verglichen hat2, und die in ihrem Gefährdungspotential für die freie Gesellschaft dem Virus in nichts nachstehen. Die Risiken der KI müssen wir deshalb erforschen, ihre möglichen Folgen bewerten und dann mit auf Vernunft beruhenden, demokratisch legitimierten Regeln einhegen.

Manchmal in der Geschichte ist mit einer Gefahr tatsächlich auch das Rettende gewachsen. Das setzt menschliches Lernen voraus. So könnte im besten Fall die Welt nach Corona nicht nur eine andere, sondern auch eine bessere sein.

Brüssel und München im März 2020

A

Einleitung: Warum dieses Buch?

Das Buch handelt von der Macht in Zeiten der Künstlichen Intelligenz (im Folgenden: KI). In unübersichtlichen Zeiten also. Es zeigt auf, was die neue technische Macht bedeutet für die Freiheit der Menschen und für unsere Demokratie. Unsere Ausgangsüberlegung ist dabei, dass KI nicht isoliert, sondern vielmehr in einem ganz bestimmten Kontext betrachtet werden muss: der Konzentration von wirtschaftlicher Macht und digital-technologischer Macht. Die Analyse von KI erfordert einen ganzheitlichen Blick auf Geschäftsmodelle dieser digitalen Technologien und auf die Macht, die heute durch sie ausgeübt wird. Der Aufstieg der Technik und der mit ihr verbundenen Kontroll- und Manipulationsmacht führt nach unserer festen Überzeugung zur Notwendigkeit, sich neu auf das Prinzip Mensch zu besinnen, darauf, dass der Mensch den Nutzen dieser Technik hat, dass er sie kontrolliert, und dass eine humane, vom Menschen bestimmte Zukunft, möglich bleibt.

Dieses Buch wählt deshalb einen zweifachen Zugang zu der komplexen Thematik:

1.Wir stellen zunächst die Analyse der Macht in den Mittelpunkt: Die Verknüpfung der unterschiedlichen digitalen Technologien in der Hand der Konzerne, die das Internet beherrschen, und des Staates. Durch das rasante Tempo der technischen Entwicklung entfaltet sie eine eigene Dynamik, die demokratische Prozesse herausfordert.

2.Sodann schlagen wir eine Selbstvergewisserung des Denkens über Freiheit und Demokratie vor. Die Philosophie kann einen Beitrag leisten, wenn sie erkennt, dass das Zeitalter festgefügter Weltbilder zwar unwiderruflich vorbei ist, dass aber ihr Rückzug auf Spezialistentum und strenge Wissenschaftlichkeit genau das preisgäbe, was Jürgen Habermas als ihren wesentlichen Kern bezeichnet: Ihr Proprium, nämlich ihren Beitrag zur »rationalen Klärung unseres Selbst- und Weltverständnisses«. Sie sollte also am »holistischen Bezug auf unser Orientierungsbedürfnis«1 festhalten. Orientierung tut heute not.

Denn Technik, wirtschaftliche und politische Macht gehen eine immer engere Symbiose ein. Die digitale Technik weiß mehr über den Menschen und die Welt als dieser über sich selbst. Sie erhält immer mehr Entscheidungskompetenzen. Beides führt zu einer massiven Asymmetrie von Wissen und Macht im Verhältnis von Mensch und Maschine.

Die klassischen Handlungs- und Entscheidungsmodelle von demokratischen Gesellschaften werden durch solche Entwicklungen peu à peu ausgehebelt. Es stellt sich auf neue Weise die Frage nach der Kontrolle der technischen Macht. Wer entscheidet künftig? Und, wie Shoshana Zuboff weiter fragt: »Wer entscheidet, wer entscheidet?«2

Die Gestaltungsmacht durch Technologie ändert sich gerade grundlegend. Für die fundamentalen geistigen und kulturellen Konzeptionen, auf denen moderne Gesellschaften beruhen, ist das ein echter Stresstest. Und er ist unumgänglich. Da wir mit den derzeitigen Umbrüchen durch KI und Quantencomputer bereits die zweite Stufe der digitalen Revolution erleben, lohnt es, einen Blick zurück auf den Beginn des digitalen Zeitalters zu werfen – um zu verstehen und zu lernen, warum sich die großen Hoffnungen, die damit verbunden waren, überwiegend nicht erfüllt haben.

In dieser zweiten Revolutions-Phase, in der wir aktuell stecken, können wir uns Fehler, wie sie in den Anfangstagen der digitalen Technologie und des weltweiten Internets begangen wurden, nicht mehr erlauben. Technologie und Wissen scheinen förmlich zu explodieren. Manche sprechen von einer exponentiellen Entwicklung. In naher Zukunft könnte das in eine ganz neue – unbeherrschbare – Qualität umschlagen.

Dem stehen die bewusst verlangsamten Abläufe deliberativer Demokratien gegenüber. Verlangsamt deshalb, weil die Erfahrung gezeigt hat, wie wichtig es ist, bei Fragen menschlicher Herrschaftsausübung in Demokratien Reflexion und Diskussion verbindlich einzubeziehen, bevor sich Meinungsbildung und Entscheidungen verfestigen. Eine Folge dieser Einsicht besteht auch in der Gewaltenteilung.

Wenn Technik Fakten schafft und wenn sie sich schneller entwickelt, als Demokratien entscheiden, heißt das dann, dass in diesem Hase-und-Igel-Spiel mit Sicherheit die Technik gewinnt? Gibt es sogar eine eigene Entwicklungslogik der Technik, die irgendwann vielleicht immun ist gegen demokratische Steuerung? Heute schafft die Technik Fakten in einem Tempo, dass sich die Machtfrage allein schon dieses Tempos wegen zu ihren Gunsten entscheiden könnte.

Wir glauben, dass die Frage danach, wer in Zukunft herrscht und wer die Entscheidungen trifft, heute gestellt werden muss. Wer sie im Sinne der Demokratie beantworten will, muss die Vertreter von Technik und Demokratie neu ins Gespräch bringen.

Wir wissen, dass wir dabei auf den Schultern von Giganten stehen: Immanuel Kant, Jürgen Habermas und, ja, auch Edward Snowden, ohne dessen Mut die Welt vielleicht nie erfahren hätte, wie intensiv die mächtigsten Überwachungsmaschinen, die Menschen je erdacht haben, uns alle schon heute beobachten und manipulieren. Der Titel des Buches verrät außerdem: Ganz ausdrücklich haben wir auch an Hans Jonas und Ernst Bloch gedacht. Zwei Exilanten im Leben und im Denken, die mit ihren Werken Prinzip Verantwortung und Prinzip Hoffnung die Autoren in ihrer Jugend geprägt haben. Dieses Buch will analysieren, orientieren und ein Appell sein. Deshalb mündet es in eine Reihe konkreter Handlungsempfehlungen für die Politik in Deutschland und Europa.

Zum Schluss dieser Vorrede noch eine Bitte an Sie, liebe Leserinnen und Leser. In einer Hinsicht wird dieses Buch seinem Titel Prinzip Mensch zweifellos gerecht: Es ist nicht vollkommen und sicher nicht ohne Fehler. Es versteht sich als Anstoß und Anregung zu einer Diskussion über den Umgang mit den digitalen Technologien, nicht als Abschlussbericht.

Deshalb haben wir die Internetseite PrinzipMensch.eu eingerichtet, zu deren Besuch wir Sie herzlich einladen. Dort finden Sie auch alle Anmerkungen in den Fußnoten dieses Buches mit einem Klick zum Weiterlesen.

Schreiben Sie uns, wenn Sie Fehler entdecken, unseren Argumenten zustimmen oder wenn Sie ganz anderer Meinung sind. Freuen Sie sich oder ärgern Sie sich. Aber bleiben Sie menschlich, denn wir brauchen das Menschliche, gerade im Zeitalter sogenannter Künstlicher Intelligenz.

B

Kritik der technologischen Macht

»Der Ordnungen sind viel. Doch: wer ordnet?«

Antigone, Sophokles

Wie technologische Macht heute erworben und genutzt wird, ist wichtig zu verstehen. Ob und wie wir – sowohl die Individuen als auch die Entscheidungssysteme Markt und Demokratie – durch diese Macht beherrscht werden, entscheidet über den Grad unserer Freiheit und langfristig auch über den Wohlstand, in dem wir leben.

Vereinfacht wird man sagen können: Die Kontrolle technologischer Macht ist eine zentrale Funktion der Demokratie (B 1). Aber mit der Herrschaft der wirtschaftlichen Macht durch »ihre« Technik, die wir heute schon erleben, stehen wir vor jener Phase, in der die Technik selbst die Herrschaft übernimmt: nämlich die Herrschaft durch eine denkbare starke Künstliche Intelligenz, die sich selbst Ziele setzen kann. Mit beiden Formen der Herrschaft müssen wir uns heute dringend befassen. Es ist noch unklar, wann genau Systeme der Künstlichen Intelligenz, also die Technik allein, in der Lage sein werden, unmittelbar und bei einem denkbaren Kontrollverlust durch die Menschen Macht gezielt für ihre eigenen Zwecke auszuüben. Aber das Problem der Zentralisierung der technischen Macht, die sich der demokratischen Kontrolle zu entziehen strebt, ist schon heute dramatisch (B 2).

Wir brauchen eine Systemsicht auf die technisch beherrschte Zukunft (B 3). Die muss beginnen mit einer Analyse der zentralen 10 Technologien der digitalen Macht, die an das Internet anschließen (B 4). Ihre Gesamtschau zeigt uns ihr Machtpotential (B 5).

Sodann wenden wir uns dem Problem der Machtkonzentration in der Hand des digital–technologisch–wirtschaftlichen Komplexes zu (B 6).

Die Technologieunternehmen Google, Amazon, Facebook, Apple und Microsoft, die sogenannten Schrecklichen Fünf1, oder GAFAM, sind heute die teuersten und mächtigsten Unternehmen der Welt. Ihre Geschäftsmodelle (B 7) beeinflussen auf die eine oder andere Weise das Leben von uns allen. Wie sie ihre Macht gewinnen und wie sie sie nutzen, zeigt ein Überblick der acht Quellen ihrer Macht (B 8), zu denen auch die Ideologie der totalen technischen Machbarkeit, die Kalifornische Ideologie, gehört.

B 1- Die Kontrolle technischer Macht als zentrale Funktion der Demokratie

Unser Interesse an der Kritik der technologischen Macht geht aus von der Sorge um die Funktionsfähigkeit der Demokratie im technologischen Zeitalter.

Wir müssen zunächst verstehen, was Technologie eigentlich mit Demokratie zu tun hat, und deutlich machen, worauf unsere Sorge gründet, technologische Entwicklungen könnten ein Problem werden für die Funktionsfähigkeit der Demokratie.

Das Nachdenken über die Macht der Technologiekonzerne und die Nutzung der Technik durch Regierungen, allen voran die chinesische Regierung, gibt uns Anlass, das, was über Macht und Herrschaft geschrieben wurde, noch einmal zu lesen.

1.1.Macht und Herrschaft – was ist das eigentlich?

Max Weber, Hannah Arendt, Talcott Parsons, Heinrich Popitz2 und Jürgen Habermas3 haben zu Macht und Herrschaft geschrieben.4

Max Weber sagte:

»Macht bedeutet jede Chance, innerhalb einer sozialen Beziehung, den eigenen Willen auch gegen Widerstreben durchzusetzen.«5

Herrschaft ist für Max Weber eine Steigerung von Macht, und zwar in dem Sinne, dass die Befolgung des eigenen Willens durch andere deshalb sicher ist, weil sie durch Institutionen und Recht sichergestellt wird.6

Hannah Arendts Definition der Macht ist dagegen kommunikativ:

»Macht entspringt der menschlichen Fähigkeit, nicht nur zu handeln oder etwas zu tun, sondern sich mit anderen zusammenzuschließen und im Einvernehmen mit ihnen zu handeln.«7

Ihr Modell der kommunikativen Verständigung zielt nicht auf eine Macht, die Selbstzweck ist und instrumentalisiert werden kann. Nach Arendts Verständnis ist das Ziel der Macht nicht irgendein Erfolg, sondern die vernünftige Geltung universalisierbarer Ansprüche. Die Anerkennung dieser Geltungsansprüche ist durch vernünftige Gründe motiviert, nicht durch Gewalt und Zwang:

»Überzeugungen sind manipulierbar, nicht aber der Vernunftanspruch, aus dem sie subjektiv ihre Kraft ziehen.«8

Dieses unterschiedliche Verständnis von Macht als Chance und Macht als Herrschaft, um die Befolgung des eigenen Willens durch andere zu sichern, behalten wir im Hinterkopf, wenn wir uns nun dem Verhältnis von Technik, Macht, Herrschaft und Demokratie zuwenden.

Hans Jonas sprach in seinem Werk Das Prinzip Verantwortung: Versuch einer Ethik für die technologische Zivilisation9 von der kombinierten Macht technischer Innovation und ökonomischer Interessen, die vereint alle anderen Anliegen in einer Gesellschaft vom Tisch wischen können.

Er erinnerte an das Besondere der menschlichen Macht und die mit ihr verbundene Verantwortung:

»Groß ist die Macht von Tigern und Elefanten (…), größer noch die von Bakterien und Viren. Aber sie ist blind und unfrei (…). Nur beim Menschen ist die Macht durch Wissen und Willkür vom Ganzen emanzipiert und kann ihm und sich selbst verhängnisvoll werden. Sein Können ist sein Schicksal und wird immer mehr zum allgemeinen Schicksal. Also erhebt sich bei ihm, und ihm allein, aus dem Wollen selber das Sollen als Selbstkontrolle seiner bewusst wirkenden Macht (…)«.

Der Mensch, so Jonas, wird im technologischen Zeitalter »zum Treuhänder aller anderen Selbstzwecke, die irgend unter das Gesetz seiner Macht kommen«.10

1.2.Hans Jonas und das Vorsorgeprinzip als Element der Politikgestaltung

Jonas’ Prinzip Verantwortung legt die Grundlage des inzwischen zu einem Verfassungsprinzip europäischen Rechts aufgestiegenen Vorsorgeprinzips.11 Dieses besagt, dass wir dann, wenn eine Technologie möglicherweise langfristige, schwerwiegende Folgen für Mensch oder Umwelt haben könnte, harte Entscheidungen treffen müssen, um diese schwerwiegenden negativen Folgen morgen mit an Sicherheit grenzender Wahrscheinlichkeit zu vermeiden. Und zwar heute. Dafür müssen wir in die Wissenschaft der Technikfolgenabschätzung investieren. Und wir müssen uns emotional und politisch in die Lage versetzen, die notwendigen Entscheidungen auch wirklich heute treffen zu können.

Die Rezeptionsgeschichte dieses Buches zeigt, wie lernfähig Demokratie und Recht sind, und dass genau deshalb Jonas’ These von der alles dominierenden Herrschaft technischer Innovation und wirtschaftlicher Interessen nicht immer zutrifft. Ihm ist es wahrscheinlich tatsächlich gelungen, nicht nur das Denken, sondern die politische Realität zu ändern.

In der Demokratie wird eine ständige Auseinandersetzung darüber ausgetragen, was im Interesse des Gemeinwohls zu tun ist. Es ist heute denkbar, aber nicht unabwendbar, dass wirtschaftliche und technologische Innovationsinteressen in dieser Auseinandersetzung die Oberhand gewinnen. Dies ist insbesondere dann wahrscheinlich, wenn es den interessierten Unternehmen gelingt, zu zeigen, dass die von ihnen finanzierten und hervorgebrachten Innovationen dem Gemeinwohl dienen und andere Gemeinwohlanliegen, wie etwa Umweltschutz, Datenschutz, Grundrechte und Demokratie nicht geschädigt werden.

Solange die Auseinandersetzung über das Gemeinwohl mit Sachargumenten und an der Wahrheit orientiert ausgetragen wird, kann ein derartiges Ergebnis legitim sein, wenn die hoheitlichen Sphären von Recht, Demokratie und Menschenwürde gewahrt werden. Die wissenschaftliche Technikfolgenabschätzung ist das traditionelle Mittel, mit dem das Vorsorgeprinzip nach Hans Jonas angewendet wird.12

Nicht legitim ist es, wenn wirtschaftliche Macht und Technologie als Manipulations- und Druckmittel eingesetzt werden.

Mit der Komplexität einer Technologie, die immer schwerer zu verstehen ist, mit einer zweifelhaften Haltung zum Recht, ja einer Lügenkultur in einigen GAFAM-Unternehmen - so die amerikanische Wirtschaftsprofessorin Shoshana Zuboff 13 - und natürlich mit dem gewaltigen Geld in den Taschen dieser Unternehmen, wird die Versuchung jedenfalls in dieser Branche immer grösser, genau dies zu tun.

Demokratie und Freiheit benötigen Innovation und wirtschaftlichen Erfolg, nicht nur, um im Wettbewerb mit Diktaturen wie China zu bestehen, sondern auch, um politische Radikalisierung und Populismus abzuwenden. Arbeitslosigkeit, Armut und Prekarität der Arbeitsverhältnisse sind Grundlagen für ein Abgleiten in Populismus und Faschismus, das lehrt uns die Geschichte der Weimarer Republik.

Auch lehrt uns die jüngere Geschichte, insbesondere der Wahlsieg von Donald Trump in den Vereinigten Staaten und der Brexit in Großbritannien: Das Gefühl des Kontrollverlustes und des Beherrschtseins durch ein System technologischer und wirtschaftlicher Macht sowie ein mit diesem System verbundenes politisches Establishment leisten ebenfalls dem Populismus und antidemokratischen Tendenzen Vorschub.

Eine lebendige Demokratie, eine bleiben möchte, ist deshalb gut beraten, Innovation und wirtschaftliches Wachstum zu ermöglichen und so Wohlstand zu sichern und Armut und Arbeitslosigkeit zu vermeiden, ohne allerdings die politische Gestaltung der Gesellschaft in die Hand mächtiger wirtschaftlicher Interessen oder gar technischer Systembeherrscher zu legen. Die Menschen spüren, wenn nicht mehr die Demokratie herrscht, sondern ein System, worin sie und ihre Interessen keine angemessene Rolle mehr spielen und Manipulation, Halbwahrheiten und Lügen die Debatte dominieren.

Es steht außer Frage, dass technische Innovationen wie das Internet und die Künstliche Intelligenz große Gemeinwohlpotentiale mit sich bringen. Wir alle nutzen diese Technologien, ja lieben sie zum Teil, und sind von ihnen abhängig. Man stelle sich die Informationssuche heute vor ohne Internetsuchdienste. Das Internet und die Künstliche Intelligenz sind Technologien, die in vielen Bereichen das Potential haben, die Produktivität zu steigern, und damit dem Gemeinwohl dienen können. Gesamtwirtschaftlich ist allerdings die Steigerung der Produktivität durch das Internet und die Digitalisierung bisher nicht nachweisbar. Das wird damit erklärt, dass die Produktivitätsgewinne bei einigen großen Unternehmen stark konzentriert sind und bei anderen, vor allem kleinen und mittleren, gar nicht oder erst viel später auftreten.14

Dass durch Technologie Macht ausgeübt wird, steht außer Frage und ist an sich nichts Neues. Die Entwicklung der Waffentechnik ist das beste Beispiel. Auch Kommunikationsmittel und Netzwerke sind Machtinstrumente.

Der Rechtshistoriker und Jurist der Free Software Bewegung, Eben Moglen, beginnt seine Snowden Lectures15 mit dem Hinweis auf das erste technische Netzwerk der Macht: das römische Straßennetz. Denn über diese Straßen marschierten nicht nur die römischen Legionen. Parallel wurden auch Informationen schneller und verlässlicher durch Signalposten übermittelt als je zuvor. Macht war schon im römischen Reich auch Informationsmacht.

Die Frage, die wir uns mit Blick auf die Demokratie heute stellen müssen, ist, ob die Konzerne des Internets bereits auf eine Art und Weise herrschen, die mit Demokratie nicht mehr vereinbar ist, oder ob uns eine derartige Herrschaft bald bevorsteht, weil die Weiterentwicklung der Technologien und Geschäftsmodelle, die an das Internet anschließen, eine derartige Herrschaft in den Händen mächtiger Konzerne ermöglicht.

1.3.Der Soziologe Heinrich Popitz und die Phänomene der Macht

Dass die Entwicklung von Technologie zu einer im Prinzip unbegrenzten Steigerung von Macht führen kann und dass deshalb eine zentrale Aufgabe der Demokratie darin besteht, die Entwicklung von Technologie zu kontrollieren, hat der Soziologe und Politikwissenschaftler Heinrich Popitz dargelegt, und zwar in seinem Buch »Phänomene der Macht« von 1992:

»Die objektiven, objektivierten Bedingungen der menschlichen Existenz verändern sich in hochtechnisierten Gesellschaften radikal mit dem Umblättern des Kalenders. Wer heute über die technische Gestaltung unserer Lebensumwelt entscheidet, wer datensetzende Macht hat, kann in kürzester Frist ein unermessliches Ausmaß von Macht über unermesslich viele Menschen und eventuell (wie beim Bau eines Atomkraftwerkes) über unermesslich lange Zeiträume ausüben. Wir können den technischen Progress rückblickend konstatieren. Aber wir können nicht entscheiden, wie lange und wie weitgehend sich die Effizienz technischen Handelns noch weiter steigern wird. Unsere bisherige Erfahrung verweist uns auf kein Prinzip, aus dem sich eine solche Prognose ableiten ließe. Technisches Handeln scheint eine prinzipiell offene Fähigkeit des Menschen zu sein. Entsprechend können wir auch nicht wissen, bis in welche namenlose Regionen sich das Potential sozialer Macht noch weiter auftürmen lässt. Wenn technisches Handeln prinzipiell offen ist, dann ist auch die potentielle Gefährlichkeit des Menschen für den Menschen prinzipiell offen. An dieses Nichtwissen — ein Nichtwissen wahrlich fundamentaler Art — sollte man sich wohl erinnern, wenn man zukünftige gesellschaftliche Entwicklungen vorherzusagen versucht. Immerhin können wir mit großer Wahrscheinlichkeit für eine absehbare Zeit mit einer weiteren Zunahme des Machtpotentials rechnen, und zwar in dem beschriebenen dreifachen Sinne. Damit aber werden die Probleme der Machtkontrolle immer schwerer zu lösen. Zugleich wird immer gewisser: Der Angelpunkt jeder Machtkontrolle in modernen Gesellschaften ist die Kontrolle technischen Handelns.«16

Beim technischen Handeln, dessen Kontrolle er zum Angelpunkt der Machtkontrolle erklärt, unterscheidet Popitz zwischen drei Formen der Technik, nämlich der bereits erwähnten Waffentechnik, den Techniken der Machtausübung und der »datensetzenden Technik«, in seinen Worten der »Schaffung technisch vollendeter Tatsachen«, die keiner der beiden obigen Kategorien angehören, aber gleichwohl unser Leben bestimmen.

Die Entwicklung der Waffentechnik, deren moderne Formen von selbststeuernden Drohnen und Kampfrobotern bis hin zu digitalen Programmen des Internetkrieges durch KI und Quantentechnik gewaltige Entwicklungssprünge machen,17 können wir hier nicht im Einzelnen ausführen. In der zweiten Kategorie, nämlich den Techniken der Machtausübung, sah Popitz nicht nur Techniken der »Fesselung von Unterworfenen« wie elektrische Zäune und Minenfelder, sondern auch der »elektronischen Datenverarbeitung« und der »Zentrierung« der Versorgung, zum Beispiel des Stroms, die auch »einfachste Lebensvorgänge an zentrale Verteiler binden.«

Ob das Internet vor dem Hintergrund dieser Definitionen in die Gruppe der Techniken der Machtausübung oder die Gruppe der datensetzenden Techniken fällt, kann hier offenbleiben. Klar ist jedenfalls, dass die Aussagen Popitz über die Notwendigkeit der Machtkontrolle auf das Internet und die neuen digitalen Techniken in jedem Fall zutreffen. Die hohe Geschwindigkeit der Entwicklung von immer schnelleren Computern bis hin zum Quantencomputer, die schnelle geographische, weltweite Ausbreitung des Internets, aber auch der schnelle Aufstieg der angewandten Technologien, wie zum Beispiel der Bildverarbeitung und der selbst lernenden Algorithmen, bestätigen geradezu die Erkenntnis Popitz’ über die offene Innovationsfähigkeit des Menschen. Und dass mit diesen Technologien Macht über Menschen und Systeme verbunden ist, das sehen wir an vielen Beispielen, angefangen von der Nutzung des Internets durch Geheimdienste zum Zwecke der Massenüberwachung, wie Edward Snowden18 sie offengelegt hat, bis hin zur Nutzung der Gesichtserkennung in Staaten auf der ganzen Welt wie in China zur Kontrolle der Bevölkerung.

Shoshana Zuboff beschrieb die »instrumentelle Macht« der Verhaltensmanipulation, die die GAFAM durch das massenhafte Sammeln und Analysieren persönlicher Daten erhalten. Die Abstimmung über den Brexit in Großbritannien ist nach Untersuchungen des britischen Unterhauses ganz wesentlich durch Nutzung dieser »instrumentellen Macht« beeinflusst worden, in diesem Fall durch die Firma Cambridge Analytica, die wiederum Facebook-Daten benutzte, um in ihrer verdeckten Kampagne für den Brexit gezielt und individuell an die Menschen und ihre Neigungen zu appellieren.19

B 2- Herrschaft durch Technik kommt vor der Herrschaft der Technik

»Wir sind überzeugt, dass Portale wie Google, Facebook, Amazon und Apple weitaus mächtiger sind, als die meisten Menschen ahnen. Ihre Macht beruht auf der Fähigkeit, exponentiell zu wachsen. Mit Ausnahme von biologischen Viren gibt es nichts, was sich mit derartiger Geschwindigkeit, Effizienz und Aggressivität ausbreitet wie diese Technologieplattformen, und dies verleiht auch ihren Machern, Eigentümern und Nutzern neue Macht.« Eric Schmidt, Ex-CEO Google20

Technisch ermöglichte Machtkonzentration und private Herrschaft bedrohen die Funktionsfähigkeit der wesentlichen Steuerungssysteme unserer Gesellschaft: Demokratie und Markt.

Beide beruhen auf der Annahme, freie Individuen könnten durch Kommunikation und rationale Beweggründe zu den besten Entscheidungen gelangen, wenn sie sich über die Institutionen von Markt und Demokratie organisieren. Diese Annahme funktioniert aber nur dann, wenn der Wille, der sich durch freie Individuen sowie in den Institutionen bildet, nicht verzerrt oder dominiert wird, indem entweder Informationen manipuliert werden oder die Individuen direkt so manipuliert werden, dass wir nicht mehr von freien Individuen sprechen können. Oder beides.

Es reicht nicht, nur einen Blick auf die heute schon praktisch absehbaren Potentiale der Zukunftstechnologien zu lenken. Es reicht auch nicht, über die theoretisch denkbaren, weiter in der Zukunft liegenden Potentiale der Technologien zu spekulieren. Beides ist wichtig, und natürlich ist es richtig, in einem ersten Schritt die theoretischen Potentiale und die Risiken einer Technologie getrennt zu beurteilen, das heißt, getrennt von anderen Technologien und von der Nutzung der Technologie im Rahmen bestimmter Geschäftsmodelle oder durch Regierungen.

Aber die Technik von heute hat auch schon ohne KI einen Zwangscharakter angenommen, vor allem in ihrer Verbindung mit wirtschaftlicher und staatlicher Macht. Da wir von der Technik in allen Lebensbereichen auch ohne KI schon vollständig abhängig sind, folgt zwangsläufig die Weiterentwicklung der Technik, um die Probleme zu lösen, die sie selbst aufgeworfen hat. Da die Wirtschaft und damit die Arbeitsplätze, der Wohlstand und letztlich die Demokratie von dieser stetigen Weiterentwicklung abhängen, entsteht auch schon ohne KI der Eindruck, diese Entwicklung sei alternativlos und die Demokratie ihr gegenüber schwach. Man muss keine »autonome Induktion«21 in der technologischen »Evolution« annehmen, wie der Singularity-Vordenker und Google-Entwicklungschef Ray Kurzweil22 das tut. Aber die Frage, wie die Macht der Technik durch die bereits erreichte Technisierung der Welt systemimmanent anwächst, müssen wir stellen.

Die neue Frage im Zeitalter der Künstlichen Intelligenz ist in der Tat auch, ob Technologie dann, wenn sie selbst lernend und selbst steuernd ist, auch selbst Macht ausüben kann, ob es also nicht mehr Menschen sind, die die Macht durch Technologie ausüben, sondern die Technologie selbst über Menschen Macht gewinnt, ja vielleicht sogar selbst einen Willen zur Macht entwickelt.

Ist es technisch denkbar, dass Technologie über Menschen herrscht, ohne dass ein menschlicher Wille zur Macht sich dieser Technologie bedient? Und wenn ja, wollen wir so eine Herrschaft der Technologie über Menschen zulassen? Es ist wichtig, das eigene Herrschaftspotential der Technologie von der Frage zu trennen, ob durch Technologie Macht und Herrschaft ausgeübt wird.

Die zeitliche Relevanz dieser beiden Fragen ist nämlich unterschiedlich: Die Frage nach der Macht und Herrschaft durch Technologie stellt sich heute ganz aktuell, vor dem Hintergrund der internetbasierten Machtkonzentration und der technologischen Innovation in den Händen von GAFAM, sowie angesichts politscher Macht, die sich schon heute der neuen Technologien zu Herrschaftszwecken bedient, am dramatischsten zu beobachten in China.

Die Frage der Herrschaft der Technologie über die Menschen wird in dem Maße relevant, in dem Technologien entwickelt und verbreitet werden, die selbst lernen und sich derart weiterentwickeln können, dass sie möglicherweise selbst irgendwann die Zwecke ihrer Tätigkeit bestimmen und dadurch nicht mehr den Zwecken ihrer menschlichen Hersteller und Herren dienen, sondern möglicherweise selbstdefinierten Zwecken. An die Stelle der Herrschaft durch Technik würde dann die Herrschaft der Technik treten und mit ihr das Kontrollproblem, das der Informatiker Stuart Russell von der Berkeley-Universität beschreibt. Sein Rezept: Die KI muss letztlich auch dann, wenn sie sich vielleicht selbst Zwecke setzen könnte, überall da, wo Wertentscheidungen getroffen oder die Anwendung von Prinzipien gegeneinander abgewogen werden müssen, immer zum Menschen zurückkehren und fragen: Wie nun weiter? Denn KI kann allein keine Prinzipien abwägen und anwenden und darf dies auch nicht.23

Heute darf nicht mehr ignoriert werden, dass aufgrund der Machtstrukturen im Internet und hinsichtlich der Entwicklung und des Betriebs moderner Technologien ein erhebliches Risiko besteht, Markt und Demokratie in ihrer Funktionsfähigkeit zu untergraben. Folgenabschätzung von Technologie heute muss deshalb immer auch die realen Machtstrukturen mit in Betracht ziehen, die die Zwecke der Entwicklung, des In-Verkehr-Bringens und der Nutzung der Technologien bestimmen.

Wir trennen deshalb die Analyse der Macht durch Technik, die nach der Macht und dem Herrschaftspotential der mächtigen Tech-Konzerne fragt, ihrer Technologien und Geschäftsmodelle, und die Analyse der Macht der Technik, die danach fragt, ob diese Technologien eines Tages über die Menschen herrschen werden, ohne anderen Interessen zu dienen, ob sie sich also verselbstständigt haben werden.

2.1.Wann übernimmt die allgemeine KI oder eine Superintelligenz die Macht?

Immer öfter behaupten prominente Autoren, wir Menschen seien auf dem Wege, die Kontrolle über unser eigenes Leben an ein technisches System der Künstlichen Intelligenz zu verlieren.24 Während die spezielle Künstliche Intelligenz jedenfalls theoretisch immer, also auch bei selbstständigem Lernen, auf einen speziellen Sachbereich beschränkt bleibt, soll die generelle KI die Fähigkeit des Menschen haben, das in einem Bereich Gelernte auf einen anderen Bereich zu übertragen.

Ob und wann die Technologie der Künstlichen Intelligenz derart leistungsfähig wird, bleibt aber trotz vieler Vorhersagen unklar. Es gibt einige Kenner der Materie, die sagen, bereits in 5 bis 10 Jahren gewinne die Künstliche Intelligenz »jedes Spiel«. Zu den Spielen, die die Künstliche Intelligenz dann gegen den Menschen gewinnen, können Spekulation an der Börse und selbst Wahlen gehören, so die Auskunft eines prominenten KI-Forschers auf Nachfrage, der allerdings nicht namentlich zitiert werden will.

Andere behaupten, die gegenwärtigen Formen der Künstlichen Intelligenz, also die neuronalen Netze und das Deep and Reinforcement Learning, seien bereits ausgereizt. Wissenschaftlich seien in Bezug auf diese Methoden keine Durchbrüche in Form wesentlicher Weiterentwicklungen mehr zu erwarten, die praktischen Anwendungen seien weitestgehend bekannt. Allerdings bestünden im Bereich des Cognitive Computing und Probabilistic Progamming25 ernste Möglichkeiten für gewaltige Weiterentwicklungen. Mit diesen Methoden könnte menschliche Intelligenz erreicht und in vielen Bereichen übertroffen werden.

Ray Kurzweil, der Chefentwickler von Google, sagt, es gäbe eine 50-Prozent-Wahrscheinlichkeit, dass wir die Generelle Künstliche Intelligenz im Jahr 2029 erreichen.26 Im Jahr 2045 werde unser Gehirn mit der Cloud verbunden werden27 – wenn es sie dann noch gibt, angesichts des Technologietrends zur Dezentralisierung der Verarbeitung von Daten.

Der australische IT-Forscher Toby Walsh hat nach einer Umfrage unter Wissenschaftlern das Jahr »2062« als das Jahr identifiziert, in dem die »Künstliche Intelligenz uns ebenbürtig sein wird«.28 Sein gleichnamiges Buch enthält eine Liste all dessen, was im Internet und der digitalen Wirtschaft schief läuft. Er endet mit der Aufforderung zu handeln, durch Gesetzgebung und den Umbau der Gesellschaft, um die dystopische Vision der Technikbeherrschung nicht eintreten zu lassen. Wir schließen uns seinen Vorschlägen weitestgehend an. Laut dem an der Berkeley University in den USA Informatik lehrenden britischen Forscher Stuart J. Russell braucht die allgemeine, dem Menschen ähnliche Künstliche Intelligenz noch mindestens 80 Jahre. Aber er warnt auch: Wie bei der Kernspaltung, die lange für unmöglich gehalten wurde, kann es auch schon Morgen soweit sein.29

Eines ist jedenfalls sicher: Schon bevor eine derartige, sich möglicherweise selbst Ziele setzende Software in Betrieb genommen wird, muss durch Tests und entsprechende Vorkehrungen sichergestellt werden, dass KI nie das Kommando über sich selbst und die Kontrolle über den Menschen übernehmen kann. Andernfalls wäre dies nach dem britischen Mathematiker Irving John Good30 und dem schwedischen Philosophen Nick Bostrom die letzte Erfindung der Menschheit.31 Schon 2015 veröffentlichten Wissenschaftler um Steven Hawkings und Stuart J. Russell einen Warnruf mit dem Entwurf einer dringenden Forschungsagenda, um die Menschenzentriertheit der KI sicherzustellen.32

Dagegen finden sich zahllose Heilsversprechen in der Tech-Literatur. Das weltumspannende technische System wird, so die Behauptung, alle Probleme dieser Welt besser lösen, als wir Menschen es können, weil es mehr Informationen schneller verarbeitet und deshalb intelligenter ist. Es wird, so die Vision, die Kontrolle über die Erde und die Menschheit ausüben. Wir werden uns daran gewöhnen müssen, von diesem technischen System dominiert zu werden. Entscheidungen, die bisher Menschen trafen, werden durch die Generelle Künstliche Intelligenz getroffen, die sich selbst programmiert.33

Microsoft hat eine Milliarden Euro schwere Allianz mit dem von Elon Musk gegründeten Forschungs- und Entwicklungslabor Open AI34 geschlossen, um eine am Gemeinwohl ausgerichtete starke, Generelle Künstliche Intelligenz zu entwickeln, und vor allem: die sinnhafte Schöpfung und das Verstehen von Sprache voranzubringen.35 Bill Gates hat einmal gesagt, wir neigen dazu, die Entwicklung der nächsten zwei Jahre zu überschätzen, und die Entwicklungen in den nächsten 10 Jahren zu unterschätzen. Wenn Microsoft Milliarden in die Entwicklung der Generellen Künstlichen Intelligenz steckt, dann könnte dies vor dem Hintergrund der Philosophie von Bill Gates und angesichts des Entwicklungstandes der KI heute ein Zeichen dafür sein, dass innerhalb der nächsten zehn Jahre einiges in diesem Bereich zu erwarten ist. Insbesondere die Forschung von Open AI zu einer künstlichen, argumentierenden, überzeugenden Sprachschöpfung, die von Lesern nicht als maschinell erkannt werden kann, sollten genau beobachtet werden, da sie den Kern menschlicher Autonomie und des demokratischen Systems berühren.36

B 3- Systemsicht der technisch beherrschten Zukunft

Wir sprechen nun in Anwendung von Max Weber und Hannah Arendt von technologischer Macht, wenn Technologien es erlauben, den Willen und die Kommunikation und damit das Tun von Menschen, technische Systeme oder die Natur zu beherrschen.

Die Vernetzungsmacht schafft dem, der sie zu nutzen weiß, Zugang in alle Weltregionen. In der Zukunft schafft sie Zugang durch biophysische Systeme und Nanotechnologien auch in das Innerste des Menschen. Sie dringt mittels Sensoren und durch Beobachtung von Kommunikation und Verhalten von Menschen ein in privateste Räume und privateste Verhältnisse, in das Denken, Fühlen, Hoffen und die Seele des Menschen. Sie reicht von hochauflösenden Satelliten der Erdbeobachtung über die Verlegung von Kabeln, von Telekommunikationsdiensten bis zu den Diensten der Sozialen Netze und der Suchmaschinen, den Cookies und anderen Technologien, die das Verhalten der Menschen, der Maschinen und der Natur beobachten und über das Internet zusammenführen.

Die Verarbeitungsmacht ist die Macht der Analyse gesammelter Informationen und Daten. Es ist die Macht der selbstlernenden Algorithmen, in Zukunft ausgeführt durch Quantencomputer. Es ist die Macht, Schlüsse zu ziehen, Affinitäten und Wahrscheinlichkeiten zu erkennen und diese über das Internet dann wieder als Handlungsbefehle – oder Einladungen zum Handeln – mehr oder weniger manipulativ, an Menschen wie auch verbundene Maschinen zurückzuspielen. Diese Macht nennt Shoshana Zuboff »instrumentelle Macht«, da sie es erlaubt, den Menschen durch Fernsteuerung faktisch zu einem Instrument des Profits der Konzerne zu machen oder zu willfährigen Parteisoldaten des Kommunismus, wie es in China die Kommunistische Partei anstrebt. Es ist aber auch die Macht, die Funktion und Änderungen des Erdsystems, von erdumspannenden technischen und sozialen Systemen bis hin zu einzelnen Gesellschaften zu verstehen und zu beeinflussen.

Je mehr Elemente dieser Formen der technischen Macht in wenigen Händen zusammenkommen, je weniger Kontrolle über diese neuen Formen der Macht ausgeübt wird, umso grösser werden die Gefahren aus dieser Machtkonzentration für die Freiheit der Individuen und das Funktionieren von Markt und Demokratie.

Stuart J. Russell weist zurecht darauf hin, dass Daten und schnellere Verarbeitung allein, etwa durch Quantencomputer, nur falsche Ergebnisse schneller auswerfen, wenn wir nicht die Qualität von Daten und Algorithmen dramatisch verbessern und wenn wir nicht dort, wo es um die Anwendung von Prinzipien geht, sicherstellen, dass die Maschinen den Menschen nach einer Abwägung, nach Werten und neuen Wegen fragen müssen.37

3.1.Das Internet als zentrales Vernetzungsmedium

Das potenteste Machtmedium unserer Zeit ist das Internet. Es schafft die technische Voraussetzung dafür, eine zentralisierte Form der Herrschaft auszuüben, durch die Kontrolle und Manipulation von Menschen und dezentralen technischen und wirtschaftlichen Prozessen.

Hinter dem harmlosen Begriff der Vernetzung, wie ihn Mark Zuckerberg benutzt, und dem Freiheitsversprechen des Internets, das uns scheinbar unbegrenzten Zugang zu Information gibt und die vermeintliche Möglichkeit, zu allen Menschen zu sprechen und von allen gehört zu werden, verbirgt sich ein gewaltiges zentralisierendes Steuerungspotential. Das Internet ist ein Mehrwegemedium, das eben auch durch Staat und Konzerne genutzt werden kann, um alle Kommunikation und Tätigkeit von jedem einzelnen Bürger zu beobachten, zu speichern und auszuwerten. Das Internet erlaubt jenen Staaten und Konzernen, die Massen zu kontrollieren und zu manipulieren, genauso wie es erlaubt, Daten aus dem Internet of Things (IoT) – dem Internet der Dinge – zusammenzuführen und technische und wirtschaftliche Systeme zu kontrollieren und zu manipulieren.

Das Kontroll- und Steuerungspotential des Internets verbunden mit KI steigt: mit seiner geographischen Verbreitung, seiner wachsenden Übertragungskapazität und der fortschreitenden Vernetzung von Geräten im Internet der Dinge sowie der Bereitschaft von Menschen, oder dem Zwang, ständig in Kontakt – always on zu sein, bis hin zur momentanen oder permanenten biophysischen Verbindung.

Das heute bereits in der Technologiepolitik ins Auge gefasste Ziel eines Quanteninternets wird das gewaltige Verarbeitungspotential der Quantentechnologie mit einer entsprechend gewaltigen Übertragungskapazität verbinden.38 An diesem Projekt zeigt sich exemplarisch, wie nötig es ist, im Rahmen einer Gesamtbewertung nicht nur die Folgen von Einzeltechnologien, sondern aller Technologien, die auf dem Internet aufbauen, in den Blick zu nehmen. Denn das Internet wird in der Vorstellung der Kalifornischen Ideologie zu einem weltumspannenden neuronalen System, das vom Weltall bis in die Biologie der Erde, ja bis in die Psyche jedes einzelnen Menschen reicht und zentrale Kontrolle und Steuerung ermöglicht – durch die Vernetzung von allen mit allen und allem.

B 4- Die an das Internet anschließenden zehn Machttechnologien

Auf das Internet, wie wir es kennen, und das World Wide Web, wie Tim Berners-Lee es entwickelt hat, setzen zehn weitere neue Technologien auf, die für unser Thema gemeinsam betrachtet werden müssen: zum genauen Verständnis der Machtballung bei wenigen privaten und staatlichen Akteuren.

Es handelt sich dabei um Technologien, die teils der besseren und weitergehenden Vernetzung dienen, teils der schnelleren und besseren Verarbeitung der Informationen. Auch Entwicklungen wie die Genmanipulation und die Nanotechnologie werden mit dem hier beschriebenen System technologischer Macht verbunden.

Jede der hier beschriebenen Technologien füllt für sich schon Regalmeter an Literatur. Worum es uns hier geht ist, eine kurze Einführung zu geben in die Technologien der Macht und ein Verständnis für die notwendige Zusammenschau dieser Technologien und ihrer potenziellen Nutzungen und Folgen zu entwickeln.

In einem Schnelldurchgang nun einige Worte zu den auf das Internet aufsetzenden Technologien und Verfahren:

4.1.Big Data

Dieser Begriff beschreibt zunächst einmal eine Situation, in der sehr viele Daten vorhanden sind, die möglicherweise durch klassische Computer und klassische Programme nicht sinnvoll verarbeitet werden können. Big Data beschreibt also zunächst eine technologische Herausforderung.

Dann aber ist Big Data in der Theorie auch eine Behauptung: Wenn man nur alle Daten sammelt, derer man habhaft werden kann, dann wird man später schon etwas mit ihnen machen können, etwa Muster erkennen, die von kommerziellem Interesse sind, oder gar wissenschaftliche Erkenntnisse produzieren, die im öffentlichen Interesse sind. Je mehr Daten man sammelt, umso grösser sei die Wahrscheinlichkeit, aus ihnen etwas zu lernen.

Diese Big Data-Theorie liegt dem Geschäftsmodell von GAFAM zugrunde und ist zu einer Ideologie geworden, mit der versucht wird, jede Begrenzung des Sammelns der Daten aus dem Weg zu räumen und die Profitabsicht, die dahintersteckt, als im öffentlichen Interesse liegend zu kaschieren. Die EU-Datenschutzgrundverordnung, kurz DSGVO,39 begrenzt das Sammeln von persönlichen Daten auf das, was für den jeweiligen, legalen Zweck des Sammelns absolut nötig ist. Mehr darf nach den Grundsätzen der Zweckbindung und der Datenminimierung nicht gesammelt werden.40 Im Umkehrschluss heißt das aber auch: Daten, die keine persönlichen Daten sind, können unbegrenzt gesammelt werden.

Big Data ist oft die Grundlage für das Training lernender Programme, das sogenannte Machine Learning, auch Künstliche Intelligenz genannt. Auch in diesem Kontext ist die DSGVO zu beachten, wenn persönliche Daten verarbeitet werden.

Wo Big Data nicht auf Persönliches zugreift, etwa bei Maschinenbetriebsdaten, Großsystemdaten und Umweltdaten ohne Personenbezug, können die wirtschaftlichen Erträge der Verarbeitung sehr hoch sein, und da spielt die DSGVO keine Rolle.

4.2.Cloud(Wolke) – der Ort der Verarbeitung und die Macht

Technisch ist die Zusammenführung von Daten in der Cloud eine Dezentralisierung, da die Daten unter Umständen auf sehr viele verschiedene Datencenter verteilt werden und eben nicht mehr nur an einer Stelle gespeichert sind. Damit ist einerseits die Datensicherheit erhöht wie auch der Zugang ohne Verzögerung sichergestellt. Gleichzeitig ist der Markt der Cloud-Dienste aber bei einigen amerikanischen Unternehmen extrem konzentriert, insbesondere bei Amazon, Google und Microsoft.41 Und: Die Ansammlung von Daten in der Cloud von wenigen Firmen gibt ihnen potentiell eine gewaltige Macht, vor allem, wenn sie sich das Recht nehmen, die Daten einzusehen und die Inhalte auszuwerten und zu verwerten. Das tun Google und andere nach ihren eigenen Geschäftsbedingungen ausdrücklich jedenfalls dann, wenn man die kostenlosen Cloud-Optionen benutzt:

»Wenn Sie Inhalte in oder über unsere Dienste hochladen oder einstellen oder in unseren Diensten oder über unsere Dienste speichern, senden oder empfangen, räumen Sie Google (und denen, mit denen wir zusammenarbeiten) das Recht ein, diese Inhalte weltweit zu verwenden, zu hosten, zu speichern, zu vervielfältigen, zu verändern, abgeleitete Werke daraus zu erstellen (einschließlich solcher, die aus Übersetzungen, Anpassungen oder anderen Änderungen resultieren, die wir vornehmen, damit Ihre Inhalte besser in unseren Diensten funktionieren), zu kommunizieren, zu veröffentlichen, öffentlich aufzuführen, öffentlich anzuzeigen und zu verteilen. Diese von Ihnen im Rahmen dieser Lizenz gewährten Rechte dienen ausschließlich zur Durchführung, Förderung und Verbesserung unserer Dienste sowie zur Entwicklung neuer Dienste. Diese Rechtseinräumung bleibt auch dann bestehen, wenn Sie unsere Dienste nicht mehr verwenden, z. B. bei einem Brancheneintrag, den Sie in Google Maps eingefügt haben. Bei einigen Diensten können Sie auf von Ihnen bereitgestellte Inhalte zugreifen und diese aus dem entsprechenden Dienst entfernen. In einigen unserer Dienste wird unsere Nutzung der von Ihnen bereitgestellten Inhalte durch die Nutzungsbedingungen oder Einstellungen eingeschränkt. Achten Sie darauf, dass Sie über die notwendigen Rechte verfügen, um uns eine entsprechende Lizenz für alle Inhalte zu erteilen, die Sie in unsere Dienste hochladen.

Unsere automatisierten Systeme analysieren Ihre Inhalte (einschließlich E-Mails), um Ihnen für Sie relevante Produktfunktionen wie personalisierte Suchergebnisse, personalisierte Werbung und Spam- und Malwareerkennung bereitzustellen. Diese Analyse findet beim Senden, Empfangen und Speichern der Inhalte statt.«42

Seit Snowden wissen wir, dass bei Datenübertragungen über das Internet und in die Cloud auch die Wirtschaftsspionage der USA ansetzt.43 Zwar hat die USA nach Snowden erklärt, die NSA betreibe keine Wirtschaftsspionage in dem Sinne, dass sie Informationen, die sie vorher im Rahmen der Aufklärung für die Nationale Sicherheit der USA erfasse, an die US Wirtschaft weitergebe.44 Aber das glauben nicht viele.45

Ganz grundsätzlich wird man sagen können: Datenflüsse in und durch die USA und andere Länder stellen ein Sicherheitsrisiko dar. Die Zentralisierung von Daten in den Cloud-Systemen der US-Unternehmen erleichtern den USA den Zugriff auf Daten in diesen Systemen, egal zu welchem Zweck, auch außerhalb der USA. Das aktuellste Beispiel dafür, wie diese Macht genutzt werden kann, ist der US Cloud Act von 201846, der der US-Regierung künftig unmittelbaren Zugriff auf Server amerikanischer Unternehmen im Ausland erlauben soll. Die EU verhandelt derzeit mit den USA, um sicherzustellen, dass ein derartiger Zugriff auf Server in Europa nur im Einklang mit europäischem Recht erfolgen kann.

Es gibt aber auch andere Antworten auf die Probleme der derzeitigen Datenkonzentration in US-Clouds. Denn alternativ zu einer rechtlichen Lösung kann man auch versuchen, in Europa eine ausreichende Cloud-Kapazität aufzubauen, wie es mit dem Projekt Gaia X47 geschieht.

Die komplexen Abkommen mit den USA, wie das durch den EuGH aufgehobene EU–US Safe Harbour48 und das spätere EU-US Privacy Shield49, wären gar nicht erforderlich, wenn in Europa für Industrie und private Daten genügend Cloud-Kapazität zur Verfügung stehen würde, die selbstverständlich dann auch dem europäischen Recht unterliegen würde. Die derzeit in den USA stattfindende Verarbeitung von europäischen Daten könnte leicht nach Europa verlegt werden, da Daten und Verarbeitungsprogramme sehr mobil sind.

Dieses Beispiel zeigt, dass mancher rechtliche Aufwand in digitalen Fragen durch technische Lösungen vermieden werden kann.

4.3.Internet of Things – das Internet der Dinge erweitert die Kontroll- und Steuerungsfähigkeit

Der Begriff Internet of Things (IoT) beschreibt die Verbindung von beweglichen und nicht beweglichen Geräten mit und ohne Sensoren, die ihren Betrieb, das Verhalten von Menschen und die Umwelt erfassen, mit dem Internet. Zusätzlich umfasst IoT das System, das aus dem Zusammenwirken der vernetzten Gegenstände und dem Zusammenwirken von Menschen mit ihm entsteht.50 Ein Beispiel im Kleinen ist das Thermostat im Schlafzimmer, das aufgrund eines Bewegungsmelders oder Temperatursensors wahrnimmt, wann man morgens aufsteht. Danach kann der selbstlernende Algorithmus das Auto vor der Tür vorheizen oder für die erlernte Durchschnittszeit zwischen dem Aufstehen und dem Verlassen des Hauses das selbstfahrende Auto bestellen. Oder: Parkverbotsstrafzettel werden direkt vom Gerät des feststellenden Polizisten auf das Mobiltelefon des Autofahrers gesandt. Auch für die Wartung von technischen Geräten sind der Fantasie keine Grenzen gesetzt. Die durch das Internet ermöglichte vorausschauende Wartung (predictive maintenance), die Sensoren in jedem Fahrstuhl, Fahrzeug und anderem technischen Gerät mit einer Zentrale verbindet, die schon mal vorausschauend die Ersatzteile versendet, soll das größte Geschäftsfeld nach dem E-Commerce werden.51

Probleme für die Grundrechte der Bürger entstehen dann, wenn solche Geräte Daten über Menschen aufnehmen, aus den Internet of Things also ein Internet of Humans wird. Mit angeblich bis zu 67 Milliarden an das Internet der Dinge angeschlossenen Geräten im Jahr 202552 darf man die Frage stellen, ob es dann überhaupt noch Orte und Tätigkeiten von Menschen gibt, die nicht irgendwie registriert werden. Eine grundrechtsfreundliche Entwicklung der Geräte des IoT wird darauf achten, dass die Erhebung von persönlichen Daten von Menschen im Umfeld des Gerätes soweit wie möglich ausgeschlossen wird.

Auch die ständige Überwachung der Leistung von Mitarbeitern wird in Amerika mittels IoT vorangetrieben. Tragbare Geräte am Gürtel und Sensoren am Arbeitsplatz, etwa unter dem Arbeitstisch, am Arbeitsstuhl oder in der zu bedienenden Maschine, sammeln Daten über die Präsenz, die Leistung und das Empfinden der Mitarbeiter.53 Diese Technologien und ihre Anwendung am Arbeitsplatz unterliegen in Deutschland strengen Regeln des Arbeitsrechts und der Mitbestimmung. Eine ständige Überwachung etwa durch Sensoren oder Kameras ist in der Regel nicht erlaubt und wird auch von Managern ambivalent gesehen,54 ebenso wie das Mitlesen oder Mithören von Internetkommunikation, es sei denn in Sonderfällen.

4.3.1.Sonderfall des IoT: Die Videoüberwachung des öffentlichen Raumes

Ein dramatisches Problem für die Freiheit ist die zunehmende Überwachung des öffentlichen Raums mit Kameras. Berlin ist mit fast 40.000 von ihnen auf Platz 93 der Weltrangliste der Totalüberwachung des öffentlichen Raums, gemessen an der Anzahl der Kameras pro 1.000 Bürger.55 London ist Champion in Europa, weltweit auf Platz 6. Chinesische Städte liegen auf Platz 1 bis 5 und 7 bis 9. Das Bundesverwaltungsgericht in Deutschland hat der Überwachung des öffentlichen Raumes durch private Kameras einen Riegel vorgeschoben, auf der Grundlage der neuen EU DSGVO. Das deutsche Videoüberwachungsgesetzt hatte private Betreiber ermächtigt, allein zu entscheiden, ob es im öffentlichen Interesse ist, dass sie den öffentlichen Raum mit der Kamera überwachen. Das geht nun nicht mehr. Denkbar bleibt eine Überwachung durch private Betreiber, wenn sie zur Abwendung von Straftaten unbedingt erforderlich ist, und durch den Staat zum Zwecke der Gefahrenabwehr.56

4.4.Mobilfunk 5G erweitert die Anschlussfähigkeit des mobilen Internets

Ein flächendeckendes 5G-Mobilfunknetz wird den breiten Einsatz von IoT-Geräten erst ermöglichen. Dies soll zu einer industriellen Transformation führen, ist aber zugleich die Infrastruktur für perfekte Bilder und die sensorbasierte Überwachung von Menschen. 5G-Datenverbindungen werden mit deutlich über 10 Gigabit pro Sekunde und Latenzzeiten unter 5 Millisekunden Millionen von angeschlossenen Geräten gleichzeitig bedienen können. Erst dieses Netz ermöglicht in Wirtschaft und Gesellschaft mobile virtuelle Dienste, die von der Virtual Reality über die Remote-Zusammenarbeit etwa bei Fern-OPs, die Online-Gesundheitsüberwachung oder vernetzte Autos bis hin zur Drohnenauslieferung oder automatisierte Fahrt reichen.

China ist führend in den Plänen für die flächendeckende Versorgung mit 5G, und das Unternehmens HUAWEI ist technologisch führend auf diesem Gebiet.57

Die 5G-Technologie ist ebenso gut für die wirtschaftliche Entwicklung, wie sie es für die Überwachung der Menschen sein kann. Das erklärt die anhaltende Diskussion über die mögliche Abhängigkeit Europas von HUAWEI.58

4.5.Satelliten, Drohnen und autonome Tötungsroboter

Als Systeme der Informationssammlung und für den Transport von Informationen sowie auch für physische Interventionen sei hier nur einmal alles was fliegt genannt. Satelliten und Drohnenbilder verbunden mit detaillierter Information vom Boden haben einen ganz neuen Informationswert. Auch steigt die Fähigkeit zu unmittelbarer Intervention mit autonomen oder semi-autonomen Fluggeräten für noch relativ harmlose Vorhaben wie die Auslieferung von Bestellungen, die Kontrolle und Reparatur von Großanlagen oder die Überwachung der Umwelt. Der Fantasie der Erdbeobachtung sind keine Grenze gesetzt. Schon heute wird die Erde täglich mehrfach komplett hochauflösend fotografiert. Die Analyse dieses Bilderschatzes durch KI kann für die Erreichung der Entwicklungsziele der UN genutzt werden.59 Aber eben auch für andere Zwecke60 wie zum Beispiel die Profitmaximierung im Getreidehandel, aber auch die strategische Analyse einer heraufziehenden Nahrungsmittelknappheit. So beteiligte sich der Getreidehandelskonzern Cargill, 2018 zum schlimmsten Unternehmen der Welt gekürt,61 mit einem Beitrag zu einer 30-Millionen-Dollar-Kapitalisierungsrunde an dem aufstrebenden KI-basierten Auswerter von Satellitenbildern »Descartes Labs« in Kalifornien.62

Die Nutzung von KI zur Auswertung des gewaltigen Datenschatzes der Erdbeobachtung wirft neue Fragen von Recht und Ethik auf.63 Denn von KI gesteuerte Satelliten und Drohnen können auch der Tötung von Menschen dienen. Künstliche Intelligenz und Quantencomputer in autonomen Kampfrobotern wecken die schlimmsten Voraussagen der Friedensforscher und die strategischen Ambitionen von Militärs. Es gibt viele Menschen, die durch ein Datennetz aus Mobilfunksignalen, Satellitenbildern und Internetbenutzung aufgespürt und von einer Drohne getötet wurden oder werden sollten.64 Massenüberwachung, verbunden mit Analysesystemen in sogenannten Fusion Centers, die Daten aus allen möglichen Quellen zusammenbringen, bereitet heute derartige Tötungseinsätze vor.65 Dabei werden »Kollateralschäden«, also die Tötungen von Unbeteiligten, in Kauf genommen.66

Waffen, die nach ihrer Aussetzung der Kontrolle des Menschen entzogen sind, wie etwa Biowaffen, also Bakterien zum Zwecke der Kriegführung, oder Landminen, werden durch internationales Recht geächtet. Für autonome, durch KI gesteuerte Kampfroboter ist dringend ein ähnlicher Vertrag nötig.67

Die Europäische Union und Deutschland setzen sich in den UN für ein Verbot autonomer Kampfroboter ein. In den UN-Verhandlungen in Genf sollen bis 2021 verbindliche Regeln vorliegen.68

4.6.Blockchain

Der Begriff Blockchain beschreibt ein dezentrales Computersystem, das durch den Austausch fragmentierter, verschlüsselter Datenstränge eine sichere Dokumentation von Transaktionen erlaubt. Technisch ist das System dezentral. Aber wirtschaftlich und in der Steuerung kann es beides sein: dezentral oder zentralisiert.69 An der Wiege der Blockchains stand eine libertäre Ideologie, ohne staatliche Systeme und Regulierung, um finanzielle Transaktionen in einem weltweiten System sicher durchführen zu können.70 Wenn Facebook seine Pläne zum weltweiten Blockchain-Zahlungssystem Libra verwirklicht hätte, hätte dieses Zahlungssystem einfach wegen der großen Anzahl der Teilnehmer in der Hand eines GAFAM-Unternehmens zu einem neuen globalen Machtfaktor werden können. Doch die Finanzminister und Notenbankchefs der führenden Industriestaaten haben dem Vorhaben im Oktober 2019 vorläufig eine Absage erteilt. Man müsse dafür sorgen, »dass die Herausgabe einer Währung eine Angelegenheit von Staaten bleibt und nicht großer privater Firmen«, sagte Bundesfinanzminister Olaf Scholz.71

Facebook hätte damit ein System errichtet, das in der Lage gewesen wäre, die Währungspolitik zu untergraben, die auf dem Wissen über Finanzflüsse fußt. Zahlungsdaten könnten technisch sehr leicht mit anderen persönlichen Daten verknüpft werden. Zusagen von Facebook, derartige Verknüpfungen zu unterlassen, sind nichts wert, wie wir aus der WhatsApp-Facebook-Affäre wissen. Damals hatte Facebook gegenüber der EU-Kommission ausgesagt, eine Verknüpfung von Daten aus Facebook und WhatsApp werde es nicht geben. Später fand eine derartige Verknüpfung doch statt. Die Kommission strafte Facebook für die Falschaussage mit einem Bußgeld in Höhe von 110 Millionen Euro.72

Es ist unklar, wie der Datenschutz beim Thema Blockchain verwirklicht werden kann. Denn einerseits sind die Systeme transparent, was oft einen Vorteil darstellt. Andererseits soll eigentlich eine Löschung von Daten nicht möglich sein. Aber genau dieses Recht gibt die DSGVO, Art. 17. Rechtmäßig wird man Blockchain also nur dort einsetzen können, wo es keinen Anspruch auf Löschung der eigenen Daten gibt, etwa wegen einer gesetzlichen Pflicht zur Datenspeicherung, und wo der Schutz der persönlichen Daten auch im transparenten System gesichert werden kann.73

4.7.Künstliche Intelligenz

Der Begriff Künstliche Intelligenz wird inflationär verwendet und ist ein Marketinginstrument erster Ordnung geworden. Heute wird oft behauptet, ein Startup arbeite mit KI oder ein Programm enthalte Künstliche Intelligenz. Das treibt den Preis nach oben. Dabei geht das Programm oft nicht über normale Automatisierung hinaus. Im Übrigen suggeriert der Begriff menschliche Fähigkeiten der Problemlösung, die die Technologie derzeit jedenfalls nicht bieten kann und aller Voraussicht nach auch so schnell nicht erreichen wird. Intelligente Fragen stellen, Kritik üben, komplexe gesellschaftliche, politische oder wissenschaftliche Fragen denkend zu durchdringen, all dies kann KI bisher nicht. Mit dem Stand von heute beherrscht KI oft nicht einmal die Regeln der Physik. Deshalb hat Facebook ein Testprogramm auf den Markt gebracht, mit dem geprüft werden kann, ob eine KI mechanische Physik richtig simuliert.74 Von Kausalität, Zeit- und Raumzusammenhängen gar nicht zu reden, die noch in weiter Ferne der Erfassung durch KI liegen.75

Stuart J. Russell, einer der wichtigsten Forscher in Sachen KI, verbindet technische Kenntnis mit gesellschaftlicher Verantwortung und der Ambition, das komplexe Thema einer breiten Öffentlichkeit zu vermitteln.76 Er erinnert daran, dass der Mensch über verschiedene Formen der