Speichern und Strafen E-Book

Adrian Lobe

• Herausgeber: C. H. Beck
• Kategorie: Geisteswissenschaft
• Sprache: Deutsch
• Veröffentlichungsjahr: 2019

Beschreibung

Das Smartphone zählt unsere Schritte, die Smartwatch misst unsere Herzfrequenz, und das Smart Home detektiert Zigarettenrauch und Schimpfwörter. Endlich gibt es all diese klugen kleinen Helfer, die uns liebevoll behüten und umsorgen, unser Leben erleichtern. Falsch! Adrian Lobe zeigt, wie uns die Digitaltechnik geradewegs in ein Datengefängnis führt, das wir selbst gebaut haben und so bald nicht wieder verlassen werden.


Die schicken Gadgets der großen Tech-Konzerne führen laufend Protokoll über unser Getanes, Gesagtes, Geschriebenes und Gedachtes. Überall installieren wir Mikrofone, Kameras und Sensoren, die uns wie im Strafvollzug 24/7 überwachen. Jedes Speichern ist Arrest, jede biometrische Erkennung eine Festnahme mit darauffolgender erkennungsdienstlicher Behandlung - eine automatisierte Leibesvisitation. Kommissar Technik sperrt uns in ein Gefängnis, das nicht einmal Mauern braucht, denn wir begeben uns freiwillig in den offenen Vollzug. Und mit von der Partie sind Siri, Alexa und Cortana - die freundlichsten Kerkermeister, die die Menschheit je hatte. Adrian Lobe zeichnet anhand von zahlreichen Beispielen aus unserem technisierten Alltag die reale Dystopie einer Gesellschaft im Datengefängnis.

Leseprobe

ADRIAN LOBE

SPEICHERN UND STRAFEN

Die Gesellschaft im Datengefängnis

C.H.BECK

Zum Buch

Das Smartphone zählt unsere Schritte, die Smartwatch misst unsere Herzfrequenz, und das Smart Home detektiert Zigarettenrauch und Schimpfwörter. Endlich gibt es all diese klugen kleinen Helfer, die uns liebevoll behüten und umsorgen, unser Leben erleichtern. Falsch! Adrian Lobe zeigt, wie uns die Digitaltechnik geradewegs in ein Datengefängnis führt, das wir selbst gebaut haben und so bald nicht wieder verlassen werden.

Die schicken Gadgets der großen Tech-Konzerne führen laufend Protokoll über unser Getanes, Gesagtes, Geschriebenes und Gedachtes. Überall installieren wir Mikrofone, Kameras und Sensoren, die uns wie im Strafvollzug 24/7 überwachen. Jedes Speichern ist Arrest, jede biometrische Erkennung eine Festnahme mit darauffolgender erkennungsdienstlicher Behandlung – eine automatisierte Leibesvisitation. Kommissar Technik sperrt uns in ein Gefängnis, das nicht einmal Mauern braucht, denn wir begeben uns freiwillig in den offenen Vollzug. Und mit von der Partie sind Siri, Alexa und Cortana – die freundlichsten Kerkermeister, die die Menschheit je hatte. Adrian Lobe zeichnet anhand von zahlreichen Beispielen aus unserem technisierten Alltag die reale Dystopie einer Gesellschaft im Datengefängnis.

Über den Autor

Adrian Lobe ist Politikwissenschaftler und Journalist. Den Umgang mit digitalen Technologien lernte er bei seinem Vater, der Informatik-Lehrer ist. 2016 wurde er für seine Artikel über Datenschutz und Überwachung mit dem Preis des Forschungsnetzwerks Surveillance Studies ausgezeichnet. Für seinen Artikel «Wir haben sehr wohl etwas zu verbergen!» bei ZEIT ONLINE erhielt er 2017 den ersten Journalistenpreis der Stiftung Datenschutz.

Inhalt

Prolog

1: Einleitung

Auf dem Weg in die programmierte Gesellschaft

Von der Gouvernemenalität zur algorithmischen Gouvernementalität

2: Endstation Flughafengate

Wenn der Algorithmus die Ausreise verweigert

3: Code is Law

Wer braucht noch Gesetze, wenn es Programmcodes gibt?

Die Programmierung der Macht

4: CSI Google

Per Suchbefehl zum Täter

5: Der Körper als Spurensicherung

Wie das Internet der Dinge zum Tatort von morgen wird

Von der Biopolitik zur BIOS-Politik

6: Gefangen in informationeller Sippenhaft

Wie Gene uns verraten

7: Die Formatierung der Datenkörper

Wenn das Gesicht zum Pass wird

8: Die Regierung der Datenkörper

Wie Staaten und Konzerne unsere Körper unterwerfen

9: Die Internierung der Datenkörper

Wie wir mit smarten Gadgets im offenen Vollzug landen

Die «Demokratisierung» kriminalistischer Techniken

10: The New Normal

Wenn der Computer sagt, dass du nicht mehr normal bist

11: Die Gesellschaft der Metadaten

Wie Freiheit im Datengefängnis eingeschränkt wird

12: Schluss

Auf dem Weg in die Post-Wahl-Gesellschaft

Anmerkungen

Prolog

1. Einleitung

2. Endstation Flughafengate

3. Code is Law

4. CSI Google

5. Der Körper als Spurensicherung

6. Gefangen in informationeller Sippenhaft

7. Die Formatierung der Datenkörper

8. Die Regierung der Datenkörper

9. Die Internierung der Datenkörper

10. The New Normal

11. Die Gesellschaft der Metadaten

12. Auf dem Weg in die Post-Wahl-Gesellschaft

Literatur

Abbildungsnachweis

«Das Gefängnis funktioniert als ein Wissensapparat.»

(Foucault)

Prolog

Deutschland, im Jahre 2025, mitten im Wahlkampf. Es sind nur noch wenige Tage bis zur Bundestagswahl. Umfragen sagen ein Kopf-an-Kopf-Rennen zwischen den Unionsparteien und den Grünen voraus. Die Parteien haben versucht, ihre Wählerschaft mit Microtargeting-Kampagnen zu mobilisieren, einer datenbasierten Technik, mit der sich über Plattformen wie Facebook oder Google politische Botschaften auf kleine Zielgruppen zuschneiden lassen. Die Datenskandale der Vergangenheit sind längst vergessen. Das Handydisplay als personalisierte Reklametafel hat die Wahlplakate im öffentlichen Raum überflüssig gemacht. Nach ihrem überaus erfolgreichen Slogan «Digital First, Bedenken Second» im vorvorherigen Bundestagswahlkampf hat die FDP einen Alexa-Skill entwickelt, mit dem man den Lindner-Bot mit Fragen löchern kann. Die CDU hat eine App lanciert, mit der sich Informations-Snippets aus dem Wahlprogramm auf Smartwatches spielen lassen. Die SPD, die das Thema Datenarbeit für sich entdeckt hat, schickt ihren Facebook-Fans Wahlwerbung aufs Handy: «Faire Löhne für harte Klickarbeit!» Die Grünen haben eine Petitionsplattform mit einer besonders klimafreundlichen Blockchain-Technologie gestartet, auf der Anträge für Bürgerinitiativen hinterlegt werden können. Der neoludditische Flügel der Linken ruft zum Maschinensturm gegen Facebook auf und fordert die Enteignung der Tech-Konzerne. Und die AfD macht gegen «Datenmigration» mobil. IBM hat derweil seinen Supercomputer Watson als Kanzlerkandidaten nominiert. Trotz dieser klar unterscheidbaren Programme sind Sie unschlüssig, wen Sie wählen sollen. Also fragen Sie am Morgen des Wahltags ihren digitalen Assistenten: «Alexa, sag mir, wen ich wählen soll!» Der Netzwerklautsprecher läuft zyanblau an und antwortet: «Eine Analyse deiner Sprachbefehle und Suchanfragen zeigt mir, dass du eine 73-prozentige Übereinstimmung mit dem Parteiprogramm der SPD hast. Soll ich für dich einloggen?»

Der Netzwerklautsprecher hat über die Dauer des Wahlkampfs eine Beobachtungsstudie durchgeführt und aus Schlüsselbegriffen und Stimmanalysen eine Parteipräferenz ermittelt. Sprachbefehle wie «Was verdienen Manager?» oder «Wie hoch ist die Neuverschuldung?» wurden in ihre einzelnen Bestandteile zerlegt und codiert. Schlagworte wie «schlanker Staat» oder «Privatisierung», die auf der Staat-Markt-Achse eher beim Pol «Markt» anzusiedeln sind, wurden dem Konzept marktliberal zugeordnet. Begriffe wie Umverteilung oder Subventionen wurden in die Kategorie staatsnah eingeordnet. Suchanfragen nach «nationaler Identität» oder «Leitkultur», die auf der Werteachse beim Pol wertkonservativ zu verorten sind, wurden dem konservativen Milieu zugerechnet. Stimmbiometrische Analysen haben zudem die Gemütslage des Nutzers analysiert. War die Stimme schneidend, ließ das auf ein hohes Maß an Erregung und Ablehnung schließen. War sie zittrig, konnte man daraus eine gewisse Nervosität und Unsicherheit ableiten. Registrierten die im Smart-TV integrierten Mikrofone während Politsendungen Schimpfwörter, indizierte dies ein Protest- oder Nichtwählerpotenzial. Smart Watches haben über den Beobachtungszeitraum den Blutdruck gemessen. Ging der Puls beim Interview des SPD-Vorsitzenden im «heute-journal» um 21.47 Uhr hoch? Oder ließ einen die Aussage des CDU-Politikers kalt?

Auf Grundlage dieser Daten haben Algorithmen ein Profil erstellt und durch einen Abgleich mit den Parteiprogrammen und Aussagen der wichtigsten Politiker eine Wahrscheinlichkeit errechnet, mit der man zu einer bestimmten Partei tendiert. Es gibt zwei Optionen: Entweder geht man mit der Wahlempfehlung selbst wählen – oder man delegiert sein Wahlrecht an den Softwareagenten. Alexa bietet an, im Namen des Besitzers ihre elektronische Stimme abzugeben. Man muss nur einen Bestätigungsknopf drücken oder per Sprachbefehl dem Wahlassistenten Vertretungsmacht einräumen, und Alexa geht für den Besitzer treuhänderisch wählen. «Soll ich für die Partei XY wählen?»[1]

Zugegeben: Die Delegation des Wahlrechts an einen virtuellen Assistenten wäre nach derzeit geltendem Wahlrecht nicht zulässig. Auch dürften nach datenschutzrechtlichen Vorgaben keine Stimmanalysen in den Wohnungen der Wähler durchgeführt werden. Doch lohnt es sich, dieses auf den ersten Blick etwas verstörende Gedankenexperiment einmal durchzuspielen.

Die Erfüllung der staatsbürgerlichen Pflichten stellt uns in der Regel vor erhebliche Mühen und bereitet uns manchmal sogar Kopfzerbrechen. Man muss sich zähe TV-Duelle ansehen, Zeitung lesen und Wahlprogramme studieren, um auf dem Wahlzettel guten Gewissens das Kreuz an der «richtigen» Stelle zu machen. Aber mal ehrlich: Wer liest in der heutigen Aufmerksamkeitsökonomie schon ein 200-seitiges Parteiprogramm durch, wenn die Parteien mit ihren inhaltlichen Botschaften doch längst mit leichter konsumierbaren Spiele-Apps und Serien konkurrieren? Wenn vom politischen «Angebot» die Rede ist, so als wären Parteiprogramme ein Sortiment, und dieses Angebot immer diffuser wird, wäre es nur konsequent, den Meinungsmarkt mit technischen Mitteln zu sondieren. Virtuelle Assistenten können eine Orientierungshilfe sein für Bürger, die in einer multioptionalen Gesellschaft immer mehr den Überblick verlieren.

Eine Grundannahme der bis heute einflussreichen ökonomischen Theorie der Demokratie lautet, dass ein «rationaler Wähler» nur dann zur Wahl geht, wenn der Nutzen, den er sich davon verspricht, den Aufwand bzw. die Kosten übersteigt. Entscheidungskosten entstehen etwa dadurch, dass der Wähler Ressourcen aufwenden muss, um das politische Angebot zu sondieren. Opportunitätskosten ergeben sich daraus, dass man für den Wahlakt Zeit aufwenden muss (die sich allerdings in Grenzen hält und durch Briefwahl reduzieren lässt). Soweit die Theorie. Was aber ist der «Wählerwille», den die politischen Parteien immerzu beschwören? Wie lässt er sich ermitteln? Was ist der «rationale Wähler», dieses unbekannte Wesen, das zu den ökonomischen Standardmodellen gehört, in der Praxis aber wie ein Dummy erscheint? Wer wählt überhaupt «rational»? Rationalität bedeutet, dass die Wahl mit der Parteipräferenz korrespondiert. Die aber lässt sich schwer bestimmen. Es gibt viele Wähler, die ihre Präferenzen auch am Wahltag nicht kennen, womöglich zwischen zwei Parteien schwanken, am Ende CDU wählen, aber in ihrem Herzen vielleicht doch grün sind. Oder umgekehrt. Für sie ähnelt der Wahlzettel einem Multiple-Choice-Test. Zwar gibt es Maschinen wie den Wahl-O-Mat, der durch einen automatisierten Abgleich von Parteiprogrammen die Wahlentscheidung erleichtern soll. Doch sorgen solche Wahlhilfen auch nicht für genügend Klarheit im Parteiendschungel. So mancher Sozialdemokrat staunte vor der letzten Bundestagswahl nicht schlecht, als ihm der Wahl-O-Mat die ÖDP und die Piraten als Wahlempfehlung ausspuckte. Oder statt der CDU die AfD. Doch wenn der Wähler, der aufgrund seiner Überzeugungen und Werte eigentlich die Piraten wählen müsste, dennoch glaubt, er wäre ein Sozialdemokrat, und sein Kreuz infolgedessen auf irrationale Weise bei der SPD macht, läuft dann nicht etwas schief in der Demokratie?

Gewiss gehört zur Demokratie auch die Freiheit, das zu wählen, wofür man eigentlich nicht steht – also irrational handeln zu dürfen. Rationalität ist kein Wahlkriterium. Ein überzeugter Christdemokrat, der den aktuellen Kurs seiner Partei ablehnt, kann trotzdem für die CDU stimmen, auch wenn er gemäß seiner Präferenzen eigentlich die AfD wählen müsste, die er aber für vertrauensunwürdig und daher auch für nicht wählbar hält. Faschisten, die sich nach außen hin bürgerlich geben, dürfen auch die SPD wählen, und Gewerkschafter die NPD. Der Wahlgang ist schließlich auch eine emotionale Angelegenheit und kein Anwendungsfall von Rational Choice. Die Politik belügt sich zuweilen selbst, wenn sie so tut, als sei Extremismus kein Problem, solange links- oder rechtsradikale Strömungen vom demokratischen Parteienspektrum absorbiert werden (eingedenk des Diktums von Franz Josef Strauß, rechts von der CSU sei nur die Wand). Doch ist es nicht der Anspruch einer repräsentativen Demokratie, dass Parteipräferenzen durch das Wahlsystem eins zu eins in Stimmen übersetzt werden? Wäre es im Sinne des Repräsentationsgedankens nicht wünschenswert, ja vielleicht sogar systemstabilisierend, wenn Wähler rational agierten, also für die Partei optierten, die ihren Präferenzen am ehesten entspricht? Etwas provokanter gefragt: Sind Wahlen noch der geeignete Transmissionsriemen, politische Überzeugungen in Mandate zu übersetzen? Algorithmen kennen unsere Präferenzen mittlerweile besser als wir selbst. Wäre es da nicht konsequent, die besser informierten virtuellen Assistenten für uns wählen zu lassen? Sind Algorithmen vielleicht sogar die ultimative Demokratiemaschine? Das Versprechen einer «elektronischen Demokratie» lautet, dass der Wählerwille präziser abgebildet würde und das Votum am Ende demokratischer wäre, weil jeder die Partei wählt, die seinen Präferenzen am ehesten entspricht.

Maschinen werden gezielt als Wahlhilfen konsultiert. «Wen soll ich wählen?» war laut Google Trends die häufigste Frage, die in der letzten Woche vor dem Brexit-Referendum im Juni 2016 in die Maske des Suchmaschinenmonopolisten eingegeben wurde. Auf die Frage, wem man seine Stimme geben solle, antwortet Apples Spracherkennung Siri (noch) sibyllinisch: «Das ist etwas zwischen dir und deinem Gewissen.» Oder: «Die Entscheidung kann dir niemand abnehmen, die musst du ganz alleine treffen.» Doch diese Standard-Antwort ließe sich umprogrammieren. Die Künstliche Intelligenz (KI) könnte aus unseren Sprachkommandos eine Präferenz ableiten und eine individuelle Wahlempfehlung abgeben: «Wie wäre es mit der FDP?»

Auf das kollektive Gefühl der Freiheitsüberforderung in einer multioptionalen Gesellschaft antworten Technologiekonzerne mit einer techno-autoritären Lösung: Wir befreien euch von dem Informations-Overload! Wo demokratische Parteien ihren Wählern zurufen «Geht wählen!», deklamiert die populistische Tech-Internationale: «Ihr müsst gar nicht mehr wählen, das erledigen unsere Maschinen für euch! Dafür wollen wir aber eure Daten!» Die Versuchung eines digital betreuten Wählens ist groß. Virtuelle Assistenten sind aber nicht die digitalen Diener, als die sie vermarktet werden: Es sind Vormünder, die wir selbst bestellt haben. Und deren Ansagen wir uns klaglos fügen. Wir erleben eine moderne Form der Selbstunterwerfung: Die Nutzer überantworten das Freiheitsmanagement virtuellen Assistenten und beugen sich einem algorithmischen Diktat.

1

Einleitung

Auf dem Weg in die programmierte Gesellschaft

Die Erhebung und Speicherung von Daten ist kein neues Phänomen. Der Physiker Andreas Weigend, von 2002 bis 2004 Chefwissenschaftler bei Amazon, erklärt in seinem Buch «Data for the People», dass bereits in den frühesten Tagen menschlicher Aufzeichnungen vor etwa 6000 Jahren, als die Sumerer die Keilschrift erfanden, die herrschende Priesterklasse über die Erzeugung, Trocknung und Aufbewahrung der Tontafeln wachte, die das Archiv der Zivilisation bildeten. «Die Tafeln verzeichneten, wem was gehörte, wer was an Steuern, Pacht, Gebühren, Darlehen oder Waren zu bezahlen hatte und welchen Gesetzen Eigentum und Handel unterlagen.»[1] Die Bewahrung dieser Aufzeichnungen, so Weigend, bedeutete «eine Form der Konzentration von Macht»: Die Priester entschieden, wer Zugang zu dem offiziellen Archiv bekam und wer nicht – und kontrollierten damit die Daten. Was damals die örtliche Tempelverwaltung war, sind heute Google, Apple, Facebook und Amazon: Sie bestimmen mit ihren Codes, was Eingang in das digitale Zivilisationsarchiv findet, welche Informationen überdauern, was gelöscht wird und was nicht. Dieser Wissensspeicher, der in riesigen Rechenzentren lagert, ist für die Nutzer genauso unzugänglich wie das Tempelarchiv für die Sumerer. Daten bedeuten Macht. Der Unterschied zwischen der Keilschrift und dem Programmcode ist, dass heute massenhaft Daten über den Einzelnen erhoben und mithilfe von Algorithmen Gesellschaften gesteuert werden. Im Datapozän, wie ich dieses neue Erdzeitalter nennen möchte, werden Daten zu einem geologischen Faktor, so gewichtig und belastend, dass ihre Masse wie eine Schwerkraft wirkt. Man kann sich nicht bewegen, ohne Daten zu produzieren, die uns wie ein permanenter Schatten auf den Fersen sind – ein digitaler Zwilling, der uns erzählt, repräsentiert und im Zweifel auch verpfeift.

Wir leben in einer Welt, die von Computern erzeugt, gesteuert und kontrolliert wird: in einem Megarechner namens Gesellschaft, wo Individuen zu Mikroprozessoren und Interaktionen zu Schaltprozessen werden. Autos, Türsysteme, Toaster, Kühlschränke, Kontaktlinsen, Textilien – einst analoge Objekte sind heute mit Technik vollgestopfte Hochleistungsrechner. Ein Auto ist nicht mehr in erster Linie ein Fortbewegungsmittel, sondern ein Computer mit integrierter Mobilitäts-App. In einem modernen Fahrzeug stecken durchschnittlich 100 Millionen Zeilen Programmcode. Zum Vergleich: Das Weltraumteleskop Hubble kommt mit etwa 50.000 Lines aus. Der gesamte Google-Quellcode umfasst sogar zwei Milliarden Zeilen.[2] In dem Maße, in dem die Umwelt in Codes umgewandelt wird, verändern sich die Grundlagen des Regierens.

Mit seinen Schriften und der Vorlesungsreihe am Collège de France (1974–​1975) hat der französische Philosoph Michel Foucault ein intellektuelles Erbe hinterlassen, das Ansätze zur Erklärung des digitalen Wandels bietet. Foucault starb 1984 im Alter von 57 Jahren – in jenem Jahr, in dem George Orwell seinen dystopischen Roman spielen ließ und Apple seinen Macintosh-Computer mit einer Reminiszenz an das Werk aus dem Jahr 1949 bewarb: Auf einem riesigen Bildschirm proklamiert ein fanatisierter Großer Bruder den «Garten purer Ideologie» und die «Vereinigung der Gedanken», bevor eine namenlose Heldin als Akt der Befreiung einen Vorschlaghammer in die Leinwand schleudert.[3] Das Internet war Terra incognita. Erst 1991, sieben Jahre nach Foucaults Tod, sollte der britische Physiker Tim Berners-Lee am Genfer Forschungszentrum Cern die erste Seite des World Wide Web online stellen. Was Foucault nicht sah, waren die aus der Datenexplosion (Big Data) und den digitalen Apparaturen resultierenden Macht- und Überwachungstechnologien, mit denen sich Gesellschaften berechnen und beherrschen lassen. Foucault konnte nicht ahnen, dass Technologiekonzerne mit der Auswertung von Nutzerdaten eine algorithmische Regulierung ins Werk setzen und staatsähnliche Funktionen ausüben würden (etwa in der Strafverfolgung). Und doch ist sein Werk von großer Aktualität, weil er darin Machttechniken beschreibt, die sich als Erklärungsfilter auch für die Analyse programmierter Gesellschaften dienstbar machen lassen.

Foucault führte mit dem Begriff der «Gouvernementalität» eine analytische Kategorie ein, die Regieren («gouverner») und Denkweise («mentalité») semantisch miteinander verknüpft und zusammen mit der Souveränität und der Disziplin ein Dreieck der Macht formt.[4] Unter Gouvernementalität versteht Foucault «die Gesamtheit, gebildet aus den Institutionen, den Verfahren, Analysen und Reflexionen, den Berechnungen und den Taktiken, die es gestatten, diese recht spezifische und doch komplexe Form der Macht auszuüben, die als Hauptzielscheibe die Bevölkerung, als Hauptwissensform die politische Ökonomie und als wesentliches Instrument die Sicherheitsdispositive hat.»[5]

Mit der Bevölkerungsexplosion im 18. Jahrhundert rückte die Steuerung der Bevölkerung ins Zentrum der Macht. Foucault schreibt: «Die Regierungen entdecken, dass sie es nicht nur mit Untertanen, auch nicht bloß mit einem ‹Volk›, sondern mit einer ‹Bevölkerung› mit spezifischen Problemen und eigenen Variablen zu tun haben wie Geburtenrate, Sterblichkeit, Lebensdauer, Fruchtbarkeit, Gesundheitszustand, Krankheitshäufigkeit, Ernährungsweise und Wohnverhältnissen.»[6] Die gouvernementale Aufgabe war es, «die Zirkulation zu organisieren, das, was daran gefährlich war, zu eliminieren, eine Aufteilung zwischen guter und schlechter Zirkulation vorzunehmen (…)». Die neuen Regierungstechniken konzentrierten sich folglich auf die «Bearbeitung der Zukunft»: die Stadt sollte «nicht im Zusammenhang einer statischen Wahrnehmung aufgefasst oder gestaltet», sondern «für eine nicht genau kontrollierte oder kontrollierbare, nicht genau bemessene oder messbare Zukunft» geöffnet werden. Für Foucault stellt die Stadt ein serielles Phänomen dar, eine unbegrenzte Folge von Elementen und Ereignissen: die Zirkulation, x Fuhrwerke, x Passanten, x Diebe, x anlegende Schiffe, x Einwohner und verschiedenes mehr. «Es ist die Verwaltung dieser offenen Serien, die folglich nur durch Schätzung von Wahrscheinlichkeiten kontrolliert werden können.»[7]

Das zentrale Instrument zur Kontrolle dieser Wahrscheinlichkeiten ist die Statistik. Der Staat muss unter anderem wissen, wie viele Bewohner auf seinem Territorium leben, wie viele Güter produziert werden, wie viele Häuser im Grundbuch eingetragen sind und welche Geldmenge im Umlauf ist. «Die Statistik», führt Foucault aus, «ist das Wissen des Staates über den Staat, verstanden als Selbstwissen des Staates, aber auch als Wissen über die anderen Staaten.»[8] Seit Ende des 16. Jahrhunderts ist die quantitative Bevölkerungserfassung zum integralen Bestandteil der Regierungskunst geworden. Die Gouvernementalität ist eine Macht, die über Statistiken (Sterbe- und Krankheitsraten, Geburtenraten und so weiter) Wissen über den Bevölkerungskörper sammelt und regulierend auf ihn einwirkt. Durch das Zählen und Abschätzen von Geburten- und Todesraten exekutiert der Staat seinen Hoheits- und Gebietsanspruch. Erst durch die Erschließung des Wissensobjekts Bevölkerung wird diese regierbar.

Von der Gouvernemenalität zur algorithmischen Gouvernementalität

Der Staat erfasst auch heute mit den Mitteln der amtlichen Statistik, was auf seinem Territorium passiert: Zu- und Abfluss von Warenströmen, Fluktuation der Bevölkerung, Geburten- und Sterbezahlen, Migration, Konjunkturindikatoren. Doch der Staat erledigt diese Aufgaben nicht mehr allein: Internetkonzerne wie Google und Facebook erheben massenweise Daten über die Bürgerinnen und Bürger. Google weiß durch seinen Kartendienst Maps mehr als jedes Katasteramt: wo Pools ohne Baugenehmigung errichtet, wo Klimaanlagen installiert werden, wie viel Rasenfläche ein Grundstück hat, wo Cannabis-Plantagen gepflanzt werden etc. Im Jahr 2007 hat das Unternehmen mit seinem Dienst Street View begonnen, eine fotografische 3-D-Landkarte der Welt zu erstellen. Mithilfe von Fahrzeugen, Treckern, Trolleys, Schneemobilen und sogar Schafen (wie auf den Färöer-Inseln) wurden 360-Grad-Panoramaansichten aufgenommen.[9] Man kann auf einer virtuellen Tour ganze Innenstadtzüge abfahren und bis in U-Bahn-Schächte oder die Ladenflächen von Geschäften hineinzoomen. Google Street View zeigt – zumindest fotografisch – auf, was in amtlichen Statistiken nicht vermerkt ist: Schwarzbau, Kriminalität, Straßenstrich. Die leichten Damen des Bois de Boulogne sind auf den Aufnahmen ebenso zu erkennen wie Dealer und Autoknacker. In den Fangnetzen der Dokumentationssysteme landet jede Menge justiziabler Beifang: Dealer, die auf offener Straße Drogen verkaufen; Typen, die in Balkone einsteigen; Häftlinge in Gefängnisuniform, die irgendwo auf Landstraßen unterwegs sind; Gangster, die Passanten mit Schusswaffen bedrohen.[10] Foucault hätte seine wahre Freude an dem Tool gehabt. Google kann in Echtzeit sehen, wo in welcher Region nach Pornografie, Escort-Damen oder Baby-Nahrung gesucht wird. Eine so hochauflösende Sicht auf den Gesellschaftskörper hatte bislang weder ein Staat noch ein privater Akteur.

Facebook ist mit über zwei Milliarden Nutzern faktisch eine Statistikbehörde, die diverse soziodemografische Variablen wie Geschlecht, Alter, Religion und Beruf registriert und mittels Status-Updates («Was machst du gerade?») als erzählerisches Moment bemäntelte Repräsentativbefragungen durchführt. Das Karrierenetzwerk Linkedin, das anhand von Profilen regelmäßig Arbeitsmarktanalysen durchführt, weiß anhand der Daten, in welchen Regionen gerade eingestellt wird und in welche Branchen es College-Absolventen zieht. Google verwaltet Konten, Postfächer und Branchenverzeichnisse und erfüllt eine administrative Funktion als Auskunftei. Konkurrent Apple zählt derweil die Schritte von über 800 Millionen Menschen auf der Welt – so viele aktive iPhone-Nutzer gibt es, die sich per Pedometer tracken lassen. Die digitalen Apparaturen erlauben, ein Echtzeit-Monitoring durchzuführen und den Puls der Gesellschaft zu fühlen. Herrscht gerade Bluthochdruck? Wo ist die Herzfrequenz tagsüber am höchsten? Wo wird im Durchschnitt besonders viel, wo besonders wenig geschlafen? Foucault bezeichnete die im Absolutismus einsetzende Datensammelwut als arcana imperii, als Staatsgeheimnis. Der Staat musste das Wissen über seine Populationen gegenüber Geheimdiensten schützen. Dieses Herrschaftswissen geht in der informatisierten Herrschaft an private Konzerne über, die mit ihren «Arkanformeln» die Gesellschaft berechnen – und steuern.

Google wurde ein Patent auf eine Smart-Home-Lösung bewilligt, die die Bewohner lückenlos überwacht.[11] Das erklärte Ziel des Konzerns ist es, Informationen über Demographie zu gewinnen. In dem Patentantrag heißt es: «Eine in der Küche […] platzierte Videokamera kann über mehrere Tage und Wochen hinweg eine Bildverarbeitung durchführen, um (anhand der gesammelten Daten) zu bestimmen, […] wie viele Bewohner im Haus leben». Mittels Audio-Analysen könne das System zudem Alter und Geschlecht der Bewohner feststellen. Mit dieser dynamischen «Volkszählung» und Verhaltenskontrolle bricht Google die Gouvernementalität von der Makro- auf die Mikroebene der Haushalte herunter. Nicht die Gesellschaft wird steuerbar, sondern deren Keimzelle: die Familie. Durch die Vernetzung des Heims wird eine Politik möglich, die in einer pluralisierten und atomisierten Gesellschaft schon rein technisch nicht zu realisieren war: die Kontrolle des Freizeitverhaltens. Ein smarter Haushaltsmanager (household policy manager) überwacht, wie lange Kinder vor Bildschirmen sitzen, wie viel Zeit die Familie zusammen am Tisch verbringt und in welchem Ton man miteinander redet. Das Smart Home befindet sich mithin im normativen Kräftefeld von Big Tech. Die großen Internetfirmen Google, Amazon, Facebook und Apple (GAFA) mutieren zu parastaatlichen Akteuren, die Verhaltensregeln aufstellen (Siri rät dem Nutzer etwa vom Rauchen ab)[12], Bevölkerungskontrollen durchführen oder Beweise für den Strafprozess sammeln.

Amazon hat ein Patent auf eine Technologie angemeldet, die anhand von Stimmanalysen (sog. voice prints) den Akzent der Nutzer feststellen kann.[13] Damit könnte zum Beispiel ermittelt werden, aus welcher Region Flüchtlinge kommen – und ob ihre Herkunftsangaben stimmen. Die gigantischen Datenmengen (Stichwort Big Data) erlauben neuartige Berechnungs- und Analyseverfahren, wie sie mit den Werkzeugen der Statistik vormals unmöglich schienen. Die Bearbeitung der Zukunft, die «Verwaltung offener Serien», die für Foucault konstitutiv für die gouvernementale Praxis waren, ist durch datenanalytische Prognosetechniken viel effektiver.

Vom französischen Journalisten, Publizisten und Politiker Emile de Girardin (1806–​1881) stammt die Weisheit «gouverner, c’est prévoir», was übersetzt so viel bedeutet wie «Regieren bedeutet Vorsorge zu treffen». Oder: «Regieren heißt, vorauszuplanen». Die Gouvernementalität zielt nicht mehr allein auf die Bevölkerung als Wissensobjekt ab (Geburtenregister, Sterblichkeitsrate, Lebensdauer), sondern auf die Vorhersagbarkeit ihrer Handlungen und Verhaltensweisen. In ganz Europa versuchen öffentliche Verwaltungen mit datengestützten Prognosetechniken, frühzeitig Risiken in der Gesellschaft zu identifizieren. In Großbritannien nutzen Behörden Analytics-Systeme, um Missbrauchsfälle in Familien zu erkennen.[14] Die US-Bundessteuerbehörde IRS (Internal Revenue Service) greift auf intelligente Software zurück, um Steuervergehen vorherzusagen.[15] Und in zahlreichen Ländern setzt die Polizei Algorithmen bei der Verbrechensbekämpfung ein. War früher die Statistik die zentrale Regierungstechnologie, ist es heute Big Data. Eine neue politische Arithmetik ist im Entstehen, bei der Gefährdungslagen (objektiv) oder Gefährder (subjektiv) nach mathematischen Scores ermittelt werden. Der Technologiekonzern IBM beschreibt die Anforderungen des «kognitiven Regierens» (Cognitive Government) so: «In der heutigen wissensbasierten, datengetriebenen Ökonomie benötigen Regierungen die Fähigkeit, zu verstehen, was die Trends und Vorhersage-Indikatoren in kritischen Systemen wie Arbeitsmarkt, Gesundheit, Bildung, Finanzmarkt, öffentlicher Sicherheit, Verkehr und natürlicher Ressourcen sind.»[16]

Die belgische Rechtsphilosophin Antoinette Rouvroy spricht in diesem Kontext von einer «algorithmischen Gouvernementalität»: Darunter versteht sie «einen bestimmten (a)normativen oder (a)politischen Rationalitätstypus, der auf der automatischen Auswertung, Aggregierung und Analyse massenhafter Daten beruht, um mögliche Verhalten zu modellieren, vorherzusehen oder zu beeinflussen.» Es gehe nicht mehr darum, die Wirklichkeit zu regieren, sondern von der Wirklichkeit her zu regieren.[17]

Der Staat, der mit prädiktiven Algorithmen aus der Privatwirtschaft Verbrechen oder Sozialhilfebetrug vorhersagen will[18], agiert wie ein Zocker: Er spekuliert auf das zukünftige Verhalten seiner Bürger. Wo ist der nächste Einbruch? Wo der nächste Missbrauchsfall? Wo die nächste Demonstration? Wo sitzt der potenzielle Steuerhinterzieher? Die öffentliche Ordnung wird mit Daten besichert.

Die Stadt Boston hat unter ihrem digitalaffinen Bürgermeister Martin J. Walsh einen «CityScore» eingeführt, der das Wohlergehen der Stadt in einer Zahl ausdrückt. Der Score berechnet sich nach der «Performanz» der Stadt: Reaktionszeit der Notrufzentrale, Bibliotheksnutzung, Müllproduktion, Zahl der Schlaglöcher, Staus etc. Auf der Webseite können die Bürger den aktuellen Score für den jeweiligen Tag einsehen. Es gibt sogar einen «Trend» für Messerstechereien und Schießereien: Regieren nach Daten. Diese börsenähnliche Darstellung der Stadtgesellschaft führt dazu, dass die Verantwortlichen nur noch in Zahlen denken (wobei diesen Modellen ja auch ein gewisser Werterelativismus zugrunde liegt, wenn Werte wie öffentliche Sicherheit oder Gerechtigkeit zu mathematischen Werten verkommen). Ein «CityScore» von 1 ist «normal», 1,25 ist ein perfekter Wert. Alles, was unter 1 liegt, ist besorgniserregend.[19]

«CityScore» der Stadt Boston

Foucault ging in seiner Disziplinargesellschaft von einer institutionellen Normativität aus: Staat und Kirche legten autoritativ fest, wer als gesund oder krank, was als «normal» oder «pervers» gilt. Soziale Normen wurden in einem hierarchischen Verfahren von oben nach unten abgesteckt, etwa die Sitzordnung in einer Schulklasse. In der informatisierten Herrschaft kehrt sich dieser Prozess um: Die Norm, die standardisierte Form sozialen Verhaltens, wird nicht mehr über die institutionellen Archive, sondern über mathematisch-statistische Verfahren bestimmt. Wer heute krank, kreativ oder kreditwürdig ist, entscheiden Algorithmen. War es in der Disziplinargesellschaft die Psychiatrie, die Abweichungen definierte, ist es in der informatisierten Herrschaft der Programmcode. Der italienische Philosoph und Medientheoretiker Matteo Pasquinelli spricht von einem neuen Typus, einer computerisierten Norm bzw. «Rechennorm». «Seit den späten 1970er Jahren, also seit Beginn der Informationsrevolution, hat sich die Erkennung von Mustern allmählich als die neue Rechennorm der Macht erwiesen. Sie hat diese Macht ausgedehnt und in einigen Fällen alte institutionelle Normen ersetzt. (…) Der Raster dieser neuen Norm wird nicht mehr von oben beglaubigt, sondern statistisch von unten errechnet. Er ist eine Rechennorm im Gegensatz zu einer Institutionsnorm, indem die Digitalrechnung die Arbeit der Institution im großen Stil automatisiert.»[20] In einer datengetriebenen Gesellschaft determinieren Computer die binären Codes wahr/falsch, Recht/Unrecht, legal/illegal, gut/böse, Integrer/Gefährder, gesund/krank, normal/abnormal. Der Programmcode ist Sprache, Medium und Anweisung zugleich. Man könnte sagen: Überall, wo der Code eingeschrieben ist, wirkt auch eine Form von Macht.

In der Disziplinargesellschaft, wie sie Foucault beschrieben hat, gab es noch Institutionen wie Schulen oder Kasernen: Apparate, die den Menschen zwar dressierten und züchtigten, aber prinzipiell reformierbar waren. Der Pazifist konnte den Kriegsdienst verweigern, der Lehrer den Dienst quittieren, der Pennäler aufbegehren. In der programmierten Gesellschaft gibt es jedoch keine Institutionen im Sinne transparenter Verfahrensregeln oder Körperschaften mit Postanschrift mehr. Damit schwinden der Raum des Diskursiven und die Möglichkeit der Grenzübertretung. Computerbefehle können nicht verweigert werden. Algorithmen machen kurzen Prozess. Warum ein Gesichtserkennungssystem den Zugriff bzw. Zugang verweigert oder ein Kommentar gelöscht wird und wer den Code dafür geschrieben hat, erschließt sich dem Betroffenen nicht. Es gibt nichts und niemanden, den man für sein Handeln verantwortlich machen könnte, keine Stelle, wo man Einspruch erheben könnte.

Dem digitalen Subjekt ergeht es ein wenig wie der Hauptfigur in Franz Kafkas Roman «Der Proceß». Josef K. wird an seinem 30. Geburtstag verhaftet. Die beiden Wächter, die sich keiner Behörde zugehörig zu erkennen geben und auch seine «Legitimationspapiere» nicht akzeptieren, offenbaren ihm lediglich: «Sie dürfen nicht weggehen, Sie sind ja gefangen.»[21] Es ist die Begegnung mit einer (Staats-)Gewalt, die selbst mit Winkeladvokaten nicht greifbar ist. Ein Strafprozess im eigentlichen Sinne findet nicht statt: Es gibt keine präzise Vorladung, keinen Haftbefehl, keine Anklageschrift, keine Tat, keine moralische Vorwerfbarkeit; die Verfahren sind geheim. K. muss den in einer maroden Mietskaserne befindlichen Gerichtssaal erst suchen. Das Urteil wie auch den Grund seiner Verhaftung erfährt er nicht. Der nicht stattfindende bzw. durch eine opake Verwaltungsmaschinerie kleingekochte Prozess nimmt die Strafe vorweg. Man kann Kafkas düsteren Roman – er soll laut seinem Biografen Max Brod beim Vorlesen gelacht haben – als Metatheorie zur programmierten Gesellschaft lesen. Auch dort sind die Machtzentren geheim, verbirgt sich das Gesetz hinter (algorithmischen) Türhütern, wird mit einer untergründigen Moralität operiert. Es ist ein diffuses Gefangen- und Verhaftetsein in einer Datenumgebung, in der undurchdringbare Befehlsketten am Werk sind. Der erste Satz des Romans – «Jemand musste Josef K. verleumdet haben, denn ohne dass er etwas Böses getan hätte, wurde er eines Morgens verhaftet» –, mit dem das «Böse» wie eine Urgewalt hereinbricht, klingt wie ein Echo des alten Wahlspruchs von Google «Don’t be evil» («Sei nicht böse»), den man auch als Aufforderung einer Nichteinmischung deuten kann. Vom ehemaligen Google-Chef Eric Schmidt stammt die Aussage: «Wir wissen, wo du bist. Wir wissen, wo du warst. Wir wissen mehr oder weniger, worüber du nachdenkst.»[22] So oder so ähnlich könnte auch der Chef einer Geheimpolizei argumentieren.

Wir leben in einer Gesellschaft, in der wir von automatisierten Systemen abgeurteilt und bewertet werden, wo wir, ohne angehört und benachrichtigt zu werden, auf irgendwelchen Listen (etwa einer No-Fly-List) landen, wo uns Maschinen ständig den Prozess machen. Digitale Speichertechnologien, die jedes Wort, jeden Laut und jeden Schritt aufzeichnen und möglicherweise gegen uns verwenden, machen das Leben zum perpetuierten Indizienprozess. Mit flächendeckenden Abhöranlagen, Beobachtungsregistern und Verlaufsprotokollen wird eine Geständnis-Maschinerie ins Werk gesetzt, welche Daten zum Reden bringt und die Beweisaufnahme obsolet macht. Der (Computer-)Prozess hat bereits angefangen, bevor der Strafprozess beginnt. Jedes Speichern ist Arrest, jede biometrische Gesichtserkennung eine Festnahme mit darauf folgender erkennungsdienstlicher Behandlung – eine computerisierte Leibesvisitation, bei der Individuen für eine juristische Sekunde festgehalten werden und ihre Daten in Untersuchungshaft landen. Die Daten werden abgegriffen, untersucht und eingehend befragt. Diese permanenten Festnahmen werden nur deshalb nicht als übergriffig empfunden, weil hier nicht der physische Körper abgetastet, sondern allein der Datenkörper untersucht wird. Diese Mikro-Festnahmen, wie ich sie nennen möchte, werden sich mit der zunehmenden Ausbreitung von Gesichtserkennungssystemen zu einer panoptischen Haft verdichten.

Foucault hat in «Überwachen und Strafen» ausgeführt, wie mit dem Panoptikon – jener ringförmigen Anlage, in deren Mitte ein Aufseher in einem Turm Einblick in die geöffneten Zellen hat – eine Überwachungsmaschinerie entsteht, welche die «Macht automatisiert und individualisiert». Der psychologische Trick an der Architektur ist, dass Kontrolle auch dann funktioniert, wenn der Häftling gar nicht unter Beobachtung steht. Es genügt die Illusion der Überwachung. «Die Wirkung […] ist permanent, auch wenn ihre Durchführung sporadisch ist; die Perfektion der Macht vermag ihre tatsächliche Ausübung überflüssig zu machen; der architektonische Apparat ist eine Maschine, die ein Machtverhältnis schaffen und aufrechterhalten kann, welches vom Machtausübenden unabhängig ist; die Häftlinge sind Gefangene einer Machtsituation, die sie selber stützen.»[23]

Man muss Menschen nicht mehr wie im Mittelalter in Kerker und dunkle Verliese stecken. Sie inhaftieren sich selbst. Sie legen sich freiwillig elektronische Fußfesseln wie Smartphones oder Fitnesstracker an und unterwerfen sich einem elektronischen Hausarrest namens Smart Home. Wir bauen uns unser eigenes Datengefängnis – mit Mikrofonen, Kameras und Sensoren, die uns wie im Strafvollzug 24/7 überwachen. Das Datengefängnis ist architektonisch nicht sichtbar: Es gibt keine Mauern, keine Zellen, keine Aufseher, keine Untersuchungsrichter. Die Überwachungstechnik ist subtiler Art: Man bewegt sich scheinbar frei im öffentlichen oder privaten Raum, doch mit jedem Schritt, mit dem das mobile Endgerät Standortdaten funkt, kommt man ungefragt Meldepflichten nach. Das Datengefängnis braucht keine Mauern, weil der Freigänger stets auf dem Radar der Kontrollbildschirme ist. Wo Datenkörper fixiert und in algorithmische Untersuchungshaft verbracht werden, besteht keine Fluchtgefahr.

Alexa, Siri und Cortana machen genau das, was ein Gefängniswärter tut: Sie überwachen die Gefangenen, hören sie ab, beobachten ihr Verhalten, durchsuchen ihre Räume, kontrollieren Schritte und Anwesenheit, beaufsichtigen sie beim Aufenthalt im Freien oder in der Zelle (dem Zuhause), führen Gespräche und leiten gegebenenfalls Disziplinarmaßnahmen ein.