Die berechnete Welt (TELEPOLIS) E-Book

Nora S. Stampfl

• Herausgeber: Heise Medien
• Kategorie: Gesellschafts- und Liebesromane
• Sprache: Deutsch
• Veröffentlichungsjahr: 2013

Seitenzahl: 206

Beschreibung

Auf dem Weg in die digitale Zukunft stehen wir heute an einer entscheidenden Weggabelung: Obwohl die Errungenschaften der digitalen Revolution natürliche Verbündete der Freiheit sind, stehen in jüngster Zeit Informatisierung und Technisierung unserer Welt dem ursprünglich verfolgten Freiheits- und Demokratisierungsgedanken immer häufiger entgegen. Algorithmen übernehmen die Herrschaft, schränken die menschliche Willens- und Handlungsfreiheit ein, indem sie Verhalten auf vorbestimmte Bahnen zwingen. "Die berechnete Welt" zeichnet ein Bild der neuen Beschränkungen des digitalen Lebens und erkundet, wie Technik unsere Interaktionen mit der Welt verändert. Bleibt die Welt unberechenbar oder stellen Algorithmen die Weichen für unser Leben? Wer ist im Verhältnis von Technik und Mensch Diener und wer ist Herr? Welchen Preis bezahlen wir für Dienstfertigkeit und Nutzen der Technik? Und ist dieser Preis immer offenkundig? Das Buch wirft einen Blick unter die Oberfläche der schönen neuen Technikwelt und beleuchtet neben den vielgepriesenen Vorzügen auch die Schattenseite der digitalen Revolution.

Leseprobe

Das Online-Magazin TELEPOLIS wurde 1996 gegründet und begleitet seither die Entwicklung der Netzkultur in allen Facetten: Politik und Gesetzgebung, Zensur und Informationsfreiheit, Schutz der Privatsphäre, wissenschaftliche Innovationen, Entwicklungen digitaler Kultur in Musik, Film, bildender Kunst und Literatur sind die Kernthemen des Online-Magazins, welche ihm eine treue Leserschaft verschafft haben. Doch TELEPOLIS hat auch immer schon über den Rand des Bildschirms hinausgesehen: Die Kreuzungspunkte zwischen realer und virtueller Welt, die »Globalisierung« und die Entwicklung der urbanen Kultur, Weltraum und Biotechnologie bilden einige der weiteren Themenfelder.

Als reines Online-Magazin ohne Druckausgabe nimmt TELEPOLIS damit eine einzigartige Stellung im deutschsprachigen Raum ein und bildet durch seine englischsprachige Ausgabe und seinen internationalen Autorenkreis eine wichtige Vermittlungsposition über sprachliche, geografische und kulturelle Grenzen hinweg. Verantwortlich für das Online-Magazin und Herausgeber der TELEPOLIS-Buchreihe ist Florian Rötzer.

Die TELEPOLIS-Bücher basieren auf dem Themenkreis des Online-Magazins. Die Reihe schaut wie das Online-Magazin über den Tellerrand eingefahrener Abgrenzungen hinaus und erörtert Phänomene der digitalen Kultur und der Wissensgesellschaft.

Eine Auswahl der bisher erschienenen TELEPOLIS-Bücher:

Andreas Lober

Virtuelle Welten werden real

Second Life, World of Warcraft & Co:

Faszination, Gefahren, Business

2007, 174 Seiten, 16 €

Stephan Schleim

Gedankenlesen

Pionierarbeit der Hirnforschung

2008, 184 Seiten, 18 €

Rainer Sommer

Die Subprime-Krise und ihre Folgen

Von faulen US-Krediten bis zur Kernschmelze des internationalen Finanzsystems

2009, 232 Seiten, 19 €

Stefan Weber

Das Google-Copy-Paste-Syndrom

Wie Netzplagiate Ausbildung und Wissen gefährden

2., aktualisierte Auflage

2009, 196 Seiten, 16 €

Klaus Schmeh

Versteckte Botschaften

Die faszinierende Geschichte der Steganografie

2009, 246 Seiten, 18 €

Matthias Brake

Mobilität im regenerativen Zeitalter

Was bewegt uns nach dem Öl?

2009, 154 Seiten, 16 €

Stefan Selke, Ullrich Dittler (Hrsg.)

Postmediale Wirklichkeiten

Wie Zukunftsmedien die Gesellschaft

verändern

2009, 256 Seiten, 19 €

Matthias Becker

Datenschatten

Auf dem Weg in die Überwachungsgesellschaft?

2010, 182 Seiten, 16,90 €

Lothar Lochmaier

Die Bank sind wir

Chancen und Perspektiven von

Social Banking

2010, 160 Seiten, 15,90 €

Harald Zaun

S E T I – Die wissenschaftliche Suche

nach außerirdischen Zivilisationen

Chancen, Perspektiven, Risiken

2010, 320 Seiten, 19,90 €

Stefan Selke, Ullrich Dittler (Hrsg.)

Postmediale Wirklichkeiten aus interdisziplinärer Perspektive

Weitere Beiträge zur Zukunft der Medien

2010, 256 Seiten, 19,90 €

Stephan Schleim

Die Neurogesellschaft

Wie die Hirnforschung Recht und Moral herausfordert

2011, 218 Seiten, 18,90 €

Astrid Auer-Reinsdorff, Joachim Jakobs,

Niels Lepperhoff

Vom Datum zum Dossier

Wie der Mensch mit seinen schutzlosen

Daten in der Informationsgesellschaft

ferngesteuert werden kann

2011, 182 Seiten, 16,90 €

Marcus B. Klöckner

9/11 – Der Kampf um die Wahrheit

2011, 218 Seiten, 16,90 €

Hans-Arthur Marsiske

Kriegsmaschinen – Roboter im

Militäreinsatz

2012, 252 Seiten, 18,90 €

Nora S. Stampfl

Die verspielte Gesellschaft

Gamification oder Leben im Zeitalter des

Computerspiels

2012, 128 Seiten, 14,90 €

Jörg Friedrich

Kritik der vernetzen Vernunft

Philosophie für Netzbewohner

2012, 176 Seiten, 16,95 €

Alexander Dill

Dein Staat gehört Dir!

Ein Abschiedsbrief an das Wutbürgertum

2013, 184 Seiten, 16,90 €

Weitere Informationen zu den TELEPOLIS-Büchern und Bestellung unter: → www.dpunkt.de/telepolis

Nora S. Stampfl

studierte Wirtschaftswissenschaften an der Johannes Kepler Universität Linz in Österreich und erlangte einen Master of Business Administration (MBA) an der Goizueta Business School der Emory University in Atlanta, Georgia, USA. Nach beruflichen Stationen in den USA lebt sie seit 1999 in Berlin und ist als Unternehmensberaterin und Zukunftsforscherin tätig. Ihren Arbeitsschwerpunkten strategische Unternehmensführung, gesellschaftlicher Wandel und Zukunftsfragen widmet sie sich auch als Autorin.

www.f-21.de

[email protected]

Die berechnete Welt

Leben unter dem Einfluss von Algorithmen

Nora S. Stampfl

Reihenherausgeber: Florian Rötzer, München, [email protected]

Lektorat: Dr. Michael Barabas

Copy-Editing: Susanne Rudi, Heidelberg

Herstellung: Miriam Metsch

Umschlaggestaltung: Hannes Fuß, www.exclam.de

Druck und Bindung: M.P. Media-Print Informationstechnologie GmbH, 33100 Paderborn

Bibliografische Information der Deutschen Nationalbibliothek

Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen National-bibliografie; detaillierte bibliografische Daten sind im Internet über http://dnb.d-nb.de abrufbar.

ISBN:Buch 978-3-944099-03-3PDF 978-3-944099-48-4ePub 978-3-944099-49-1

1. Auflage 2013

Copyright © 2013 Heise Zeitschriften Verlag GmbH & Co KG, Hannover

Die vorliegende Publikation ist urheberrechtlich geschützt. Alle Rechte vorbehalten.

Die Verwendung der Texte und Abbildungen, auch auszugsweise, ist ohne die schriftliche

Zustimmung des Verlags urheberrechtswidrig und daher strafbar. Dies gilt insbesondere für die Vervielfältigung, Übersetzung oder die Verwendung in elektronischen Systemen.

Alle Informationen in diesem Buch wurden mit größter Sorgfalt kontrolliert.

Weder Herausgeber, Autor noch Verlag können jedoch für Schäden haftbar gemacht werden, die in Zusammenhang mit der Verwendung dieses Buches stehen.

5 4 3 2 1 0

Inhaltsverzeichnis

1     Vorwort

2     Von der Ausschaltung des Zufalls

2.1     Algorithmen beherrschen die Welt

2.2     Blick zurück nach vorn: Der Mythos von der Maschinenherrschaft

2.3     Daten: Das Futter der Algorithmen

2.4     Auf dem Weg in die totale Informatisierung des Alltags

3     Alles wird berechenbar

3.1     Digitale Parallelwelten: Der Mensch wird zum Datenprofil

3.2     »There’s no such thing as a free lunch«: Persönliche Daten als Währung des Internetzeitalters

3.3     Immer einen Schritt voraus: Algorithmen als Gedankenleser

4     Digitale Wirklichkeiten

4.1     Leben in der panoptischen Welt

4.2     Leben in der vorsortierten Welt

4.3     Leben in der paternalistischen Welt

4.4     Leben in der verspielten Welt

Literatur

1 Vorwort

»Der Fehler ist, dass der Fortschritt immer mit dem alten Sinn aufräumen will.«

Robert Musil, österreichischer Schriftsteller, 1880–1942

Die Entwicklung des Internets ist getragen von hochfliegenden Freiheits- und Demokratisierungsgedanken: Mit der weltweiten Vernetzung war der Grundstein gelegt, jedermann einen freien und gleichen Zugang zu den Informationen dieser Welt zu gewähren und Transparenz, Informationsvielfalt und gesellschaftliche Teilhabe zu stärken. Denn in der Online-Welt haben Unterschiede in Klasse, Rasse und Geschlecht keine Chance, den freien Austausch von Ideen zu untergraben, weder Zensur noch kommerzielle Interessen können dem freien Fluss von Informationen entgegenstehen. Aber muss das Internet immer so bleiben, wie es war? Heißt es nicht, den Gang der Geschichte, die Unwägbarkeiten, die allen Systemen innewohnen, zu ignorieren, richtet man nicht ganz bewusst den Blick auf Veränderungen, die Altes über den Haufen werfen und Neues hervorbringen?

Ein Blick in die Vergangenheit ist erhellend, will man eine Ahnung davon bekommen, wohin sich das Internet entwickeln könnte. Tim Wu (2010), Professor an der Columbia Law School in New York, beschreibt, wie politische und wirtschaftliche Interessen die Beschaffenheit von Informations- und Medienindustrien umkrempeln können. So etabliert, wie sie heute scheinen, waren ebenso wie das Internet in ihren jeweiligen Anfangstagen auch Fernsehen, Telefon, Hörfunk und Film einmal junge, offene, dynamische und lebendige Medien, die von allerhand überschwänglichen Erwartungen und Ideen angetrieben wurden. Eine große Faszination ging von den neuen Medien aus, kühne Erwartungen wurden an sie gestellt und vorangetrieben wurden sie zunächst vor allem von Amateuren. Mit Blick auf das Internet, so denkt Wu, könne man aus der Geschichte lernen. Denn die Entwicklung läuft immer nach demselben zyklischen Muster ab: Auf die bunte, unregulierte Vielfalt folgen Kommerzialisierung und Konsolidierung. Nach einiger Zeit übernahmen einzelne oder Gruppen von Unternehmen oder manchmal auch die Regierung die Federführung. In jedem einzelnen Fall der Informationsindustrien lasse sich dieses Wechselspiel aus Offenheit und Geschlossenheit beobachten: Bei neuen Medien folgen regelmäßig auf kurze Perioden der Freiheit längere Phasen der Eingrenzung, Kommerzialisierung und Monopolisierung. Tim Wu behauptet nun, das Internet sei diesem Zyklus ebenso unterworfen – und dafür gibt es tatsächlich gute Gründe: Geschlossene Systeme wie Facebook oder Apple sind auf dem Vormarsch, mit Facebook und Google sind Monopole im Entstehen begriffen. Zieht man die Parallele zur Vergangenheit, dann legt diese Dominanz einiger weniger Unternehmen nahe, dass das Internet dabei ist, sein Gesicht radikal zu ändern. Und tatsächlich kann ja niemand bestreiten, dass das Web heute etwas völlig anderes ist als zu seiner Geburtsstunde Anfang der 1990er Jahre. Selbst innerhalb der letzten paar Jahre, in denen das Netz zum Mitmach-Netz wurde und Facebook eine soziale Infrastruktur ins Leben rief, die potenziell alle Erdenbürger vernetzt, veränderte sich die Qualität des Internets nochmals ganz enorm.

Heute steht fest: Die Offenheit des Internets ist nicht in Stein gemeißelt. So wie alle Medien zuvor folgt auch das Internet keinem naturgegebenen Bauplan, sondern wird aktiv gestaltet, es tobt ein Kampf der wirtschaftlichen und politischen Interessen, die das Medium in seine jeweilige Form pressen. Unter dem Deckmantel, »die Informationen der Welt zu organisieren« (Google) oder »die Welt offener und vernetzter zu machen« (Facebook), regiert der Kommerz. Auch wenn die großen Konzerne vorgeblich an etwas Größerem zum Wohle der Menschheit arbeiten, geht es in Wahrheit immer nur um Klickzahlen und Werbeeinnahmen. Seitdem im Internet Werbung als lukrativstes Geschäftsmodell gilt, ist ein Wettrennen um die Nutzer und ihre Portemonnaies entbrannt. Damit ist im Internet nichts mehr wie es einmal war. Denn wo immer es um Kommerz geht, um das Erzielen von Gewinnen, das Sichern und Mehren von Marktanteilen, dort geht es auch um das Messbare. Nichts wird mehr dem Zufall überlassen, der Kunde soll zielsicher auf das eigene Angebot zusteuern. Unwägbares hat keinen Platz, wo es um knallharte Gewinne geht. Alles muss berechenbar sein.

Und tatsächlich ist mehr und mehr heute berechenbar. Nicht nur im Netz, auch immer mehr Aspekte unseres alltäglichen Lebens lassen sich reduzieren auf Null und Eins – die Bausteine des digitalen Lebens. Mit der fortschreitenden Informatisierung unseres Alltags und der Verschmelzung von realer und virtueller Welt existiert kaum noch etwas, das sich nicht in Zahlen abbilden lässt. Daten entstehen überall und jederzeit, jede Lebensäußerung zieht heute eine Datenspur nach sich. Die Aussicht auf die Berechen- und Vermessbarkeit unserer Welt lässt wahre Goldgräberstimmung aufkommen, die Datensammelwut kennt kaum noch Grenzen. Denn Daten versprechen Transparenz, Kontrolle und neue Einsichten. Wo einst gesunder Menschenverstand auf Basis von Beobachtungen und Erfahrungen Schlüsse zog, bedienen sich heute Algorithmen der schieren Masse an eingesammelten Daten und arbeiten Schritt für Schritt ihre Anweisungen ab, an dessen Ende immer ein messerscharfes Ergebnis steht.

Ein immer größer werdendes Vertrauen in Maschinen, Software und ihre Algorithmen kennzeichnet unsere Welt. Die Urteile der Algorithmen werden als unverrückbare Fakten hingenommen und ihre Ergebnisse, die in Handlungen oder Entscheidungen münden, gelten vielen als Gesetz. Wir begeben uns in eine wachsende Abhängigkeit und vertrauen immer weniger auf die eigene Urteilskraft, geschweige denn unser Bauchgefühl. Zahlen umgibt der Mantel des Unzweifelhaften und Exakten: Wer Sachverhalte mit Zahlen unterfüttern kann, der braucht das beste Argument nicht mehr. Daher ist es kein Wunder, dass Algorithmen in unserer Gesellschaft blindes Vertrauen auf sich ziehen: Sie tun unbestechlich, unbeirrt ihren Dienst. In den meisten Fällen bleibt ja auch gar nichts anderes übrig, als ihnen Folge zu leisten, weil die Urteile der Algorithmen nicht hinterfragbar sind. Derart komplex sind viele der Rechenoperationen heute, dass kaum noch jemand sie verstehen kann. Sind die den algorithmisierten Verfahren entspringenden Entscheidungen richtig oder falsch? Wir wissen es nicht.

Auf dem Weg in die digitale Zukunft sind wir heute an einer entscheidenden Weggabelung angekommen: Obwohl die Errungenschaften der digitalen Revolution natürliche Verbündete der Freiheit sind, stehen in jüngster Zeit Informatisierung und Technisierung unserer Welt der ursprünglichen Intention immer häufiger entgegen. Algorithmen übernehmen die Herrschaft, schränken die menschliche Willens- und Handlungsfreiheit ein, indem sie Verhalten auf vorbestimmte Bahnen zwingen. Die Bedeutung des Internets für unser aller Leben nimmt ständig zu – nicht zuletzt, weil wir uns kaum noch entziehen können: Die simpelsten Alltagsdinge sind heute vernetzt. Die Welt wird überschwemmt von Rechenleistung. Informationsverarbeitung gekoppelt mit Kommunikationsfähigkeit dringt fast überall ein. Computer werden allgegenwärtig sein und unsere Interaktionen mit der Welt verändern. Wird die weiter voranschreitende Informatisierung und Technisierung unserer Welt – wie allseits propagiert – mehr Freiheit, Bequemlichkeit, Sicherheit, kurz: ein besseres Leben bringen? Oder ist die versprochene Freiheit doch eher eine vermeintliche, weil Technik zunehmend die Weichen stellt, Wahlfreiheiten einschränkt und Horizonte begrenzt?

2 Von der Ausschaltung des Zufalls

»Die großen Zufälle sind das Gesetz. Die Ordnung der Dinge kann nicht auf sie verzichten.«

Victor Hugo, französischer Schriftsteller, 1802–1885

2.1 Algorithmen beherrschen die Welt

Wenn der deutsche Mathematiker Carl Friedrich Gauß die Mathematik als »die Königin der Wissenschaften« bezeichnete, dann wird er kaum geahnt haben, wie sehr die Disziplin rund zweihundert Jahre später Bedeutung erlangen werde für das alltägliche Leben der Menschen. Wenn wir heute auf Internetportalen eine Nachricht an erster Stelle angezeigt bekommen, ein bestimmtes Produkt im Supermarkt an einer anderen als der gewohnten Stelle vorfinden, wenn die Ampel auf rot springt, just wenn wir angefahren kommen – zumeist machen wir in solchen Fällen schnöden Zufall verantwortlich und denken gar nicht daran, dass die exakteste aller Wissenschaften kühl kalkulierend die Geschicke unseres Lebens lenkt. Für die meisten von uns ist die Mathematik graue Theorie, Pflichtprogramm in der Schulzeit, aber ohne jegliche Relevanz für das praktische Leben. Und doch nehmen Hunderte von komplexen mathematischen Formeln tagtäglich Einfluss auf unseren Alltag – ohne dass wir auch nur das Geringste davon merken. Algorithmen, jene eindeutigen und schrittweise in einer bestimmten Reihenfolge ausführbaren Anweisungen zur Lösung von (mathematischen) Problemen, sind heute derart verbreitet, dass sie gut und gern als Herrscher des modernen Lebens bezeichnet werden können. Sie regeln die Stromversorgung und den Verkehr, sie ersetzen Börsenmakler und entscheiden über unsere Kreditwürdigkeit, sie schlagen uns vor, welche Bücher wir lesen, welche Musik wir hören und welche Menschen wir treffen könnten, sie steuern Produktionsprozesse und suchen uns einen Lebenspartner. Nichts scheint mehr unberechenbar – und bleibt unberechnet.

Tatsächlich sind heute große Bereiche unseres Lebens unterfüttert mit komplexen Algorithmen, die die verschiedensten Datenhäppchen in einer Abfolge genau definierter Schritte in eine Aktion oder Entscheidung verwandeln. Die Rechenoperationen sind überall, aber doch unsichtbar, weil sie im Hintergrund agieren und uns dann lediglich mit den Resultaten ihrer Berechnungen konfrontieren. Und ihre Rolle in unserem Leben wird größer und größer, je stärker Computer und das Internet in sämtliche Lebensbereiche vordringen. Denn in der Online-Welt sind Algorithmen nicht nur wichtig, es läuft schlicht nichts mehr ohne sie. Angesichts der immensen Größe des Internets ist es heute völlig unmöglich, dass sich der Nutzer auf eigene Faust einen Weg durch die Massen an Informationen bahnt. Man hat gar keine andere Wahl, als sich auf die Mathematik zu verlassen, um einen schnellen und passenden Zugang zum Gesuchten zu erhalten. In welcher Reihenfolge wir Suchergebnisse auf Google oder Neuigkeiten auf Facebook angezeigt bekommen, wird von Algorithmen entschieden. Sie sind es auch, die demografische Daten aus der Offline-Welt mit unserem Suchverhalten im Web kombinieren und auf dieser Basis komplexeste Berechnungen durchführen, um uns die richtige Werbung am richtigen Ort zur richtigen Zeit zu Gesicht zu bringen. Indem Algorithmen das Kaufmuster von Millionen von Kunden analysieren, wissen Online-Händler recht genau, was uns gefällt, und können Produktempfehlungen aussprechen und uns zu Impulskäufen anregen. Musikportale analysieren die Hörgewohnheiten ihrer Nutzer und Algorithmen schlagen dann Musikstücke vor, die den jeweiligen Geschmack treffen. Und selbst Liebesdinge werden immer öfter Algorithmen überlassen: Auf Online-Partnerbörsen werden Algorithmen mit den Antworten aus Persönlichkeitstests gefüttert und schließen daraus auf den perfekten Partner.

Der mächtigste Algorithmus der Welt

Weil das Internet eine solch prominente Stellung in unserem Leben einnimmt, Suchmaschinen zunehmend als Tor zur Welt der Informationen fungieren und unter all den Suchmaschinen Google den Markt in einem Ausmaß beherrscht, das in vielen Ländern de facto einem Monopol gleichkommt, kann mit Fug und Recht PageRank als mächtigster Algorithmus der Welt bezeichnet werden. Damit errechnet Google die Reihenfolge, in welcher Treffer einer Websuche angezeigt werden. Wessen Webseite nicht auf der ersten Seite der Trefferliste aufscheint, gilt heute schlichtweg als nicht existent. Es verwundert daher kaum, dass sich rund um die Suchmaschinenplatzierung eine ganze Industrie entwickelt hat, die im Wettlauf um die besten Plätze bei Google den Algorithmus auszutricksen versucht. Und dies ist die reinste Sisyphusarbeit: Denn selbst wenn aus Nutzersicht Googles Oberfläche immer gleich erscheint, hinter den Kulissen ist stets alles in Bewegung. Am Algorithmus wird andauernd gefeilt, es werden immer wieder neue Ideen des Entwicklerteams integriert, um auf jede nur erdenkliche Suchanfrage stets die relevanteste Antwort zu liefern.

Zu seiner Geburtsstunde war PageRank revolutionär: Seiten nach der Anzahl und Bedeutung der auf sie verweisenden Links zu bewerten war im Jahr 1997, als der Algorithmus von Google-Gründer Lawrence Page zum Patent angemeldet wurde, eine absolute Neuheit und legte den Grundstein für den späteren Erfolg der heute dominierenden Suchmaschine. Somit nutzte Google die kollektive Intelligenz des Webs selbst, um zu bestimmen, welche Treffer eine Suche jeweils ganz nach oben spült. Immer wieder wird der Algorithmus überarbeitet, unter anderem auch um die verschiedensten kontextabhängigen Signale miteinzubeziehen, die bei der Reihung der Suchergebnisse helfen. Damit wird sichergestellt, dass aus den Millionen an möglichen Resultaten immer das für den Nutzer relevanteste an der Spitze steht. Die Suchmaschine nutzt mehr als zweihundert solcher Signale zur Bestimmung der Rangfolge der Resultate. Der Algorithmus wird ständig schlauer und lernt durch die eigenen Nutzer. Denn selbst während der Suche generieren die Nutzer Daten, die sodann wieder dabei helfen, die Ergebnisse zu verbessern: welche Resultate angeklickt werden, welche Wörter in Suchstrings ausgetauscht werden, war man mit einem Ergebnis nicht zufrieden, wie Suchanfragen zur physischen Lokation passen. All diese Informationen bei der Reihung zu berücksichtigen, verbessert die Relevanz der Ergebnisse. Die Lokation eines Nutzers zusammen mit seiner Suchhistorie geht auch in die so genannte personalisierte Suche ein; somit bekommen keine zwei Nutzer mehr dieselbe Trefferliste auf ein und dieselbe Suchanfrage präsentiert.

Mit seiner ausgefeilten Technik wurde Google zum Synonym für die Suche im Web. Aber Google will noch weit mehr. Es wird in Zukunft nicht nur darum gehen, die besten Suchresultate zu finden, sondern die Suchfunktion soll zu einem ständig präsenten Feature in jedermanns Leben werden: Mit Google Goggles bahnt sich die Internetsuche ihren Weg ins echte Leben. Goggles interpretiert Bilder, die Nutzer mit ihren Smartphones aufnehmen, als Suchanfragen. Denn mit einer Kamera und Voice Recognition ausgestattet kann ein Smartphone sehen und hören. Weil auf diese Weise auch in der realen Welt gesucht und gefunden werden kann, sind nicht länger nur Daten, sondern werden auch Dinge zum Futter für die suchenden Algorithmen.

Immerhin verfolgt der Internetgigant Google mit seinem scheinbar allwissenden Algorithmus auch kein geringeres Ziel als »die Informationen der Welt zu organisieren«. Dabei sind die exakten Rechenoperationen von PageRank ein streng gehütetes Geheimnis – was auch nicht weiter überrascht, denn kämen zu viele Details über seine Funktionsweise an die Öffentlichkeit, hätten die Suchmaschinenoptimierer leichtes Spiel und die Suchergebnisse verlören an Aussagekraft. Auf der anderen Seite fördert diese Geheimniskrämerei auch immer wieder den Verdacht, dass Google die Suchergebnisse zugunsten seiner eigenen kommerziellen Interessen manipuliert. Noch schwerer wiegt jedoch, dass Google Einfluss auf die Wahrnehmung und das Denken seiner Nutzer nimmt. Denn nicht nur wählt Google – vermeintlich streng »objektiv« – aus, welche Informationen wir zu Gesicht bekommen, auch sprechen neue Forschungsergebnisse (vgl. Sparrow et al. 2011) dafür, dass Suchmaschinen wie Google ganz wesentlich darauf einwirken, wie wir denken. Weil wir uns daran gewöhnt haben, dass sich alles Wissen dieser Welt auch »googeln« lässt, ersetzt die Suchmaschine ein Stück weit unser Gedächtnis: Immer weniger erinnern wir uns an Fakten als vielmehr daran, wie und wo wir diese finden können. Außerdem konnte experimentell nachgewiesen werden, dass unser Gehirn nachlässig wird, Dinge abzuspeichern, von denen wir meinen, sie jederzeit im Internet wiederbeschaffen zu können. Gänzlich neu ist dieses Phänomen freilich nicht: Schon vor fast dreißig Jahren wurde als Konzept des »transaktiven Gedächtnisses« (vgl. Wegner et al. 1985) beschrieben, dass Personen das Wissen anderer Personen als eine Art externen Gedächtnisspeicher nutzen. Neu ist allerdings, dass Google eine Änderung unseres transaktiven Gedächtnisses bewirkt – dahingehend nämlich, dass wir uns nicht mehr nur an Personen, sondern auch an Suchmaschinen wenden, um unsere Wissenslücken zu stopfen.

Zwischen Bequemlichkeit und Bevormundung

Algorithmen machen das Leben im digitalen Zeitalter bequem. Jede Frage ist immer nur einen Mausklick von einer Antwort entfernt, zwischenmenschliche Beziehungen werden auf sozialen Netzwerken in eine Struktur und Ordnung gebracht und Online-Händler empfehlen uns passende Produkte. Stets ist im Netz eine helfende Hand zur Seite, die genau weiß, was wir wollen und benötigen – und uns sodann auf Mausklick einen Zugang dazu verschafft. Macht uns unsere eigene Bequemlichkeit damit nicht auch zu Gefangenen einer Welt, in der die Herren über die Algorithmen uns nach Belieben in bestimmte Richtungen schubsen können, um genau das zu tun oder zu kaufen, was in ihrem Sinne ist? Beenden Algorithmen nicht jegliche Zufälligkeit? Wird es in einer berechneten Welt noch möglich sein, Neues zu entdecken, sich Unbekanntem auszusetzen, um den eigenen Horizont zu erweitern? Werden wir noch einen freien Willen haben, wenn wir stets auf vorbestimmte Bahnen gedrängt werden? Algorithmen, die unsere Bedürfnisse und Wünsche im Voraus berechnen und sodann entsprechend reagieren, haben heute einen enormen Einfluss auf unsere Vorlieben, unsere Konsumgewohnheiten und überhaupt sämtliche Entscheidungen unseres digitalen Lebens. Eines ist sicher: Die Datenbanken mit dem Futter der Algorithmen wachsen und wachsen, Software zur Analyse der Daten wird immer machtvoller. Daher wird kein Weg daran vorbeiführen, die Macht der Algorithmen zu beschränken und deren Missbrauch durch Orwell’sche Regierungen, aufdringliche Unternehmen und Hacker einzudämmen.

Aber nicht nur im Missbrauch liegt eine Gefahr; viel akuter scheint das Szenario, dass Algorithmen außer Kontrolle geraten. Viele von ihnen sind derart kompliziert konstruiert, dass kaum noch jemand – und nicht einmal ihre Schöpfer selbst – den Überblick über deren Funktionsweise behalten. Es werden Handlungsvorschriften geschrieben, die der Mensch nicht mehr lesen kann, deren Ergebnis kaum vorhersehbar ist, weil der Algorithmus eine unbeherrschbare Eigendynamik entwickelt. Dass »Fehler im System« eine ganz reale Gefahr sind, zeigt sich schon daran, dass durch solche Pannen regelmäßig die Finanzwelt aufgerüttelt wird: So schickte etwa im Sommer 2010 ein »Softwarefehler« den japanischen Leitindex auf Talfahrt, nachdem die Deutsche Bank versehentlich Verkaufsaufträge im Umfang von 150 Milliarden Euro platziert hatte. Ungefähr zur selben Zeit sorgten elektronische Handelssysteme auch für Panik an der New Yorker Börse: Auf einen einzelnen ungewöhnlichen Verkaufsauftrag reagierten die Systeme mit Massenverkäufen und brachten die Aktien der Citigroup zum Absturz um 17 Prozent. Erst als die Papiere für einige Minuten vom Handel ausgesetzt wurden, beruhigte sich die Lage wieder. Schon einige Wochen zuvor schockte ein radikaler Kurssturz die Wall Street, bei dem sich die Aktienkurse ohne ersichtlichen Grund im freien Fall befanden. Der Spuk war zwar nach einer Stunde wieder vorbei, doch das »High Frequency Trading« (Hochfrequenzhandel) brachte es durch diesen »Flash Crash« zu trauriger Berühmtheit. Solche Situationen sind dadurch zu erklären, dass viele automatisierte Handelsprogramme ohne menschliche Kontrolle an den Märkten aktiv werden und dabei sehr ähnlich agieren. Das Durchbrechen bestimmter Kursmarken ist beispielsweise ein Signal an die Systeme, darauf in einer bestimmten Weise zu reagieren. Tut das eine große Menge an Systemen auf dieselbe Weise, kann der Handel leicht aus dem Gleichgewicht geraten. Diese Beispiele zeigen, welchen Schaden das Zusammenwirken einer ganzen Schar von Algorithmen bewirken kann. Dabei ist es grundsätzlich auch denkbar, dass sich Algorithmen selbst vermehren, dass sie einen anderen Algorithmus erzeugen und diesen aktivieren, wenn zur Lösung eines Problems eine andere Verfahrensabfolge nötig wird.

Sich aus eigenem Antrieb vermehrende Algorithmen nähren natürlich Vorstellungen vom kompletten Kontrollverlust des Menschen. Dennoch eignen sich Algorithmen schlecht für die Rolle des Tyrannen. Sie haben keinen eigenen Willen und entstehen immer noch im menschlichen Gehirn. Ihre Macht rührt daher, dass sie der Wesenskern jedes Computerprogramms sind: Nach ihrer Logik funktionieren die Programme. Ohne jegliches weitere menschliche Zutun kommen Entscheidungen und Handlungen zustande. Daher sind Algorithmen das Schmiermittel unserer computerisierten Welt. Und für Internetunternehmen sind die oftmals misstrauisch beäugten mathematischen Rezepte der entscheidende Wettbewerbsvorteil – genauso wie es in analogen Zeiten auch streng gehütete Firmengeheimnisse gab, die die Grundfesten für den Erfolg eines Unternehmens ausmachten. Man denke nur an das von Legenden umwobene Geheimrezept von Coca-Cola, des erfolgreichsten Softdrinks der Welt. Das Paradoxe an der heutigen Situation ist: Ohne Algorithmen läuft nichts mehr, gleichzeitig sind sie aber unsichtbar und zumeist streng geheim. Sie verrichten ihre Arbeit still und leise im Hintergrund und diktieren dennoch zunehmend, wie wir unser Leben zu führen haben.

2.2 Blick zurück nach vorn: Der Mythos von der Maschinenherrschaft

Was immer wieder unter Börsianern Panik ausbrechen lässt – ein kleiner Fehler im System, der sich zu einem Riesencrash potenziert –, ist theoretisch auch überall anderswo möglich. Oder wer kennt nicht Computerabstürze, die scheinbar aus dem Nichts kommen? Immer noch sitzt der Mensch am Schalthebel und kann die Probleme beheben – so geschieht es mit jedem Absturz des heimischen PCs und so geschah es auch jedes Mal an den großen Börsenplätzen der Welt, wenn der computerbetriebene automatische Wertpapierhandel verrückt spielte. Anders im Kino: Dort haben längst intelligente Maschinen die Oberhand gewonnen. Derart fest sind die Vorstellung einer »künstlichen Intelligenz« und die Angst vor einer Maschinenherrschaft im Bewusstsein der Menschen verwurzelt, dass der Mythos von den Maschinen, die die Kontrolle an sich reißen und Menschen fortan in Knechtschaft halten, zu einem immer wiederkehrenden Motiv der Filmgeschichte wurde.

Im Stummfilm »Metropolis« aus dem Jahr 1927 stehen die Maschinen noch im Dienst der Menschen, wenn auch nur zugunsten einer reichen Oberschicht. Für eine unterdrückte Arbeiterklasse hingegen geben die riesigen, bedrohlich wirkenden Maschinen den Takt vor: Unter der Erde müssen sie in Zehnstundenschichten für das behagliche, vergnügliche Leben der Reichen schuften. Auch wenn die Maschinen in Fritz Langs Klassiker bloß Werkzeuge sind, unintelligent und willenlos, so spielen sie im Maschinenraum unter der Erde doch die Hauptrolle und abhängig von den Maschinen sind beide Klassen gleichermaßen: die Oberschicht, um ihren Reichtum, und die Unterschicht, um ihren kargen Lebensunterhalt zu sichern.