Verlag: HOFFMANN UND CAMPE VERLAG GmbH Kategorie: Geisteswissenschaft Sprache: Deutsch Ausgabejahr: 2018

Zehn Gründe, warum du deine Social Media Accounts sofort löschen musst E-Book

Jaron Lanier  

3.84615384615385 (26)
Bestseller Neu

Das E-Book lesen Sie auf:

E-Reader EPUB für EUR 1,- kaufen
Tablet EPUB
Smartphone EPUB
Computer EPUB
Lesen Sie in der Cloud®
mit Legimi-Apps.
Warum lohnt es sich?
Hören Sie in der Cloud®
mit Legimi-Apps.
Warum lohnt es sich?

Leseprobe in angepasster Form herunterladen für:

Sicherung: Wasserzeichen

E-Book-Beschreibung Zehn Gründe, warum du deine Social Media Accounts sofort löschen musst - Jaron Lanier

»Um „Zehn Gründe...“ zu lesen, reicht ein einziger Grund: Jaron Lanier. Am wichtigsten Mahner vor Datenmissbrauch, Social-Media-Verdummung und der fatalen Umsonst-Mentalität im Netz führt in diesen Tagen kein Weg vorbei.« Frank Schätzing Jaron Lanier, Tech-Guru und Vordenker des Internets, liefert zehn bestechende Gründe, warum wir mit Social Media Schluss machen müssen. Facebook, Google & Co. überwachen uns, manipulieren unser Verhalten, machen Politik unmöglich und uns zu ekligen, rechthaberischen Menschen. Social Media ist ein allgegenwärtiger Käfig geworden, dem wir nicht entfliehen können. Lanier hat ein aufrüttelndes Buch geschrieben, das seine Erkenntnisse als Insider des Silicon Valleys wiedergibt und dazu anregt, das eigenen Verhalten in den sozialen Netzwerken zu überdenken. Wenn wir den Kampf mit dem Wahnsinn unserer Zeit nicht verlieren wollen, bleibt uns nur eine Möglichkeit: Löschen wir all unsere Accounts! Ein Buch, das jeder lesen muss, der sich im Netz bewegt! »Ein unglaublich gutes, dringendes und wichtiges Buch« Zadie Smith

Meinungen über das E-Book Zehn Gründe, warum du deine Social Media Accounts sofort löschen musst - Jaron Lanier

E-Book-Leseprobe Zehn Gründe, warum du deine Social Media Accounts sofort löschen musst - Jaron Lanier

Jaron Lanier

Zehn Gründe, warum du deine Social Media Accounts sofort löschen musst

Aus dem amerikanischen Englisch von Martin Bayer und Karsten Petersen

Hoffmann und Campe

Einleitung, mit Katzen

Fangen wir mit Katzen an.

Online sind Katzen überall. Sie liefern die viralsten Meme und die niedlichsten Videos.

Wieso schaffen Katzen das eher als Hunde?1

Es war sicher nicht so, dass die Hunde irgendwann zu den Urmenschen gekommen sind, und darum gebettelt haben, mit ihnen leben zu dürfen. Wir haben sie domestiziert, erst die Zucht hat sie gehorsam gemacht.2 Jetzt lassen sie sich erziehen und sind berechenbar. Sie arbeiten für uns. Damit soll überhaupt nichts gegen Hunde gesagt werden.3 Es ist toll, dass sie treu und zuverlässig sind.

Katzen sind anders. Sie tauchten einfach irgendwann auf und haben sich mehr oder weniger selbst domestiziert. Sie sind nicht berechenbar. Beliebte Hundevideos zeigen oft, wie ein Hund dressiert wird, während die bei weitem beliebtesten Katzenvideos solche sind, die komische und erstaunliche Verhaltensweisen eingefangen haben.

Katzen sind intelligent, aber nicht die beste Wahl, wenn du ein Haustier haben willst, das sich gut abrichten lässt. Sieh dir mal einen Online-Katzenzirkus an: Es ist faszinierend, wie die Katzen sich unverkennbar selbst entscheiden, ob sie ein gelerntes Kunststück vorführen, lieber gar nichts tun oder zwischen den Zuschauerbänken herumwandern wollen.

Katzen haben das scheinbar Unmögliche geschafft: Sie haben sich in die moderne Hightech-Welt integriert, ohne sich selbst aufzugeben. Sie entscheiden nach wie vor selbst, was sie tun wollen. Es steht nicht zu befürchten, dass irgendein tückisches Mem, das von Algorithmen konstruiert und von einem unheimlichen und unsichtbaren Oligarchen bezahlt wurde, deine Katze unter seine Kontrolle bringt. Niemand kann deine Katze unter Kontrolle bringen, weder du selbst noch sonst irgendjemand.

Ach, wie schön wäre es, wenn wir sicher sein könnten, genauso wenig manipulierbar zu sein wie eine Katze! Wir können nur träumen und hoffen, dass sich der Mensch im Internet in Zukunft genauso verhalten wird wie die Katzen in den Videos.

Obwohl wir sie lieben, wollen wir auf gar keinen Fall wie Hunde sein, zumindest nicht in Bezug auf unsere Machtbeziehungen zu anderen Menschen. Und doch müssen wir befürchten, dass Facebook & Co. uns zu Hunden machen wollen. Wenn wir online mal wieder irgendwelchen Mist gebaut haben, dann wahrscheinlich, weil irgendjemand auf seiner Hundepfeife gepfiffen hat. Hundepfeifen können nur von Hunden gehört werden. Wir merken, dass wir Gefahr laufen, zu Opfern einer heimlichen Kontrolle zu werden.

In diesem Buch geht es darum, wie du eine Katze werden kannst. Wie kannst du selbstbestimmt bleiben in einer Welt, in der du rund um die Uhr überwacht und ständig von Algorithmen bedrängt wirst, die von einigen der reichsten Konzerne der Welt auf dich losgelassen werden? Von Konzernen, die nur Geld verdienen können, weil sie sich dafür bezahlen lassen, dein Verhalten zu manipulieren? Wie kannst du trotz alledem eine Katze sein?

Der Titel ist keine Lüge: in diesem Buch werden zehn Gründe präsentiert, alle deine Social-Media-Accounts sofort zu löschen. Ich hoffe, sie werden dich überzeugen. Aber selbst wenn du alle zehn Gründe richtig findest, wirst du vielleicht trotzdem ein paar deiner Accounts behalten wollen. Das ist deine eigene Entscheidung – als Katze.

Diese zehn Gründe werden dir einige Denkanstöße geben, wie du deine eigene Situation analysieren kannst, um zu entscheiden, was für dich am besten ist. Aber letzten Endes kannst nur du selbst das wissen.

Nachtrag des Autors, März 2018

Dieses Buch wurde hauptsächlich in den letzten Monaten des Jahres 2017 geschrieben, aber die bisherigen Ereignisse im Jahr 2018 sind für meine Thesen extrem relevant und brisant. Das Manuskript war fertig, zu Ende, finito – schon auf dem Weg in die Druckerei –, als die skandalösen Enthüllungen über Cambridge Analytica quasi über Nacht eine spontane Grassroots-Bewegung von Menschen ins Leben riefen, die ihre Facebook-Accounts löschten.

Leider haben nicht alle Meinungsführer und Persönlichkeiten des öffentlichen Lebens darauf mit der gebotenen Zivilcourage reagiert. Es gab kluge Leute, die aufhören wollten, es aber nicht schafften. Es gab andere, die darauf hinwiesen, dass nicht jeder privilegiert genug sei, um aufhören zu können, und daher fühle es sich grausam an, die weniger Privilegierten zurückzulassen. Wieder andere sagten, es würde nichts bringen, einfach nur aufzuhören, weil es darauf ankomme, die Regierung unter Druck zu setzen, Facebook zu regulieren. Insgesamt war die Haltung vieler professioneller Kommentatoren gegenüber Menschen, die ihre Accounts löschten, herablassend und diffamierend. Und völlig falsch.

Also wirklich, Leute! Ja, es ist ein Privileg, aussteigen zu können. Viele von uns können das nicht, aus guten Gründen. Aber wenn du die Möglichkeit hast aufzuhören, es aber nicht tust, dann unterstützt du damit nicht etwa die weniger Privilegierten, sondern du stärkst das System, in dem zahllose Menschen gefangen sind. Ich bin der lebende Beweis dafür, dass man auch ohne Social-Media-Accounts in den Medien präsent sein kann. Diejenigen unter uns, die sich frei entscheiden können, müssen ihren Worten auch Taten folgen lassen, weil sonst alles graue Theorie bleibt. Das Geschäft folgt dem Geld. Also haben wir, die wir uns frei entscheiden können, Macht und Verantwortung. Du, ja du, hast die konstruktive Verantwortung, dir zu überlegen und zu zeigen, wie man ohne diesen Mist leben kann, der die Gesellschaft zerstört. Auszusteigen ist bis auf weiteres der einzige Weg, um herauszufinden, wodurch die grandiose Fehlkonstruktion Social Media ersetzt werden kann.

1Du verlierst deinen freien Willen

Willkommen in deinem Käfig, der überallhin mitkommt

Etwas völlig Neues passiert auf der Welt. Seit kaum fünf oder zehn Jahren tragen wir beinahe alle ein kleines Gerät mit uns herum, das »Smartphone« genannt wird und für algorithmische Verhaltensmodifikation geeignet ist. Viele von uns nutzen außerdem sogenannte »Smart Speaker«, auf dem Küchenregal oder im Auto. Wir werden rund um die Uhr beobachtet und registriert und erhalten ständig automatisiertes Feedback. Dabei werden wir unmerklich von unsichtbaren Technikern für unbekannte Zwecke hypnotisiert. Mittlerweile sind wir alle zu Versuchskaninchen geworden.

Diverse Algorithmen saugen Daten über dich auf, jede Sekunde, ununterbrochen. Auf was für Links klickst du? Was für Videos siehst du dir bis zum Ende an? Wie schnell springst du von einer Sache zur nächsten? Wo befindest du dich, während du das tust? Mit wem hast du Kontakt, persönlich und online? Welchen Gesichtsausdruck machst du? Wie verändert sich deine Hautfarbe in verschiedenen Situationen? Womit warst du gerade beschäftigt, als du beschlossen hast, etwas zu kaufen oder nicht zu kaufen? Zu wählen oder nicht zu wählen?

All diese Messdaten und viele andere werden mit ähnlichen Daten aus dem Leben von diversen anderen Menschen abgeglichen, die durch massives Ausforschen erfasst wurden. Algorithmen korrelieren das, was du tust, mit dem, was so gut wie alle anderen getan haben.

Die Algorithmen verstehen dich zwar nicht wirklich, aber ihre Zahlen bringen ihren Besitzern Macht, vor allem, wenn es viele Zahlen sind. Wenn viele andere Menschen, die gern das Gleiche essen wie du, außerdem von dem Bild eines Kandidaten mit rosa Umrahmung eher abgestoßen waren als von einem mit blauem Rand, dann wird es bei dir wahrscheinlich genauso sein, und niemand muss genau wissen, warum das so ist. Statistiken sind zuverlässig, aber nur als dumme Zahlensuppe.

Bist du traurig, einsam, ängstlich? Glücklich, selbstbewusst? Bekommst du deine Tage? Hast du Abstiegsängste?

Sogenannte Werbetreibende können präzise den Moment abpassen, wenn du genau in der richtigen Stimmung bist, um dich mit Anzeigen zu beeinflussen, die auch bei Leuten funktioniert haben, die bestimmte Eigenschaften und Situationen mit dir gemein haben.

Ich sage »sogenannte«, weil es einfach falsch ist, von Werbung zu sprechen, wenn Menschen vorsätzlich manipuliert werden. Früher hatte ein Werbetreibender nur eine flüchtige Chance, seine Botschaft rüberzubringen. Diese Botschaft war vielleicht verlogen oder nervig, aber sie war auch schnell wieder vorbei. Hinzu kommt, dass unzählige Menschen dieselben TV-Werbespots und gedruckten Anzeigen sahen, Werbung also nicht auf den Einzelnen zugeschnitten war. Der wichtigste Unterschied ist aber, dass du nicht ständig beobachtet und analysiert wurdest, um dir dynamisch optimierte Reize servieren zu können – seien es nun Inhalte oder Anzeigen –, mit denen dein Interesse geweckt und dein Verhalten verändert werden sollte.

Heute bekommt jede Person, die in einem sozialen Netzwerk unterwegs ist, individualisierte und ständig optimierte Reize serviert, pausenlos, solange sie ihr Smartphone benutzt. Was früher Werbung genannt wurde, muss heute als unaufhörliche Verhaltensmodifikation in gigantischem Umfang verstanden werden.

Sei jetzt bitte nicht beleidigt. Ja, ich will andeuten, dass du dich vielleicht – nur ein ganz kleines bisschen – in einen wohlerzogenen Hund verwandelst, oder vielleicht sogar in etwas nicht ganz so Sympathisches, etwa eine Laborratte oder einen Roboter. Dass du von den Kunden großer Konzerne ferngesteuert wirst – wenn auch nur ein kleines bisschen. Aber falls ich recht habe und du dir dieser Vorgänge bewusst wirst, könnte es dich befreien – also gib diesem Buch eine Chance, okay?

Bevor Computer erfunden wurden, entstand eine wissenschaftliche Bewegung, die als »Behaviorismus« bekannt wurde. Behavioristen erforschten neue, systematischere, sterilere und abgedrehtere Methoden, um Tiere und Menschen abzurichten.

Einer der bekanntesten Behavioristen war der US-amerikanische Psychologe B.F. Skinner. Er entwickelte die sogenannte »Skinner-Box«, einen Käfig, in dem ein Tier eine Belohnung erhält, wenn es eine bestimmte Aktion ausführt. Dabei ist kein Mensch beteiligt, der das Tier vielleicht streichelt oder ihm etwas zuflüstert, es ist eine völlig isolierte mechanische Aktion – eine neue Dressurmethode für moderne Zeiten. Diverse Behavioristen, von denen viele etwas bedrohlich wirken, probierten diese Methode auch am Menschen aus. In vielen Fällen funktionierten solche behavioristischen Konditionierungen, was großes Entsetzen auslöste und eine Reihe von gruseligen »Mind control«-Horror- und Science-Fiction-Filmen nach sich zog.

Es ist eine verhängnisvolle Tatsache, dass man einen Menschen mit behavioristischen Methoden manipulieren kann, ohne dass er es überhaupt merkt. Bis vor kurzem geschah das nur sehr selten, außer vielleicht, wenn du dich an einer Universität als freiwilliger Proband für ein Experiment im Keller der Psychologischen Fakultät gemeldet hast. Dann hat man dich in einen Raum geführt, wo du getestet wurdest, während dich jemand durch ein verspiegeltes Fenster beobachtet hat. Obwohl dir klar war, dass du bei einem Experiment mitmachst, konntest du nicht erkennen, wie du manipuliert wurdest. Aber zumindest hattest du vorher deine Zustimmung erteilt, dass man dich irgendwie manipulieren würde. (Na ja, auch nicht immer. Es wurden diverse grausame Experimente an Gefängnisinsassen, Armen und vor allem an Probanden bestimmter Hautfarben durchgeführt.)

In diesem Buch sage ich, dass das, was plötzlich normal geworden ist – allgegenwärtige Überwachung und ständige, subtile Manipulation –, unmoralisch, grausam, gefährlich und unmenschlich ist.

Gefährlich? Jawohl, gefährlich, denn wer weiß schon, wer sich diese Macht zunutze machen wird, und wofür?

Der verrückte Wissenschaftler hat doch Mitleid mit dem Hund im Käfig

Vielleicht hast du schon einmal die weinerlichen Geständnisse der Gründer von Social-Media-Imperien gehört, die ich allerdings lieber als »Verhaltensmodifikations-Imperien« bezeichne.

Das hat Sean Parker, der erste Präsident von Facebook, gesagt:

»Wir müssen dir sozusagen ab und zu einen kleinen Dopamin-Kick verpassen, weil jemand ein Foto oder ein Posting oder sonst was geliked oder kommentiert hat. […] Das ist eine Feedbackschleife für soziale Anerkennung […] genau das, was ein Hacker wie ich sich ausdenken würde, weil man damit eine Schwachstelle der menschlichen Psyche ausnutzt. […] Die Erfinder, die Urheber – Leute wie ich, Mark [Zuckerberg], Kevin Systrom von Instagram, all diese Leute – haben das auf einer ganz bewussten Ebene verstanden. Und wir haben es trotzdem gemacht […] es verändert buchstäblich deine Beziehungen zur Gesellschaft und untereinander. […] Wahrscheinlich hat es negative Auswirkungen auf die Produktivität. Wer weiß, was es mit den Gehirnen unserer Kinder anstellt.«4

Hier ein Zitat von Chamath Palihapitiya, dem früheren Vizepräsidenten für Nutzer-Wachstum bei Facebook:

»Die von uns entwickelten, schnell reagierenden, dopamingetriebenen Feedbackschleifen zerstören, wie die Gesellschaft funktioniert. […] Kein gesellschaftlicher Diskurs, keine Zusammenarbeit; Desinformation, Unwahrheit. Und das ist nicht nur ein amerikanisches Problem – hier geht es nicht um von Russland geschaltete Anzeigen. Dies ist ein globales Problem. […] Ich fühle mich sehr schuldig. Ich glaube, in den hintersten Winkeln unseres Bewusstseins wussten wir es alle – obwohl wir immer so getan haben, als ob es wahrscheinlich keine negativen, ungewollten Folgen geben würde. Ich glaube, dass wir im Bauch, ganz tief im Unterbewusstsein, schon immer irgendwie wussten, dass etwas Schlimmes passieren könnte. […] Jetzt haben wir, glaube ich, einen wirklich schlimmen Zustand erreicht. Er untergräbt das Fundament des Verhaltens der Menschen zu- und untereinander. Und ich habe keine gute Lösung dafür. Meine persönliche Lösung ist, dass ich diese Tools einfach nicht mehr benutze. Schon seit Jahren nicht mehr.«5

Besser spät als nie. Zahlreiche Kritiker wie ich haben des Öfteren gewarnt, dass schon seit geraumer Zeit hässliche Dinge passieren. Das jetzt auch von den Leuten zu hören, die uns die Suppe eingebrockt haben, ist auf jeden Fall ein Fortschritt.

Jahrelang musste ich ziemlich schmerzhafte Kritik von meinen Freunden im Silicon Valley ertragen, die mich als Verräter bezeichneten, weil ich das, was wir taten, kritisierte. In letzter Zeit habe ich das umgekehrte Problem. Jetzt sage ich, dass die meisten Leute im Silicon Valley anständig sind und bitte darum, uns nicht als Schurken darzustellen, und jetzt werde ich dafür heftig kritisiert. Ob ich meine Community zu hart oder zu milde beurteile, ist schwer zu sagen.

Zunächst ist jedoch die Frage wichtiger, ob Kritik überhaupt eine Rolle spielen kann. Es ist offensichtlich, dass eine bestimmte verhängnisvolle Technologie uns schadet, aber werden wir – wirst du, ja du – ihr widerstehen und dazu beitragen können, die Welt zu einem besseren Ort zu machen?

Unternehmen wie Facebook, Google und Twitter versuchen inzwischen endlich, einige der massiven Probleme zu korrigieren, die sie verursacht haben, allerdings nur zögerlich. Tun sie das, weil sie unter Druck gesetzt werden oder weil sie davon überzeugt sind? Wahrscheinlich von beidem etwas.

Die Unternehmen ändern ihre Richtlinien, sie stellen Menschen ein, um zu beobachten, was vor sich geht, und Data Scientists, die Algorithmen entwickeln sollen, um die schlimmsten Fehlentwicklungen zu vermeiden. Früher lautete Facebooks Mantra »Move fast and break things«6, doch inzwischen haben sie sich bessere Mantras ausgedacht und versuchen, ein paar Bruchstücke der kaputten Welt aufzusammeln und sie wieder zusammenzukleben.

Meiner Meinung nach können diese Konzerne allein jedoch gar nicht genug tun, um die Welt wieder zusammenzuleimen.

Da einige Leute im Silicon Valley Reue zeigen, könntest du jetzt denken, dass du nur abwarten musst, bis sich das Problem von selbst erledigt hat. Aber so läuft das nicht. Wenn du nicht selbst ein Teil der Lösung bist, wird es keine Lösung geben.

In diesem ersten Kapitel will ich auch ein paar Schlüsselkonzepte vorstellen, auf denen die Entwicklung von suchterzeugenden und manipulativen Netzwerkdiensten aufbaut. Bewusstsein ist der erste Schritt zur Freiheit.

Zuckerbrot und Peitsche

Parker sagt, Facebook habe Menschen absichtlich süchtig gemacht, während Palihapitiya die negativen Auswirkungen auf zwischenmenschliche Beziehungen und die Gesellschaft als Ganzes erwähnt. Wie hängen diese beiden Geständnisse zusammen?

Der zentrale Prozess, der es sozialen Netzwerken ermöglicht, Geld zu verdienen, und außerdem der Gesellschaft schadet, ist als Verhaltensmodifikation bekannt. Dieses Verfahren beruht auf methodischen Techniken, die Verhaltensmuster bei Tieren und Menschen verändern. Es kann zur Behandlung einer Sucht eingesetzt werden, aber auch, um eine Sucht zu erzeugen.

Der Gesellschaft entsteht dadurch Schaden, weil eine Sucht den Betroffenen verrückt macht. Der Süchtige verliert nach und nach jeden Bezug zur realen Welt und zu realen Menschen. Wenn viele Menschen nach manipulativen Systemen süchtig sind, wird die Welt finster und verrückt.

Abhängigkeit ist ein neurologischer Prozess, den wir noch nicht vollständig verstehen. Eine wichtige Rolle für unser Glücksempfinden spielt der Neurotransmitter Dopamin, der auch für einen zentralen Bestandteil des Mechanismus zur Verhaltensänderung als Reaktion auf Belohnungen gehalten wird. Darum hat Parker ihn erwähnt.

Verhaltensmodifikation – vor allem die moderne Art, bei der Geräte wie Smartphones eingesetzt werden – ist ein statistischer Effekt. Das bedeutet, dass dieser Effekt zwar real ist, aber nicht völlig zuverlässig erzeugt werden kann. Für eine Masse von Menschen kann er mehr oder weniger genau vorhergesagt werden, für ein Individuum jedoch nicht. In gewissem Maße bist du ein Tier im Laborkäfig eines Behavioristen. Der Umstand, dass etwas unscharf und ungenau ist, bedeutet aber nicht, dass es nicht real ist.

Ursprünglich waren kleine Leckerbissen die bei behavioristischen Experimenten am häufigsten verwendeten Belohnungen, eine Praxis, die schon seit Menschengedenken gebräuchlich ist. Jeder Dompteur gibt dem Tier einen Leckerbissen, wenn es ein Kunststück vollbracht hat. Nicht nur Tierbändiger tun das, sondern auch viele Eltern kleiner Kinder.

Einer der ersten Behavioristen, Iwan Pawlow, hat bekanntlich gezeigt, dass er seinen Hunden noch nicht einmal echte Leckerbissen geben musste, um ihr Verhalten zu verändern. Er läutete immer eine Glocke, wenn der Hund gefüttert wurde, und nach einer Weile fing der Hund bereits zu speicheln an, sobald er nur die Glocke hörte.

Es ist zu einem unentbehrlichen Trick im Werkzeugkasten der Verhaltensmodifikation geworden, Symbole zu verwenden statt echter Belohnungen. So erzeugt zum Beispiel ein Smartphone-Spiel wie Candy Crush Abhängigkeit mit Hilfe bunter Bilder von Süßigkeiten – anstatt mit echten Süßigkeiten. Andere suchterzeugende Videospiele verwenden bunte Bilder von Münzen oder anderen Kostbarkeiten.

Von Wohlgefühlen und Belohnungen ausgelöste, suchterzeugende Muster im Gehirn – der von Sean Parker erwähnte »kleine Dopamin-Kick« – sind ein Teil der Ursachen von Social-Media-Abhängigkeit, aber nicht die ganze Geschichte. Social-Media-Plattformen setzen auch Bestrafung und negative Verstärkung ein.

Bei behavioristischen Experimenten im Labor wurden diverse Formen der Bestrafung eingesetzt. Eine Zeit lang waren Elektroschocks ganz beliebt. Doch ebenso wie bei Belohnungen muss eine Strafe nicht real und körperlich spürbar sein – bei manchen Experimenten wurden einem Probanden lediglich Punkte oder Spielmarken verweigert.

Wenn du Social Media nutzt, bekommst du das Äquivalent von Leckerbissen und Elektroschocks verpasst.

Die meisten User haben in sozialen Netzwerken schon einmal »catfishing«7 erlebt (was Katzen hassen) – sie wurden grundlos abgelehnt, lächerlich gemacht oder ignoriert, wurden vielleicht sogar auf geradezu sadistische Weise gequält oder erlebten noch Schlimmeres. So ähnlich wie Zuckerbrot und Peitsche zusammenwirken, kann unangenehmes Feedback eine ebenso große Rolle beim Entstehen von Abhängigkeit und bei heimlichen Verhaltensmodifikationen spielen wie angenehme Rückmeldungen.

Der Reiz des Rätselhaften

Mit der Phrase »ab und zu« bezieht Parker sich wahrscheinlich auf eines der merkwürdigen Phänomene, die Behavioristen bei Experimenten mit Tieren und auch Menschen entdeckt haben. Wenn ein Proband belohnt wird – sei es durch soziale Anerkennung oder einen Bonbon –, wann immer er etwas Bestimmtes tut, wird er dazu neigen, diese Aktion zu wiederholen. Wenn zum Beispiel eine Person gelobt wird, weil sie etwas in ihrem Social-Media-Netzwerk gepostet hat, wird sie sich angewöhnen, mehr davon zu posten.

Das mag ganz unschuldig klingen, kann aber schon die erste Phase einer Sucht sein, die sowohl für den betroffenen Menschen als auch die Gesellschaft zum Problem werden kann. Obwohl die Leute im Silicon Valley einen wohlklingenden Euphemismus für diese Phase haben (»Engagement«)8, ruft sie bei ihnen so ernste Befürchtungen hervor, dass sie ihre Kinder genau davor schützen. Viele der Kinder aus meinem Bekanntenkreis im Silicon Valley besuchen Waldorfschulen, an denen elektronische Geräte prinzipiell verboten sind.

Das Erstaunliche ist aber weniger, dass positives und negatives Feedback funktionieren, sondern dass mehr oder weniger zufälliges, unvorhersehbares Feedback sogar noch mehr Interesse wecken kann als standardisiertes Feedback.

Wenn du als Kind jedes Mal, wenn du »bitte« sagst, einen Bonbon bekommst, wirst du wahrscheinlich immer öfter »bitte« sagen. Aber nehmen wir an, dass du hin und wieder keinen Bonbon bekommst. Es wäre denkbar, dass du dann nach und nach immer seltener »bitte« sagen würdest – denn schließlich führt das nicht mehr so zuverlässig zur erwünschten Belohnung wie bislang.

Doch manchmal passiert das Gegenteil. Es ist, als ob dein Gehirn – ein geborener Mustererkennungsapparat – der Versuchung nicht widerstehen kann: »Da muss doch noch irgendein anderer Trick dabei sein«, grübelt dein Gehirn, besessen von deinem Verlangen nach Bonbons. Du versuchst es immer wieder, sagst »bitte« und hoffst, dass sich ein weniger offensichtliches Muster zeigen wird – obwohl es tatsächlich nur eine endlose Kette von Zufälligkeiten gibt.

Für einen Wissenschaftler ist es gesund, von einem Muster fasziniert zu sein, das er nicht ganz versteht – vielleicht bedeutet es, dass es noch etwas Tiefgründigeres zu entdecken gibt. Auch beim Drehbuchschreiben ist das eine prima Methode, die man ausloten kann: ein bisschen Rätselhaftigkeit macht eine Geschichte oder Figur umso faszinierender.

Doch in vielen Lebenslagen ist das ein denkbar schlechter Grund für Faszination. Wahrscheinlich ist es der Reiz von unzuverlässigem Feedback, der viele Menschen in eine miserable co-abhängige Beziehung hineinzieht, in der sie nicht gut behandelt werden.

Es ist ganz einfach, ein bisschen Zufälligkeit in Social-Media-Netzwerke hineinzubringen. Da die verwendeten Algorithmen nicht perfekt sind, erzeugen sie ohnehin eine gewisse Beliebigkeit. Aber darüber hinaus werden Feeds normalerweise so berechnet, dass sie zusätzlich ein gewisses Maß an gewollter Zufälligkeit enthalten. Die Gründe dafür beruhten ursprünglich auf fundamentalen mathematischen Gesetzmäßigkeiten, nicht auf der menschlichen Psyche.

Social-Media-Algorithmen sind normalerweise »adaptiv«, was bedeutet, dass sie sich ständig ein bisschen selbst verändern, um so bessere Ergebnisse zu erreichen. »Besser« bedeutet hier, interessanter oder fesselnder zu sein – und daher auch profitabler. In solchen Algorithmen ist immer ein bisschen Zufälligkeit enthalten.

Stellen wir uns einmal Folgendes vor: Fünf Sekunden, nachdem du ein Katzenvideo gesehen hast, über das du lachen musstest, zeigt dir ein Algorithmus eine Gelegenheit, Socken oder Aktien zu kaufen. Ein adaptiver Algorithmus wird hin und wieder überprüfen, was passiert, wenn dieses Intervall auf beispielsweise viereinhalb Sekunden verändert wird. Würdest du dann mit größerer Wahrscheinlichkeit zuschlagen? Falls ja, könnte dieses geänderte Intervall von da an nicht nur für deinen eigenen Feed verwendet werden, sondern auch für die Feeds von zigtausend anderen Nutzern, die dir aufgrund von irgendwelchen Eigenschaften – von der Lieblingsfarbe bis zum Fahrverhalten – ähnlich zu sein scheinen.9

Wenn ein solcher adaptiver Algorithmus keinen zusätzlichen Nutzen mehr aus kleinen Änderungen seiner Einstellungen ziehen kann, bleibt er manchmal stecken. Wenn die Änderung auf viereinhalb Sekunden dazu führt, dass du mit geringerer Wahrscheinlichkeit Socken kaufen wirst, aber fünfeinhalb Sekunden einen Verkauf ebenfalls unwahrscheinlicher machen, dann wird das Intervall auf fünf Sekunden stehen bleiben. Aufgrund der verfügbaren Daten wären somit fünf Sekunden die optimale Wartezeit. Wenn keine kleine zufällige Änderung das Ergebnis mehr verbessert, hört der Algorithmus auf, sich anzupassen. Doch ein adaptiver Algorithmus soll nie aufhören, sich anzupassen.

Angenommen, eine größere Änderung würde das Ergebnis verbessern. Vielleicht wären zum Beispiel zweieinhalb Sekunden besser? Doch der Algorithmus ist bei fünf Sekunden stecken geblieben, und mit seinen kleinen, graduellen Änderungen kommt er nicht darauf. Das ist der Grund, warum viele adaptive Algorithmen auch eine kleine Dosis größerer Zufälligkeit in den Feed injizieren – hin und wieder findet ein Algorithmus bessere Einstellungen, wenn er gezwungen wird, aus einem nur mittelmäßigen Parametersatz »herauszuspringen«.10

Viele adaptive Systeme enthalten einen solchen Spring-Mechanismus. Ein Beispiel dafür ist auch das Auftreten von nützlichen Mutationen in der natürlichen Evolution, die in der Regel durch inkrementelle selektionsbasierte Ereignisse ausgelöst werden, durch die ein Gen des Individuums entweder weitergegeben wird oder nicht. Eine Mutation ist ein Joker, der neue Möglichkeiten eröffnet – ein plötzlicher Sprung. Hin und wieder entsteht bei einer Tierart durch eine Mutation eine ungewöhnliche, neue und nützliche Eigenschaft – und damit ein Überlebensvorteil für nachfolgende Generationen.

Viele Neurowissenschaftler fragen sich natürlich, ob sich auch im menschlichen Gehirn ein ähnlicher Prozess abspielt. In unserem Gehirn gibt es zweifellos adaptive Prozesse. Unser Gehirn könnte sich angewöhnt haben, nach Überraschungen zu suchen, weil Mutter Natur jede eingefahrene Routine verabscheut.

Es hat sich gezeigt, dass diese Zufälligkeit, die der Anpassung des Algorithmus dient, Personen, die diesem Algorithmus ausgesetzt sind, zusätzlich abhängig machen kann. Der Algorithmus versucht, die perfekten Einstellungen zu finden, um das Gehirn zu manipulieren, während das Gehirn sich verändert, um in den Ausschlägen des Algorithmus eine tiefere Bedeutung zu finden. Es ist ein Katz-und-Maus-Spiel, das auf reiner Mathematik basiert. Da die Reize, die der Algorithmus uns serviert, nichts bedeuten, da sie völlig zufällig sind, adaptiert sich unser Gehirn nicht an irgendetwas Reales, sondern an eine Fiktion. Dieser Prozess – von einer flüchtigen Illusion abhängig zu werden – ist Sucht. Während der Algorithmus versucht, dem Trott zu entkommen, verfängt sich das menschliche Gehirn genau darin.

Die Pioniere der Online-Ausbeutung dieses Schnittpunkts zwischen Mathematik und dem menschlichen Gehirn waren nicht etwa die Social-Media-Firmen, sondern die Entwickler von digitalen Spielautomaten, etwa Video-Poker, und dann von Internet-Glücksspielplattformen. Hin und wieder beklagen sich die Pioniere solcher Zocker-Websites, dass die Social-Media-Konzerne ihnen die Ideen geklaut hätten und nun damit noch mehr Geld machen würden als sie selbst. Aber meistens sind sie ganz froh, dass Social Media ihnen hilft, die anfälligsten Opfer leichter zu erkennen.11

Der Himmel und die Hölle, das sind die anderen12

Soziale Netzwerke bringen eine weitere Kategorie von Reizen ins Spiel: sozialen Druck.

Der Mensch reagiert extrem sensibel auf soziale Aspekte wie Status, Anerkennung und Konkurrenz. Im Gegensatz zu den meisten Tieren kommt der Mensch nicht nur völlig hilflos zur Welt, sondern bleibt auch noch jahrelang in diesem Zustand. Wir können nur überleben, wenn wir mit unseren Artgenossen auskommen. Soziale Aspekte sind keine nachgeordneten Prioritäten des menschlichen Gehirns – sie sind die wichtigsten.