21,99 €
Mehr erfahren.
- Herausgeber: REDLINE Verlag
- Kategorie: Ratgeber
- Sprache: Deutsch
Im Griff der Algorithmen Wir hinterlassen mehr digitale Spuren, als es Sterne im Universum gibt – und diese Daten verraten mehr über uns, als uns lieb ist. Algorithmen dringen bis in die verborgensten Winkel unserer Gedankenwelt vor. Sie wissen, wovor wir Angst haben, was uns bewegt, was wir begehren, und werden so immer besser darin, uns zu manipulieren – ob beim Kauf bestimmter Produkte oder der Wahl eines Politikers. Die Computer-Sozialwissenschaftlerin und Datenexpertin Sandra Matz zeigt eindrucksvoll, wie Big Data und künstliche Intelligenz die intimsten Aspekte unserer Psyche entschlüsseln und welche Macht daraus erwächst. Sie beleuchtet die Chancen und Risiken des psychologischen Targetings: von manipulativen Werbestrategien und personalisierter politischer Einflussnahme bis hin zu innovativen Ansätzen, die unser Wohlbefinden stärken und uns zu besseren Entscheidungen verhelfen können. Ein faszinierendes Buch darüber, was unser digitaler Fußabdruck über uns verrät und wie dieses Wissen genutzt werden kann.
Das E-Book können Sie in Legimi-Apps oder einer beliebigen App lesen, die das folgende Format unterstützen:
Seitenzahl: 297
Veröffentlichungsjahr: 2025
Ähnliche
Buchvorderseite
Titelseite
SANDRA MATZ
MINDMASTERSDIE MACHT DER DATEN
Wie Algorithmen in unsere Psyche eingreifen, unser Verhalten lenken und was wir dagegen tun können
Impressum
Bibliografische Information der Deutschen Nationalbibliothek
Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen National¬bibliografie. Detaillierte bibliografische Daten sind im Internet über https://dnb.de abrufbar.
Für Fragen und Anregungen
Wichtiger Hinweis
Ausschließlich zum Zweck der besseren Lesbarkeit wurde auf eine genderspezifische Schreibweise sowie eine Mehrfachbezeichnung verzichtet. Alle personenbezogenen Bezeichnungen sind somit geschlechtsneutral zu verstehen.
1. Auflage 2025
© 2025 by Redline Verlag, ein Imprint der Münchner Verlagsgruppe GmbH
Türkenstraße 89
80799 München
Tel.: 089 651285-0
Original © 2025 Harvard Businss School Publishing Corporation
Veröffentlicht in Absprache mit Harvard Business Review Press.
Die englische Originalausgabe erschien 2025 bei Harvard Business Review Press unter dem Titel Mindmasters.
© 2025 by Sandra Matz. All rights reserved.
Alle Rechte, insbesondere das Recht der Vervielfältigung und Verbreitung sowie der Übersetzung, vorbehalten. Kein Teil des Werkes darf in irgendeiner Form (durch Fotokopie, Mikrofilm oder ein anderes Verfahren) ohne schriftliche Genehmigung des Verlages reproduziert oder unter Verwendung elektronischer Systeme gespeichert, verarbeitet, vervielfältigt oder verbreitet werden. Wir behalten uns die Nutzung unserer Inhalte für Text und Data Mining im Sinne von § 44b UrhG ausdrücklich vor.
Übersetzung: Jordan Wegberg
Redaktion: Ines Lange
Umschlaggestaltung: Marc-Torben Fischer
Umschlagabbildung: AdobeStock/Anna
Satz: ZeroSoft, Timisoara
eBook: ePUBoo.com
ISBN Print 978-3-69046-000-2
ISBN E-Book (EPUB, Mobi) 978-3-96267-663-6
Weitere Informationen zum Verlag finden Sie unter
www.redline-verlag.de
Beachten Sie auch unsere weiteren Verlage unter www.m-vg.de
Inhalt
Für Moran und Ben, deren Liebe und Lachen Tag fürTag mein Leben verzaubern.
EinleitungDas digitale Dorf
Wochenlang hatte ich meinen Freund bekniet, mich sein Motorrad fahren zu lassen. Eine Suzuki Bandit 600 in sattem, glänzendem Rot. Sie war wunderschön.
Wir gingen gern gemeinsam mit dem Motorrad auf Abenteuerfahrt. Über die Serpentinen der Berge rings um den kleinen Ort, in dem ich aufwuchs, und über die kurvigen Straßen der ländlichen Umgebung. Aber ich hatte es satt, hinten zu sitzen. Ich wollte auf den Fahrersitz.
Nachdem er endlich eingewilligt hatte, es mich probieren zu lassen, fand ich einen verlassenen Militärflugplatz in der Nähe.
Seine Anweisungen waren schlicht: »Lass uns erst auf dem Motorrad sitzen. Du vorn und ich hinten. Und dann erkläre ich es dir.« Ich war begeistert, aber auch nervös. Ich war erst 15 und hatte keinen Führerschein. »Keine Sorge«, beruhigte er mich, »ich sitze ja direkt hinter dir.«
Was als Nächstes passierte, weiß ich nicht genau. Ich erinnere mich, dass wir irgendwie auf den Rasenstreifen am Rande des Flugplatzes gerieten. Als ich versuchte, das Motorrad wieder zurückzulenken, muss ich aus Versehen am Gashebel gedreht und die Kupplung schleifen lassen haben.
Ein paar Sekunden später hob sich das Vorderrad der Maschine empor wie ein sich aufbäumendes Pferd. Mein Freund wurde vom Rücksitz geschleudert (so viel zu »Ich sitze direkt hinter dir«), und ich raste los ohne die geringste Ahnung, wie ich das Motorrad unter Kontrolle bekommen sollte.
Ohne nachzudenken zog und drückte ich an den Griffen herum und versuchte, das Gleichgewicht zu halten. Eine gefühlte Ewigkeit lang schlingerte ich nach links, nach rechts, dann wieder nach links, ehe ich auf die Seite stürzte und noch einige Meter weiterrutschte, bevor ich zum Halten kam.
Wir hatten Glück. Keiner von uns trug Verletzungen davon. Und niemand hatte den Unfall gesehen. Aber es gab ein Problem: Wir waren fernab von jeder Zivilisation, und das Motorrad sprang nicht mehr an.
Nachdem wir unsere Optionen durchdacht hatten, setzte ich mich ins Gras, um meine Nerven zu beruhigen, atmete tief durch und drückte die Anruftaste an meinem Handy. Ein Teil von mir hoffte, es würde niemand abheben. Mit jedem Klingelzeichen schlug mein Herz lauter, meine Gedanken überschlugen sich. Ich wollte gerade auflegen, als mein Vater sich meldete.
»Hi, Papa, äh … wir hatten einen Motorradunfall. Aber mach dir keine Sorgen, wir waren langsam, und es ist uns beiden nichts passiert.«
»Du bist gefahren, stimmt’s?«
Abgesehen von einem ernsten Gespräch mit meinen Eltern (die tatsächlich überraschend gelassen mit der Sache umgingen) musste ich auch die Reparaturkosten tragen. Ein ganzes Jahresgehalt als Nachhilfelehrerin ging drauf. Schmerzlich, aber noch nicht das Schlimmste.
Sobald wir das Motorrad in der Werkstatt abgegeben hatten, verbreitete sich die Nachricht von meinem Missgeschick in meinem Wohnort wie ein Buschfeuer. Es war die perfekte Geschichte. Nicht nur weil ich erst 15 war und noch keinen Führerschein hatte. Ich war auch zufällig die Tochter eines örtlichen Polizisten.
Ich konnte mich nirgendwo verstecken. Am nächsten Tag, als ich zum Schulbus ging, winkte Herr Werner von gegenüber mich zu sich, um nachzufragen, ob es mir gut ging. Er hatte von dem Unfall gehört. Ich musste mir eine zehnminütige Aufzählung seiner eigenen Verfehlungen als Jugendlicher anhören.
Ein paar Häuser weiter blickte Frau Bauer vom Unkrautjäten in ihrem kleinen Vorgarten hoch und schüttelte den Kopf. Wie hatte ich nur so verantwortungslos sein können? Sie hatte mich immer für ein vernünftiges Mädchen gehalten.
Der Motorradunfall war nicht mehr mein peinliches kleines Geheimnis. Jeder ‒ und ich meine wirklich jeder ‒ wusste davon.
Das Dorf-Paradoxon
Willkommen in Vögisheim! Ein kleines Dorf im Südwesten Deutschlands, umgeben von hübschen Weinbergen, Feldern und sanften Hügeln. Einwohnerzahl: 500. Restaurants: 2. Kirchen: 1. Geschäfte: 0.
Dort bin ich geboren und aufgewachsen. Genau wie meine Mutter, ihre Mutter und ihre Großmutter. Ich habe die ersten 18 Jahre meines Lebens dort verbracht ‒ und, so empfand ich es als Jugendliche, eine Ewigkeit lang die Stimulation lebendigerer Orte ersehnt. In Vögisheim habe ich meine ersten Wörter gesprochen, meine ersten Schritte gemacht, mich zum ersten Mal verliebt, meinen ersten Liebeskummer erlebt, beschlossen, um die Welt zu reisen, und mich schließlich auf den Weg gemacht, um Psychologie zu studieren.
Wie in jedem kleinen Dorf wussten die restlichen 499 Einwohner von Vögisheim nicht nur Bescheid über meinen Motorradunfall. Sie kannten jede kleine Einzelheit meines Lebens. Sie wussten, dass ich gern Ramones hörte, dass ich am Wochenende am liebsten in die örtliche Piratenbar ging und dass ich meinen Erdkundelehrer nicht ausstehen konnte.
Diese Details allein hätten sich vielleicht nicht so übergriffig angefühlt. Doch als wäre ich ein menschliches Puzzle, setzten meine Nachbarn die Teile meiner Existenz zusammen, um ein intimes Bild meines inneren geistigen Lebens zu entwickeln: meiner Hoffnungen, Ängste, Träume und Sehnsüchte. Es schien, als würden sie mich wirklich kennen. Und das ermöglichte ihnen, das zu tun, was Dorfnachbarn am besten können: ungebetene Ratschläge erteilen und sich in mein Privatleben einmischen.
Für mich bedeutete das zweierlei. Auf der einen Seite fühlte ich mich unterstützt von einer Gemeinschaft von Menschen, die mich verstanden. Sie wussten, dass ich ehrgeizig war und mir ein Leben außerhalb des Dorfes ersehnte. Als für mich die Zeit gekommen war, mir zu überlegen, was ich nach dem Abitur machen wollte, standen sie mir mit Rat und Tat zur Seite; sie reichten meinen Lebenslauf an Freunde weiter und halfen mir bei der Entscheidung, ob ein Brückenjahr das Richtige für mich wäre.
Andererseits fühlte ich mich derselben Gemeinschaft ausgeliefert und von ihr manipuliert. Es war ein schlecht gehütetes Geheimnis, dass ich mich mit dem Neinsagen schwertat. Das machte mich zur leichten Beute für jeden, der einen Gefallen benötigte. Du willst umziehen? Frag Sandra. Du brauchst jemanden, der dich vom Club nach Hause fährt? Frag Sandra (solange es nicht mit dem Motorrad ist natürlich).
Das Aufwachsen im Blickfeld anderer war gleichzeitig Fluch und Segen.
Aus dem Dorf hinaus in die Welt
Ich verließ Vögisheim nach dem Abitur und lebe heute in New York City, wo ich als Professorin an der Columbia University arbeite.
Ein Unterschied wie Tag und Nacht. Ich kenne meine Nachbarn kaum. Und sie kennen mich kaum. Wir grüßen uns im Treppenhaus. Aber sie wissen nicht, was ich arbeite. Sie kennen meine Freunde und meine Familie nicht. Und ganz bestimmt wissen sie nichts über meine tiefsten Ängste oder Sehnsüchte.
Doch wie sich zeigt, müssen wir gar nicht in einer kleinen, ländlichen Gemeinde leben, damit jeder Schritt und jede Entscheidung, die man trifft, von jemandem beobachtet und beeinflusst wird. Weil wir nämlich alle digitale Nachbarn haben.
Das können wir uns so vorstellen: Das datendurchforstende digitale Äquivalent zu meinem 60-jährigen Nachbarn Klaus liest meine Facebook-Nachrichten, beobachtet, welche Nachrichten ich auf X lese und teile, erfasst meine Kreditkartenkäufe, verfolgt meinen Aufenthaltsort über den GPS-Sensor meines Handys und zeichnet anhand von gut 50 Millionen Kameras überall in den Vereinigten Staaten meine Gesichtsausdrücke und zufälligen Begegnungen auf.
Genau wie meine Nachbarn im Laufe der Zeit zu Profischnüfflern und Puppenspielern wurden, können auch Computer scheinbar banale, harmlose Informationen darüber, was wir tun, in höchst intime Erkenntnisse darüber übertragen, wer wir sind, und letztlich in Vorschriften, was wir tun sollten.
Diesen Prozess der Beeinflussung von menschlichen Gedanken, Gefühlen und Verhaltensweisen aufgrund ihrer prognostizierten psychologischen Merkmale bezeichne ich als psychologisches Targeting. Und ich untersuche ‒ und praktiziere ‒ es nunmehr seit über zehn Jahren.
Meine Kolleg*innen und ich haben zahlreiche Artikel darüber publiziert, wie Computer ‒ angetrieben von maschinellem Lernen und KI ‒ in der Lage sind, Sie genauestens kennenzulernen. Es spielt keine Rolle, welche psychologische Eigenschaft oder Datenquelle Sie auswählen. Beispielsweise können Algorithmen durch Zugriff auf das Mikrofon oder die Kamera Ihres Mobiltelefons unterscheiden, ob Sie aufgeregt, traurig, gesellig oder ängstlich sind. Sie können anhand Ihrer Social-Media-Beiträge Ihr Einkommen vorhersagen. Und sie können erkennen, wie hoch die Wahrscheinlichkeit ist, dass Sie eine Depression entwickeln oder unter Schizophrenie leiden, indem sie Ihren GPS-Standort verfolgen.
Doch das ist nur die halbe Wahrheit. Den Großteil meiner Berufslaufbahn habe ich damit zugebracht, mich mit der offensichtlichen Frage »Na und?« zu befassen. Was heißt es denn nun, dass Computer Einblicke in unsere Psychologie nehmen können und verstehen, was unter der Oberfläche der Verhaltensweisen liegt, die sie beobachten? Was bedeutet das für Sie und mich? Und für die Gesellschaft insgesamt? Es braucht nicht viel Vorstellungskraft, um zu begreifen, dass psychologisches Targeting in den falschen Händen eine mächtige Waffe sein kann.
Als Teenager litt ich unter einem geringen Selbstwertgefühl. Ich wollte nichts mehr, als dazugehören und gemocht werden. Aber die Beliebte war meine beste Freundin, nicht ich. Ich wurde sehr gut darin, meine Selbstzweifel vor anderen im Dorf zu verbergen, indem ich mir eine Fassade aufbaute, die an Arroganz grenzte. Nach außen hin war ich stark und selbstbewusst. Im Inneren zweifelte ich an mir. Ich vertraute diese Gefühle meinem Tagebuch an.
Wäre ich heute ein Teenager, würde ich wahrscheinlich Google um Rat bitten. »Wie kann ich beliebter werden?« »Wie werde ich selbstbewusster?« Diese Fragen würden sich in meinem Suchverlauf häufen. Und das daraus entstehende Profil könnte leicht gegen mich verwendet werden. Im Jahr 2017 wurde Facebook vorgeworfen, Depressionen bei Teenagern vorauszusagen und diese Informationen an Werbetreibende zu verkaufen.1 Es gibt kein leichteres Ziel als unsichere, ihren Weg suchende Teenager. Ganz schön traurig.
Aber betrachten wir das mal aus einem positiveren Blickwinkel. Was, wenn wir psychologisches Targeting nutzen könnten, um Millionen Menschen zu einem gesünderen und glücklicheren Leben zu verhelfen? Meine Forschung wurde zum Beispiel genutzt, um Schulabbrüche zu prognostizieren und zu verhindern, um Geringverdienern zu besseren finanziellen Entscheidungen zu verhelfen und um frühe Anzeichen von Depressionen zu erkennen.
Ja, das ist richtig. Genau das, was ich Facebook auf der »traurigen« Seite vorwerfe, könnte auch eine echte Chance sein. Rund 280 Millionen Menschen weltweit sind von Depressionen betroffen. Alljährlich begehen rund 1 Million davon Suizid. Es sterben mehr Menschen an den Folgen einer Depression als an Mord, Terroranschlägen und Naturkatastrophen zusammen.
Besonders erschütternd an diesen Zahlen ist, dass Depression behandelbar ist. Das Problem ist, dass sie bei vielen Menschen gar nicht diagnostiziert wird. Und selbst wenn, kommt die Diagnose oft zu spät. Es ist viel schwerer, sich aus dem tiefsten Punkt des Tales wieder zurückzukämpfen als zu Beginn des Abstiegs.
Wie wäre es, wenn wir Sie nicht an die Werbetreibenden verkauften, sondern die Erkenntnisse über Ihre psychische Gesundheit nutzten, um ein Frühwarnsystem zu schaffen? GPS-Aufzeichnungen oder Tweets könnten Sie auf Änderungen Ihres Verhaltens hinweisen, die Ähnlichkeit mit den Mustern haben, die bei depressiv erkrankten Menschen festgestellt wurden. Das ist nicht nur eine Chance, depressive Symptome frühzeitig zu erkennen (ehe sie sich zu einer ausgeprägten klinischen Depression entwickeln), sondern auch, um personalisierte Ratschläge oder Ressourcen anzubieten.
Wir könnten beobachten, dass Sie nicht mehr so viel mit Ihren Freunden unternehmen oder viel mehr Zeit zu Hause verbringen als gewohnt. Warum Ihnen nicht vorschlagen, mit ein paar Freunden Kontakt aufzunehmen oder in den nahe gelegenen Park zu gehen? Und falls nötig Ihnen die Kontaktdaten einiger Therapeuten in Ihrer Gegend geben, die vielleicht helfen können?
Die Prognose und Beeinflussung der psychischen Gesundheit ist nur eins von vielen Beispielen für die Macht des psychologischen Targetings. Was wäre, wenn wir Bildung spannender machen, mehr Menschen beim Erreichen ihrer Fitnessziele helfen oder einen konstruktiveren Dialog über politische Gräben hinweg ermöglichen könnten?
Während des überwiegenden Teils meiner akademischen Laufbahn fühlte ich mich irgendwie hilflos und verloren im Spannungsfeld zwischen den gefahrvollen und den verheißungsvollen Seiten der Analyse persönlicher Daten. Gehörte ich zum Lager der Tech-Pessimisten, die der Meinung sind, dass die Technologie ihre Versprechen nicht hält und der Menschheit aktiv schadet? Oder gehörte ich zum Lager der Tech-Optimisten, die an eine strahlende Zukunft glauben, in der die Technologie uns dazu verhilft, bessere Versionen unserer selbst zu werden?
Ich kam mir oft wie eine Heuchlerin vor ‒ voller Begeisterung über neue Erfindungen, doch mit jenem nagenden Gefühl, dass diese Erfindungen in den falschen Händen furchtbare Konsequenzen haben könnten. Oder ich sprach umgekehrt mit den Medien über die Gefahren des psychologischen Profilings, während ich fürchtete, damit meinen Studierenden und kommerziellen Partnern in den Rücken zu fallen, die im psychologischen Profiling ein vielversprechendes Potenzial sahen.
Erst als ich Weihnachten nach Hause gereist war (und einige Runden Glühwein getrunken hatte), erkannte ich, wie sehr meine derzeitigen Bemühungen meinen Erfahrungen im Dorf ähnelten ‒ hin und her gerissen zwischen dem Wunsch nach Ausbruch und der Wertschätzung dafür, was meine Gemeinschaft mir gab. Je mehr ich (in nüchternem Zustand) über diese Analogie nachdachte, umso offensichtlicher wurde sie für mich.
Ich hatte es mit der neuen Manifestation eines Spannungsverhältnisses zu tun, das schon seit Jahrhunderten zum menschlichen Erleben gehört. Wie viel von unserem persönlichen Leben sind wir bereit, unserer Umgebung zu enthüllen (oder tun dies sogar gern)? Wie viel von unserer Privatsphäre und Autonomie sind wir bereit aufzugeben, zugunsten der Sicherheit und Stärke, die uns das Kollektiv verschafft?
Am Ende läuft alles auf Macht hinaus. So wie meine Nachbarn mich mühelos dazu bringen konnten, Aufgaben für sie zu erfüllen, weil sie wussten, dass ich es allen recht machen wollte, gibt die Kenntnis Ihrer psychologischen Bedürfnisse, Präferenzen und Motivationen anderen Macht über Sie. Macht, Ihre Ansichten, Ihre Emotionen und letztlich Ihr Verhalten zu beeinflussen. Manchmal ist das etwas Gutes, manchmal etwas Schlechtes.
Doch das Dorfleben hat mich gelehrt, dass es ‒ wenigstens zum Teil ‒ an uns liegt, ob wir gewinnen oder verlieren. Obwohl ich nie die vollständige Kontrolle über mein Leben hatte, schaffte ich es, durch Höhen und Tiefen zu navigieren. Als Kind hatte ich keine Ahnung, wie das Dorf funktionierte. Doch im Laufe der Zeit erfuhr ich mehr über das System, dem ich angehörte. Ich erkannte die Motivation der Leute, fand heraus, wer mit wem redete, und erfuhr, wem man Informationen anvertrauen konnte.
Als ich das Spiel erst einmal verstanden und mir eine klare Vorstellung davon gemacht hatte, was es mir geben konnte, lernte ich, es zu meinem Vorteil zu spielen. Plötzlich gewann ich mehr, als ich verlor.
Dasselbe ‒ und mehr ‒ müssen wir für das digitale Dorf tun. Wir müssen die Spieler verstehen, die das derzeitige Daten-Ökosystem kontrollieren, herausfinden, wie sie unsere persönlichen Daten für und gegen uns einsetzen, und die Hebelwirkung berechnen, die wir haben (oder brauchen), um unsere Ziele zu erreichen.
Doch es wird nicht genügen, das Spiel einfach nur besser zu beherrschen. Wir müssen es neu gestalten.
Die Neugestaltung des Datenspiels
Ich schrieb weiter oben, dass das Spannungsverhältnis, das wir in der heutigen datenorientierten Welt erleben, dasselbe sei, das unsere Vorfahren vor 2000 Jahren erlebt haben oder mit dem ich in meinem Dorf zu tun hatte. Doch das entspricht nicht ganz der Wahrheit.
Während ich nur den neugierigen Blicken der Dorfbewohner ausgesetzt war (und vielleicht noch denen ihrer Freundinnen und Freunde in den Nachbardörfern, die nach Klatsch und Tratsch lechzten), stellt unser digitales Verhalten heutzutage uns vor der ganzen Welt bloß. Die Spielregeln haben sich verändert.
Da ich in einem Dorf aufgewachsen bin, wussten die Nachbarn eine Menge über mich. Aber natürlich wusste ich auch eine Menge über sie. Ich wusste, wer Alkoholprobleme hatte, wer eine unglückliche Ehe führte und wer Steuern hinterzog. Wir alle spielten das Spiel nach denselben Regeln. Wir alle bezahlten den Preis dafür, und wir alle profitierten davon.
Das heutige Datenspiel sieht ganz anders aus. Seine Regeln sind undurchsichtig, und das Spielfeld ist sehr uneben. Es gibt einige wenige Menschen und Organisationen, die ungeheuer viel über viele von uns wissen und stark von diesem Wissen profitieren. Wir mögen das eine oder andere aus diesem Austausch bekommen (beispielsweise kostenlose Suchmaschinen oder Social Media), aber wir erhalten im Gegenzug nicht dasselbe Wissen über die Menschen und Organisationen, die uns mit solchem Eifer überwachen.
Obwohl wir im digitalen Dorf nach etwas anderen Regeln spielen, bleibt der beste Ausgangspunkt, um die Karten zu unseren Gunsten zu mischen, doch derselbe. Wir müssen uns darüber im Klaren sein, dass neue prognostische Technologien wie das psychologische Targeting in der Lage sind, gemeinsam zu entscheiden, welche Anwendungen einer florierenden Gesellschaft zuträglich sind und welche nicht. Haben wir das erst getan, so obliegt es unserer Kontrolle, ein System zu gestalten, das die positiven Aspekte des psychologischen Targetings verstärkt und es zu unseren Gunsten nutzt, statt sich gegen uns zu richten.
Mindmasters ‒ Die Macht der Daten ist eine Einladung, genau dies zu tun ‒ eine Einladung zu einer kenntnisreichen, ausgewogenen Diskussion über psychologisches Targeting. Fälle wie die eingestandene Einflussnahme von Cambridge Analytica auf die amerikanische Präsidentschaftswahl 2016 (eine Geschichte, an deren Enthüllung ich mitgewirkt habe und von der ich in Kapitel 5 mehr erzählen werde) haben die Aufmerksamkeit der Öffentlichkeit erregt und die Debatte über das Thema stark geprägt.
Mit Mindmasters ‒ Die Macht der Daten möchte ich den Vorhang beiseiteziehen, Narrative von Fakten trennen und einen wissenschaftsorientierten Zugang zum psychologischen Targeting bieten. Jeder der drei Teile dieses Buches behandelt ein wichtiges Puzzlestück des Gesamtvorgangs.
Teil 1 gibt Ihnen einen Einblick darin, wie Computer lernen, Ihren digitalen Fußabdruck in intime Voraussagen darüber zu übersetzen, wer Sie sind: Ihre Persönlichkeit, sexuelle Orientierung, politische Ideologie, geistige Gesundheit, moralische Werte und so weiter. Wir öffnen ein digitales Fenster zu Ihrer Psyche, indem wir die Welt der absichtlich geteilten Identitätserklärungen (zum Beispiel: Facebook-Likes, Social-Media-Beiträge und Bilder) und harmlosen Verhaltensmuster betreten (zum Beispiel: Google-Suchen, Kreditkartendaten und GPS-Aufzeichnungen). Und wir erforschen die Rolle kontextabhängiger Hinweise, mit denen wir zu jedem Zeitpunkt Informationen über unsere Person preisgeben.
Indem wir die Blackbox öffnen und einen Blick hinter den Vorhang einiger der KI-gesteuerten Vorhersagemodelle werfen, die meine Kolleg*innen und ich im Laufe der Jahre entwickelt haben, wird Ihnen klar, dass keine Raketenwissenschaft erforderlich ist, um von unserem Onlineverhalten Rückschlüsse darauf zu ziehen, wer wir im Inneren sind.
Um das klarzustellen, Computer müssen nicht notwendigerweise Ihr Verhalten in psychologische Profile übersetzen, um Sie genauestens kennenzulernen und auf Ihre Entscheidungen Einfluss zu nehmen. Viele der potenziellen Vorteile und Gefahren, die ich später besprechen werde, lassen sich in einem allgemeineren Sinne auf die Nutzung persönlicher Daten anwenden. Doch Fälle wie Cambridge Analytica haben die öffentliche Fantasie in Gang gesetzt, weil sie uns auf grundlegend menschliche Weise Bezug auf unsere Daten nehmen lassen. Sie betrachten sich selbst nicht als eine Kombination aus Zahlungsverläufen, GPS-erfassten Längen- und Breitengraden und Google-Suchen. Sie betrachten sich als extravertiert oder introvertiert, liberal oder konservativ und kooperativ oder wettbewerbsorientiert.
Teil 2 baut unmittelbar auf den Erkenntnissen aus Teil 1 auf und widmet sich der offensichtlichen Frage: »Na und?« Warum sollten uns Auswüchse der Technologie wie psychologisches Targeting kümmern? Was bedeutet es für uns ‒ und für die Gesellschaft insgesamt ‒, dass Algorithmen das seelische Innenleben von Millionen Menschen entschlüsseln und ihr Denken, Fühlen und Verhalten verändern können? Sollte uns das in Angst und Schrecken oder in Hochstimmung versetzen?
Ich werde mich dafür aussprechen, dass beides richtig ist. Wie der Technologiehistoriker Melvin Kranzberg bekanntermaßen sagte: »Technologie ist weder gut noch schlecht, und sie ist auch nicht neutral.«2 Exakt dieselben Mechanismen können zum Einsatz gebracht werden, um diametral entgegengesetzte Ziele zu erreichen. Durch den Zugriff auf Ihre Psychologie kann ich Sie dazu bringen, Produkte zu kaufen, die Sie möglicherweise gar nicht brauchen, aber auch dazu, mehr Geld für schlechte Zeiten zu sparen. Ich kann mir Ihre emotionale Verwundbarkeit zunutze machen, Ihnen aber auch helfen, sie zu überwinden. Und ich kann Ihre existierende Weltsicht bestärken, Sie aber auch dazu ermutigen und in die Lage versetzen, sie zu erweitern.
Die Auswirkungen des psychologischen Targetings hängen letztlich von uns ab und von unseren Entscheidungen. Im schlimmsten Fall kann psychologisches Targeting manipulieren, ausnutzen und diskriminieren. Im besten Fall kann es mitreißen, bilden und befähigen.
Da die fortgeschrittene KI-Technologie ‒ einschließlich der generativen KI ‒ das Erzeugen und Targeting von hyperpersonalisierten Inhalten leichter macht als je zuvor, brauchen wir eine klare Vorstellung davon, wie wir die durch psychologisches Targeting ermöglichten Vorteile verstärken und zugleich seine Risiken vermeiden. Darum geht es in Teil 3 des Buches. Wie können wir das Datenspiel neu gestalten, um für uns alle eine bessere Zukunft zu schaffen?
Ich behaupte, dass wir für die Erschaffung dieser Zukunft ins Dorf zurückkehren müssen. Nicht im wörtlichen Sinne. Es ist nicht nötig, dass Sie jetzt Ihre Koffer packen, die Kinder nehmen und in Ihr persönliches Vögisheim ziehen. Ich rede von kleinen, dorfartigen Gemeinschaften, die Ihnen helfen sollen, Ihre persönlichen Daten zu verwalten. Rechtsverbindliche Einrichtungen (zum Beispiel durch Steuerpflicht), die zum Wohle ihrer Mitglieder handeln. Eine Datentreuhand oder eine Datengenossenschaft.
Die heutige Datenlandschaft ist einfach zu komplex, um diesen Kampf allein zu führen. Bei dem Spiel in meinem Dorf wäre ich vielleicht noch in der Lage gewesen, selbst auf mich aufzupassen, aber in der heutigen globalen Arena habe ich keine Chance. Und Sie auch nicht. Niemand hat das Wissen, die Zeit und die Energie, um seine persönlichen Daten im Alleingang zu verwalten.
Wir brauchen Verbündete. Gleichgesinnte mit ähnlichen Interessen und denselben Zielen. Werdende Mütter zum Beispiel, die ihre medizinischen und biometrischen Daten miteinander teilen, um die beste Ernährung für eine sichere Schwangerschaft zu ermitteln. Oder Lehrende, die Leistungsdaten aus ihren Kursen bereitstellen, um wirkungsvollere Unterrichtsstrategien zu entwickeln.
Anders als Dorfnachbarn müssen Ihre digitalen Verbündeten nicht am selben Ort wohnen wie Sie. Die Technologie löst dieses Problem (und viele weitere, wie ich später ausführlicher beschreiben werde). Bei rund 8 Milliarden Menschen weltweit werden Sie gewiss jemanden finden, der dieselben Probleme und Werte hat wie Sie.
Was ich hier vorschlage, ist nicht einfach eine Rückkehr zu der alten Dorfmanier. Es ist nicht bloß die Eins-zu-eins-Übertragung einer erprobten und bewährten Lösung auf ein neues Problem. Unser heutiges Spiel ist anders als das, was ich in Vögisheim gespielt habe, und das gilt auch für die Lösungen. Die gute Nachricht ist: Wenn wir das hinkriegen, können wir alles haben ‒ die Vorteile, die damit einhergehen, anderen Zugang zu unserem Leben zu gewähren, ohne die Kosten des Verlusts unserer Privatsphäre und Selbstbestimmtheit.
Obwohl Mindmasters ‒ Die Macht der Daten sich um Daten und Technologie dreht, geht es im Kern um eine Erforschung des menschlichen Erlebens: wie wir uns gleichzeitig offenbaren und verbergen wollen, wie wir gewinnen und verlieren, indem wir anderen Zugang zu unserem Leben geben, und wie neue Technologien wie das psychologische Targeting ein Überdenken des Sozialvertrags erfordern. Es ist ebenso der Versuch, meine Erkenntnisse mit Ihnen zu teilen, als auch eine Einladung an Sie, sich an der Unterhaltung zu beteiligen. Teil der Neugestaltung des Spiels zu werden.
Teil 1Daten als Fenster zu unserer Psychologie
1Die Entschlüsselung unserer Psychologie
Es ist Montagmorgen, 8.00 Uhr. Wie üblich werde ich nicht von meinem Wecker geweckt, sondern von meiner Hündin Milou, die mir quer übers Gesicht leckt (ein bisschen eklig, ich weiß). Ich drücke sie, schiebe sie dann beiseite und greife nach meinem Handy.
Ich schaue bei WhatsApp und Facebook nach, prüfe meine E-Mails und lese die neuesten Nachrichten auf CNN. Bevor ich mit Milou rausgehe, lege ich mein Fitbit an, damit auch jeder meiner Schritte auf mein Tagesziel von 10 000 Schritten einzahlt. Ich bin versucht, mein Fitbit an ihr Halsband zu binden, widerstehe aber. Verurteilen Sie mich nicht. Gemäß den Recherchen meiner Freundin Alice Moon bin ich nicht die Einzige, die beim Schrittezählen mogelt.
Milou und ich machen eine Runde über den Campus, wo sie ohne Leine herumlaufen und die Frühaufsteher unter den Studierenden belästigen kann, die sich gern auf ein bisschen Kuscheln einlassen.
Nachdem ich zu Hause rasch unter der Dusche war, nehme ich mein Handy und mein Portemonnaie und mache mich auf den Weg zur Arbeit. Unterwegs hole ich mir einen Matcha Latte und ein Croissant vom Bäcker an der Ecke. Kurz vor 9.00 Uhr komme ich im Büro an.
In weniger als einer Stunde habe ich Millionen von digitalen Fußabdrücken hinterlassen. Auf einem Server irgendwo auf der Welt gibt es jetzt digitale Aufzeichnungen der Nachrichten, die ich versendet und empfangen habe (Eingang: süße Fotos meiner Nichten; Ausgang: süße Fotos von Milou), meines Aufrufs von Facebook von zu Hause aus, der zehn Minuten, in denen ich fünf verschiedene Artikel auf der Website von CNN gelesen habe, der rund 2000 Schritte, die ich über den Campus der Columbia University in Manhattan zurückgelegt habe, und des ungesunden Bäckereifrühstücks.
Darüber hinaus haben die Sensoren meines Mobiltelefons registriert, dass es ab 8.00 Uhr körperliche Aktivität gab, und mein GPS-Standort wurde fortlaufend aufgezeichnet. Die Kameras am Straßenrand, außen an der Bäckerei und in den Aufzügen haben Bilder von mir gespeichert, die ihnen genau sagen, wo ich zu jedem Zeitpunkt war, ob ich allein oder in Begleitung war und ob ich zufrieden aussah oder nicht (um 8.00 Uhr früh ist das selten der Fall).
Als durchschnittliche Personen erzeugen Sie und ich in jeder Stunde etwa sechs Gigabyte Daten.3 In jeder Stunde! Stellen Sie sich bloß mal vor, wie viele USB-Sticks nötig wären, um sämtliche Daten zu speichern, die im Laufe Ihrer Lebenszeit anfallen. Und das sind nur Ihre Daten.
Weltweit gibt es inzwischen schätzungsweise 149 Zettabyte Daten (das sind 149.000.000.000.000.000.000.000 Bytes), und die Zahl verdoppelt sich alljährlich. Würden Sie all diese Daten auf CD-ROMs speichern und diese aufeinanderstapeln, dann kämen Sie bis weit über den Mond hinaus. Tatsächlich sagen manche sogar, es gebe heutzutage beinahe so viele digitale Datensätze wie Sterne im gesamten Universum. Romantisch, oder?
Jeder dieser Datensätze repräsentiert ein kleines Puzzleteil dessen, wer wir sind. Meine Spotify-Playlist zum Beispiel deckt auf, dass ich Techno und Taylor Swift mag. Mein Kreditkarten-Zahlungsverlauf zeigt, dass ich gern reise. Und meine GPS-Daten enthüllen, dass ich gern lange Spaziergänge durch den Park mache.
Jedes dieser Teile für sich genommen hat keine große Bedeutung. Genau wie bei einem Puzzle beginnen Sie mit einem Haufen unzusammenhängenden Durcheinanders. Doch sobald Sie anfangen, die Teile zusammenzusetzen, erkennen Sie nach und nach das Gesamtbild und verstehen seine Bedeutung. Dasselbe gilt auch für Daten. Sobald sie miteinander verknüpft werden, erzeugen unsere digitalen Spuren ein umfassendes Bild unserer persönlichen Gewohnheiten, Präferenzen, Bedürfnisse und Motivationen. Kurz gesagt: unserer Psychologie.
Das Internet kennt Sie besser als Ihr Ehepartner
Im Jahr 2015 veröffentlichte die Financial Times einen Artikel mit der provokativen Überschrift: »Facebook versteht Sie besser als Ihr Ehepartner.« Hört sich an wie der Anfang eines dystopischen Science-Fiction-Romans? Mitnichten. Das ist das Ergebnis einer echten wissenschaftlichen Studie, die von meinen früheren Kolleg*innen an der Universität Cambridge durchgeführt wurde.4
Das Forschungsteam unter der Leitung von Youyou Wu hatte eine Reihe maschineller Lernmodelle geschaffen, welche die Facebook-Likes einer Person in Persönlichkeitsprofile umwandeln konnten. Die Ergebnisse waren erstaunlich: Nach der Beobachtung von nur zehn Likes auf jemandes Facebook-Profil konnte ihr Modell die Persönlichkeit des Nutzers besser beurteilen als dessen Arbeitskollegen. 65 Likes? Es kannte ihn besser als seine Freunde. 120 Likes? Besser als seine Familienangehörigen. Und 300? Besser als sein Ehepartner.
Als meine Kollegen mir von ihren Erkenntnissen erzählten, dachte ich zunächst, sie hätten einen Fehler gemacht (und das glaubten sie anfangs auch). Da war doch bestimmt ein Bug im Code gewesen.
Aber es gab keinen. Meine Kolleginnen und Kollegen hatten recht. Sieben Jahre danach bin ich immer noch verblüfft über ihre Ergebnisse. Wir nennen unsere Ehepartner ja nicht ohne Grund unsere »bessere Hälfte«. Sie besitzen oft Daten aus mehreren Jahren über uns. Wir planen, erleben und wohnen tagtäglich zusammen. Und doch kann ein Computer, der Zugang zu nur 300 Ihrer Facebook-Likes hat, Sie ebenso gut oder gar besser kennen.
Daneben verblassen sogar die Überwachungsfähigkeiten meiner Dorfnachbarn. Selbst die neugierigsten unter ihnen wussten wahrscheinlich weit weniger über mich als irgendein halbwegs qualifizierter Computerwissenschaftler oder -techniker mit Zugriff auf die richtigen Daten. Heute könnte ein 15-Jähriger im Keller seines Elternhauses mehr über mich herausfinden als sämtliche Dorfnachbarn zusammen.
Aber wie werden Computer zu solchen Meisterschnüfflern? Wie verleihen sie der riesigen, unstrukturierten Masse digitaler Fußabdrücke einen Sinn, um ein Bild der dahinterstehenden Person zu zeichnen? Die einfache Antwort lautet: Sie beobachten und lernen (jawohl, ein echter Knaller, deshalb nennt man das maschinelles Lernen).
Ich will diesen Vorgang mal anhand eines Beispiels verdeutlichen, der absolut nichts mit Computern oder Algorithmen zu tun hat. Meine Protagonisten sind Hühner. Hühnerküken, um genau zu sein.
Handbuch des maschinellen Lernens für Dorfbewohner
Haben Sie schon mal von Sexing gehört? Keine Sorge: Mit diesem Thema erregen Sie auch am Arbeitsplatz keinen Anstoß.
Sexing bei Hühnern bezeichnet das gängige Vorgehen des Unterscheidens zwischen weiblichen Tieren (Hennen) und männlichen Tieren (Hähnen). Große kommerzielle Geflügelfarmen nutzen es, um fast direkt nach dem Schlüpfen die hochwertigen Hühner von den Hähnen zu trennen.
Während die weiblichen Tiere für die Eierproduktion genutzt werden, werden die männlichen für gewöhnlich getötet, um der Geflügelfarm unnötige Kosten zu ersparen (und plötzlich hört es sich gar nicht mehr so schlecht an, Vegetarier zu werden).
Das Sexing wird von erfahrenem Personal vorgenommen, den Sexern, die innerhalb weniger Sekunden entscheiden müssen, ob ein Küken weiblich oder männlich ist, indem sie die Kloake hinten am Hühnchen untersuchen (das nennt sich »Kloakensexing«).
Wie sich zeigt, ist das keine leichte Aufgabe. Die Genitalien frisch geschlüpfter Küken sind mit bloßem Auge kaum zu unterscheiden, und es gibt so viele Ausnahmen, dass es selbst für die erfahrensten Sexer praktisch unmöglich ist, ihren Entscheidungsprozess zu erläutern. Nach jahrelanger Übung wissen sie es einfach. Aber wie lernen sie denn überhaupt erst, zwischen männlichen und weiblichen Küken zu unterscheiden? Durch Versuch und Irrtum.
Stellen Sie sich vor, Sie hätten gerade als Sexer in einem großen Geflügelzuchtbetrieb angefangen. Es ist Ihr erster Tag, und Sie sind gespannt auf Ihre neue Tätigkeit. Aber es gibt kein Anleitungsbuch, keinen fünfzigseitigen Bericht und keine PowerPoint-Präsentation, die Ihnen die Wunder des Hühnersexings vermittelt. Stattdessen stellt man Ihnen einen erfahrenen Hühnersexer an die Seite, der Sie schweigend beobachtet. Sie nehmen das erste Küken auf und untersuchen seine Hinterseite. Natürlich haben Sie keine Ahnung; es ist ja Ihr erster Arbeitstag, und Ihre bisherigen Erfahrungen mit Hühnerkloaken sind, nun ja, begrenzt.
Sie zucken die Achseln und legen das Küken in den Hennenbehälter. Ihr Mentor sagt: »Ja.« Erfolg. Sie nehmen das nächste und legen es nach kurzer Untersuchung in den Hahnenbehälter. Ihr Mentor sagt: »Nein.«
Ihr erster Arbeitstag wird sich nicht sehr erfüllend anfühlen ‒ Ihre Chance, die richtige Entscheidung zu treffen, bewegt sich wahrscheinlich bei 50 Prozent (wie beim Münzenwerfen). Doch nach einigen Wochen dieses Versuch-und-Irrtum-Spiels mit Ihrem Mentor ist Ihr Gehirn darauf trainiert, präzise zwischen männlichen und weiblichen Küken zu unterscheiden. Sie sind zum Fachsexer geworden! Genau wie bei Ihrem Mentor sind die Regeln, nach denen Sie Ihre Entscheidungen treffen, vielleicht zu komplex, um sie formulieren zu können, aber Sie haben sie trotzdem verinnerlicht.
Computer lernen auf dieselbe Weise: durch Versuch und Irrtum. Man legt ihnen eine Menge Beispiele vor und gibt ihnen eine Rückmeldung dazu, ob ihre Vorhersagen falsch oder richtig sind. Das lässt die Algorithmen nach und nach lernen, in welchem Verhältnis der Input (die Hinterseite eines Kükens oder eine Anzahl von Facebook-Likes) zum Output steht (das Geschlecht des Kükens oder die Persönlichkeitsmerkmale des Users).
Umfassen Ihre Facebook-Likes Inhalte über Oscar Wilde, Leonardo da Vinci und Plato? Dann sind Sie wahrscheinlich intellektuell neugierig und aufgeschlossen. Buchhaltung, MyCalendar und die Durchsetzung nationalen Rechts? Dann sind Sie wohl gut organisiert und zuverlässig.
Je mehr Daten Sie haben, die das Versuch-und-Irrtum-Spiel durchlaufen können, umso besser wird der Computer darin, bloßes Raten in hochpräzise Vorhersagen zu verwandeln. Genau das haben meine Kolleg*innen getan, als sie ihr Mensch-gegen-Maschine-Experiment durchführten. Sie sammelten eine große Datenmenge von über 18 000 Facebook-Nutzern, kombinierten ihre Likes mit den von ihnen selbst angegebenen Persönlichkeitsprofilen und schrieben ein paar Zeilen Code, um den Versuch-und-Irrtum-Lernprozess zu automatisieren (eine triviale Aufgabe, die heutzutage mit nutzerfreundlicher kommerzieller Software durchgeführt werden kann).
In den folgenden Kapiteln nehme ich Sie mit auf eine Reise durch unterschiedliche Arten digitaler Fußabdrücke und zeige Ihnen, wie viel sie über Sie preisgeben können. Einige dieser Fußabdrücke wie etwa Ihre Social-Media-Profile werden absichtlich erstellt (Kapitel 2). Andere wie zum Beispiel die GPS-Aufzeichnungen aus Ihrem Smartphone sind reine Nebenprodukte Ihrer Interaktionen mit der Technik (Kapitel 3).
Doch sie haben alle eins gemeinsam: Sie bieten einen faszinierenden Einblick in Ihre Psychologie ‒ in die Aspekte Ihrer Identität, die definieren, wer Sie jenseits dessen sind, was für das bloße Auge sichtbar ist. Wir werden uns mit der Welt der politischen Ideologien befassen, mit sexueller Orientierung, sozioökonomischem Status, psychischer Gesundheit, kognitiven Fähigkeiten, persönlichen Wertvorstellungen und vielem mehr.
Doch den Großteil unserer gemeinsamen Zeit werden wir in der Welt der Persönlichkeitsmerkmale verbringen. Dort bewegen sich die meisten existierenden Forschungsprojekte, darunter auch meine eigenen. Und das ist auch die Welt, die am meisten öffentliche Aufmerksamkeit und genaue Untersuchung erfahren hat (man denke an Cambridge Analytica).
Weil die Persönlichkeit so ein beliebtes Reiseziel ist, möchte ich uns alle auf denselben Stand darüber bringen, was wir dort zu erwarten haben ‒ einen Crashkurs für angehende Meisterschnüffler, wenn Sie so wollen (falls Sie bereits alles über die Persönlichkeit wissen, können Sie gern zu Kapitel 2 weiterblättern).
Die Big Five der Persönlichkeitsmerkmale
Wie die meisten Menschen haben Sie wahrscheinlich ein intuitives Persönlichkeitskonzept, das Sie in Ihrem täglichen Verhalten und Ihren sozialen Interaktionen leitet.
Während meiner Schulzeit war klar, dass Vera die Partymaus war, während ich, na ja, die seltsame Streberin war, die um 23.00 Uhr nach Hause ging, wenn alle anderen noch feierten.
In meinem Dorf erklärten wir alle die häufigen Wutausbrüche des Metzgers mit seinem impulsiven und reizbaren Charakter. Und auf der Universität gingen wir alle davon aus, dass Anne infolge ihrer Konkurrenzorientiertheit eine erfolgreiche Anwältin werden würde.
Auch wenn solche laienhaften Persönlichkeitstheorien uns dabei helfen, uns durch die soziale Welt zu bewegen, sind sie häufig implizit und nur unzureichend definiert. Sie können vielleicht nicht ganz erklären, warum Sie eine bestimmte Person für reizbar halten, und sind möglicherweise in Ihrer Terminologie nicht einheitlich.
Manchmal bezeichnen Sie dasselbe Verhalten als impulsiv, dann wieder als übellaunig oder wütend.
Im Gegensatz zu Laientheorien bieten wissenschaftliche Persönlichkeitsmodelle eine strukturierte Vorgehensweise, um zu beschreiben, wie Menschen sich in ihrem Denken, Fühlen und Verhalten voneinander unterscheiden. Statt der gesamten Komplexität einer Identität gerecht zu werden, geben sie pragmatische Annäherungen daran, wie die meisten Menschen sind.
