9,99 €
Mehr erfahren.
- Herausgeber: tredition
- Kategorie: Geisteswissenschaft
- Sprache: Deutsch
Was, wenn Trump morgen befiehlt, Europa digital abzuschalten – und Microsoft, Google und Amazon löschen sämtliche Konten? Wie lange kann sich die Schweiz die Rechtsunsicherheit rund um Künstliche Intelligenz noch leisten? Und wussten Sie, dass Ihr Smartphone alle zehn Minuten mit einer Handyantenne kommuniziert und quasi sagt: «Hier bin ich»? Dieser Band widmet sich genau diesen Fragen. Adrienne Fichter ist Politologin und preisgekrönte Tech-Journalistin beim Magazin Republik, Herausgeberin von dnip.ch («Das Netz ist politisch») und betreibt ihren eigenen Blog techjournalismus.ch. Seit über zehn Jahren schreibt sie über die Schnittstellen von Technologie, Gesellschaft und Politik. Einst noch ein Nischenthema, heute Verhandlungsmasse zwischen den USA und Europa im Zollstreit: Tech-Milliardäre wie Elon Musk, Mark Zuckerberg und Jeff Bezos bedrohen unsere Demokratie und unseren Rechtsstaat durch die Konzentration von Daten, Technologien und Infrastruktur. Gemeinsam mit dem US-Präsidenten verfolgen sie einen globalen «America First»-Kurs – mit dem Ziel, Europas Status als digitale Kolonie der USA zu festigen und Regulierungen zu missachten. Dieser zweite Band der Reihe «Das Netz Ist Politisch» ist eine einzigartige Chronik der Digitalpolitik der letzten drei Jahre. Er enthält Fichters publizierte Analysen und Recherchen zu Themen, die die internationale und nationale Agenda immer mehr dominieren: Digitale Souveränität der Schweiz und Europas, Datenhandel in der digitalen Werbung, Staatliche Überwachung in der Schweiz, Digitale Ethik und KI-Regulierung. Mit diesem Band gewinnen Sie fundiertes Wissen, um in Debatten zur Digitalisierung kompetent mitreden zu können. Wenn wir verstehen, wie die Machtstrukturen der Tech-Industrie funktionieren, können wir unsere Ohnmacht überwinden: Wir stärken unsere Handlungsfähigkeit gegenüber den Entscheidungen der Tech‑Oligarchen, hinterfragen kritisch die aus dem Silicon Valley vermittelten Narrative und gestalten aktiv eine demokratiefreundliche Digitalisierung mit. Technologie ist nie alternativlos. Der Cyberspace ist politisch. Alles ist verhandelbar – nichts muss hingenommen werden.
Das E-Book können Sie in Legimi-Apps oder einer beliebigen App lesen, die das folgende Format unterstützen:
Seitenzahl: 452
Veröffentlichungsjahr: 2025
Ähnliche
Das Netz ist politisch – Teil II
Globale und Schweizer Digitalpolitik heute
Adrienne Fichter
Das Netz ist politisch – Teil II Copyright © by Adrienne Fichter is licensed under a Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License, except where otherwise noted.
© 2025 – CC-BY-NC-ND
Herausgeberin: Adrienne Fichter, dnip.ch
ISBN:978-3-9526315-0-8 (Print – Softcover)978-3-9526315-1-5 (Print – Hardcover)978-3-9526315-2-2 (PDF)978-3-9526315-3-9 (ePub)Version: 1.01-20250910
Die Texte wurden ursprünglich im digitalen Magazin «Republik» sowie auf dnip.ch publiziert. Sie werden mit freundlicher Genehmigung der Publikationen in diesem Buch veröffentlicht.
Inhalt
EditorialKünstliche Intelligenz (KI)KI-Regulierung: Ein Schweizer als Handlanger der USA?Adrienne Fichter and Balz OertliZwischen Tech-Diktatur und KI-GoldrauschAdrienne Fichter«Wer dem KI-Hype verfällt, stärkt die Macht der Big-Tech-Chefs»Adrienne FichterWas Zürcher Google-Ingenieure mit dem Gazakrieg zu tun habenAdrienne FichterZuckerberg zeigt sein wahres GesichtAdrienne FichterSchweizer KI-Regulierung: Tolle USA, böse EUAdrienne FichterDigitale SouverenitätGefährlich wenig SwissnessAdrienne FichterGaia-X: Letzte Chance für Europas digitale Souveränität – und wie die Schweiz profitieren könnte, Teil 1Adrienne FichterGaia-X: Letzte Chance für Europas digitale Souveränität – und wie die Schweiz profitieren könnte, Teil 2Adrienne Fichter«Die US-Regierung hat die Möglichkeit, auf viele Politikermails in Europa zuzugreifen»Adrienne FichterWie Big Tech in Bundesbern polarisiertAdrienne FichterAmazon will nicht, dass die Republik Verträge mit dem Bund siehtAdrienne FichterAdvertising Tech und die Medien sowie Datenschutz in der SchweizDer tägliche «Data Breach» wegen Online-Werbung: Wie unsere Daten auf der Welt verteilt werden und auch in Russland und China landenAdrienne FichterDatenexpress Richtung KremlAdrienne FichterDatenschutz, der nur ein bisschen wehtutAdrienne FichterMit dieser App weiss Ihr Partner alles über SieAdrienne Fichter and Basil SchöniWenn der Kundendienst bei der Straftat hilftAdrienne Fichter and Basil SchöniAdvertising Tech – UpdateAdrienne FichterÜberwachung durch den Schweizer StaatDer Bund überwacht uns alleAdrienne FichterDie Irrwege der ÜberwacherAdrienne FichterDer Staat als HackerAdrienne FichterDie Infrastruktur für die Schweizer Massenüberwachung ist «made in Israel»Adrienne FichterDie UNO-Staatengemeinschaft hat ein globales Überwachungsregime ausgehandelt – doch es hätte noch schlimmer kommen könnenAdrienne FichterDie Schweiz ist drauf und dran, autoritäre Überwachungsstaaten zu kopierenAdrienne FichterWeitere ArtikelXplain – ein BeschaffungskandalAdrienne FichterDer Staat kann ITAdrienne FichterWarum E-Voting zum Stresstest für die Demokratie werden könnteAdrienne FichterDer Drucker hat sie verratenAdrienne FichterWie ein Musikgigant das freie Internet bedrohtAdrienne FichterYandex – ein Tech-Unternehmen kreiert ZombiesAdrienne Fichter and Ivan RuslyjannikovSchlusswort und UpdatesSchlusswort und UpdatesAdrienne FichterInserat Republik1
Editorial
Superreiche Tech-Milliardäre, die ein Regierungsamt für den Umbau des Staatsapparats erhalten. CEOs der grössten IT-Konzerne, die brav bei der Inauguration eines erratischen US-Präsidenten Platz nehmen. Eine Rhetorik von «America First», ohne jede ethische Leitplanke – dafür mit Fokus auf militärische Aufrüstung und der rückhaltlosen Erschliessung aller Energieressourcen.
Willkommen im neuen Zeitalter der Tech-Broligarchie.
In den USA geben die Tech-Mogule aus dem Silicon Valley zunehmend den politischen Kurs in Washington vor. Dieses neue Machtgefüge zeichnete sich bereits im Wahlkampf 2024 ab – etwa durch die absurde Drohung des späteren Vizepräsidenten J. D. Vance: Die USA würden ihre Unterstützung für die NATO überdenken, sollte die EU ihre Gesetze gegen Hassrede und Desinformation auf dem Netzwerk «X» (ehemals Twitter) konsequent durchsetzen und Eigentümer Elon Musk zur Rechenschaft ziehen.
Man muss sich das mal vergegenwärtigen: Die Finanzierung des wichtigsten globalen Sicherheitsbündnisses wird an die Bedingung geknüpft, dass auf einem privaten sozialen Netzwerk weiterhin ungestört Hetze und Hasspropaganda verbreitet werden dürfen. Und der US-Präsident droht, die Zölle für die EU-Staaten massiv zu erhöhen, als Antwort auf die europäische Regulierung amerikanischer Big-Tech-Konzerne.
Mit dieser Erpressungstaktik zeigen sich gerade fundamentale Grenzverschiebungen im politischen Diskurs.
Der Siegeszug von Text-, Bild- und Video-Generatoren ab Ende 2022 hat das Thema Künstliche Intelligenz (KI) weltweit auf die politische Agenda katapultiert. Seither liefern sich Unternehmen wie OpenAI, Google, Anthropic und Meta ein Wettrennen in Richtung (vermeintlicher) Superintelligenz. Im Zentrum stehen nicht mehr nur Forschung und Innovation, sondern ein erbitterter Kampf um Investorengelder, Rechenleistung, Datenmengen, Serverfarmen und immer leistungsfähigere Chips.
Der geopolitische Tech-Handelskrieg spitzt sich deshalb immer weiter zu: Die USA und China verfolgen das Ziel, ihre KI-Infrastruktur möglichst autark zu gestalten und sich von kritischen Lieferketten abzukoppeln.
Weltweit stellen sich Politiker:innen nun die zentrale Frage: Wie lässt sich KI regulieren – ohne Innovation zu ersticken, aber mit wirksamem Schutz vor Missbrauch?
Die Europäische Union, lange als globale Regulierungsinstanz bewundert, muss 2025 zeigen, ob sie ihre ambitionierten Gesetzeswerke auch durchsetzen kann. Mit dem Digital Services Act, dem Digital Markets Act und dem AI Act hat Brüssel in den letzten Jahren ein juristisches Fundament gelegt, das Rechtsstaat, Demokratie und freien Wettbewerb im digitalen Raum stärken soll. Dabei sollen dystopische Szenarien wie das chinesische Social-Scoring-System konsequent verboten werden. Gleichzeitig schreckt aber auch die EU nicht vor Echtzeit-Gesichtserkennung oder KI-Systemen zur Sicherung ihrer Aussengrenzen zurück.
Doch unter den neuen globalen Machtverhältnissen ist fraglich, ob die Tech-Konzerne den europäischen Kurs noch ernst nehmen. Während sie die Datenschutz-Grundverordnung (DSGVO) zumindest formal umsetzten, zeigt sich beim AI Act ein anderes Bild: Erste Anzeichen deuten darauf hin, dass sich Unternehmen wie Meta kaum mehr an diese Regeln gebunden fühlen. Analog zu «X» könnte Meta versuchen, den Digital Services Act möglichst lange zu ignorieren – trotz der (vorerst) weiterbestehenden Faktencheck-Teams in Europa.
Welche konkreten Hebel der EU-Kommission bleiben, um die Einhaltung ihrer Gesetze durchzusetzen, ist derzeit offen.
Auch Bundesbern beschäftigt sich zunehmend mit der Frage, wie Künstliche Intelligenz und digitale Plattformen reguliert werden sollen. Die Chancen für einen unternehmensfreundlichen, liberalen Kurs stehen gut – das zeigt die im Februar veröffentlichte Auslegeordnung des Bundes. Nicht zuletzt deshalb, weil Wirtschaftsverbände in der bürgerlich dominierten Politik weiterhin privilegierten Zugang zur Verwaltung haben.
Zwar macht die digitale Zivilgesellschaft in der Schweiz zunehmend auf sich aufmerksam, doch die strukturelle Macht liegt nach wie vor bei ressourcenstarken Lobbygruppen. Zudem hat der Bundesrat klar signalisiert, dass er sich vom strikten EU-AI-Act abgrenzen will.
Ein ähnliches Tauziehen zeichnet sich bei der Frage der nationalen IT-Infrastruktur ab: Sollen sensible Gesundheits- und Sozialversicherungsdaten künftig in Hochleistungs-Clouds von Amazon oder Microsoft gespeichert werden – oder doch in bundeseigenen Rechenzentren, mit eigener Hardware und staatlicher Kontrolle? Die Ausschreibungen zur Swiss Government Cloud 2025, organisiert durch das Bundesamt für Informatik und Telekommunikation (BIT), dürften politischen Sprengstoff bergen.
Neben den grossen Linien der Tech-Politik rückt ein weiteres Thema in den Fokus: Cybersecurity. Ransomware-Attacken – also Erpressungssoftware, die Daten verschlüsselt und Lösegeld fordert – gehören längst zur digitalen Realität von Wirtschaft und Gesellschaft. Besonders brisant war der Angriff der russischen Hackergruppe Play im Jahr 2023: Sie kompromittierte sowohl Daten des Schweizer Nachrichtendienstes als auch Informationen über Straftäter aus Ermittlungsakten der Bundespolizei fedpol. Es war der schwerwiegendste Cybervorfall in der Geschichte der Bundesverwaltung.
Die Hackergruppe Play erlangte bei einem ihrer Angriffe auch hochsensible Informationen über das Personal und die Leserschaft der NZZ-Mediengruppe sowie von CH Media. Bis heute haben die betroffenen Medienhäuser lediglich einen Bruchteil der Betroffenen über das Datenleck informiert. Und bis heute sind zahlreiche dieser Daten im Darknet verfügbar.
Diese Vorfälle verdeutlichen den enormen Handlungsbedarf, den die Schweiz im Bereich Datenschutz und IT-Sicherheit hat – und welche Lücken selbst die Revision des Datenschutzgesetzes vom 1. September 2023 offenlässt. Oft ist es die kritische mediale Berichterstattung über solche Datenschutzverstösse, die Unternehmen überhaupt erst dazu bringt, ihre Sicherheitspraktiken zu überdenken und zu verbessern.
Ironischerweise wird die Schweizer Medienbranche selbst zunehmend zu einem Datenschutz- und Sicherheitsrisiko für die Bevölkerung. Durch ihre eingebetteten Werbesysteme – allen voran jene von Google und rund 800 weiteren Werbefirmen – tragen sie dazu bei, dass die Daten von Schweizer Internetnutzer:innen massenhaft an Werbenetzwerke, Geheimdienste und Cyberkriminelle weitergegeben werden.
Dem Thema «Advertising Tech» widme ich daher mehrere Artikel. Es handelt sich um einen Komplex, dem wir derzeit nicht genug Aufmerksamkeit schenken.
Im Januar 2024 machte ich öffentlich, dass die Kabelaufklärung des Nachrichtendienstes de facto ein staatliches Überwachungsprogramm darstellt – im klaren Widerspruch zu den politischen Beteuerungen aus dem Jahr 2015. Das Nachrichtendienstgesetz (NDG) sowie das Bundesgesetz betreffend die Überwachung des Post- und Fernmeldeverkehrs (BÜPF) verhindern bis heute einen wirksamen technischen Quellenschutz für Medienschaffende – es sei denn, sie treffen besondere Sicherheitsvorkehrungen. Gleichzeitig arbeiten Strafverfolgung und Geheimdienst daran, diesen digitalen Überwachungsstaat weiter auszubauen.
Diese Entwicklungen habe ich in der Serie «Surveillance Fédérale» dokumentiert. Die Berichterstattung führte zu kritischen Vorstössen im Bundesparlament sowie im Zürcher Kantonsrat. Das Thema bleibt aktuell – nicht zuletzt mit Blick auf die bevorstehende Revision des Nachrichtendienstgesetzes (NDG) und die umstrittene Verordnung zum BÜPF.
Bereits beim ersten Referendum zur eID erlebten wir in der Schweiz eine wegweisende digitalpolitische Abstimmung – mit einem deutlichen Nein an der Urne. Die politischen Entscheidungsträger:innen in Bundesbern haben aus dieser Niederlage gelernt und präsentieren nun ein deutlich verbessertes Modell. Über dieses demokratiepolitische Lehrstück in Sachen eID – ebenso wie über eVoting – lesen Sie ausführlich in diesem Band. Ob die Stimmbevölkerung die eID 2.0 an der Urne goutieren wird, erfahren wir diesen September.
Dieser zweite Band speist sich, wie bereits Band I, aus einer Auswahl publizierter Artikel des Magazins Republik, dem unabhängigen Schweizer Digitalmagazin (seit 2018). Seit der Gründung arbeite ich dort als investigative Tech-Reporterin.
Zugleich enthält dieser Band Beiträge des journalistischen Magazins dnip.ch – das Netz ist politisch –, das ich im Frühjahr 2021 gemeinsam mit Patrick Seemann (IT-Fachmann und freier Techjournalist) sowie Andreas Von Gunten (Verleger und Digitalunternehmer) lanciert habe. Mittlerweile zählt unser Team sechs Mitglieder. Unsere Abonnent:innenzahlen steigen kontinuierlich, ebenso die mediale und politische Resonanz auf unsere Arbeit.
Und noch eine erfreuliche Nachricht: Viele unserer Recherchen hatten konkrete Wirkung. Unlautere Praktiken wurden eingestellt, Datenschutzerklärungen angepasst, Sicherheitslücken geschlossen, parlamentarische Vorstösse eingereicht. Diese oft kleinen technischen Fortschritte – verbunden mit realpolitischen Konsequenzen – sind ein wichtiger Antrieb für unsere tägliche Arbeit.
Denn Technikjournalismus ist längst Politikjournalismus.
Als Politikwissenschaftlerin betrachte ich Technologien stets mit einem demokratiepolitischen und rechtsstaatlichen Fokus – aus der Perspektive der digitalen Bürger:innenrechte: Datenschutz, IT-Sicherheit, ethische Standards und digitale Selbstbestimmung.
Seit der Veröffentlichung von Band I von «Das Netz ist politisch» sind mehrere Jahre vergangen. Entsprechend fällt Band II deutlich umfangreicher aus – auch wenn ich erneut eine sorgfältige Auswahl treffen musste.
Mit Band II erhalten Sie einen umfassenden Überblick zu den wichtigsten digitalpolitischen Themen des Jahres 2025: KI-Regulierung, Cloud-Infrastrukturen, staatliche Überwachung und Datenschutz. Sie erlangen Wissen, um fundiert an Debatten rund um die Digitalisierung teilzunehmen – als kompetente Stimme in Diskussionen, aber auch als mündige Bürgerin oder mündiger Bürger, die bzw. der gezielte Forderungen an Politik und Verwaltung richten kann.
Denn nur so gelingt es, eine Digitalisierung im Sinne der Demokratie aktiv mitzugestalten – und die Tech-Narrative aus dem Silicon Valley kritisch zu hinterfragen. Eines ist klar: 2025 werden libertär-rechte Tech-Milliardäre, wie bereits erwähnt, versuchen, einen rücksichtslosen und skrupellosen «America First»-Kurs auch global durchzusetzen.
Dem gilt es etwas entgegenzusetzen: mit Wissen, Kompetenz, Ethik – und Weitsicht.
Bleiben Sie kritisch.
Denn: Keine Technologie ist alternativlos.
Die entscheidende Frage lautet nicht «Digitalisierung – ja oder nein?», sondern:
Welche Form von Digitalisierung wollen wir?
Künstliche Intelligenz (KI)
KI-Regulierung: Ein Schweizer als Handlanger der USA?
Adrienne Fichter and Balz Oertli
Verwässert und USA-freundlich: Das KI-Abkommen des Europarats hat nur noch wenig mit europäischen Werten zu tun. NGOs machen dafür auch den Schweizer Verhandlungschef verantwortlich.
Erschienen in der Republik, 06. März 2024
Bei Digitalisierungsthemen hinkt die Politik der Realität hinterher. Das zeigt sich nirgends so deutlich wie bei der Gesetzgebung zur künstlichen Intelligenz (KI). Denn die KI ist bereits sehr präsent in unserem beruflichen und privaten Alltag – teils ohne dass wir davon wissen.
Deshalb beschäftigen sich verschiedene internationale Institutionen mit fundamentalen Fragen: Sollen Personalabteilungen künstliche Intelligenz einsetzen, um Bewerbungen einfacher filtern zu können? Wie dürfen Text- und Bildgeneratoren wie ChatGPT oder Dall-E in der Schule oder in einer Anwaltskanzlei eingesetzt werden? Gehört Echtzeit-Gesichtserkennung verboten oder darf die Polizei Ausnahmen vorsehen?
Die EU hat bereits den ersten Schritt gemacht und künstliche Intelligenz im Dezember 2023 umfassend reguliert, und zwar im sogenannten AI Act.[1] Auch eine andere europäische Institution beschäftigt sich mit entsprechenden Regulierungsfragen: der Europarat mit Sitz in Strassburg. Dieser wurde 1949 gegründet mit dem Ziel, Demokratie, Menschenrechte und Rechtsstaatlichkeit in Europa zu stärken. Der Europarat zählt 46 Mitgliedstaaten, darunter auch die Schweiz (seit 1963).
Auch in Strassburg wird mit Hochdruck an einem entsprechenden KI-Regelwerk gearbeitet, das im Mai 2024 verabschiedet werden soll.
Dass Medien bisher noch kaum über das Abkommen berichtet haben, erstaunt. Denn es geht dabei um nichts weniger als das erste internationale Regelwerk zur künstlichen Intelligenz, das auch ausserhalb von Europa gelten kann. Staaten aus der ganzen Welt können Europaratsabkommen unterzeichnen und durch ihre nationalen Parlamente ratifizieren lassen. Dies ist auch der Grund, warum die USA, Israel, Kanada und Japan mit am Verhandlungstisch sitzen. Zwar ohne Stimmrecht, aber mit Beobachterstatus und Mitspracherecht.
Und dies ist auch der Grund, weshalb gerade hinter den Kulissen erbittert um Geltungsbereich und Formulierungen gerungen wird.
In einem Kampf, den ausgerechnet die Länder gewinnen könnten, die nicht Mitglied des Europarats sind – zugunsten der KI-Industrie und zulasten der Menschenrechte.
Ausgerechnet bei einem Abkommen mit dem Titel «Künstliche Intelligenz, Menschenrechte, Demokratie und Rechtsstaatlichkeit».
Und ausgerechnet mithilfe der Schweiz.
Ein erfahrener Diplomat
Seit April 2022 hat der Schweizer Thomas Schneider den Vorsitz («Chair») im Europarat-Komitee für künstliche Intelligenz inne. Schneider, 52 Jahre alt, ist Vizedirektor des Bundesamts für Kommunikation und leitet dort die Abteilung International Relations.[2] Der Diplomat arbeitete jahrelang in diversen hochrangigen Positionen im Europarat, bei der Internetorganisation Icann und auch der OECD.
Über sich selbst sagt Schneider: «Ich bin Historiker und Ökonom und würde mich durchaus als Punk bezeichnen, aber definitiv nicht als Anarchist.» Seine umgängliche Art und auch sein musikalisches Talent (er spielt mit seiner Punkband an offiziellen Empfängen) werden auch von seinen Kritikerinnen gelobt.
Seine Wahl für den Vorsitz war praktisch unbestritten. Die Schweiz habe in den letzten Jahren viel Expertise und diplomatisches Fingerspitzengefühl im Europarat bewiesen, sagen verschiedene europäische Teilnehmer gegenüber der Republik. Im Umfeld des Bundes heisst es: Schneider bringe die richtigen Fähigkeiten und viel Erfahrung mit, bewege sich gekonnt auf der internationalen Bühne und habe auch ein Ohr für die Anliegen der Zivilgesellschaft.
Kurz: Schneider war für viele der perfekte Kandidat für einen anspruchsvollen Job: die Leitung bei den Verhandlungen. Ein Job, den er nach «bestem Wissen und Gewissen» versuche auszuführen, wie er selber sagt.
Doch heute – zwei Jahre später – sind besonders zivilgesellschaftliche Verhandlungsteilnehmerinnen unzufrieden mit seiner Arbeit, was auch an den vom KI-Komitee festgelegten Verhandlungsmodi liegt.
Mit wem hat die Republik für diese Recherche gesprochen?
Die Republik hat mit vielen Vertreterinnen der europäischen Zivilgesellschaft gesprochen, darunter Mitglieder von Thinktanks, Non-Profit-Organisationen für digitale Bürgerrechte und wissenschaftlichen Gremien rund um die künstliche Intelligenz. Es fanden auch Gespräche mit Teilnehmerinnen von Delegationen und mit hochrangigen Repräsentanten der Institutionen des Europarats statt, um ein möglichst akkurates Bild der Verhandlungen zu erhalten. Die meisten Gesprächspartnerinnen möchten anonym bleiben – nicht zuletzt deshalb, weil sie wegen laufender Verhandlungen zur Diskretion verpflichtet sind und den aktuellen Stand nicht gefährden möchten.
Zivilgesellschaft ausgeschlossen
Die Staaten debattieren bei der Ausarbeitung der KI-Konvention in der «Drafting Group», der Entwurfsgruppe, hinter verschlossenen Türen. Dabei nehmen die Delegationen der Europaratsmitglieder teil, wie beispielsweise Moldawien, Schweiz oder Schweden, aber auch diejenigen der Beobachterstaaten wie Kanada oder Japan. Nicht staatliche Akteure – also NGOs, Wissenschaft oder Unternehmen – sind bei diesen Sitzungen ausgeschlossen[3] und können sich jeweils in Plenarsitzungen zu den Entwürfen äussern und im Vorfeld auch Änderungsvorschläge einbringen.
Schneider rechtfertigt dieses Vorgehen: «Es braucht einen Vertrauensraum, um Kompromisse eingehen zu können. Sodass die Delegationen ihren Ländern sagen können: Wir haben das Maximum gegeben.»
Anders war das bei einer anderen Digitalvorlage des Europarats, der Datenschutzkonvention 108+. Hier sassen Zivilgesellschaft und Delegationen in einem Raum.[4] Und debattierten direkt miteinander. Der Ausschluss der Zivilgesellschaft aus der Entwurfsgruppe sei bereits eine «Red Flag» gewesen, eine Warnung, sagt Marc Rotenberg vom amerikanischen Centre for AI und Digital Policy, einem Non-Profit-Thinktank, das die Verhandlungen von Anfang begleitete. «Das verhiess nichts Gutes.»
Zu Beginn der Verhandlungen hätten zivilgesellschaftliche Anliegen beim KI-Komitee durchaus Gehör gefunden, bestätigen einige Teilnehmerinnen. Doch der Modus Operandi verunmöglichte es den NGOs, die zwischenstaatlichen Kompromisse im Nachhinein zu korrigieren. Besonders jetzt, wo sich das Abkommen auf der Zielgerade befindet. «Wir sind nur noch hier, um die verhandelten Punkte abzunicken und zu validieren», sagt eine Teilnehmerin.
In erster Linie: ein globales Abkommen
Das jetzige Resultat der Verhandlungen frustriert besonders zivilgesellschaftliche Teilnehmerinnen. Lag der Fokus noch vor zwei Jahren stark auf den Menschenrechten, handelt es sich bei der aktuellen Version der Konvention um ein zahnloses Deklarationspapier, dessen Inhalt der kleinste gemeinsame Nenner ist, wie das Newsportal «Euractiv» enthüllte.[5]
Wichtige Aspekte wie die Auswirkungen von KI-Systemen auf Umwelt und Energie fehlen ganz, auch KI-Systeme im Bereich nationale Sicherheit könnten von der Regulierung ausgenommen werden. Der Tenor mehrerer Teilnehmerinnen lautet: Hier geht es nicht mehr um die Werte des Europarats – also beispielsweise Gleichheit und Nichtdiskriminierung, die in der Menschenrechtskonvention festgeschrieben sind. Und dies, obwohl sich das KI-Komitee selbst in seinem Mandat zu den Prinzipien des Europarats verpflichtete.[6]
Das liegt auch daran, dass das KI-Komitee vor allem eine globale Ausrichtung forciert, wie Schneider auf der Website[7] schreibt: «Wir sind uns alle einig, dass wir ein Instrument entwickeln wollen, das nicht nur für die Staaten in Europa, sondern für möglichst viele Staaten aus allen Regionen der Welt attraktiv ist.»
Der Europarat habe ihm diesen Auftrag erteilt, sagt Schneider. Dieser sei Teil seines Mandats. «Wenn wir einfach die europäische Logik aufzwingen, dann finden andere Staaten: Nein, so was unterzeichnen wir nicht. Es gilt, unterschiedliche Kulturen und Rechtssysteme zu berücksichtigen.»
Aber: Nirgendwo ist festgehalten, dass die KI-Konvention von so vielen Staaten wie möglich unterschrieben werden soll. In der aktuellen Leistungsbeschreibung[8] steht lediglich, das Komitee solle eine «globale Sicht auf das Thema» und einen «inklusiven Verhandlungsprozess mit internationalen Partnern» ermöglichen. Auf Nachfrage weist Schneider darauf hin, dass dies dem klaren Willen der Verhandlungspartner entspreche. Bisher habe niemand seinen Worten auf der Website des KI-Komitees widersprochen.
USA lobbyiert gegen strenge Regeln
Hauptstreitpunkt ist vor allem der Geltungsbereich der KI-Konvention. Das Regelwerk solle gemäss Mandat auch «innovationsfördernd»[9] sein, sagt Schneider. Es sei wichtig, dass diejenigen Nationen mit der grössten KI-Industrie mit an Bord seien. «Sonst bleibt Europa ein ‹geschlossener Club› unter sich.»
Doch gerade die Innovationsförderung sorgt für Spannungen. Ein Vorschlag der USA lautet nämlich: Es sollen keine bindenden Richtlinien für den privaten Sektor erlassen werden. Die US-Delegation reagierte damit auf den Druck ihrer KI-Industrie.
In einem offenen Brief an den US-Aussenminister Antony Blinken[10] vom 24. Januar warnten amerikanische Interessenverbände mit eindringlichen Worten: «Wir raten dringend davon ab, verbindliche Normen für die Privatwirtschaft in die Konvention aufzunehmen.» Dies würde die politische und ökonomische Führungsrolle der USA im Bereich künstliche Intelligenz massiv gefährden. Die Verbände begründen dies damit, dass die EU bereits gezielt diskriminierende Gesetze gegen amerikanische Unternehmen wie etwa den Digital Market Act verabschiedet habe.
Die Befürworter dieser Position[11] sind Kanada, Japan und Grossbritannien. Sie argumentieren, dass die Bürgerinnen mit solchen Konventionen traditionell vor staatlichen Eingriffen geschützt werden sollen und nicht vor Privaten.
Eine Argumentation, die nach Sicht der Kritiker überhaupt nicht mehr zeitgemäss ist. «Die grösste Gefahr bei künstlicher Intelligenz geht von privatwirtschaftlichen Unternehmen aus. Genau die müssen mit so einer Konvention adressiert werden», sagt NGO-Vertreter Rotenberg. Ein Ausschluss der Privatwirtschaft würde zum Beispiel auch bedeuten, dass die Verbreitung von Deepfakes und Desinformation keine Konsequenzen für die Betreiberfirmen hätte.
Auch Jan Kleijssen kritisiert diese Einschränkung scharf. Er war jahrzehntelang in hochrangigen Positionen des Europarats tätig und vertritt heute in den Verhandlungen die Organisation Allai, die sich für die Förderung von verantwortungsvoller KI einsetzt. Kleijssen sagt: «Das wäre, als würden wir sagen: Ein AKW von privaten Betreibern regulieren wir nicht. Wir kontrollieren nur die AKWs von Staaten. Das ist doch absurd.»
Öffentlicher Brief für Kurskorrektur
Über 90 NGOs und Wissenschaftlerinnen – darunter auch Algorithmwatch Schweiz[12] und die Digitale Gesellschaft – haben deshalb am Dienstag einen Brief veröffentlicht,[13] um eine Kurskorrektur zu fordern. Unterzeichnet hat den Brief auch Kommunikationsforscher Karsten Donnay von der Universität Zürich, und zwar mit der Begründung: «Entweder regulieren wir das für alle. Oder wir lassen es ganz.» Tarek Naguib von der Schweizer NGO Humanrights.ch begrüsst es zwar, dass die Konvention «nicht exklusiv europäisch» sei, doch er findet auch: «Wenn den Konzernen ein Freipass gegeben wird, dann wird damit das Signal gesendet, dass die Menschenrechte relativiert werden können.» Auch er hat den Appell unterschrieben.
Zwei Optionen liegen nun auf dem Tisch der Entwurfsgruppe: Die eine ist ein befristetes «Opt-out». Das würde bedeuten: Die Konvention gilt sowohl für den öffentlichen als auch für den privaten Sektor. Unterzeichnende Staaten können jedoch den privaten Bereich vorübergehend ausschliessen. Nach ein paar Jahren erfolgt dann eine Bestandesaufnahme. Dafür setzen sich die Zivilgesellschaft und die EU ein.
Die andere Option ist die eines «Opt-in». Das hiesse: Die Europaratskonvention enthält lediglich bindende Regeln für den Staat. Staaten könnten zusätzlich auf Massnahmen für den privaten Sektor hinwirken: «Seek to ensure» nennt sich das. Das ist eine Formulierung, die rechtlich nicht bindend ist und auch nicht bei einem Gericht durchgesetzt werden kann. Die USA lobbyiert massiv für ein «Opt-in» – zur Entrüstung der Zivilgesellschaft.
Es sei ein ganz übles Spiel, das hier gespielt werde, sagt eine Insiderin. «Mit einem ‹Opt-out› müssen sich die USA gezwungenermassen outen und wären die Bad Boys. Und deshalb möchten sie schlechtere Standards für alle unterzeichnenden Staaten.»
Auch die Schweizer Delegation ist in dieser Frage eine Verbündete der USA. Sie votiert gemäss ihrem Verhandlungsmandat ebenfalls für unternehmensfreundliche Positionen.[14]
Kaum Chancen auf Ratifizierung in den USA
Sollte sich «Opt-in» in der letzten Verhandlungsrunde vom 11. März durchsetzen, hätte der wirtschaftsfreundliche Block rund um die USA gewonnen. Und die Schweiz könnte die KI-Konvention mit einer Ratifizierung durch die USA als grossen diplomatischen Erfolg verkaufen.
Doch es ist gut möglich, dass der Vorsitz sich hier massiv verspekuliert hat. Die Chancen für eine Ratifizierung durch die USA sind ausgesprochen tief. Es gilt, dafür zwei hohe Hürden zu bewältigen: eine Zweitdrittel-Mehrheit im US-Senat und die Unterzeichnung durch den Präsidenten. Amerikanische Juristinnen sind sich weitgehend einig: Es ist sehr unwahrscheinlich, dass das US-Parlament diese Konvention jemals annehmen wird.
Historisch betrachtet existiert ein regelrechter «Friedhof» an internationalen Regelwerken, die von der US-Regierung unterzeichnet, jedoch nie verabschiedet worden sind vom Parlament. Prominente Beispiele[15] sind etwa das Abkommen gegen die Diskriminierung von Frauen oder das Anti-Atomwaffen-Abkommen.
Ein weiterer Unsicherheitsfaktor sind die US-Präsidentschaftswahlen im Herbst. Die Chance, dass ein Präsident Donald Trump ein Abkommen unterzeichnen würde, tendiert gegen null.
Die USA hat bisher lediglich eine einzige Europaratskonvention unterzeichnet und ratifiziert: die Budapest Convention on Cybercrime[16] von 2001. Ein Erfolg, den Thomas Schneider wiederholen will, wie er in einer offiziellen Rede[17] sagte. «So kann der Europarat einen Beitrag zur regelbasierten Weltordnung leisten», ergänzt der Vorsitzende des KI-Komitees.
Der Amerikaner und Europaratskenner Rotenberg kritisiert das scharf. «Ich kenne Thomas Schneider und halte sehr viel von ihm», sagt er. «Doch mit diesem Effort für die USA besteht die reale Gefahr, dass das Komitee einen kolossalen Fehler begeht.»
Nicht neutral
Pokert der Schweizer Diplomat also zu hoch? Schneider antwortet ausweichend: «Ich weiss nicht, ob die Vereinigten Staaten die Konvention unterzeichnen werden. Es hätte auf jeden Fall Signalwirkung. Und für andere Staaten war wichtig, dass die USA mit von der Partie ist.»
Nicht alle glauben indes, dass der Schweizer Vorsitzende die Verhandlungen neutral geführt hat, wie das Medienportal «Euractiv» schreibt:[18] «Quellen bestätigten, dass der Vorsitz und das Sekretariat des Europarats während der gesamten Verhandlungen nicht neutral gewesen waren und stattdessen den Argumenten der USA und anderer Beobachterländer Vorschub leisteten, während sie widersprechende Argumente beiseiteschoben.»
Ein Vorwurf, den Schneider unfair findet: «Mir wird von allen Seiten vorgeworfen, ich berücksichtige ihre Position zu wenig.» Er sei ein Moderator und ein Dienstleister, er dürfe gar keine inhaltliche Meinung haben. «Ich nehme im Zweifelsfall lieber ein Änderungsvorschlag zu viel in ein Paper rein, obwohl ich weiss, dass es dafür keine Mehrheiten geben wird.» Er sei überzeugt: Man müsse immer mit allen reden und alle anhören.
Es gibt aber durchaus auch Stimmen, die Schneider verteidigen. So funktioniere nun mal Diplomatie, heisst es von einigen Delegationen. Schneiders Job sei «tough» und die globale Ausrichtung richtig. Europaratskonventionen seien von Natur aus abstrakt, die Umsetzung obliege immer den Staaten, es brauche Spielräume für deren Rechtsordnungen. «Realitätssinn ist hier wichtig, und das bringt das KI-Komitee mit», sagt ein Teilnehmer.
«Euractiv» warf zuletzt die These auf,[19] dass sich die Schweiz mit einem diplomatischen Coup bessere Chancen auf den Posten des Generalsekretärs im Europarat ausrechne. Dafür bewirbt sich nämlich der zurückgetretene Bundesrat Alain Berset.[20] Der ehemalige SP-Magistrat wollte sich auf Anfrage der Republik nicht zu seiner Kandidatur äussern. Auch Schneider hält nicht viel von solchen Gerüchten: «Ich habe während der letzten 13 Jahre zwei- bis dreimal mit Herrn Berset gesprochen. Er wird sich wohl nicht einmal mehr an mein Gesicht erinnern können.»
EU ist Verbündeter der Zivilgesellschaft
Den Gegenpol zur USA bildet zurzeit die EU. Sie tritt im Namen aller 27 Mitgliedstaaten auf. Und der EU-Vertreter kritisiert ebenfalls die Haltung der USA, wie ein geleaktes Memo zeigt:[21] «Dadurch wird […] die falsche politische Botschaft vermittelt, dass die Menschenrechte im privaten Bereich nicht den gleichen Schutz verdienen.»
Doch Brüssel verfolgt mit diesem beherzten Votum für die Menschenrechte durchaus auch eigene politische Interessen. Die Position ist klar: Eine Europaratskonvention soll maximale Kompatibilität mit dem AI Act der EU aufweisen. Das EU-Regelwerk ist nämlich für die Privatwirtschaft konzipiert, es soll mit verbindlichen Regeln Rechtssicherheit für Unternehmen schaffen.
Die EU hofft damit auf einen noch stärkeren «Brussels Effect»: Darunter sind EU-Gesetze wie die Datenschutzgrundverordnung mit extraterritorialer Wirkung zu verstehen, weil Konzerne wie Meta, Google und Apple sie erfüllen müssen, um in Europa weiterhin tätig sein zu können. Eine KI-Konvention des Europarats müsse daher zwingend auch für den privaten Sektor gelten.
Nun soll es schnell gehen: Die letzte Verhandlungsrunde zur Ausarbeitung der KI-Konvention beginnt am 11. März und soll vier Tage dauern. Nach dem Fahrplan des Komitees sollte das Ministerkomitee – also die Aussenministerinnen aller Mitgliedstaaten – die Konvention bereits im Mai unterzeichnen, zum 75. Geburtstag des Europarats und der Europäischen Menschenrechtskonvention.
Lehrstück über Idealismus und Pragmatismus
Sollte das KI-Komitee zwischen dem USA-Lager und der EU keine Einigung erzielen können, müsste im schlimmsten Fall das Ministerkomitee über die Privatsektor-Frage befinden. Ein Ergebnis, das sich niemand wünscht und das auch ein Präzedenzfall wäre. Denn dieses Organ verhandelt eigentlich keine Grundsatzfragen mehr.
Das KI-Komitee hat deshalb alle Teilnehmerinnen aufgefordert, noch keine Rückreise aus Strassburg zu buchen. Ein Verhandlungsmarathon wie in Brüssel beim AI Act ist nicht ausgeschlossen. Der zeitliche Druck sorgt für absolutes Unverständnis bei den NGO-Vertreterinnen. «Warum diese Eile, damit man irgendwas vorweisen kann zum Jubiläum im Mai? Und dann noch mit einer Konvention, die die Prinzipien der EMRK missachtet?», sagt eine Vertreterin einer grossen europäischen NGO.
Ein anderer Diplomat findet hingegen: «Besser ein schlechtes Resultat als gar keines. Wir können nicht länger warten bei diesem Thema.»
Klar ist, dass das Verhandlungsdrama rund um die KI-Konvention vor allem eins ist: ein Lehrstück über Idealismus und Pragmatismus in der europäischen Diplomatie.
Zum Co-Autor
Balz Oertli ist Journalist beim WAV Recherchekollektiv[22], einem unabhängigen Recherchekollektiv aus Zürich.
Zwischen Tech-Diktatur und KI-Goldrausch
Adrienne Fichter
Libertäre Tech-Milliardäre setzen auf einen republikanischen Wahlsieg. Leidet das Silicon Valley gerade an Realitätsverlust? Eine Reportage aus San Francisco.
Erschienen in der Republik, 16. August 2024
In Kalifornien herrscht gerade Goldgräberstimmung. Alle versuchen ihr Glück.
Bisher sind die KI-Sprachmodelle vor allem eines: ein Versprechen für die Zukunft, das sich ausgezeichnet kapitalisieren lässt.[1] Mehr als 50 Milliarden Dollar Kapital[2] sammelten Start-ups, die sich der künstlichen Intelligenz (KI) verschrieben haben, im letzten Jahr ein.
«Jeder will KI anwenden und irgendwo reinprügeln», formuliert[3] es das IT-Fachmagazin «c’t» treffend. Die wichtigsten Tech-Konzerne liefern sich ein wildes Wettrüsten um das leistungsfähigste Sprachmodell. Wird es Gemini (Google), GPT-4 (Open AI) oder Llama (Meta)?
Der einflussreiche kalifornische Investor Marc Andreessen[4] träumt vom Tag, an dem die künstliche Intelligenz die menschliche endlich überholt.
Nirgendwo passt die Hoffnung auf die Superintelligenz so gut hin wie nach San Francisco: In der ganzen Stadt werden auf Plakaten KI-Assistenten beworben, die den fehlerhaften Menschen kostengünstig ersetzen sollen.
Und die Menschen, die fehlen hier schon jetzt.
San Francisco erscheint im Jahr 2024 entvölkert. Die Strassen sind in den späten Junitagen oft gespenstisch leer. Die Stadt hat sich bis heute nicht richtig erholt von der Pandemie. Wohnungen sind unbezahlbar,[5] die Restaurants sind teurer als in Zürich. Wegen der anhaltenden Opioidkrise schleichen immer mehr kaputte Fentanyl-Süchtige[6] und Obdachlose fast wie Zombies durch die Gegend: Der Tech-Hotspot wirkt häufig wie eine Geisterstadt.
Auch immer mehr Geisterautos bevölkern in diesen Tagen die hügeligen Strassen: das selbstfahrende Personenfahrzeug von Google namens Waymo[7].
Wer sich achtet, sieht sie überall: weisse Autos mit Zylindergehäuse auf dem Dach und rotierenden Kameras. Noch ziehen die weissen Waymo-Taxis neugierige Blicke von Passanten auf sich. Bald werden sie zum Stadtbild dazugehören und kaum mehr wahrgenommen werden.
Worum es am 5. November gehen wird
Hin und wieder verstösst das KI-Auto zwar noch gegen Regeln, manchmal auf denkbar absurde Weise: Neuerdings ist es zum Problem geworden, dass Waymo-Taxis, die in den späten Nachtstunden automatisch in Parkhäuser fahren,[8] um den nächsten Morgen abzuwarten, sich dort gegenseitig anhupen – und ganze Nachbarschaften um den Schlaf bringen. Doch unüberwindbare Irritationen lösen auch solche Vorfälle nicht aus. Autonom fahrende Fahrzeuge sind gekommen, um zu bleiben. Neue Technologien an Kunden auch zu testen und Fehler «im laufenden Livebetrieb» auszumerzen, ist nicht ungewöhnlich in den USA.
Dem Silicon Valley kommt in diesem Präsidentschaftswahlkampf eine ganz besondere Bedeutung zu. Nicht nur, weil Kamala Harris aus Berkeley stammt und ihre Karriere als Staatsanwältin[9] hier startete. Nicht nur, weil der republikanische Vizepräsidentschaftskandidat J. D. Vance seinen Aufstieg vor allem dem schwerreichen kalifornischen Tech-Investor Peter Thiel verdankt[10] (der verschiedene namhafte Überwachungsfirmen wie Palantir mitgegründet oder in Clearview AI investiert hat).
Am 5. November 2024 entscheidet die US-Bevölkerung auch darüber, wie Technologien in Zukunft auf die Gesellschaft losgelassen werden. Entweder wird es noch entfesselter und unkontrollierter geschehen als heute. Oder mit einem Checks-and-balances-System drumherum, das Bürgerinnen wirksame Rechte einräumt und Schäden zu verhindern versucht.
Sicher ist nur: Eine einflussreiche Gruppe von Investoren und Firmenbesitzerinnen des Silicon Valley – das dritte Machtzentrum neben Washington und Wallstreet – wünscht sich eine Administration Trump/Vance[11] herbei, um ohne jede Einschränkung ihre Pläne umzusetzen. Es droht so etwas wie ein unkontrollierter Tech-Autoritarismus[12].
Quasireligiöser Glaube an KI
Mein Besuch in Kalifornien fand in schicksalhaften Wochen statt. Es war zu der Zeit, als Gäste in klimatisierten Bars ungläubig und mit offenen Mündern das erste TV-Duell zwischen zwei ergreisten Präsidentschaftskandidaten mitverfolgten.
Und Mitte Juli verübte dann ein 20-Jähriger ein Attentat auf Donald Trump.
Es war auch der Zeitpunkt, zu dem einige namhafte Tech-Milliardäre des Silicon Valley erstmals lauthals ihre Unterstützung für Donald Trump bekundeten. So schrieb «The Nation»[13] kurz nach der offiziellen Unterstützung von Trump durch Elon Musk: «Es ist offiziell: Das Silicon Valley ist voll und ganz Maga-zugedröhnt, und die Tech-Autoritären bringen nun ihr Geld ein.»
Mit einem neu gegründeten America PAC[14] versucht eine Gruppe von libertären Investoren nun ihr Duo Trump/Vance ins Weisse Haus zu hieven. Elon Musk nutzt zudem X, das soziale Netzwerk, das er noch unter dem Namen Twitter für 44 Milliarden Dollar gekauft hat, als politisches Spielfeld für massive Trump-Propaganda[15].
Ihr Schützling J. D. Vance soll die politische Agenda umsetzen, die sich die Tech-Milliardäre sehnlichst wünschen: nichts tun[16] – und am besten die Regulierung wieder komplett auf null herunterfahren. Die wenigen rechtsstaatlichen Mechanismen, die die Biden-Administration zum Schutz vor gesellschaftlichen Schäden installiert hatte, sollen wieder rückgängig gemacht werden. Die Republikaner wollen der US-Bevölkerung die künstliche Intelligenz als eine alternativlose, quasi naturgesetzliche Entwicklung verkaufen, die zwingend Wohlstand für alle schafft.
Diese Laisser-faire-Attitüde ist ganz nach dem Wunsch der börsenkotierten IT-Konzerne. Vorbei die kurze Ära, in der Open-AI-Chef Samuel Altman 2023 mit grossem Mediengetöse Regierungschefs auf der ganzen Welt traf,[17] um vor der Auslöschung der Menschheit durch Killerroboter zu warnen. Aus heutiger Sicht war dies wohl vor allem ein cleverer PR-Stunt, um von dem effektiven Schadenspotenzial der KI abzulenken.
Inzwischen gelten andere Prioritäten: Das Silicon Valley will seine Problemchen rund um KI ganz unabhängig in den Griff bekommen. Die Technologie ist viel zu wichtig, als dass ihr irgendwelche gesetzlichen Schranken gesetzt werden sollen.
Investieren, wachsen, performen: Nur darauf kommt es an. Das bedeutet die Beschaffung von noch mehr Serverkapazitäten, noch mehr Hardware, den Bau von noch leistungsfähigeren Transformer-Modellen[18], noch effizienteren KI-Chips, noch mehr Neuronen, noch mehr Parametern, noch mehr Flops (Gleitkommaoperationen pro Sekunde).
Die Weiterentwicklung von Sprachmodellen wie GPT soll trotz aller potenziellen Gefahren nie gestoppt werden, sagte Open-AI-CEO Samuel Altman bei einem Auftritt des Magazins «Tech Crunch»[19]. Er fabulierte von qualitativer Bildung, medizinischer Versorgung und grossem wissenschaftlichem Fortschritt. Altman trägt seine grossen Visionen als Selbstverständlichkeiten vor, ohne sie jemals herzuleiten.
Es hört sich manchmal an wie die KI-fabrizierten Halluzinationen der Textgeneratoren: Einige Fakten sind zutreffend, es mischt sich aber viel Dazugedichtetes darunter. Einfach weil die Diskurse sich verselbstständigen und das statistisch wahrscheinlichste nächste Wort zu völligem Unsinn werden kann.
Weniger blumige, aber genauso positiv gestimmte Diskurse hört man in Kalifornien auch von der Basis der Programmierer und Techworker. «Generative KI [also KI, die eigene Inhalte erstellt; Anm. d. Red.] wird die menschliche Interaktion mit Maschinen fundamental verändern», findet Roberto, ein Schweizer Expat, der schon sehr lange bei einem bekannten Big-Tech-Konzern in San Francisco tätig ist. Er trifft mich spätnachmittags nach der Arbeit zu einem Cappuccino. Heute brauche es noch zu viel Anpassung von unserer Seite, wie etwa das richtige Gerät, den richtigen Browser, die Eingabe des richtigen Dateninputs in ein Formularfeld. In Zukunft würden wir in unserer natürlichen Sprache mit KI-Maschinen in Form von Gadgets kommunizieren.
Alle wollen zu Open AI
Den Namen seines Arbeitgebers möchte Roberto nicht in den Medien lesen. Nicht nur, weil die Big-Tech-Firmen mit strengen Vertragsklauseln jegliche Kommunikation mit Medienschaffenden strengstens unterbinden. Sondern weil diese nicht die nötige Agilität und DNA hätten, um bei der bevorstehenden KI-Revolution mitzuhalten. «Es ist eine grosse Chance für die Start-ups von morgen.»
Das Aushängeschild von San Francisco ist zurzeit das Vorzeigeunternehmen Open AI – bekannt für seinen Textgenerator Chat GPT. Es löste den heutigen KI-Boom aus. Die Stadt setzte dem Pionierunternehmen sogar ein Denkmal: «Die heutige Revolution generativer AI begann mit der Gründung von Open AI in San Francisco im Jahr 2015.» Der Satz steht auf der steinernen Litfasssäule bei den Piers in San Francisco beim Fisherman’s Wharf. Weiter unten prangt der Slogan «City of Firsts». Die Stadt ist stolz auf ihre Pioniere.
Open AI hat heute einen Marktwert von 80 Milliarden Dollar.[20] Das derzeit beliebteste KI-Unternehmen hat, abgesehen von internen Querelen[21], noch eine fast «reine Weste» in der Öffentlichkeit: Es gibt keine Historie von Datenschutzverbrechen, keine publik gewordenen Desinformationskampagnen, die Wahlen manipuliert haben könnten, keine Bussgelder wegen unfairer Wettbewerbspraktiken.
Die Chancen, beim derzeit gehyptesten Unternehmen einen Termin für ein Pressegespräch zu erhalten, sind allerdings: nahezu null.
Open AI antwortet mir auf keinem Kanal, weder auf LinkedIn noch über die offizielle E-Mail-Adresse. Genauso verschlossen gegenüber europäischen Medienschaffenden zeigen sich derzeit auch Meta, Google und Apple. Sie verweisen beim Thema KI-Sprachmodelle auf ihre Communiqués. Vereinbarte Gesprächstermine werden im letzten Augenblick gecancelt.
Warum genau, erfahre ich nicht, doch grundsätzlich kann das Mauern nicht verwundern: Die Führungsriege der Tech-Konzerne fällt in die alten, hässlichen Verhaltensmuster der 2010er-Jahre zurück. Als in der digitalen Sphäre noch der Wilde Westen herrschte.
Komplett den Verstand verloren? Von X über Meta bis Google
Aufgrund des aktuellen KI-Hypes scheinen die kalifornischen Unternehmen gerade komplett den Verstand zu verlieren.
Eine Auswahl aus den letzten Monaten:
1. Bad boy Elon Musk, Inhaber von X (ehemals Twitter), ist bekannt dafür, sich um die EU-Regeln nicht gross zu kümmern, und hat schon mehrere Verfahren[22] am Hals. Nachdem bereits am Montag letzter Woche eine europäische und eine italienische Konsumentenschutzorganisation in Irland Beschwerde gegen X[23] eingereicht hatten, hat diese Woche die österreichische Noyb[24] nachgefasst und gleich in neun weiteren EU-Ländern ein Verfahren gegen Musks soziales Netzwerk angestrengt. Der Vorwurf: X trainiere anhand der persönlichen Daten seiner Userinnen seinen Chatbot Grok, ohne darüber zu informieren und nach einer Einwilligung zu fragen.
Dasselbe Verhalten zeigt auch[25] das Businessnetzwerk LinkedIn. Auch gegen diese Plattform haben die europäische und die italienische Organisation Beschwerde eingereicht.
In den letzten Tagen, aus Anlass des Interviews,[26] das Musk auf X mit Trump geführt hat, hat sich der Konflikt zwischen den europäischen Aufsichtsbehörden und dem reichsten Mann der Welt noch einmal weiter zugespitzt: EU-Kommissionsmitglied Thierry Breton publizierte auf X[27] ein offizielles Schreiben, in dem Musk daran erinnert wird, dass er dem DSA untersteht und Rede- und Informationsfreiheit in seinem sozialen Netzwerk garantieren muss. Musk antwortete[28] mit einem Meme mit dem Text: «And literally, fuck your own face!»
2. Etwas subtiler gehen das Kollaborationstool Slack und der Konzern Meta vor. Sie versuchten, für dasselbe Vorhaben (KI-Modell-Training) die Zustimmung ihrer Nutzer durch Tricksereien zu ergaunern: entweder durch das Verstecken der Hinweise oder durch ein schikanöses Formular. Bei Letzterem werden die User gezwungen, zu begründen, weshalb die Verarbeitung ihrer Daten sie in irgendeiner Form negativ beeinflussen könnte. Wer dies nicht tut, stimmt der Datenverwendung stillschweigend zu – und wird Teil des KI-Trainingsmaterials. Dieses Opt-out war an Dreistigkeit nicht zu überbieten – und stand in klarem Widerspruch zur Europäischen Datenschutz-Grundverordnung (DSGVO).
Zuckerberg dachte wohl, dass er damit durchkommen würde. Doch die sehr eigenwillige Interpretation der DSGVO kam in Europa nicht gut an. Die österreichische Datenschutzorganisation noyb hat Beschwerde in 11 Ländern[29] eingereicht. Meta legt nun sein Projekt auf Eis.
3. Sogar beim Musterschüler Apple macht der KI-Hype nicht halt. Der Hardwareriese wirbt schon seit längerem mit seinem Datenschutz, zu Recht. Apple hat ein fundamental anderes Geschäftsmodell als die meisten Softwareriesen aus Kalifornien. An den Gebäudefassaden von San Francisco hängen riesige billboards mit der Aufschrift: «Safari – der Browser, der wirklich deine Daten schützt».
Doch auch Apple möchte künstliche Intelligenz in seine neuen Smartphonemodelle reinbacken. Apple Intelligence soll in alle kommenden iPhones integriert werden. Wenige Wochen nach der Ankündigung zog Apple dieses Versprechen für Europa allerdings wieder zurück, angeblich wegen des europäischen Digital Markets Act[30] und der Vorgaben zur Interoperabilität (Apple müsste mit anderen Messengern kommunizieren). Fraglich ist auch, inwiefern Smartphonehersteller berechtigt sind, verschiedene Datenquellen zusammenzuführen, um ihre KIs zu trainieren. Auch hier lauern potenzielle Konflikte mit der DSGVO.
4. Google liefert sich ein Rennen mit Open AI um den Lead des besten Sprachmodells und hat soeben ein Wachstum im zweistelligen Prozentbereich erzielt,[31] das aber vor allem auf die Cloud-Produkte zurückgeht. Genau dieser Umsatztreiber stösst allerdings auf Kritik: Die Cloud mit ihren KI-Kapazitäten steht nun der israelischen Armee zur Verfügung.[32]
Interne Proteste innerhalb des Konzerns lassen CEO Sundar Pichai jedoch unbeeindruckt. Bei den früheren Entwicklungsprojekten Project Maven (eine Zusammenarbeit mit dem US-Verteidigungsministerium in Sachen Kriegsdrohnen) oder Dragonfly (eine Suchmaschine für China) nahm die Google-Führung noch Rücksicht auf die Bedenken der Belegschaft. Damals stoppte sie die umstrittenen Projekte.
Heute hingegen werden aufmüpfige Mitarbeiter einfach entlassen. Es herrscht ein kalter Ton: «Das hier ist ein Business … und es ist zu wichtig, um sich jetzt ablenken zu lassen», schreibt CEO Pichai[33] als Reaktion auf die Proteste. In einem «Bloomberg»-Interview wiederholte er die Message[34]: «Die KI-Möglichkeiten sind derart immens, es braucht jetzt einen realen Fokus auf unsere Mission.»
Die Managements der wertvollsten amerikanischen Tech-Konzerne versuchen also, im grossen Stil illegal auf die Daten ihrer Nutzerinnen zuzugreifen. Sie ändern dafür klammheimlich ihre Nutzungsbedingungen, ignorieren EU-Gesetze, die solche Manöver gesetzlich verbieten, und scheren sich nicht um die ethischen Bedenken des eigenen Personals.
Es herrscht immer noch «move fast and break things»
Es ist paradox: Der Brussels effect müsste aktuell so gross sein wie noch nie in Sachen Technologiegesetzgebung. Noch nie galten so viele europäische Technologieregeln mit globaler Wirkung wie heute: der europäische Digital Services Act[35], der Digital Markets Act und der neu verabschiedete AI Act[36].
Alle diese Gesetze fordern Transparenz über Algorithmen, Trainingsdatensätze und Modellarchitekturen. Sie haben massive Konsequenzen für geschlossene KI-Systeme, die Serverinfrastrukturen der Tech-Branche und die Geschäftsmodelle. Die amerikanischen Konzerne stehen seit dem 1. August in der Pflicht: Sie müssen jetzt verschiedene Auflagen zur Risikoprüfung erfüllen und ihre Modelle dokumentieren.
Doch keiner der Konzerne kommuniziert eine Strategie, wie er all die Vorgaben umsetzen will. Zurzeit zählt wieder das alte Credo: Move fast, break things. Man hat den Eindruck, das Silicon Valley leide gerade an Realitätsverlust.
Die Tech-Industrie in Kalifornien ist nicht gewillt, mit europäischen Journalistinnen über die Chancen und Risiken von künstlicher Intelligenz zu reden. Anders sieht es aus mit den Organisationen, die sich dem Schutz der Privatsphäre, der Cybersecurity und den digitalen Bürgerrechten verschreiben. Ich treffe mich mit der Electronic Frontier Foundation (EFF).[37]
Das Narrativ der Tech-Industrie ändern
«Kein Wunder, spricht niemand mit Ihnen», sagt die Mediensprecherin Karen Gullo, die mich sehr spontan empfängt.
Die ganze Debatte rund um generative AI lenke von den Problemen ab, die schon vorher da waren. Oder noch schlimmer: Sie verstärkten diese. Etwa bei der Strafverfolgung.
Polizistinnen tragen heutzutage sogenannte Bodycams. Ein Anbieter solcher Kameras bietet nun[38] die KI-basierte Erstellung von Polizeirapporten an. Generative AI-Modelle sollen die Videoaufzeichnungen in akkurate Polizeiberichte umwandeln und den Strafverfolgerinnen Arbeit abnehmen. Das sei eine bedrohliche Idee, findet Gullo. Die Fehleranfälligkeit sei viel zu gross, die Verzerrungen der Aufnahmen erlaubten es sicher nicht, ein akkurates Bild von Polizeiinterventionen zu bekommen.
Die EFF wünscht sich für die USA jedoch kein eigenes KI-Gesetz, das analog zu demjenigen der EU wäre und Vorgaben an die Entwickler macht. Die Lösung liege vielmehr in einem robusten landesweiten Datenschutzgesetz[39], das bis heute in den USA gar nicht existiert.
Zwar ist ein entsprechendes Gesetz in Arbeit, doch bereits der erste Wurf droht zu scheitern. In der Woche meines Meetings mit der EFF hat der US-Kongress den neuesten Entwurf des American Privacy Rights Act[40] stark verwässert. Das Recht auf Fairness bei der Datenverarbeitung wurde gestrichen (solche Forderungen sind «zu woke», wie es der republikanische Senator Ted Cruz formulierte[41]). Ausserdem sollen alle griffigeren Gesetze in den einzelnen Bundesstaaten vom neuen, föderalen Gesetz übersteuert werden und es soll keine Möglichkeit für Bürgerklagen geben. Die EFF[42] und andere zivilgesellschaftliche Organisationen laufen gerade Sturm gegen die Aufweichungstaktiken der Republikaner.
Eine andere bekannte Internetstiftung zählt sich weder zum Lager der Panikmacher noch zu den Optimisten, sondern zu den «KI-Realisten». In der New Montgomery Street in der Nähe des berühmten San Francisco Museum of Modern Art sitzt in einem Hochhausgebäude der Gegenentwurf zum kapitalistischen Datenmodell vieler Firmen: die Stiftung Mozilla[43]. Berühmt wurde sie mit populären Programme wie dem Firefox-Browser oder der E-Mail-Anwendung Thunderbird.
Ich treffe Ashley Boyd, Vice President Advocacy. Boyd sieht in der zunehmenden Marktkonzentration des Silicon Valley die grösste Gefahr für die Demokratie und fordert vor allem mehr Wettbewerb. Es brauche gemeinwohlorientierte Alternativen zu den durchkommerzialisierten Sprachmodellen.
Open AI und Konsorten bestimmen zurzeit nicht nur Tempo und Standards der KI-Entwicklung, sondern dominieren allgemein das Narrativ. Dabei ginge es auch anders. Mozilla versucht das Konzept von «vertrauenswürdiger KI» zu etablieren[44]. Boyd ist überzeugt: «Wenn wir selbstbestimmt unsere Daten für Open-Source-Modelle spenden können, wenn wir wissen, wie und wofür diese verarbeitet werden, und wenn wir Transparenz darüber erhalten, wie diese Modelle funktionieren – dann steigt auch die Akzeptanz für die Entwicklung einer menschenorientierten KI.»
Der Ansatz von Mozilla lautet also: nicht nur über Alternativen reden, sondern diese bauen. Die EU-Gesetze seien sehr wichtig, findet Boyd. «Aber wir müssen sie in innovatives Design übersetzen. Sonst bleiben sie Papiertiger.»
Trump und Vance wollen alle KI-Regeln rückgängig machen
Boyds Botschaft wird indirekt auch von der demokratischen Präsidentschaftskandidatin Kamala Harris geteilt. So sagte[45] die offizielle Kandidatin der Demokraten einmal sinngemäss, dass der Schutz der Gesellschaft und die Lancierung von technischen Innovationen nicht gegeneinander ausgespielt werden müssen. Beides geht zusammen.
Der bisherige Weg der Demokraten sieht durchaus vielversprechend aus: Präsident Biden erliess 2023 eine Executive Order[46] mit Vorgaben für Tech-Unternehmen. Sie verlangt, dass grosse Technologieunternehmen die Gefahren ihrer KI-Modelle gegenüber der US-Regierung dokumentieren. Sie schränkt ausserdem die Nutzung von KI-Systemen für Hochrisikosituationen ein (etwa im Gesundheitswesen). Ein Meilenstein für Rechte und Pflichten im Umgang mit KI in den USA.
Eine Administration Harris würde den eingeschlagenen Weg für eine griffige KI-Gesetzgebung fortsetzen, spekulieren amerikanische Medien[47]. Mit Fokus auf[48] «alle Risiken von KI», nicht nur die hypothetischen und spekulativen wie die Auslöschung der Menschheit durch intelligente Maschinen. Schliesslich lautet Harris’ Slogan: «For the people». Im Mai 2023 forderte sie[49] im Namen der Biden-Regierung bei einem Treffen die Chefs von Google, Microsoft und OpenAI auf, nur sichere Produkte auf den Markt zu bringen. Und apropos selbstfahrende Autos: Als Justizministerin Kaliforniens ging Harris[50] 2016 rechtlich gegen Uber vor, das schon damals autonom fahrende Autos einsetzen wollte.
Eine wachsende Zahl von Risikokapitalgebern scheint dieser Leistungsausweis von Harris nicht abzuschrecken: Mehr als 800 Investoren sprechen sich für ihre Wahl[51] aus, darunter Apple-Mitgründer Steve Wozniak und LinkedIn-Mitgründer Reid Hoffman. Allerdings treten diese Tech-Unternehmer mit weniger Verve und Fanfaren auf als die Gruppe rund um Musk, Thiel und Ben Horowitz, ein Investor und enger Businesspartner von Marc Andreessen.
Eine Trump/Vance-Regierung würde die ersten Pflöcke einer Regulierung sofort wieder zunichtemachen. Die Wahlplattform der Republikaner gibt einen ersten dystopischen Vorgeschmack[52]: «Wir werden Joe Bidens gefährliche Executive Order aufheben, die die KI-Innovation behindert und der Entwicklung dieser Technologie radikal linke Ideen aufzwingt.» Die heimische KI-Industrie solle geschützt werden, um im geopolitischen Wettbewerb gegen China zu bestehen.
Immer häufiger thematisieren amerikanische Medien den quasireligiösen Glauben an Technologien unter den schwerreichen, libertären Investoren der Westküste. Niedrigere Steuern und freundlichere Unternehmensvorschriften seien nur ein Teil der Geschichte, schreibt der Journalist Gil Duran[53]. Er wandte das von den Demokraten beliebte Wahlkampfnarrativ der «weirden» Republikaner auf die «weirden Silicon-Valley-Milliardäre» an.
Diese «haben ihre eigene «weirde», von Science-Fiction beeinflusste, autoritäre Technologie-Ideologie entwickelt», so Duran. Der Kandidat J. D. Vance sowie die konservativen Tech-Milliardäre Thiel, Andreessen, Musk, Horowitz und David Sacks, ein Investor und unter anderem einst COO von Paypal, im Hintergrund sähen sich als die masterminds eines neuen Universums. Eine Gruppe[54] um die KI-Ethik-Forscherin Timnit Gebru[55] nennt den sektiererischen Glauben an Technologien der neuen Rechten TESCREAL-Ideologien[56], ein Kürzel, das für die verschiedenen Schlagworte steht, mit denen die Tech-Milliardäre ihre grandiosen Visionen begründen (Transhumanismus,[57]Extropianismus,[58]Singularitarismus,[59]Kosmismus,[60]Rationalismus,[61]effektiver Altruismus,[62]Longtermismus[63]).
Die Billionen-Dollar-Zeitbombe
Die Ironie dabei: Selbst im Herzen des Kapitalismus wird immer mehr am grossen KI-Versprechen gezweifelt. An der Wall-Street-Börse macht sich Ernüchterung breit. Gleich drei Unternehmensberatungen warnen vor der nächsten Blase: Goldman Sachs,[64]Sequoia[65] und Barclays[66] veröffentlichten mehrere Berichte zur grossen KI-Illusion. Der Tenor: Es fehle die «Killeranwendung» von KI, die die Milliardengelder verschlingenden Entwicklungen auch nur ansatzweise rechtfertigen würde. Bis jetzt haben die Investitionen weder brauchbare Ergebnisse gezeitigt noch substanzielle Einnahmen generiert. Goldman Sachs schreibt, dass die Technologie gar nicht dafür gemacht sei, komplexe gesellschaftliche Probleme zu lösen.
Auch in der amerikanischen Presse macht sich Skepsis breit: Wann lässt sich mit all den Investitionen wirklich Geld verdienen? CNN etwa schreibt[67]: «Verglichen mit der Vision, alle Industrien zu revolutionieren, wirken die Produkte, die bisher auf den Markt gekommen sind, eher trivial: Chatbots.»
Der Sender CNBC spricht[68] von einer «Billionen-Dollar-Zeitbombe.» Ein in einem Beitrag zitierter MIT-Professor prognostiziert einen Produktivitätsgewinn von lediglich 0,5 Prozent über die nächsten Jahre. Und eine Analyse des Techportals «The Markup» kam zum Schluss, dass die Tests für die Leistungsfähigkeit von Sprachmodellen bisher untauglich sind[69].
Eine aktuelle Umfrage[70] des «Time Magazine» zeigt ausserdem: Eine Mehrheit der demokratischen und republikanischen Wählerinnen wünscht sich eine angemessene Regulierung von KI. Dieser Punkt sei sogar wichtiger als die Konkurrenz aus China oder der globale Lead in Sachen KI.
Es sind Umfragewerte, die zwei ehemaligen Beraterinnen der Administration Biden recht geben. Sie schreiben[71] in einem Meinungsbeitrag bei der «Tech Policy Press»: «Nach mehr als einem Jahr alarmierender Schlagzeilen über mögliche KI-Fähigkeiten und zwei Jahrzehnten desaströser Selbstregulierung durch das Silicon Valley verlangt die Öffentlichkeit zu Recht Antworten von den gewählten Politikern.»
Danke, Europa!
Auch das MIT kommt zu einem ähnlichen Schluss[72]. Das renommierte wissenschaftliche Institut aus Boston untersuchte, wie die Tech-Unternehmen Sicherheitsrisiken rund um künstliche Intelligenz in den letzten 365 Tagen gelöst haben. Ihr Fazit: Die meisten IT-Konzerne bemühen sich zwar und testen verschiedene Hypothesen in internen red teams. Sie entwickeln zum Beispiel geeignete technische Marker, um künstlich generierte Bilder gut zu kennzeichnen (was beispielsweise eine Anforderung aus dem europäischen AI Act ist).
Doch viele Unternehmen setzen KI-Risiken immer noch mit hypothetischen Science-Fiction-Szenarien wie Biowaffen gleich. Anstatt die wirklich drängenden Probleme zu adressieren: fehlende Urheberrechte an den Inhalten, die Gefahr von Deepfakes, Privacy-Mängel oder fehlende Konsumentinnen-Rechte. Vom riesigen digitalen Fussabdruck und vom horrenden Energieverbrauch aller Sprachmodelle ganz zu schweigen.
Es gibt allerdings auch kritische Stimmen innerhalb der Tech-Industrie. Manchmal spätabends an der Bar kann man auch der einen oder anderen Techworkerin begegnen, die einräumt, dass hier wirklich gerade der totale Wahnsinn abläuft.
Aurelia, auch sie schon lange bei einem bekannten IT-Giganten tätig, erzählt mir, dass sie nicht wisse, wo das alles hinführen werde. Sie fühle sich in die Zeit zurückversetzt vor Cambridge Analytica[73]: «Als alle frisch-fröhlich den Datenschutz ignorierten. Dasselbe passiert jetzt gerade mit KI.» Sie sei froh, gebe es Europa, das Grenzen setze. Und das ganze juristische Arsenal anwende, das die legal departments der IT-Konzerne so hassen würden: Bussgelder wegen Privacy-Verletzungen, rechtliche Verpflichtungen zum Schutz gegen Machtmissbrauch – eine transparente Berechnung der Vollkosten für die Gesellschaft.
Sollte Trump wieder Präsident werden, würde die Cloud-Ingenieurin ihre früheren Pläne einer Auswanderung nach Europa wohl wieder ins Auge fassen. «Alle, die ich kenne, würden woanders suchen. Dann hätten wir hier definitiv bald den doomsday.»
Dann würden die Strassen in San Francisco noch leerer werden.
«Wer dem KI-Hype verfällt, stärkt die Macht der Big-Tech-Chefs»
Adrienne Fichter
Künstliche Intelligenz werde massiv überhöht, sagt Signal-Präsidentin Meredith Whittaker. Ein Gespräch über die Agenda der Silicon-Valley-Konzerne und die gefährlichen Pläne der EU.
Erschienen in der Republik, 05. Juli 2023
Frau Whittaker, zurzeit erscheinen gefühlt im Monatstakt offene Briefe, die vor der Vernichtung der Menschheit durch künstliche Intelligenz, kurz KI, warnen. Die Absender sind Big-Tech-Milliardäre wie Elon Musk[1] oder auch Chat-GPT-Gründer Samuel Altman[2]. Was steckt dahinter? Der Hype rund um künstliche Intelligenz hat schon religiöse Ausmasse angenommen. Es gibt keine Evidenz dafür, dass KI-Technologien jemals ein Bewusstsein[3] erlangen oder superintelligent sein werden. Was uns Sorge machen sollte, sind die riesigen Infrastrukturen, die im Besitz dieser Warner sind.
Wie wurde das möglich, dass wenige Tech-Unternehmen solche massiven Infrastrukturen bauen konnten? Diese Entwicklung begann bereits in den 1990er-Jahren. Damals beauftragte die Clinton-Regierung[4] Expertinnen mit der Bewertung von Risiken und Chancen der vernetzten Dateninfrastruktur. Doch statt auf die eigenen Experten zu hören, verfiel die Clinton-Administration dem neoliberalen Glauben, dass man die Besitzer dieser Technologien einfach gewähren lassen soll. Hightech sei Balsam für eine kränkelnde Wirtschaft. Und dadurch konnte sich auch der Überwachungskapitalismus ungehindert entfalten. Heute gibt es also einige wenige Big-Tech-Firmen mit riesigen Server-Infrastrukturen, enorm hohen Datenspeicherkapazitäten und vielen Milliarden Nutzerinnendaten, mit denen dann simpel gesagt statistische Modelle erstellt werden. Die Macht- und Besitzfrage ist die eigentliche Frage, die gestellt werden muss.
Sie sagten in einer Rede an der Digitalkonferenz «re:publica» in Berlin:[5] Wer an den KI-Hype glaube, mache die Mächtigen noch mächtiger. Allein schon die wiederholte Erzählung dieses Mythos entfalte seine Wirkung. Wir dürfen ja alle ruhig an etwas glauben, für das es keine Beweise gibt. Doch wir müssen uns bewusst sein, dass es Akteure gibt, die enorm von diesen Narrativen profitieren. Wer also diesem KI-Hype verfällt, stärkt die infrastrukturelle Macht der Big-Tech-Chefs. Nochmals: Wir reden hier über geballte unternehmerische und wirtschaftliche Power. Es geht um die Nutzung grosser Datenmengen und um die Entwicklung statistischer Modelle, die Entscheidungen über uns und unsere Welt treffen sollen. Und dies soll ohne jede Rechenschaftspflicht gegenüber der Bevölkerung geschehen. Zum Nutzen dieser Profiteure – und nicht im Dienste des Gemeinwohls. Das ist die wirkliche Gefahr, die wir im Auge behalten müssen. Für den Rest gibt es keine Evidenz.
Zur Person
Meredith Whittaker[6] ist eine renommierte Expertin für ethische Fragen rund um den Datenschutz und künstliche Intelligenz. Sie ist seit vergangenem Jahr Präsidentin der Stiftung Signal, die die gleichnamige populäre Messenger-App anbietet. Davor arbeitete sie von 2006 bis 2019 bei Google, wo sie die Google Open Research Group gründete. Sie war treibende Kraft hinter den Protesten von Google-Mitarbeiterinnen gegen Diskriminierung am Arbeitsplatz, Überwachung und militärische Projekte des Konzerns.
