FairTech E-Book

Mina Saidze

• Herausgeber: Quadriga
• Kategorie: Wissenschaft und neue Technologien
• Sprache: Deutsch
• Veröffentlichungsjahr: 2023

Seitenzahl: 378

Beschreibung

Technologie bestimmt unsere Zukunft. Doch die Digitalisierung von heute produziert Ungerechtigkeit, sie schließt systematisch große Teile der Bevölkerung aus oder benachteiligt sie. Was müssen wir tun, damit alle in unserer Gesellschaft die gleichen Chancen haben? Wie wichtig ist die Digitalisierung für unsere Jobs, und wird Künstliche Intelligenz sie gefährden oder doch vielmehr sichern? Während Technokraten über KI debattieren, bleiben soziale Aspekte auf der Strecke. Dabei geht es darum, wie unsere Welt von morgen aussieht und wer sie mitgestaltet. Die Tech-Expertin Mina Saidze fordert endlich FairTech von der Wirtschaft, der Politik und der Gesellschaft. Eine klare Ansage von einer, die schon weiß, wohin die Reise geht.

Leseprobe

Inhalt

Cover

Über das Buch

Über die Autorin

Titel

Impressum

Widmung

Vorwort

| Warum das Ganze?

Kapitel 1

| (Fair)Tech ist Zukunft

Kapitel 2

| Werden wir bald alle überflüssig?

Kapitel 3

| Was Frauen von der Tech-Branche zurückhält und wie es Europa bremst

Kapitel 4

| Wie Technologie Grenzen schafft, statt sie zu überwinden

Kapitel 5

| Diskriminierung statt Effizienz: Wenn KI im Recruiting falsch entscheidet

Kapitel 6

| Innovationskiller oder Chance für digitale Verantwortung? Regulierung für vertrauenswürdige KI

Kapitel 7

| Deutschland, das digitale Hinterland: Versäumnisse der Politik

Kapitel 8

| Digitalisierung als Wohlstandsmotor: Versäumnisse der Wirtschaft

Kapitel 9

| Wie digitale Ungleichheit uns spaltet: Versäumnisse der Gesellschaft

Kapitel 10

| Was die Politik jetzt tun muss

Kapitel 11

| Was die Wirtschaft jetzt tun muss

Kapitel 12

| Was unsere Gesellschaft jetzt tun muss

Plädoyer

| Wir brauchen FairTech - jetzt für alle!

Danksagung

Anmerkungen

Über das Buch

Technologie bestimmt unsere Zukunft. Doch die Digitalisierung von heute produziert Ungerechtigkeit, sie schließt systematisch große Teile der Bevölkerung aus oder benachteiligt sie. Was müssen wir tun, damit alle in unserer Gesellschaft die gleichen Chancen haben? Wie wichtig ist die Digitalisierung für unsere Jobs, und wird Künstliche Intelligenz sie gefährden oder doch vielmehr sichern? Während Technokraten über KI debattieren, bleiben soziale Aspekte auf der Strecke. Dabei geht es darum, wie unsere Welt von morgen aussieht und wer sie mitgestaltet. Die Tech-Expertin Mina Saidze fordert endlich FairTech von der Wirtschaft, der Politik und der Gesellschaft. Eine klare Ansage von einer, die schon weiß, wohin die Reise geht.

Über die Autorin

Mina Saidze (*1993) ist eine mehrfach ausgezeichnete Gründerin, Datenexpertin, Publizistin und eines der bekanntesten Gesichter der Digitalszene in diesem Land. Sie wuchs als Tochter politischer Aktivisten aus Afghanistan in Hamburg auf und arbeitet im Bereich Big Data und Künstliche Intelligenz für Hightech-Startups und Konzerne. Im Oktober 2023 erscheint ihr Sachbuch »FairTech: Digitalisierung neu denken für eine gerechte Gesellschaft« bei Quadriga.

Mit Inclusive Tech gründete sie europaweit die erste Beratungs- und Lobbyorganisation für Diversity in Tech und KI-Ethik. Darüber hinaus ist sie sehr gefragt als Keynote-Speakerin, u.a. für Google, FAZ und SAP. Die Fachzeitschrift t3n betitelte sie als »Digital-Pionierin« und das US-Magazin Forbes platzierte sie auf der »30 under 30«-Liste 2021. Zudem erhielt sie den Digital Female Leader Award von Global Digital Women und Emotion Award.

Auf ihren Social Media Kanälen ist sie sehr aktiv und hat eine gute Reichweite, mit mehr als 19.000 Followern auf ihrem Hauptkanal LinkedIn, für den sie als LinkedIn Top Voice und Business Influencer ausgezeichnet wurde. Über ihre Arbeit wurde u.a. in Der Spiegel, ZDF, Süddeutsche Zeitung, Die Welt und weiteren Medien berichtet.

MINA SAIDZE

FairTech

DIGITALISIERUNG NEU DENKEN FÜREINE GERECHTE GESELLSCHAFT

Originalausgabe

Copyright © 2023 by

Bastei Lübbe AG, Schanzenstraße 6–20, 51063 Köln

Vervielfältigungen dieses Werkes für das Text- und Data-Mining bleiben vorbehalten.

Textredaktion: Angela Kuepper, München, Ulrike Strerath-Bolz

Umschlaggestaltung: Manuela Städele-Monverde

Umschlagmotiv: © Julia Steinigeweg/Agentur Focus

Satz: two-up, Düsseldorf

eBook-Erstellung: Jilzov Digital Publishing, Düsseldorf

ISBN 978-3-7517-4848-3

Sie finden uns im Internet unter quadriga-verlag.de

Bitte beachten Sie auch: lesejury.de

 

Für meine Familie

 

I often tell my students not to be misled by the name ›artificial intelligence‹ – there is nothing artificial about it. AI is made by humans, intended to behave by humans, and, ultimately, to impact humans’ lives and human society.

FEI-FEI LI

Success in creating AI would be the biggest event in human history. Unfortunately, it might also be the last, unless we learn how to avoid the risks.

STEPHEN HAWKING

Vorwort | Warum das Ganze?

Dass ich heute dieses Buch schreibe, verdanke ich dem Mut meiner Eltern. Anfang der 1990er-Jahre fassten sie den Entschluss, vor dem Krieg in Afghanistan zu fliehen und einen neuen Heimathafen in Hamburg anzusteuern. Damals suchten sie in der Bundesrepublik Deutschland eine Zukunft, in der jeder seinen Traum verfolgen kann. Heute leben meine Geschwister und ich den deutschen Traum meiner Eltern: Selbstverwirklichung, Freiheit und Gerechtigkeit.

Dennoch fühlte ich mich als Tochter von Einwanderern oft wie ein Ausreißer im Datensatz, da ich nicht ins Bild des neuen Deutschlands passte. In der Schule hatte ich es nicht ganz einfach, was die Akzeptanz anging – der unaussprechliche Nachname, die alleinerziehende Mutter mit Akzent und die unvorteilhaften Klamotten. Damals hatte ich nicht die Fähigkeit, zu artikulieren, dass mir Rassismus oder Klassismus widerfuhr. Nicht selten fühlte ich mich ohnmächtig, da ich dieser Ungerechtigkeit keinen Ausdruck verleihen konnte. Sprache ist Macht und befähigt uns, genau diese Problematik in unserem System zu adressieren. Deshalb bin ich die Person, die ich jetzt bin, und tue, was ich tue. Sonst hätte ich nicht das Privileg, diese Zeilen zu schreiben, die hoffentlich viele Menschen in unserem Land erreichen, um für ein Umdenken zu sorgen.

Heute bin ich froh, dass ich nicht reingepasst habe. Denn es hat mir vor Augen geführt, dass man nicht immer ins Bild passen muss. Es gibt ja auch in Datensätzen Ausreißer. Das ist normal. Die Frage ist, wie man damit umgeht. Wirft man den Ausreißer raus, um ein homogenes Bild zu vermitteln? Oder belässt man ihn, um das Phänomen zu verstehen – und am Ende ein vollständigeres Bild zu bekommen? Ich habe gelernt, dass man nirgendwo reinpassen muss und trotzdem seinen Weg gehen kann. Schon früh habe ich mich für neue Erfindungen interessiert und wollte den Dingen auf den Grund gehen. Meine innere Wut wandelte sich in den Antrieb, meine Stimme zu finden, um Ungerechtigkeiten in unserer Gesellschaft zu adressieren.

Mit meiner Geschichte möchte ich Menschen zeigen, dass sie es mit Verstand, Herz und einer ordentlichen Portion Mut ebenfalls schaffen können. Denn eine gerechte Gesellschaft, in der Chancengleichheit durch alle Bereiche gelebt wird, ist eine Gesellschaft, die für alle besser ist.

Worum es bei FairTech geht

Nur durch Teilhabe entsteht Gerechtigkeit. Und einer der wichtigsten Schlüssel zu einer zukunftsorientierten Gesellschaft ist Technik.

Doch Tatsache ist: Wir leben in einem Land, in dem nicht jeder die gleichen Chancen auf Teilhabe an der Digitalisierung hat.

Es fängt schon damit an, dass es von meinem Elternhaus abhängt, ob ich einen Laptop habe, und hat Auswirkungen auf meine schulische Laufbahn.

An der Universität werden mir womöglich kaum Digital- und Technologiekompetenzen vermittelt, sodass es mir angesichts des Fachkräftemangels schwerfällt, Fuß im digitalen Arbeitsmarkt zu fassen.

In meiner beruflichen Laufbahn verpasse ich es, mich weiter- und fortzubilden – aufgrund meiner Einstellung, mangelnder Zeit oder fehlender Ressourcen.

Mit zunehmendem Alter gelingt mir nicht mehr, den Anschluss zu halten, und ich tue mich schwer damit, die neuesten Technologien zu verstehen.

Und ich verspüre wieder diese Ohnmacht, da ich nicht weiß, was genau schiefläuft und wo ich anfangen soll, um einen Beitrag zur Digitalisierung zu leisten. Ich brauche Antworten auf meine Fragen, um die Komplexität zu durchbrechen.

Auch geht es um die Mündigkeit unserer Bürgerinnen und Bürger dieses Landes, da sie das Recht haben zu wissen, wie mit ihren persönlichen Informationen verfahren wird.

Hier müssen wir auch den Einfluss amerikanischer Tech-Konzerne kritisch im Blick haben, da ihre enorme Macht unsere Demokratie gefährden kann.

Deshalb fordere ich FairTech: Technik, die für alle funktioniert und allen zugänglich ist. Was genau wir warum brauchen, und wer was dafür tun muss, erkläre ich in diesem Buch.

Aktuell wird die Debatte um Tech und Künstliche Intelligenz technokratisch geführt – zu beobachten ist das beispielsweise bei der EU-KI-Verordnung –, während soziale Aspekte oft auf der Strecke bleiben. Dabei kann die Tech-Industrie sozialen Aufstieg, gesellschaftliche Anerkennung und Teilhabe ermöglichen. Und ich möchte, dass dieses Privileg nicht nur einer kleinen Elite unseres Landes vorbehalten ist, sondern mehr Menschen zugänglich gemacht wird.

Es geht darum, wie unsere Welt von morgen aussieht und wer diese Welt mitgestaltet. Mit FairTech möchte ich eine Antwort auf die aktuellen Fragen zur Digitalisierung liefern und zukunftsfähige Lösungen aufzeigen, die uns eine gerechte Gesellschaft ermöglichen.

Ein Diskurs, in dem wir nur den Status quo anprangern, ist für mich ein verlorener Kampf. Stattdessen möchte ich neue Perspektiven schaffen und spannende Impulse setzen. Wir brauchen Miteinander statt Gegeneinander.

Ich habe früh gelernt, in zwei Welten zu leben und zwischen ihnen zu vermitteln. Lange Zeit wusste ich nicht, wer ich war und wohin ich gehörte. Zu Hause lebte ich meine zentralasiatische Kultur; außerhalb der eigenen vier Wände war ich die »deutsche Mina«, die Bertolt Brecht und Heinrich Heine zitierte. Ähnlich ging es mir auch in der Tech-Branche: Ich wusste anfangs nicht, dass meine Kommunikationsskills gefragt sind. Zum ersten Mal wurde mir das bewusst, als ich in der IT-Abteilung mit Datenbanken arbeitete, und wenige andere im Unternehmen verstanden, was wir genau machten und welchen Mehrwert unser Tun für die Organisation hatte. Deshalb nutzte ich bildhafte und praktische Beispiele, um dies zu illustrieren – und bildete sogar nicht-technische Mitarbeitende darin aus, selbst Datenbankabfragen zu schreiben, damit wir eine gemeinsame Sprache sprechen. Die Arbeit im Tech-Bereich erfordert viel Kommunikation, Empathie und Leidenschaft. Es ist kein lustloser, trockener Job, bei dem du nicht mit anderen interagierst. Gerade wenn du eine Technologie oder ein Produkt entwickelst, das von anderen Menschen benutzt werden soll, musst du mit anderen zusammenarbeiten. Und du musst in der Lage sein, um die Ecke zu denken – Kreativität und Problemlösungskompetenzen sind enorm wichtig.

Viel später erst wurde mir bewusst, dass ich aus den zwei Kulturen und meinen Fähigkeiten das jeweils Beste entnehmen kann. Mittlerweile bin ich als Tech Evangelist tätig – das ist der offizielle Begriff für Menschen, die technische Themen einem breiten Publikum zugänglich machen. Ich baue Brücken zwischen Welten – sei es zwischen der Kultur des Herkunftslandes meiner Eltern und der deutschen Heimatkultur oder zwischen Anzugträgern mit Schlips und einer Entwicklerin im Hoodie.

Zeit für eine Wende

Wenn wir uns aktuelle Schlagzeilen im medialen Diskurs anschauen, geht es oftmals um Automatisierung, Funding-Runden von Tech-Start-ups und Durchbrüche in der KI-Forschung.

Wie viel Zeit und Personal können wir durch die Einführung der Software in unserer Organisation einsparen, indem wir bestimmte Prozesse automatisieren? Wie viel Umsatz erzielt das neue Tech-Start-up, und wird es das nächste Unicorn aus Deutschland? Wie akkurat ist die Vorhersage, und können wir den Daten vertrauen? Das sind Fragen, die ich regelmäßig höre.

Und ich wünsche mir, mehr andere Fragen zu hören: Wie viele Menschenleben können wir mithilfe dieser Technologie verbessern oder sogar retten? Was bedeutet es für den Menschen genau, wenn eine seiner alltäglichen beruflichen Aufgaben von einer Software übernommen wird? Was muss ich oder was müssen meine Kinder tun, um den Anschluss an die Digitalisierung nicht zu verlieren? Wie können wir Technologien entwickeln, die verschiedene Lebensrealitäten abbilden?

Für mich ist klar: Bei allen technischen Entwicklungen steht der Mensch im Vordergrund und damit einhergehend auch der verantwortungsvolle Umgang mit Technologien zum Wohle der Menschheit. Aktuell fokussieren wir uns viel zu sehr auf Rationalität, Profitmaximierung und Innovation, wenn es um Technologie geht. Es herrscht schon fast ein Selbstoptimierungswahn, in welchem dem Menschen suggeriert wird, dass er oder sie defizitär ist und unbedingt zahlreiche Fortbildungsmaßnahmen absolvieren muss. Denn: Wer nicht mit der Zeit geht, geht mit der Zeit.

Das sehen wir auch in der Debatte rund um ChatGPT, wo eine regelrechte Hysterie herrscht, da Künstliche Intelligenz auf einmal so erlebbar wird wie noch nie. Und gleichzeitig müssen wir einen kühlen Kopf bewahren in einer Zeit, in der technologischer Fortschritt so schnell verläuft, dass wir es zeitgleich vernachlässigen, gesellschaftliche und soziale Fragestellungen in den Blick zu nehmen.

Die aktuellen Entwicklungen haben auch dazu geführt, dass sich mein Buch verändern musste. Es sind jetzt mehr Seiten als geplant, um der Thematik gerecht zu werden, aber immer noch zu wenig, um alle Antworten zu liefern. Es ist der Anfang einer Reise, die kein Ende nimmt und sich ständig weiterentwickelt – genauso wie die Technologie.

Wir dürfen dabei nicht vergessen, wie wichtig die gesellschaftliche Debatte über das Thema ist. Und wir müssen Gefahren wie Machtmissbrauch und Voreingenommenheit nicht nur erkennen, sondern aktiv etwas dagegen unternehmen.

Was hat ein dreißig Jahre alter Report damit zu tun?

Bereits vor mehr als dreißig Jahren hat der US-amerikanische Technikhistoriker Melvin Kranzberg die Auswirkungen von Technologie auf unsere Gesellschaft untersucht. Im Jahr 1986 veröffentlichte er die Kranzberg’schen Gesetze, die mit Blick auf unsere gegenwärtigen Entwicklungen relevanter sind denn je.1 Heute lesen sich seine Gesetze wie ein hippokratischer Eid für diejenigen, die zur Entwicklung von Technologie beitragen. Sie bilden das Fundament für unsere Debatte, und jeder sollte sie kennen.

Die Gesetze der Technologie nach Kranzberg besagen:

• Das Erste Kranzberg’sche Gesetz: Technik ist weder gut noch böse; noch ist sie neutral.

• Das Zweite Kranzberg’sche Gesetz: Erfindungen erzeugen neue Notwendigkeiten. (»Invention is the mother of necessity.«)

• Das Dritte Kranzberg’sche Gesetz: Technik wird in (kleinen oder großen) Paketen ausgeliefert.

• Das Vierte Kranzberg’sche Gesetz: Auch wenn Technik ein Hauptelement in vielen öffentlichen Fragen sein mag, bestimmen nicht-technische Faktoren die politischen Entscheidungen.

• Das Fünfte Kranzberg’sche Gesetz: Die Geschichte ist wichtig, aber die Geschichte der Technik ist am wichtigsten.

• Das Sechste Kranzbergsche Gesetz: Technik ist eine sehr menschliche Tätigkeit – und die Geschichte der Technik ebenfalls.

Zu #1 Technik ist weder gut noch böse; noch ist sie neutral.

Das erste Gesetz von Kranzberg, eine scheinbar banale Beobachtung, ist zugleich sein wichtigstes. Er erkannte, dass die Auswirkungen einer Technologie von ihrem geografischen und kulturellen Kontext abhängen, was bedeutet, dass sie oft gut und schlecht zugleich sind.

Sein Beispiel war DDT, ein Pestizid, das als Malariaprophylaxe das Leben von Hunderttausenden Menschen in Indien rettete. Heute können wir sehen, wie beispielsweise Facebook-Gruppen als Rettungsanker für Eltern von Kindern mit seltenen Krankheiten dienen und gleichzeitig auf derselben Plattform politische Extremisten radikalisiert werden.

Hier gibt es kein absolutes Gut oder Schlecht, sondern nur, wie gut oder schlecht eine Technologie in einem bestimmten Kontext ist.

Manchmal verleitet der Fokus auf technologischen Durchbruch und Spezialisierung zu einer eindimensionalen Betrachtung. Sowohl Interdisziplinarität in den Teams als auch die Einführung eines Pflichtmoduls »Ethik von Technik« in der universitären Ausbildung sind z. B. Wege, dem entgegenzuwirken.

Zu #4 Auch wenn Technik ein Hauptelement in vielen öffentlichen Fragen sein mag, bestimmen nichttechnische Faktoren die politischen Entscheidungen.

»Die Leute denken, dass Technologie als Abstraktion eine Art von intrinsischer Macht hat, aber das stimmt nicht«,2 sagt der Historiker Robert C. Post. »Sie muss durch politische Macht oder kulturelle Macht oder etwas anderes motiviert sein.«

Tech-Konzerne, die vor wenigen Jahrzehnten Start-ups waren, haben sich zu Machtmonopolen entwickelt, ähnlich wie Eisenbahngesellschaften oder Ölkonzerne im 19. und 20. Jahrhundert.

Im Jahr 2017 erklärten US-Kongressabgeordnete ihre Absicht, Tech-Konzerne dazu zu bringen, offenzulegen, wer die politische Werbung in ihren Diensten bezahlt, um sie mit den klassischen Medien in Einklang zu bringen. Diese Offenlegungen fehlten bei der Regulierung der Internetwerbung, nicht aus technischen Gründen, sondern weil die Federal Election Commission 2006 bei der Regulierung eher lockere Bestimmungen erlassen hatte.

Generell interessieren sich Gesetzgeber für alles, was mit Datenschutz und Datentransparenz zu tun hat, bis hin zu Fragen der nationalen Sicherheit und des Kartellrechts im Bereich der Technologie – und zwar eher aufgrund eines Wandels in unserer Kultur als in der Technologie selbst. Es geht vor allem darum, einen Missbrauch der Marktmacht der Tech-Giganten einzuschränken, um unsere Demokratie zu schützen.

Zu #6 Technik ist eine sehr menschliche Tätigkeit – und die Geschichte der Technik ebenfalls.

»Technologie ist in der Lage, Großes zu leisten«, sagte Tim Cook, CEO von Apple Inc., in seiner Eröffnungsrede 2017 am MIT.3 »Aber sie will keine großen Dinge tun – sie will gar nichts.« Der Punkt ist, so Cook weiter, dass es trotz ihrer Macht an uns liegt, wie wir die Technologie nutzen.

Der Trick dabei ist, dass Technologie in der Regel über Unternehmen eine Breitenwirkung entfaltet und dass diese Unternehmen die Folgen ihres Handelns bedenken müssen, ebenso wie die Art und Weise, wie sie von ihnen profitieren. Wenn Unternehmen das nicht tun, übernehmen diese Aufgabe manchmal Aufsichtsbehörden, Journalisten und die Öffentlichkeit. Wie Kranzberg zu Beginn des Internetzeitalters vorausschauend feststellte: »Viele unserer technologiebezogenen Probleme entstehen aufgrund der unvorhergesehenen Folgen, wenn scheinbar harmlose Technologien in großem Umfang eingesetzt werden.«

Es hängt von jedem Einzelnen von uns ab, wie wir Technologie verantwortungsbewusst verwenden. Und im Zeitalter der Digitalisierung müssen wir uns mehr denn je ins Bewusstsein rufen, welche Implikationen Technologie für unsere Gesellschaft hat und wie wir Gerechtigkeit sicherstellen können.

Mit diesem Buch betrachte ich Vergangenheit und Gegenwart, um einen Ausblick auf eine Zukunft zu schaffen, in der wir Digitalisierung mithilfe von Technologie nicht nur effizienter oder profitabler gestalten, sondern vor allem gerechter für unsere Gesellschaft.

Wie können wir FairTech bei der Allianz von Mensch und Maschine sicherstellen? Wer agiert als Schiedsrichter und teilt die rote Karte aus, wenn es kein Fair Play auf dem Spielfeld der Technologie gibt und eine ethische Grenze überschritten wurde? Was haben Politik, Wirtschaft und Gesellschaft bisher versäumt, und was kann jeder Einzelne von uns tun? Diesen Fragen müssen wir uns jetzt stellen. Denn die Zukunft schmieden wir in der Gegenwart. Und sie gehört uns allen.

Kapitel 1 | (Fair)Tech ist Zukunft

Tech ist Zukunft – wie sieht diese Zukunft aus? Und warum ist es so essenziell wichtig, dass aus Tech FairTech wird?

Während ich dieses Buch schrieb, wurde mir mulmig zumute, da ich bei der rasanten Entwicklung der Debatte rund um Technologie manchmal das Gefühl hatte, nicht mehr mithalten zu können. Einen besseren und zugleich schlechteren Zeitpunkt hätte ich mir für dieses Buch nicht aussuchen können – besser, weil wir uns in diesem Buch den Fragen unserer Zeit widmen, mit denen ich mich jahrelang beschäftigt habe, und schlechter, da ich kaum noch zum Schlafen komme.

Wie ChatGPT meine Welt auf den Kopf stellte

Wenn ich gefragt werde, was ich beruflich mache, antworte ich, dass ich mich mit Künstlicher Intelligenz und Big Data beschäftige. In letzter Zeit folgt danach – schon fast neckisch: »Und was ist mit ChatGPT?« Die Augen der Anwesenden richten sich auf mich, und mir stockt manchmal auch der Atem, da ich nicht weiß, wo ich anfangen soll. Ein Elfenbeinturm-Thema avanciert 2023 zum Small Talk auf Dinner-Partys – genauso wie Corona, horrende Zinsen und ein andauernder Krieg. Dieser Paradigmenwechsel kommt nicht aus dem Nichts, sondern ist ChatGPT zu verdanken.

ChatGPT ist ein Chatbot, der Texte schreiben, Fehler im Code finden und Daten analysieren kann. Dieser wurde von der Firma OpenAI, einer Firma mit Schwerpunkt auf KI-Forschung, im Dezember 2022 veröffentlicht und hat den Boom rund um Generative KI ausgelöst. Bei Generativer KI handelt es sich um Künstliche Intelligenz, die in der Lage ist, Inhalte wie Text, Audio, Bild und sogar Code zu generieren.

Seit dem ChatGPT-Hype werde ich mit E-Mail-Anfragen überhäuft. Menschen suchen nun akut nach Antworten, weil sie merken, welches disruptive Potenzial hinter KI steckt. Alle reden jetzt über KI. Und auch wenn ich mich schon jahrelang damit beschäftige, heißt das nicht, dass ich den Vorstoß seitens OpenAI erwartet hätte. Selbst ich musste mich angesichts der aktuellen Entwicklungen informieren und zu den Themen Generative KI und ChatGPT weiterbilden, um die Sachverhalte korrekt einzuordnen und auskunftsfähig zu sein. Und ja, das hat sogar dazu geführt, dass das Erscheinungsdatum des Buches um einen Monat nach hinten verschoben wurde, damit die darin behandelten Inhalte so aktuell wie möglich sind.

Ich bin Zeitzeugin eines Stücks Technikgeschichte, eines »iPhone«-Moments der Künstlichen Intelligenz, geworden. Dieses Tool hat unseren Alltag in ähnlichem Maße verändert wie Google, Smartphone und Social Media. Wir werden später unseren Kindern erzählen, wie wir unsere Arbeit ohne ChatGPT bewältigten – und sie werden es kaum glauben. Genauso wie ich heute meinem zwanzigjährigen Bruder von meinem alten MP3-Player, DVDs und MySpace erzähle und ungläubige Blicke ernte.

Wo warst du, als KI die Menschheit revolutionierte?

Die jüngsten Ereignisse wie der Ausruf des sechsmonatigen Moratoriums der KI-Entwicklung, die Anhörung von OpenAI-CEO Sam Altman beim US-Komitee zur Regulierung der KI-Industrie, der G7-Gipfel mit dem Fokus auf KI in Japan und die EU-KI-Verordnung, weltweit das erste Gesetz zur Regulierung von KI, haben dazu geführt, dass wir die Debatte rund um Ethik und Regulierung von Künstlicher Intelligenz jetzt führen müssen, bevor es zu spät ist. Denn unsere Enkelkinder könnten uns irgendwann fragen: »Was hast du gemacht, als KI die Menschheit fundamental veränderte? Hast du alles passiv hingenommen oder dich aktiv damit beschäftigt und einen Beitrag geleistet, dass Technologie so verwendet wird, dass wir einen enkelfähigen Planeten hinterlassen?«

Aber ist das, was wir gerade erleben, tatsächlich eine Revolution oder schlichtweg eine Evolution der Künstlichen Intelligenz? Es fühlt sich wie eine Revolution an, wenn wir die Reaktionen der Menschen und Medien beobachten. Technisch gesehen ist es »nur« ein bedeutsamer Fortschritt für die KI-Forschung. Deshalb ist es beides zugleich.

Technisch handelt es sich bei ChatGPT um eine Evolution von Generative Pre-Trained Transformers (kurz: GPT), also vortrainierten Sprachmodellen. Ein Sprachmodell ist ein statistisches Werkzeug, mit dem man Sprache vorhersagen kann, ohne sie zu verstehen, indem man die Wahrscheinlichkeit abbildet, mit der Wörter auf andere Wörter folgen – z. B., wie oft »rot« von »Lippen« gefolgt wird. Die gleiche Art von Analyse kann dann für Halbsätze wie »rote Lippen küssen«, Sätze oder sogar ganze Absätze durchgeführt werden. Dann kann man dem Programm eine Aufforderung geben, z. B. »Schreibe mir einen Song darüber, wo rote Lippen jemanden küssen, im Stil von Florian Silbereisen«, und GPT nutzt die statistischen Beziehungen, die es nach dem Training behalten hat, um einen Song zu finden, der hoffentlich der Beschreibung entspricht. Sprachmodelle versuchen, Muster in der menschlichen Sprache zu finden. Sie werden häufig verwendet, um vorherzusagen, wie das nächste Wort in einem Satz lauten wird, welche E-Mail eine Spam-Mail ist oder wie man den Satz, den man geschrieben hat, auf eine Art und Weise automatisch vervollständigt, an die man gar nicht gedacht hat.

So weit, so bekannt. Aber warum hat ChatGPT so viel Aufmerksamkeit auf sich gezogen? Vor allem, weil es so groß ist. Durch seine schiere Größe hat das Modell bessere Ergebnisse erzielt als vorherige, da es mithilfe von Transformers (was nichts mit dem Action-Film mit Meghan Fox zu tun hat, sondern für das T in ChatGPT steht) große Datenmengen parallel verarbeiten kann. Dadurch kann es viel mehr über Sprache und ihre Nuancen lernen, was zu einer menschenähnlicheren Fähigkeit führt, Texte zu verstehen und zu erzeugen. Und dabei handelt es sich um einen bedeutenden Fortschritt bei der Verarbeitung natürlicher Sprache mithilfe von KI.

Unser menschliches Gehirn kann dank seines angeborenen Talents den Überblick über die Charaktere in, sagen wir, »Sex and The City« behalten, den Haushalt mehr schlecht als recht führen oder komplexe Rechengleichungen lösen. Möglich machen das die rund 86 Milliarden Neuronen in unserem Schädel – und noch wichtiger die 100 Billionen Verbindungen, die diese Neuronen untereinander herstellen.

Im Gegensatz dazu verfügt die Technologie, die ChatGPT zugrunde liegt, über 500 Milliarden bis eine Billion Verbindungen, sagte KI-Forschungslegende Geoffrey Hinton in einem Interview. Obwohl dies den Anschein erweckt, dass sie uns gegenüber stark im Nachteil ist, warnte Hinton, dass GPT-4, das neueste KI-Modell von OpenAI, »Hunderte Male mehr« weiß als jeder einzelne Mensch.4

Wenn wir darauf schauen, wie ChatGPT die Mensch-Maschinen-Interaktion und de facto unseren Alltag beeinflusst, handelt es sich allerdings in der Tat um eine Revolution: Denn ChatGPT kann für die Entwicklung einer breiten Palette von Anwendungen eingesetzt werden. Dazu gehören Chatbots, maschinelle Übersetzungssysteme, Tools zur Textzusammenfassung und vieles mehr; die Einsatzmöglichkeiten sind endlos. Als Google seine Suchmaschine einführte, wurde in den 90er-Jahren nach Spezialistinnen gesucht, die in der Lage sind, zu »googeln«. Mit zunehmender Zeit haben Nutzer erlernt, wie die richtigen Sucheingaben vorgenommen werden können, und diese Jobs brauchte man nicht mehr.

Ähnliches gilt für ChatGPT: Die Eingaben sind keine Spielereien aus Neugierde, sondern praktische Anwendungsfälle – von Content Creation über Recherche und Ideensammlung bis hin zum Coding. Es handelt sich hierbei um eine Fähigkeit, die wir alle künftig benötigen – genauso wie wir alle heute »googeln« können: das »Prompt Engineering«, also die Kunst und Herangehensweise, die richtigen Eingaben in Applikationen wie ChatGPT zu verfassen, um den entsprechenden Output zu erhalten und hierbei Fehlerquellen oder neue Nutzeranforderungen zu erkennen. Business Insider bezeichnen Prompt Engineering sogar als »one of the hottest jobs in AI«, wo es Verdienstmöglichkeiten von bis zu 375.000 US-Dollar geben kann.5

Aber genauso wie die Fähigkeit zum Googeln heutzutage kein Argument mehr ist, um Personal einzustellen, kann Ähnliches für Prompt Engineering gelten. Ethan Mollick, Professor an der Wharton School, hat sogar den starken Verdacht, dass Prompt Engineering auf lange Sicht nicht der Job der Zukunft sein wird, da KI einfacher wird.6 Daher sollten wir bei jeder Hype-Welle auch schauen, wie sie sich in den nächsten Jahren entwickelt. Manche Wellen werden einfach im Sande verlaufen.

Werden wir bald alle überflüssig?

Als ich die ersten Male mit ChatGPT herumexperimentierte, war ich schockiert und fasziniert zugleich. Schockiert, wie intelligent es ist, und fasziniert, da es mir den Alltag erleichtert. Mittlerweile ist es zu meinem täglichen Begleiter geworden.

In meinem Umfeld bin ich aber auch vielen begegnet, die ChatGPT mit weniger Begeisterung beobachten. Eine Bekannte, die als Copywriterin tätig ist, schilderte mir mit einer Prise Humor, hinter dem sich Schmerz verbarg: »Dafür werde ich nicht mehr gebraucht. Das kann ja ChatGPT nun erledigen. Ich weiß nicht mehr, ob und für was ich jetzt noch gebraucht werde.« Es berührt Menschen, da es Sprache betrifft – etwas Intimes und Persönliches.

Fest steht: KI ist nicht kreativ, kann aber Kreativität simulieren. Um etwas Eigenes zu schaffen, braucht es einen kreativen Prozess, Inspiration, die Entwicklung einer Idee und die Erstellung von Inhalten. Aber was genau sind Kreativität und Inspiration?

Wenn ich durch den Schmerz nach einer Trennung oder dem Verlust eines Menschen gehe, bin ich verwundet. Wenn ich im Park sitze, Sonne tanke und ein altes Pärchen beobachte, kann dies mir Hoffnung geben. All diese Momente, Sinneseindrücke, Erfahrungen und Gefühle sind individuelle Elemente, die als Kombination miteinander verwoben werden. Genau das sind Funken von Inspiration, die zum kreativen Entstehungsprozess beitragen. Ich bin das Produkt vieler einzelner Erfahrungen, Schicksalsschläge und Beobachtungen. Wenn ich nicht selber als Frau mit Migrationshintergrund den Quereinstieg in die Tech-Industrie gewagt hätte und schmerzhafte, aber zugleich auch ermutigende Erfahrungen gesammelt hätte, dann hätte ich niemals eine Initiative gegründet, die sich für Gleichgesinnte einsetzt. Und ich hätte nie dieses Buch geschrieben, das sich genau diesem Thema widmet, wie wir Technologie aus einer gesellschaftlichen und sozialen Perspektive behandeln.

Eine Maschine hingegen durchlebt diese Erfahrungen nicht, sie wird lediglich mit einer Sammlung unserer intimen Momente angefüttert. Das fühlt sich furchtbar an, da es für uns ein prägendes Erlebnis war, für die KI aber nur ein beliebiger Datenpunkt aus der Vergangenheit. Letztendlich ist KI nichts anderes als ein Werkzeug, um diese Datenpunkte zu verarbeiten und Aufgaben auszuführen. Es ist aber nicht einfach dasselbe. KI stiehlt Kunst ohne Zustimmung, um Modelle zu trainieren, die wieder neue Kunst generieren, wenn wir uns KI-Anwendungen wie Lensa anschauen. Viele Künstler sind überhaupt nicht damit einverstanden, dass ihre Bilder für diese Zwecke verwendet werden.

Immer wieder höre ich das Argument, dass Kunst, Literatur und andere geistige Meisterwerke dank unserem Einfallsreichtum und unserer Empathie entstanden sind. Und es wird als entscheidendes Differenzierungsmerkmal herangeführt, um uns Menschen von Maschinen abzugrenzen. »Sicher, eine Maschine kann dies tun, aber kann sie auch DAS tun wie ich?« Und genau in diesem »das« stecken Emotionen des Individuums, was uns zutiefst menschlich macht, nämlich diese Gewissheit, einzigartig zu sein und Fußstapfen in dieser Welt zu hinterlassen.

Wenn ein Mensch etwas Neues, etwas völlig Neues und Einzigartiges zeichnet, ist er technisch gesehen von jedem Moment seines Lebens inspiriert. Künstliche Intelligenz ist Inspiration auf Speed, die gesamte menschliche Geschichte in einer Blackbox aufgezeichnet.

Darüber hinaus müssen wir uns auch die Frage stellen, welche weiteren Berufe – neben Literatur, Journalismus und Kunst – durch die Automatisierung gefährdet sind. Die Arbeitsmarktforschung spricht von dem sogenannten »Substituierbarkeitspotenzial«, also welche Berufe bereits heute zu 100 Prozent ersetzbar sind. Im Kapitel 2 »Werden wir bald alle überflüssig?« gehe ich auf diese Fragen näher ein. Ein kleiner Trost: Als Microsoft Excel auf den Markt kam, wurde prophezeit, dass es bald keine Buchhalter mehr geben wird. Mittlerweile schreiben wir das Jahr 2023 und siehe da: Es gibt sie immer noch. Ich kann zwar in keine Glaskugel schauen, aber mit bestem Gewissen Prognosen treffen, die realistischer und vielleicht auch ein Hauch optimistischer sind als manch ein Science-Fiction-Film.

Wer Technologien der Zukunft gestaltet und warum Frauen (wieder mal) verlieren

»Immer dieser Fachkräftemangel! Vielleicht ist es auch nur ein Mythos, da Arbeitgeber viel zu wählerisch sind. Ich bin siebenundfünfzig, und mich will niemand mehr einstellen, obwohl ich noch ein paar Jahre bis zur Rente habe«, schimpft meine Nachbarin, die in der DDR groß geworden ist und nach der Wende nicht wenig verloren hat. Und ja, zum Teil muss ich ihr zustimmen. Altersdiskriminierung und mangelnde Offenheit von Arbeitgebern sind alles andere als hilfreich, um diesen Umstand zu ändern. Aber ich muss Einspruch gegen die Behauptung erheben, der Fachkräftemangel sei ein Mythos: Dieser hat einen neuen Höchststand in Deutschland erreicht. Im Juli 2022 waren 49,7 Prozent der befragten Unternehmen aufgrund des Fachkräftemangels beeinträchtigt, so das Ergebnis des ifo Instituts. Das waren so viele wie nie seit Beginn der ifo-Konjunkturumfragen 2009.7

Und in den IT-Berufen ist die Fachkräftelücke so groß wie nie: Laut des Future of Work-Reports der Boston Consulting Group8werden in Deutschland bis zum Jahr 2030 rund 1,1 Millionen IT-Fachkräfte fehlen. Gleichzeitig ist der Bedarf nicht nur seitens der Wirtschaft, sondern auch des Staates gestiegen, da dieser die Verwaltung digitalisieren will. Ich kann ihnen nur alles Gute dabei wünschen, da ich bei der nächsten Bundestagswahl digital abstimmen möchte – was in Estland schon seit 2005 möglich ist.9

Besonders problematisch in Deutschland: Hier wird die klassische Karriere immer im linearen Verlauf betrachtet. Es wird erwartet, dass man einfach eine Etappe nach der anderen innerhalb der Unternehmenshierarchie aufsteigt, wenn man die richtigen Abschlüsse von den richtigen Universitäten mitbringt. Das treibt insbesondere meine und jüngere Generationen zur Weißglut, da wir nicht an das starre Konzept von Titeln, Firmentreue und Hierarchien glauben, sondern an Eigenverantwortung, Flexibilität und Gestaltungsfreiheit. Im angelsächsischen Raum ist es nicht ungewöhnlich, einem Kunsthistoriker im Investment Banking oder einer Agrarwissenschaftlerin in der Software-Entwicklung zu begegnen.

In Deutschland hingegen hat es ein Mensch mit einem geisteswissenschaftlichen oder humanistischen Abschluss, der sich selbst das Programmieren beibringt, sehr schwer. Auch wenn diese Personen wirklich aus Leidenschaft im Tech-Bereich arbeiten wollen, bekommen sie oft nicht einmal die Chance auf ein Bewerbungsgespräch, weil sie keinen Abschluss in Informatik, Wirtschaftsinformatik oder Naturwissenschaften vorweisen können. Außerdem werden informelle Qualifikationen wie Bootcamps oder Onlinekurse häufig nicht anerkannt.

Im Zeitalter von lebenslangem Lernen und Fachkräftemangel werden Quereinstiege in der Tech-Industrie eine größere Bedeutung einnehmen, um einer sogenannten »Arbeiterlosigkeit« – wie StepStone-CEO Sebastian Dettmers es bezeichnet, der hier auch zu Wort kommt – entgegenzuwirken.

Dafür können wir nicht auf die Frauen verzichten. Derzeit sind 17 Prozent der IT-Fachkräfte in unserem Land weiblich; damit liegt Deutschland unter dem internationalen Durchschnitt. Interessanterweise war die Tech-Branche nicht immer eine Männerdomäne, Frauen haben die Pionierarbeit geleistet. Mit zunehmender Zeit hat sich das geändert, was verheerende Konsequenzen für unsere Zukunft haben wird. Das Kapitel 3 »Was Frauen von der Tech-Branche zurückhält und wie es Europa bremst« zeigt auf, wie Frauen ihre Stimme in der Tech-Industrie verloren haben, was die Argumente der Gegenseite sind und welche Folgen dieser Zustand für zukunftsweisende Technologien haben wird.

Wie Technologie unsere Chancen im Leben bestimmt

Als Bürgerin möchte ich Freiheit genießen. Die Freiheit, mein nächstes Urlaubsziel zu wählen. Die Freiheit zu entscheiden, für wen ich arbeite. Und die Freiheit, über die Preisgabe und Kontrolle meiner persönlichen Informationen zu entscheiden, wenn ich digitale Dienste verwende.

Bei keiner meiner Entscheidungen kann ich mich dem Einfluss von Technologie ganz entziehen. Die Technologie kann entscheiden, ob ich von der Gesichtserkennung am Flughafen erkannt werde oder sogar als Sicherheitsrisiko eingestuft werde. Auch kann sie darüber entscheiden, ob ich zu einem Job-Interview eingeladen oder direkt ausgesiebt werde – aufgrund meines Lebenslaufs, der von einer KI ausgewertet wurde. Und Technologie weiß so viel über mich, dass sie entscheiden kann, wie sie meine persönlichen Informationen verwenden kann, um mich in meiner Meinungsbildung oder Konsumentscheidung zu beeinflussen.

Von der Art und Weise, wie wir diese Technologie gestalten, ist es in höchstem Maße abhängig, ob sie einen positiven Einfluss hat oder sogar das Gegenteil bewirkt.

In Kapitel 4 »Wie Technologie Grenzen schafft, statt sie zu überwinden« und Kapitel 5 »Diskriminierung statt Effizienz: Wenn KI im Recruiting falsch entscheidet« gehe ich darauf ein, wie der Einsatz von KI-getriebener Technologie unser Leben zum Guten oder Schlechten verändert – sei es bei der Grenzkontrolle, durch Überwachung oder auf dem Arbeitsmarkt.

Wer über die Gestaltung von Technologie und unsere Zukunft entscheidet

Ein Tag, den ich nicht so schnell vergessen werde, war der 16. Mai 2023. Ich saß mit Popcorn wie gebannt vor meinem Laptop. Nein, ich habe mir nicht etwas auf Netflix oder in der ZDF-Mediathek angeschaut. Ich habe mir die Aussagen des OpenAI-CEOs Sam Altman an der Seite von IBMs Chief Privacy Officer Christina Montgomery vor dem US-Komitee angehört. Klingt erst mal genauso spannend wie Menschen, die sich ewig darüber auslassen, ob sie einen Parkplatz gefunden haben oder nicht. Für mich war es unvergesslich, weil ich wusste, dass mit Altmans Aussagen der Ton angegeben wird, wie Washington KI-Technologie reguliert. So sagte Altman gegenüber dem Komitee: »Wenn bei dieser Technologie etwas schiefgeht, kann es richtig schiefgehen, und das wollen wir lautstark zum Ausdruck bringen. Wir wollen mit der Regierung zusammenarbeiten, um das zu verhindern.« Im Gegensatz zu anderen Anhörungen von Tech-CEOs waren Republikaner und Demokraten von Altmans klaren Aussagen so begeistert, dass er scherzhaft gefragt wurde, ob er nicht die Leitung einer hypothetischen Bundesbehörde zur Regulierung von KI in Betracht ziehen könnte.10

Auch wenn die Schritte Altmans begrüßenswert sind, müssen wir kritisch hinterfragen, inwieweit OpenAI die Gesetzgebung rund um KI beeinflusst, zumal diese Technologie seitens der Politik immer noch nicht gänzlich verstanden wird. Denn OpenAI ist alles andere als unabhängig: Mit einer langjährigen Investition von Microsoft vertreten sie mitunter deren Interessen. Deshalb müssen wir OpenAI im Auge behalten, da dieses Unternehmen mit dem exponentiellen Wachstum der Nutzerbasis als neues Daten- und Machtmonopol immer mehr Einfluss gewinnen wird.

Drei Tage später wurde ein weiteres Kapitel Tech-Politikgeschichte geschrieben: Beim 47. G7-Gipfel in Japan stand KI auf der Tagesordnung, und die Staats- und Regierungschefs riefen Leitlinien dafür auf.11 Dies bedeutet hoffentlich, dass zunächst die nationalen Regulierungsbehörden gestärkt werden, gefolgt von einer internationalen Zusammenarbeit bei der Harmonisierung dieser Ansätze. Es sieht so aus, als ob ein prinzipien- und risikobasierter Ansatz von allen Parteien unterstützt wird. Dem Aufruf der G7-Staats- und Regierungschefs zum Handeln ging eine gemeinsame Erklärung der G7-Digitalminister voraus.12 Noch in diesem Jahr werden entscheidende Weichen gestellt, da die EU-KI-Verordnung bald vom Gesetzesentwurf zum Gesetz wird.

Ich würde gerne wissen, wie viele jener Menschen, die über die Zukunft der Gesetzgebung von Technologie entscheiden, tatsächlich programmieren können und die KI-Prinzipien verstanden und angewandt haben. Meine Vermutung ist, dass es keiner von ihnen getan hat. Warum also reden sie über etwas, was sie nicht kennen, und verschwenden dabei unsere Steuergelder? In diesem Prozess brauchen wir unbedingt Führungskräfte mit Grundkenntnissen der Programmierung, technologischem Verständnis und juristischem Hintergrund, die echten Mehrwert in diesem Prozess liefern können. Auch müssen wir die wachsende Lobby gerade jener BigTech-Unternehmen in Europa aufmerksam beobachten, die vor nicht allzulanger Zeit Praktiken angewandt haben, die den demokratischen Prozess in der EU untergraben.

Ein weiterer spannender Protagonist ist neben den amerikanischen Tech-Konzernen China, dessen Einfluss im KI-Bereich stetig ansteigt. China hat das Ziel, bis 2030 KI-Weltführer zu werden – und angesichts der aktuellen Fortschritte ist dieser Anspruch nicht abwegig. Damit wächst auch der chinesische Einfluss auf die Gestaltung von KI-Ethik, nicht unproblematisch angesichts der unterschiedlichen Wertesysteme in China und Europa. Wie können wir auf einen gemeinsamen Nenner kommen, um ethische Richtlinien für KI auf globaler Ebene zu etablieren? Dabei ist es wichtig zu berücksichtigen, dass jede Region ihre eigene kulturelle Geschichte und einen eigenen Umgang mit neuen Entwicklungen hat.

In einer idealen Welt hätten wir eine globale Künstliche Intelligenz, die die humanitären Werte aller Kulturen und Regionen repräsentiert. In der Welt, in der wir leben, ist das schon jetzt nicht der Fall. Die historischen Machtverhältnisse stellen sich mit der KI-Entwicklung noch einmal komplett neu auf. Wir Deutschen waren immer so selbstbewusst zu glauben, dass wir die wirtschaftliche und politische Großmacht Europas seien. Nun merken wir, dass wir in der digitalen Weltordnung nicht auf Augenhöhe mit den USA und China stehen. Denn wir sind schon längst abhängig von ihrer digitalen Infrastruktur, auf der die Entwicklung all unserer Technologien beruht.

Wenn wir jetzt nichts ändern, werden wir in der neuen Weltordnung nichts zu sagen haben. Und das ist mehr als problematisch: Die Kriegsführung verlagert sich zunehmend in den digitalen Raum – die Zunahme von Cyberangriffen, die Verbreitung von Desinformation und die Frage der digitalen Souveränität sind nur einige wichtige Stichworte dazu. Wenn Deutschland beim Wettlauf um die Technologie nicht mithalten kann, riskieren wir den Frieden, den Wohlstand und die Zukunftsfähigkeit unseres Landes.

Wenn wir an die Anfänge der KI-Forschung zurückdenken, hatte diese bereits ihren Ursprung während des Zweiten Weltkrieges, wo der britische Mathematiker Alan Turing den verschlüsselten Nachrichtenverkehr der deutschen Wehrmacht mit der sogenannten Turing-Bombe entschlüsselte. Mithilfe dieser Technologie wurde die Kriegsdauer verkürzt, was nicht zuletzt unzählige Menschenleben rettete.

Kriegsmittel im Digitalzeitalter sind Desinformationen in den sozialen Medien, um den Einfluss in einer Region zu erhöhen und sogar Hass zu schüren. Wir erleben dies im Ukraine-Krieg, wo feindliche Übergriffe von Cyberkriegen begleitet werden, um das Land zu schwächen.

Schon vor Ausbruch des Krieges 2022 war die Ukraine in den letzten zehn Jahren ständigen Cyberangriffen ausgesetzt; viele davon werden Russland zugeschrieben. Der Organisation Vision of Humanity zufolge war die Ukraine im Jahr 2020 von 397.000 Cyberangriffen betroffen, in den ersten zehn Monaten des Jahres 2021 waren es rund 280.000.13

Auch gehört zum Kern unseres Verständnisses von individuellen Freiheiten und Menschenrechten im digitalen Zeitalter die Fähigkeit, eigene KI-Modelle zu schaffen und zu trainieren. Dieses Recht geht über den bloßen Zugang zu Technologie hinaus. Es umfasst die Autonomie, die KI-Systeme, die immer mehr zu einem integralen Bestandteil unseres täglichen Lebens werden, zu beeinflussen, zu manipulieren und anzupassen. Es ist eine Form des intellektuellen und kreativen Ausdrucks, ähnlich wie das Recht, einen Text zu verfassen oder ein Kunstwerk zu schaffen, unter Berücksichtigung der KI-Ethik und -Normen.

Oft höre ich von Personen aus der KI-Community, dass es sich bei KI lediglich um ein Werkzeug handelt. Das stimmt nicht ganz: KI ist wesentlich mehr als ein Werkzeug, da wir für dieses Instrument mit menschenähnlichen und manchmal übermenschlichen Fähigkeiten Verantwortung tragen. Letztendlich geht es darum, wie unsere Zukunft aussehen wird, wenn wir diese mächtigen Werkzeuge anwenden. Wir erreichen mit diesem Produkt nicht nur ein paar Menschen, sondern Millionen, wenn nicht Milliarden weltweit. Und natürlich tragen die mächtigsten Tech-Unternehmen der Welt Verantwortung dafür, welche sozialen und gesellschaftlichen Folgen mit der Veröffentlichung ihrer Produkte oder der neuesten Versionen einhergehen. Dennoch tragen auch Organisationen, Datenwissenschaftlerinnen und Entwickler Verantwortung für ihr Handeln und müssen sich darüber bewusst sein, wie sich ihr Handeln auf die Benutzer und letztlich auf unsere Gesellschaft auswirkt.

Auch müssen wir uns bewusst sein, wer die Verantwortung für unbeabsichtigte Folgen von Technologie übernimmt – das Unternehmen, die Entwickler, das Machine-Learning-Modell oder die Anwenderinnen?

Im Kapitel 6 »Innovationskiller oder Chance für digitale Verantwortung? Regulierung für vertrauenswürdige KI« gehe ich auf diese und weitere Fragen ein.

Zwischen Unfähigkeit und Unsicherheit

Daten sind nicht mehr aus meinem Leben wegzudenken. Wenn ich morgens aufstehe und mir ein neuer Song auf YouTube empfohlen wird, ich mir später die Push-Benachrichtigungen in meiner Nachrichten-App durchlese und mir auf dem Rückweg von der Arbeit auf LinkedIn eine neue Stellenausschreibung angezeigt wird, sind überall Daten und Algorithmen im Spiel. Dennoch herrscht viel Unwissen darüber in weiten Teilen der Bevölkerung: Jeder zweite EU-Bürger weiß nicht, was genau Algorithmen sind. Dies geht aus einer Umfrage der Bertelsmann-Stiftung vom September 2018 hervor.14 15 Prozent gaben an, überhaupt noch nie von Algorithmen gehört zu haben, und 33 Prozent haben zwar davon gehört, wissen aber nicht, was genau sie sind. Nur acht Prozent aller Befragten haben angegeben, gut darüber Bescheid zu wissen – also eine kleine Gruppe.

Oft werden die Begrifflichkeiten KI, maschinelles Lernen und Algorithmen synonym oder im falschen Zusammenhang verwendet.

Stell dir vor, du hast eine neue Technologie, die wie ein kluger Kopf arbeiten kann, ohne tatsächlich ein Mensch zu sein. Das ist die Idee hinter Künstlicher Intelligenz. Sie soll in der Lage sein, Dinge zu tun, die normalerweise nur Menschen können, wie z. B. Bilder erkennen oder Texte übersetzen. Das gelingt ihr durch Programmierung.

Dann gibt es noch das maschinelle Lernen. Hier kommt der Computer ins Spiel, der selbstständig lernen kann. Er nimmt Daten, schaut sie sich an und zieht daraus seine eigenen Schlüsse. Das ist, als ob er aus Erfahrungen lernt, genau wie wir Menschen es tun. Anders als KI, die auf vorgegebenen Mustern basiert, produziert maschinelles Lernen neue Muster aus vorhandenen Daten. Um das zu ermöglichen, benutzt man Algorithmen. Stell dir die Algorithmen als mathematische Modelle vor, die uns helfen, die Unterschiede zwischen dem, was wir wissen, und dem, was wir schätzen, zu berechnen. Das kann eine ziemlich knifflige Aufgabe sein. Ein Beispiel für so einen Algorithmus ist die lineare Regression. Dabei versuchen wir, den Umsatz anhand verschiedener Faktoren wie Wetter oder Region vorherzusagen. Je genauer unsere Schätzungen mit dem tatsächlichen Umsatz übereinstimmen, desto besser ist unser maschinelles Lernmodell.

Das Ganze klingt vielleicht ein bisschen technisch, aber wenn du dir vorstellst, dass eine Maschine wie ein kluger Kopf arbeiten kann, der aus Erfahrungen lernt, dann wird es schon viel interessanter.

Obwohl wir die einfachsten Algorithmen aus dem Mathematikunterricht in der Mittelstufe kennen, sind Deutsche gegenüber Algorithmen skeptisch eingestellt, lautet das Fazit der Bertelsmann-Studie. Innerhalb der ganzen EU wünschen sich viele der Befragten eine stärkere Kontrolle von computerbasierten Entscheidungen wie auch mehr Transparenz bei Algorithmen. Tatsächlich frage ich mich: Dürfen wir Bürger überhaupt Transparenz und Ethik von einer Technologie fordern, die wir nicht verstehen? Um Forderungen zu stellen, müssten wir doch zumindest ein Grundverständnis für die betreffende Technologie entwickeln, statt aus Angst zu agieren.

Nicht zu vergessen ist, dass der Diskurs zwischen unterschiedlichen Interessengruppen im legalen Rahmen nötig ist. Wir müssen die Zivilgesellschaft, z. B. durch Vereine und Stiftungen, mobilisieren. Es reicht einfach nicht aus, vorwurfsvoll mit dem Finger auf die technologisch dominierenden Player USA oder China zu zeigen. Wir müssen die Mechanismen, den Status quo, die Herausforderungen und Chancen der neuen Technologien verstehen, um berechtigte Kritik zu äußern und Forderungen aufstellen zu können. Dafür müssen wir unseren Mangel an Wissen oder Fähigkeiten und unsere Unsicherheit anerkennen, um diesen Umstand dann schnellstmöglich zu ändern.

In den letzten Kapiteln dieses Buchs zeige ich die bisherigen Versäumnisse von Politik, Wirtschaft und Gesellschaft auf und entwickle Handlungsforderungen. Hier gebe ich einen Einblick, wen und was wir konkret brauchen, um FairTech für eine bessere Zukunft einzufordern.

Wen und was brauchen wir? Zugänglichkeit von Technologie als Grundstein für digitale Teilhabe

Die medialen Schlagzeilen rund um ChatGPT lassen mich schaudern: »ChatGPT: KI könnte Millionen Jobs vernichten«,15 »ChatGPT & Co.: Welche Jobs durch KI bedroht sind«,16 »Nimmt Künstliche Intelligenz uns die Arbeitsplätze weg?«.17

Es macht mich wütend, so etwas zu lesen. Da wird mit den Ängsten von Menschen gespielt, denn für viele von uns bedeutet Arbeit ja die Sicherung unseres Grundbedarfs und auch einen Teil unserer Identität.

Bei der medialen Berichterstattung rund um Technologiethemen tragen Journalisten eine gesellschaftliche Verantwortung dafür, wie sie diese Themen vermitteln. Und d. h.: Wir haben das Recht, eine korrekte Einordnung ebenso zu verlangen wie das Aufzeigen von Handlungsempfehlungen und Jobchancen.

Von der Politik wünsche ich mir eine digitale Bildungsreform, damit die nächsten Generationen zukunftsfit sind. Und von der Wirtschaft fordere ich digital zugängliche Produkte, die Rücksicht auf ältere Menschen oder Menschen mit Behinderung nehmen, damit auch diese Gruppen am gesellschaftlichen Leben teilhaben können. Auch müssen wir unterrepräsentierte Gruppen wie Frauen oder Menschen mit Migrationshintergrund gezielt für Tech-Berufe begeistern und fördern, um gegen den Fachkräftemangel vorzugehen und bessere Produkte zu entwickeln, die alle Lebensrealitäten widerspiegeln.

Das sind einige meiner Forderungen, die ich in Kapitel 10 »Was die Politik jetzt tun muss«, Kapitel 11 »Was die Wirtschaft jetzt tun muss« und Kapitel 12 »Was unsere Gesellschaft jetzt tun muss« aufstelle.

Data & AI Literacy – die Kompetenz, Daten und KI zu verstehen. Auf dem Weg zur Lingua Franca der digitalen Welt

Data und AI Literacy ist für mich wie eine Sprache, die jeder beherrschen muss. Nicht jede und jeder muss einen preisverdächtigen Roman schreiben können, aber er oder sie sollte in der Lage sein, zu lesen und zu schreiben. Das bedeutet für mich konkret die Fähigkeit, Daten zu lesen, mit ihnen zu arbeiten, sie zu analysieren und zu kommunizieren.

Der Aufbau von Daten- und KI-Kompetenzen wird immer wichtiger, damit jeder von uns an der Debatte teilhaben kann: Laut einer Studie von Forrester Consulting aus dem Jahr 2022 erwarten heute 82 Prozent der befragten Entscheidungsträger von ihren Mitarbeitenden in allen Abteilungen – einschließlich Produkt, IT, Personal und Betrieb – grundlegende Datenkenntnisse. Bis 2025 wird erwartet, dass fast 70 Prozent der Mitarbeitenden in ihrem Beruf viel mit Daten arbeiten werden – 2018 waren es noch 40 Prozent.18

Um aber Daten zu lesen, müssen wir verstehen, wie die Daten erhoben, verarbeitet und in welcher Form sie gespeichert werden.

Handelt es sich um Online- oder Offline-Daten? Wie wurden diese Daten erhoben, und ist die Datensammlung datenschutzkonform erfolgt?

Wie werden die Daten verarbeitet? Werden bestimmte Attribute entfernt, um das Datenvolumen zu reduzieren oder weil es der Analyse nicht dienlich ist?

Handelt es sich um strukturierte Daten in Form von Excel, semistrukturierte Daten wie Tweets oder unstrukturierte Daten wie Bild oder Audio?

Wie kann ich auf die Daten zugreifen, und wer liefert mir mithilfe von Auswertungen Fragen auf meine Antworten?

Wie kann ich mit meiner Fachexpertise helfen, die Ergebnisse im Kontext richtig einzuordnen? Welche Handlungen ergeben sich aus den Erkenntnissen?

Was daran bemerkenswert ist: Für alles, was ich bisher genannt habe, braucht es keinerlei Programmierkenntnisse, sondern lediglich ein Grundverständnis der Thematik und die Fähigkeit, die richtigen Fragen zu stellen. So können nicht-technische und technische Mitarbeitende innerhalb einer Organisation erfolgreich an Produkten oder Services zusammenarbeiten und einen Beitrag zur Digitalisierung leisten.