Wer schützt unsere Kinder? E-Book

Silke Müller

• Herausgeber: Droemer eBook
• Kategorie: Geisteswissenschaft
• Sprache: Deutsch
• Veröffentlichungsjahr: 2024

Seitenzahl: 250

Beschreibung

Schulleiterin und Digitalexpertin Silke Müller warnt davor, Kinder mit künstlichen Intelligenzen allein zu lassen. In ihrem aufrüttelnden Buch analysiert sie, was die KI-Revolution für Bildung und Erziehung bedeutet und gibt praktischen Rat, wie Eltern ihre Kinder schützen und kompetent begleiten.  Elfjährige, die ihren Avatar um Rat fragen, wenn sie zum ersten Mal verliebt sind. Teenager im Video-Chat mit Pädophilen – durch KI getarnt als Gleichaltrige. Schummeleien mit ChatGPT & Co., die zur Kriminalisierung von Kindern führt. Künstliche Intelligenz ist in aller Munde, doch kaum jemand hat eine genaue Vorstellung, wie fundamental sie unser Leben verändern wird – und welche Bedrohung gerade für Kinder von ihr ausgeht.  Silke Müller ist Schulleiterin in Niedersachsen und Digitalbeauftragte ihres Landes. Täglich erlebt sie, welchen Gefahren Kinder und Jugendliche durch KI ausgesetzt sind. Für die meisten Eltern, Großeltern und Pädagog*innen hingegen ist künstliche Intelligenz Neuland. Die Gefahren, die von ihr ausgehen, sind den wenigsten in vollem Ausmaß bekannt. Silke Müller, die in ihrem Nummer-1-Bestseller »Wir verlieren unsere Kinder« bereits auf die Gefahren in sozialen Netzwerken hingewiesen hat, widmet sich nun dem wichtigsten Thema digitaler Bildung: KI. Sie erklärt, was durch die neuesten Entwicklungen auf Eltern und Familien zukommt, und wie wir Kinder und Jugendliche sicher und kompetent daran teilhaben lassen können.  »Mit Social Media kannten sich die meisten Eltern aus. Bei KI fühlen sich Eltern und Großeltern oft abgehängt. Dabei wird sich unsere Welt schon bald komplett verändert haben.« Silke Müller Die technologische Entwicklung lässt sich nicht aufhalten. Umso wichtiger ist es, informiert und engagiert auf sie zu reagieren – im Interesse der Kinder. Und so klärt dieses wichtige Buch auf über Hintergründe und Zusammenhänge und macht Eltern Mut, ihre Kinder in eine neue Welt zu begleiten.

Leseprobe

Silke Müller

Wer schützt unsere Kinder?

Wie künstliche Intelligenz Familien und Schule verändert und was jetzt zu tun ist

Knaur eBooks

Über dieses Buch

Elfjährige, die ihren Avatar um Rat fragen, wenn sie zum ersten Mal verliebt sind. Teenager im Video-Chat mit Pädophilen – durch KI getarnt als Gleichaltrige. Schummeleien mit ChatGPT & Co., die zur Kriminalisierung von Kindern führen. Schulleiterin und Digitalexpertin Silke Müller warnt davor, Kinder mit künstlichen Intelligenzen allein zu lassen. In ihrem aufrüttelnden Buch analysiert sie, was die KI-Revolution für Bildung und Erziehung bedeutet, und gibt praktischen Rat, wie Eltern ihre Kinder schützen und kompetent begleiten.

Silke Müller ist Schulleiterin in Niedersachsen und Digitalbeauftragte ihres Landes. Täglich erlebt sie, welchen Gefahren Kinder und Jugendliche durch KI ausgesetzt sind. Bereits in ihrem Nummer-1-Bestseller »Wir verlieren unsere Kinder« hat sie auf die Gefahren in sozialen Netzwerken hingewiesen. Jetzt widmet sie sich dem wichtigsten Thema digitaler Bildung: KI. Sie erklärt, was durch die neuesten Entwicklungen auf Eltern und Familien zukommt und wie wir Kinder und Jugendliche sicher und kompetent daran teilhaben lassen können.

»Mit Social Media kannten sich die meisten Eltern aus. Bei KI fühlen sich Eltern und Großeltern oft abgehängt. Dabei wird sich unsere Welt schon bald komplett verändert haben.« Silke Müller

Weitere Informationen finden Sie unter: www.droemer-knaur.de

Inhaltsübersicht

Widmung

Liebe KI, wir müssen reden

Mitten unter uns

Eine Schülerin als Darstellerin in einem Pornovideo

Falle Teenage-Filter

Ausgelöscht

»Wenn du mir kein Foto von dir schickst, werde ich deiner Mutter beim Joggen auflauern«

Wissen ist der beste Schutz

Immer noch Neuland

Künstliche Intelligenz in unsere Mitte holen

Definitionsversuche

Deepfakes & Co.: Tatort soziale Netzwerke

Verbindung oder Einsamkeit?

KI und soziale Netzwerke – eine schreckliche Allianz

Die Verbreitung gefälschter Nacktbilder

Deepfakes in pornografischen Videos

»Das hört sich doch an wie die Stimme meines Kindes!«

KI als »Chatfreund« bei Snapchat & Co.

Verschleierte Identitäten

Wie Deepfakes die Demokratie gefährden

Verstörendes »True Crime«

Bildung ist der Schlüssel

Hass, Hetze und Manipulation

Helden im Netz, die unsere Kinder schützen: HateAid und die Elevator Boys

Kriminalität in sozialen Netzwerken: Cyberkriminologe Prof. Dr. Thomas-Gabriel Rüdiger klärt auf

Intelligenter als wir? Was KI alles kann (und was nicht)

Wie ChatGPT & Co. Schule, Gesellschaft und Familienalltag verändern

Künstliche Intelligenz ist mehr als ChatGPT

Die Rolle der Schule im Umgang mit künstlicher Intelligenz

Eine Erfolgschance: Individueller und personalisierter lernen mit KI

Ohne geht nicht: KI-Kompetenz als Zukunftschance

Die Vorteile von KI am Beispiel von zwei Jungunternehmern

KI und lebenslanges Lernen

Schulen schaffen den Kompetenzaufbau nicht allein, es braucht Allianzen

Das beste Mittel gegen Angst? Sich mit künstlicher Intelligenz auseinandersetzen!

Und jetzt? Ideen für einen konstruktiven Umgang mit KI

Senioren und KI – eine Brücke zwischen den Generationen

Welche Veränderungen braucht es in den Schulen?

Ein anderes Arbeitszeitmodell für Lehrkräfte

Jede Schule braucht eine Social-Media-Sprechstunde

Allianzen und Kooperationen mit außerschulischen Partnern

Die heilige Kuh des Föderalismus hat ausgedient

Verpflichtende Fortbildungen für alle im Bildungsbereich

Natürlich geht es ums Geld

Kreativität, positive Anwendungsbeispiele und Kompetenz im digitalen Raum

Offener Brief an Lehrkräfte weltweit

Was die Politik jetzt leisten muss

Wie wir in der Familie und im Freundeskreishandeln müssen

Zivilcourage im Netz

Schützen wir unsere Kinder!

Dank

Für Michael, Svenja und Jessica

Ihr macht mein Leben bunt, und das menschlich, ganz ohne künstliche Intelligenz.

Künstliche Intelligenz

Wir dürfen beängstigt sein.

Wir dürfen fasziniert sein.

Wir dürfen skeptisch sein.

Wir dürfen Fragen stellen.

Aber wir dürfen dieses Thema nicht ignorieren. Denn es wird unsere Welt, unsere Zukunft und die unserer Kinder mehr beeinflussen als alles andere.

Es ist Zeit, dass wir künstliche Intelligenz in unserer Mitte willkommen heißen.

Dieses Buch widme ich jedem Menschen, der Verantwortung für unsere Kinder und für die Welt, die wir ihnen hinterlassen, übernehmen möchte.

Liebe KI, wir müssen reden

Um das Thema künstliche Intelligenz verstehen und im Alltag souverän damit umgehen zu können, müssen wir miteinander reden. Ich habe mich für dieses Buch mit Menschen aus unterschiedlichen Alltagsbereichen über künstliche Intelligenz unterhalten. Und zwar so, als säßen wir bei einer Tasse Tee oder Kaffee am Küchentisch. Wenn Sie möchten, können Sie als Leserinnen und Leser Gäste an diesem Tisch sein, denn alle Gespräche wurden entweder als Ton- oder als Videoaufnahme aufgezeichnet. Per QR-Code können Sie diese Gespräche in voller Länge hören oder sehen.

Wie das geht? Halten Sie einfach die Kamera Ihres Smartphones oder Tablets auf den QR-Code, und es öffnet sich die Aufnahme. Wenn Sie dabei Schwierigkeiten haben sollten, finden Sie auf der nächsten Seite eine bebilderte Anleitung.

Sie sehen also: Auch im gedruckten Buch ist es keinesfalls nötig, analog und digital voneinander zu trennen, beide Seiten lassen sich vielmehr trefflich verbinden, und diese Verbindung kann sogar Spaß machen.

Dieses Buch soll nicht nur aufrütteln, sondern bewegen, motivieren und Lust darauf machen, eigene Gespräche am Küchentisch zu führen. Ich wünsche Ihnen viel Freude bei dieser kleinen Reise durch den Alltag mit künstlicher Intelligenz.

Mitten unter uns

Es vergeht kaum ein Tag, an dem man nicht einen Artikel über die Entwicklung und Möglichkeiten von künstlicher Intelligenz liest oder eine Reportage darüber sieht. Start-ups sprießen überall aus dem Boden, gerade im Bereich KI und Schule. Denn die Frage, wie künstliche Intelligenz Bildung und Erziehung verändern wird, treibt Lehrkräfte und alle Akteurinnen und Akteure entlang der Bildungskette um. Braucht es neue Prüfungsformate? Kann man ChatGPT nicht einfach verbieten? Ergeben Hausaufgaben eigentlich noch einen Sinn, wenn sie in rasender Schnelligkeit vom kleinen KI-Helfer im Smartphone erledigt werden, ohne dass ein Schüler sich auch nur annähernd mit der Aufgabe befasst hat? Wie kann ein Lehrerkollegium möglichst schnell auf diese neuen Herausforderungen vorbereitet werden?  

Die Stimmung in der Lehrerschaft schwankt zwischen Neugier, großem Interesse, hoher Motivation auf der einen und Ablehnung, Desinteresse und großen Ängsten auf der anderen Seite. Obwohl wir in unserer Schule schon seit 2009 digital arbeiten, gilt das auch für mein Kollegium, das ich als engagiert und einsatzbereit, als weltoffen, gesund kritisch und immer mit dem Herz am rechten Fleck für die Kinder erlebe. Die für mich wichtigste Frage ist, wie wir unsere Kinder auf ein Leben mit KI vorbereiten, wie wir sie zu souveränen und kompetenten Bürgerinnen und Bürgern ausbilden und sie widerstandsfähig und resilient machen. Diese Aufgabe ist deswegen so wichtig, weil die rasante Entwicklung von KI eine Herausforderung ist, die sich mit Erscheinungen von Entfremdung, Radikalisierung und Empathielosigkeit paart – Entwicklungen, die in meinen Augen insbesondere auf Inhalte in und den Umgang mit sozialen Netzwerken wie TikTok, Snapchat, Reddit, WhatsApp, Instagram und Co. zurückzuführen sind.

Es geht also im Besonderen um die Vorbereitung der Kinder auf bewusst hergestellte Falschinformationen mittels Deepfake, also auf Inhalte, die echt aussehen oder sich echt anhören, denen man aber keinen Glauben schenken darf. Wir alle sind mit dem Glauben aufgewachsen, dass eine sichtbare Erinnerung an Erlebnisse, etwa ein Foto aus dem letzten Urlaub, von der Familienfeier oder die Stimme eines Freundes in einer Sprachnachricht echt sind und »stimmen«. Aber genau das ist heute nicht mehr der Fall.

Daher müssen wir Kindern einen Weg durch den Dschungel aus Falschnachrichten in sozialen Netzwerken zeigen, gerade wenn es um politische Bildung und Orientierung oder den Schutz der eigenen Identität geht. Während ich diese Zeilen tippe, werden Kinder an ihren Smartphones überschwemmt von manipulierten Nachrichten, Bildern und Videos einer äußerst rechtsorientierten Partei, die meiner Meinung nach bei den Kindern Gehirnwäsche betreibt. Jede Minute wird ihnen in Kurznachrichten eine angebliche Wahrheit über die deutsche Politik und die Zukunft des Landes eingetrichtert, gepaart mit einem rassistischen Menschenbild. Eine Entwicklung, die aus meiner Sicht danach schreit, sich lautstark dagegen zu erheben. Jedem Demokraten würde schlecht werden, wenn er die Meinungsumfragen zu Gesicht bekäme, die wir manchmal zu einer anstehenden Wahl in Klassenzimmern durchführen. Denn diese sind nicht zuletzt das Ergebnis von Meinungen, die durch gefälschte Fotos und Videos erzeugt wurden, durch gefälschte und verfälschte Aussagen von Politikern.

Und was tun die etablierten »Volksparteien«? Sie glänzen mit Abwesenheit angesichts der Gefahr von rechts, erkennen nicht, dass es mehr als überfällig ist, Rechtsradikalität und Manipulation nicht nur auf der Straße, sondern gerade im Netz die Stirn zu bieten. Wir lassen unsere Kinder an so vielen Stellen allein und verlieren sie dadurch, wir bringen die Zukunft unserer Demokratie in Gefahr und laden damit große Schuld auf uns. Ich schäme mich dafür – und suche dennoch oder gerade deswegen nach Antworten. 

Doch wie sollen wir den Kindern einen Weg aus dem Dickicht von manipulativen Falschnachrichten zeigen und ihnen Orientierung geben, wenn wir selbst keine Ahnung haben, wozu künstliche Intelligenz in der Lage ist, wenn sich Menschen mit bösen Absichten dieser Technologie bedienen?

In meinem letzten Buch Wir verlieren unsere Kinder schrieb ich über eklatante Fälle, die in sozialen Netzwerken dafür sorgen, dass Kinder leiden, ihre mentale Gesundheit verlieren, schlimmste Folter, Brutalität und Folter konsumieren, Opfer pädophiler Straftäter werden, sich so anstößig und selbstgefährdend im Netz zeigen, dass Schäden entstehen, die kaum zu heilen sind. Die Technologie der künstlichen Intelligenz wird diese Gefährdungen in nicht auszudenkendem Maße potenzieren. Selbst wenn die Europäische Union mit dem sogenannten DSA, dem Digital Services Act, versucht, die Plattformbetreiber zu mehr Sicherheit im Netz aufzufordern: Die Welt der Kinder und auch unsere gerät immer stärker aus den Fugen.

Um einen Eindruck zu vermitteln vom Ausmaß, das der Missbrauch künstlicher Intelligenz im (Schul-)Alltag bereits angenommen hat, möchte ich im Folgenden einige Fälle aus Klassenzimmern und Kinderzimmern schildern. Um die betroffenen Kinder, aber auch deren Umkreis und Schulen zu schützen, sind alle Namen anonymisiert. Eines ist klar: Alle diese Fälle sind nur die Spitze des Eisbergs.

Eine Schülerin als Darstellerin in einem Pornovideo

Ich saß wie an jedem Morgen in meinem Büro und rief meine Mails ab. Anfragen von Eltern zu Unterrichtsausfall, ein nettes Lob für die Bunte Stunde, in der Kinder in jedem Jahr vor Weihnachten zeigen, was sie einstudiert haben: von lustigen Sketchen über akrobatische Übungen bis zu einem Klavierstück. Ich lächelte und freute mich, dass gesehen wird, was Kinder leisten. Meine Sekretärin (ich habe schon die zweite beste Sekretärin der Welt, nachdem die erste in den verdienten Ruhestand gegangen ist) brachte mir meine Unterschriftenmappe. Ein völlig normaler Tag also, bis mich eine befreundete Schulleiterin einer anderen Region Deutschlands anrief.

Sie schilderte mir einen Fall, von dem ich gehofft hatte, niemals damit konfrontiert zu werden. An ihrer Schule wäre in einem Klassenchat ein Video aufgetaucht, das schwerste pornografische Handlungen zeigt – Ähnliches erleben wir wohl an jeder Schule dieser Welt leider täglich.

Dann aber atmete meine Kollegin tief durch und sagte, dass der Kopf einer Person in diesem Video das Gesicht einer ihrer Schülerinnen aus der neunten Klasse zeigte. Relativ realitätsgetreu, aber eben noch erkennbar, dass es manipuliert worden war.

Ihre Recherchen hatten die Täterinnen schnell ans Tageslicht gebracht. Es waren Mitschülerinnen aus der gleichen Klasse, die dem Mädchen nach eigenen Aussagen »eins auswischen« wollten, weil sie einer anderen Schülerin den Freund ausgespannt hätte. Für das Video hätten sie »so eine App genutzt«, die das Bildmaterial verändert. Willkommen, KI, im Kinderzimmer pubertierender Teenager.

Während des Berichtes meiner Kollegin verdüsterte sich meine Stimmung in Sekundenschnelle. Überfordert fragte sie mich, was ich nun an ihrer Stelle machen würde, schließlich würde ich mich doch auskennen.

Auskennen. Dieses Wort beschäftigte mich nachhaltig. Kann man sich wirklich mit dem unvorstellbaren Leid, das Kinder in unserer Zeit im Netz erleben, auskennen?

Hilflos versuchte ich, zumindest professionell zu wirken, und riet ihr, unverzüglich die Smartphones der Betroffenen einzukassieren und bloß nichts zu sichern, da es sich um den Straftatbestand der Kinderpornografie handeln könnte und sie sich dadurch selbst strafbar machen würde. Ich bat sie, unbedingt die Schulpsychologie einzuschalten und das Mädchen davon zu überzeugen, die Eltern zu informieren. Am besten in einem sensiblen, vorsichtigen Gespräch gemeinsam vor Ort, denn zum besagten Zeitpunkt wussten die Eltern noch nichts, und das Mädchen schämte sich wohl sehr.  

Das Mädchen schämte sich. Obwohl sie zum Opfer einer Handlung geworden war, die gerade einmal 14-jährige Mitschülerinnen aus pubertären Rachegefühlen verübt hatten. Ohne darüber nachzudenken und mit Folgen, die sie nicht abschätzen wollten oder konnten. Denn das Video wird das Netz möglicherweise nie wieder verlassen. Das Opfer weiß das. Die Opfer wissen das. Worte wie »da wächst schon Gras drüber« oder »Zeit heilt alle Wunden« helfen nicht.

Haben Sie, liebe Leserinnen und Leser, Antworten darauf, wie man mit diesen sicher zunehmenden Fällen umgeht? Wie man die betroffenen Kinder stabilisiert und auffängt? Etwas wirklich Passendes fällt auch mir nicht ein. Und das macht mir Angst.

Falle Teenage-Filter

An meinem Job liebe ich, dass kein Tag dem anderen gleicht. Ich schätze die Begegnungen und Unterhaltungen mit den Kindern und Jugendlichen, die hin und wieder einfach für etwas Small Talk in meinem Büro stehen. Eigentlich liebe ich alles an meinem Beruf, abgesehen von den Irrungen und Wirrungen der deutschen Bürokratie.

Durch unser Prinzip der offenen Türen in der Schulleitung kommen die Schülerinnen und Schüler aber nicht nur, um etwas zu quatschen, sondern auch, wenn sie Rat oder Hilfe brauchen. Insbesondere unsere Social-Media-Sprechstunde (die eine Einrichtung an jeder Schule sein sollte!) ist eine Einladung, sich nicht nur in den verankerten Stunden im wöchentlichen Stundenplan, sondern jederzeit vertraulich an uns zu wenden, falls es Probleme in den sozialen Netzwerken geben sollte. 

Lisa, eine Schülerin der sechsten Klasse, fasste an einem Dienstag in der ersten großen Pause all ihren Mut und kam im Rahmen dieser Sprechstunde zu mir.

»Frau Müller, eine Freundin von mir hat, glaube ich, ein Problem, und ich mache mir Sorgen um sie.« Allein diese Formulierung ließ bei mir alle Alarmsirenen schrillen. Ein elfjähriges Mädchen, das sich um eine Freundin Sorgen macht? Mit elf Jahren sollten Kinder lachen, sauer sein, traurig sein … aber sich Sorgen machen? Die Kindheit wird immer belasteter und beschwerter, das sollte uns Erwachsenen große Sorgen machen. 

Ich bat Lisa, sich zu setzen. Sie knetete aufgeregt ihre Hände und mochte mich gar nicht richtig anschauen. Eigentlich kenne ich sie als Mädchen, das gern reitet und mit ihren Freundinnen fröhlich über die Gänge springt. Sie selbst hat zwar ein Smartphone, die Eltern erlauben aber Gott sei Dank noch keine Netzwerke wie TikTok oder ähnliche. Dennoch erzählte sie mir eine Geschichte, die mich lange nicht losließ.

Eine Freundin von ihr hätte TikTok und Snapchat. Sie wäre sehr oft am Handy. Irgendwann hätte diese Freundin plötzlich Nachrichten von einem fremden Jungen namens Moritz erhalten. Beide tauschten wohl häufig Nachrichten und Fotos aus. Lisa erzählte mir, dass sie selbst ein Video von Moritz gesehen hätte. Ein normaler Junge, wie sie sagte. Ihre Freundin hätte sich ihrer Meinung nach schon ein bisschen in Moritz, von dem sie nicht so genau wisse, wo er wohnt, verliebt. Bei Lisas Bericht muss ich mich immer wieder zusammenreißen, denn am liebsten hätte ich sofort gefragt, wer diese Freundin ist, ob die Eltern Bescheid wüssten und dass es ganz schön gefährlich sein kann, mit jemandem, den man gar nicht kennt, Fotos auszutauschen. Aber ich schwieg, hörte ihr zu und ahnte, dass die noch relativ harmlose Geschichte eine Wendung erfahren würde. Lisa knetete weiter ihre Hände, blickte verschämt auf den Tisch, vor dem sie saß, und flüsterte eher weiter, als dass sie sprach.

Ihre Freundin hätte diesem »Moritz« dann auch Fotos von sich in Unterwäsche geschickt, und Moritz hätte ihr daraufhin eigene Bilder geschickt, die nicht so wie die von einem Jungen ausgesehen hätten. Lisa selbst hätte diese Fotos gesehen. Schließlich hätte Moritz Lisas Freundin Bilder geschickt, auf denen ein erwachsener Mann zu sehen sei. Er erzählte, dass er sich mit einem Teenage-Filter in den Videos jünger gemacht hätte, aus Angst, Lisas Freundin würde ihn sonst nicht mögen, schließlich sei er ganz traurig, schon so alt auszusehen. Lisa erzählte, dass ihre Freundin weiter mit diesem Mann schreiben und sich dadurch ziemlich cool fühlen würde – und nun sauer auf Lisa wäre, weil sie ihr geraten hatte, lieber aufzuhören und mit ihren Eltern zu sprechen. Ich spüre, wie mein Puls anfing, schneller zu werden. Meine Gedanken überschlugen sich: Wer ist dieses Mädchen? Wie lange geht das schon, was genau passiert da mit einem elfjährigen, unbedarften Kind, in welcher Gefahr schwebt es? 

Lisa wollte mir keinesfalls sagen, wer ihre Freundin war, und erzählte mir nur von dem Ort, aus dem sie kam. Ich versuchte, meine Gedanken zu ordnen, und überzeugte Lisa, dass wir gemeinsam mit ihrer Mama über diesen Fall reden. Die Mutter kam nach einem Anruf in die Schule und reagierte unglaublich großartig. Sie nahm ihre Tochter in den Arm, lobte sie, dass sie ihren Mut zusammengenommen hat, das Gespräch mit mir zu suchen. Sie sicherte mir zu, entsprechende Gespräche mit der betroffenen Familie und gegebenenfalls auch mit der Polizei zu suchen, um Schlimmeres zu verhindern.  

Der sogenannte Teenage-Filter, der so etwas möglich macht, ist eine auf künstlicher Intelligenz basierende Technologie, die kinderleicht in sozialen Netzwerken wie TikTok, Instagram oder in Apps anzuwenden ist. So oft berichte ich in meinen Vorträgen darüber, auch aus Angst, was dadurch passieren könnte, obwohl es schon längst Wirklichkeit geworden ist. Wer schützt hier unsere Kinder? Wer weiß überhaupt von diesen Möglichkeiten? Das Unwissen über die dunkle Seite von KI und die Inkompetenz im Umgang damit sind nicht nur eine Gefahr, sondern geradezu ein Katalysator solch fürchterlicher Ereignisse. 

Ausgelöscht

In einer anderen Woche erreichte mich der Anruf eines anderen befreundeten Schulleiters, der Rat in einer schwierigen Angelegenheit suchte. So war ein Schüler an seiner Schule von anderen Kindern massiv gedemütigt worden. Auf einem Ausflug einer siebten Klasse war als Erinnerung an den Tag ein Klassenfoto entstanden. Nur wenige Tage später wanderte diese Aufnahme zusammen mit einem nahezu identischen Foto durch einige WhatsApp-Gruppen der Kinder. Das Original trug die Überschrift »Finde den Fehler«, die quasi identische Kopie war mit den Worten »Fehler endlich bereinigt« betitelt. Während das Originalfoto die gesamte Klasse zeigte, fehlte in der Kopie ein Schüler, der ohnehin einen Außenseiterstatus innehatte. Er war mittels eines KI-gestützten Fotobearbeitungsprogramms herausgelöscht worden. Die Lücke, die auf dem Bild entstanden war, wurde täuschend echt an den Originalhintergrund angepasst, sodass nicht zu erkennen war, dass es sich um eine manipulierte Kopie des Fotos handelte.

Was für eine Demütigung und was für ein Leid für das Kind, als es das gefakte Bild sah. Ausgelöscht. Als sei es nichts wert.

»Wenn du mir kein Foto von dir schickst, werde ich deiner Mutter beim Joggen auflauern«

Im Zuge der Veröffentlichung meines letzten Buches durfte ich an anderen Schulen im Rahmen von Elternabenden zu den Gefahren in sozialen Netzwerken referieren, aufklären und aufrütteln. Mein Ziel dabei war und ist, ein Bewusstsein dafür zu schaffen, in welch großer Gefahr Kinder und Jugendliche sein können, wenn wir sie im Haifischbecken der sozialen Netzwerke allein lassen. Werde ich angesprochen, wie es sich anfühlt, als Autorin im Rampenlicht zu stehen, wiederhole ich immer, dass mein persönlicher Erfolg mit dem Buch eine zweischneidige Sache sei, denn die große Nachfrage zeigt auf besorgniserregende Weise, wie wenig die allermeisten Erwachsenen über die gefährliche Welt im Netz wissen.

Es ist ein für mich mittlerweile regelmäßig wiederkehrendes Gespräch, das an einem Abend durch einen Schüler, der meinen Vortrag technisch begleitet hatte, eine unerwartete Wendung nahm. Er fragte mich nach dem Small Talk am Ende der Veranstaltung, ob ich schon von den neuen Horrorvoices wüsste, die seit einiger Zeit insbesondere in den WhatsApp-Gruppen der Kleinen, also der Fünftklässler, die Runde machen würden. Ich verneinte, und er fragte mich, ob er mir mal eine Nachricht abspielen dürfe. Natürlich stimmte ich neugierig zu. Was ich dann hörte, ließ mich kurz schaudern, insbesondere, weil ich dabei an die Küken in Jahrgang fünf und sechs dachte, die doch gerade noch in der Grundschule gewesen waren.

Ich hörte eine menschliche Stimme, die grausam flüsternd sagte: »Marie, wenn du mir nicht bis heute 22 Uhr ein Foto von dir in Unterhose schickst, werde ich deiner Mutter beim Joggen auflauern und sie vergewaltigen.« Ich schaute den Schüler wortlos an. Er fügte an, dass sich derzeit viele Schüler einen Scherz machen würden, weil man mit einer neuen App mittels KI die eigene Stimme in alles Mögliche verwandeln könnte.

Ich fragte ihn, ob das sein Ernst sei, und erklärte ihm, wie abartig ich es fände, mit derartigen Schreckensszenarien zu drohen und andere durch strafbare Handlungen, nämlich die Verbreitung von Kinderpornografie, zu erpressen. Etwas hilflos mit den Schultern zuckend stimmte er mir zu, erzählte aber gleichzeitig, dass »das im Moment voll viele« machen würden und es gerade ein »Trend« unter den Jugendlichen sei, und es würden »echt viele« Bilder von fast unbekleideten Kindern durch verschiedene Gruppen quasi als Trophäen verschickt werden.

Es sind Momente wie diese, an denen ich einerseits am liebsten alles hinschmeißen würde, weil ich das Gefühl in mir trage, gegen Windmühlen zu kämpfen, insbesondere nachdem ich mir kurz zuvor von meinem Publikum hatte anhören müssen, eigentlich hätte es doch so etwas in der Art schon immer gegeben. Es sind Momente wie diese, in denen ich mir wünsche, jemand würde einfach den Stecker ziehen und uns eine Welt zurückholen, in der die Kindheit vielleicht auch nicht immer einfach, aber doch unbeschwerter war. Es sind Momente wie diese, in denen ich nicht verstehen kann, dass es immer noch Menschen gibt, die sich nicht für soziale Netzwerke interessieren und sich nicht mit den potenzierenden negativen Möglichkeiten von KI auseinandersetzen.

Insbesondere sind es aber Momente wie diese, in denen mir klar wird, dass sich die Welt gerade stärker und schneller verändert, als wir es wahrhaben wollen. Künstliche Intelligenz wird dafür sorgen, dass die Kinder und Jugendlichen im Netz nochmals viel gefährdeter sind als vorher. Falsch angewandt, kann sie dafür genutzt werden, politische Gehirnwäsche zu betreiben und unsere Demokratie nicht nur in Gefahr, sondern zum Einsturz zu bringen.

Spätestens die nächste Generation, also die unserer Kinder, wird nicht empathisch und reflektiert genug sein, sie wird sich nicht ausreichend des eigenen kritischen Verstandes bedienen, um für unsere demokratischen Rechte und eine bunte Gesellschaft mit unbändigem Willen einzustehen. Übertrieben? Dystopisch? Das mag man mir unterstellen. Doch in meiner Arbeit mit Kindern und Jugendlichen bekomme ich jeden Tag die zerstörerische Kraft von künstlicher Intelligenz vor Augen geführt. Wer aber schützt unsere Kinder vor diesen Gefahren, die neben allen Chancen und großartigen Möglichkeiten von KI unweigerlich drohen?

Wissen ist der beste Schutz

Indem Sie dieses Buch in den Händen halten, haben Sie sich entschieden, ein Teil der Antwort zu sein. Wir alle sind dafür verantwortlich, unsere Kinder in einer zerbrechlichen und unruhigen, von Krisen und Kriegen gebeutelten Welt zu schützen. Kinder sollen unbeschwert und glücklich aufwachsen dürfen. Gleichzeitig brauchen sie das Rüstzeug von uns Erwachsenen, um sich mutig behaupten zu können, um neugierig das Leben und die Welt zu entdecken und um sich sicher bewegen zu können. Menschliche Werte für ein friedliches und auch fröhliches Miteinander gehören genauso in den Rucksack mit dem wertvollen Rüstzeug wie Kompetenzen und Know-how für den Alltag. Künstliche Intelligenz verändert diese Welt gerade mehr als je zuvor, ob wir wollen oder nicht. Die Geschwindigkeit der Entwicklung neuer KI-Tools, die vielen technischen Vokabeln, die scheinbar unbegrenzten neuen Möglichkeiten in Beruf und Alltag, die unzähligen KI-Expertinnen und -Experten führen dazu, dass viele von uns eher Scheuklappen aufsetzen und sich nicht mit der Thematik beschäftigen.

Tun Sie das bitte nicht! Setzen Sie sich mit KI auseinander! Und rütteln Sie auch andere auf! Mir geht es nicht darum, Ihnen technische Erklärungen zu liefern, ich bin schließlich keine IT-Expertin, keine Wissenschaftlerin. Als Schulleiterin, Digitalbotschafterin, Bonusmama, Tante, Ziehtochter und Bürgerin einer kleinen Stadt in Niedersachsen weiß ich dennoch, dass künstliche Intelligenz nie wieder aus unserem Leben verschwinden wird – so wie sich eben auch das Internet durchgesetzt hat und unsere Gesellschaft fundamental verändert. Das Arbeiten, das Lernen und unser Miteinander werden stärker von KI beeinflusst werden, als wir es uns heute vorstellen können.

Deswegen wünsche ich mir, mit diesem Buch das Thema künstliche Intelligenz in die Mitte der Gesellschaft zu rücken und ohne komplizierte Erklärungen für jeden Menschen, für jede Familie verständlich zu machen. Es als Thema an den Abendbrottisch zu holen, Interesse zu wecken, aber auch Gefahren aufzuzeigen und zu warnen. Ich möchte dazu motivieren, Programme selbst auszuprobieren, Spaß dabei zu haben oder auch den Schock zu erleben, wenn man sieht, wozu künstliche Intelligenz in der Lage ist. Wenn wir unsere Kinder wirklich beschützen wollen, und zwar so lange, bis sie in der Lage sind, allein und ohne unsere Hilfe zurechtzukommen, dann müssen wir uns mit der Welt der Algorithmen und des Deep Learning auskennen, ihre Gefahren sehen und uns anschließend über Leitlinien für ein gutes Miteinander verständigen. Wenn wir uns dagegen nicht mit der Macht von künstlicher Intelligenz beschäftigen und sie in der Familie, in der Schule, im Betrieb, im Verein und überall da, wo Menschen aufeinandertreffen, ignorieren – dann müssen wir die Verantwortung dafür übernehmen, dass wir unsere Kinder weder beschützen noch ihnen Flügel fürs Leben verleihen.

Es war wohl nie wichtiger als in Zeiten von künstlicher Intelligenz und sozialen Netzwerken, Werte wie Mitmenschlichkeit, Empathie und Verständnis in den Mittelpunkt allen Handelns zu stellen. Und damit eine Antwort auf die Frage zu finden, wie wir heute und in Zukunft miteinander leben wollen.

Aber nicht nur um die Kinder geht es: Beschäftigen wir uns nicht mit künstlicher Intelligenz, dem wohl mächtigsten Instrument der Menschheitsgeschichte, dann laufen wir Gefahr, uns selbst zu verlieren. Ich danke Ihnen, dass Sie sich mit auf den Weg machen, Verantwortung für die Zukunft unserer Kinder zu übernehmen. Wenn dieses Buch dazu beitragen kann, dass Sie die Scheu verlieren, sich dem Thema zu nähern, dann ist das ein wichtiger erster Schritt.

Es ist fünf nach zwölf, dass unsere Generation, die Generation der Erwachsenen – und zwar ausnahmslos jeder und alle in jedem Bereich –, handelt. Wir müssen uns mit künstlicher Intelligenz mehr als nur auseinandersetzen. Wir müssen den Gefahren in den sozialen Netzwerken und der menschenverachtenden, manipulativen Macht von KI ins Auge blicken, aber zugleich die positiven Chancen erkennen, die KI bietet. Dieses Buch soll dabei helfen, beide Seiten von KI kennenzulernen, Berührungsängste zu verlieren und mit unseren Kindern auf Augenhöhe durch den Alltag zu schreiten. Es liegt an uns, unseren Kindern das Rüstzeug für die Herausforderungen der Zukunft mitzugeben, sodass sie ihr Leben würdevoll, erfolgreich und vor allem glücklich gestalten können. Denn sie allein zu lassen und an die bösen Kräfte der KI zu verlieren, ist das Schlimmste, was wir tun könnten. Schützen wir unsere Kinder. Jetzt.

Immer noch Neuland

Geht es Ihnen auch so, dass Sie ständig die Begriffe ChatGPT, künstliche Intelligenz, Digitalisierung und Ähnliches hören oder lesen und damit irgendwie überfordert sind?

Oder stecken Sie vielleicht beruflich mitten im erstmaligen Umgang mit KI-Software, arbeiten mit ChatGPT & Co. und spüren einen Druck, sich hierzu sehr schnell weiterbilden zu müssen?

Finden Sie künstliche Intelligenz spannend und cool oder aber wahnsinnig beängstigend?

Egal, aus welcher Richtung, aus welchem Bereich und aus welcher Sichtweise heraus wir auf das Thema künstliche Intelligenz blicken – sicher ist, dass es nicht nur in den Medien allgegenwärtig ist. Auch in sozialen Netzwerken geht es immer mehr um KI. Gefälschte oder manipulierte und veränderte Videos, Fotos und Audiodateien überschwemmen förmlich die Accounts der Nutzerinnen und Nutzer von sozialen Netzwerken. Man spricht hier von Deepfake. Auch diesen Begriff haben Sie möglicherweise bereits gehört.

Die aufklärende und mit leicht verständlichen Inhalten gefüllte Seite saferinternet.at erklärt den Begriff Deepfake zum Beispiel so: »Deepfakes sind Fotos, Videos oder Audio-Dateien, die mit Hilfe von Künstlicher Intelligenz absichtlich verändert werden. Man sieht oder hört Personen, die Sachen tun oder sagen, die sie tatsächlich gar nie getan oder gesagt haben. Der Begriff setzt sich aus den Wörtern ›Deep Learning‹ (einer Methode, durch die eine Künstliche Intelligenz lernt) und ›Fake‹ zusammen.

Die Manipulation von Medieninhalten ist kein neues Phänomen und wird, vor allem im Zusammenhang mit politischer Propaganda, schon lange eingesetzt. Im Unterschied zu früher werden heute jedoch Künstliche Intelligenz und die Rechenleistung von Computern genutzt.«1

Falls Sie sich noch nicht mit diesem Aspekt oder anderen Bereichen von künstlicher Intelligenz auseinandergesetzt haben, dann wird es umgehend Zeit dafür, da hiervon insbesondere für unsere Kinder und Jugendlichen, aber auch für die ältere Generation und letztendlich für uns alle eine nicht zu unterschätzende Gefahr ausgeht. Eine Gefahr, die wir gesamtgesellschaftlich noch größtenteils ignorieren, indem wir uns im Alltag eben nicht mit der Technologie von künstlicher Intelligenz auseinandersetzen.

Unsere Generation verhält sich hier ähnlich fahrlässig wie schon bei der Entwicklung und Verbreitung sozialer Netzwerke: Wir ignorieren die Zeichen der Zeit, die Entwicklung von Technologien im Netz und reden uns damit heraus, dass wir uns mit diesen Dingen neben all den Problemen, die wir derzeit haben, nicht auch noch beschäftigen können. Das aber ist eine fatale Einstellung, mit der wir letztlich eine friedvolle und demokratische Zukunft gefährden. Künstliche Intelligenz wird – und das soll kein angsteinflößender, dystopischer Blick sein, sondern uns alle zu einer realistischen Wahrnehmung zwingen – die Kraft haben, alles bisher Bekannte zu verändern und zu beeinflussen. Positiv wie negativ. Daher müssen wir uns fit machen, neugierig sein und vor allem zum starken und beschützenden Partner für unsere Heranwachsenden, aber auch für die ältere Generation werden.

Natürlich müssen wir dafür keine Technikexpertinnen und -experten werden. Möglicherweise ist diese Annahme derzeit das Problem. Immer wieder geht es um die Technik und die Funktion von künstlicher Intelligenz. Medienberichte und Experteninterviews können einem wie die sprichwörtlichen böhmischen Dörfer erscheinen, schrecken dadurch ab und sorgen für Desinteresse oder gar Ignoranz, weil KI doch vermeintlich im Alltag keine Rolle spielt.

Ich bin auch keine Technikexpertin, ich bin in erster Linie ein Mensch, der sich große Sorgen um den Werteverlust in unserer Gesellschaft macht. Was leben wir den Kindern vor? Welches Beispiel geben wir ihnen? Sind wir noch Vorbild? All diese Fragen müssen wir uns endlich stellen.