14,99 €
Mehr erfahren.
- Herausgeber: ROWOHLT E-Book
- Kategorie: Wissenschaft und neue Technologien
- Sprache: Deutsch
- Veröffentlichungsjahr: 2024
Die Zahl verfügbarer Inhalte in Medien, Entertainment und Social Media wächst in einem nie dagewesenen Tempo. Und es wird alles noch viel mehr. Bis 2026 werden schätzungsweise über 90% der Inhalte synthetischen Ursprungs und mithilfe Künstlicher Intelligenz hergestellt sein. Dies bringt nicht nur Herausforderungen in Bezug auf die Menge der Inhalte mit sich, sondern auch ernsthafte Fragen zur Echtheit und Authentizität. Zur Überforderung der Nutzer:innen durch die schiere Masse kommen Fragen nach Echtheit, Wahrheit und Relevanz: Was ist eine vertrauenswürdige Nachricht? Was ein echtes Foto oder Video? Welchen Quellen kann ich vertrauen? Wie erhalten wir bei dieser Flut an Inhalten unsere Souveränität zurück? Dieses Buch erklärt verständlich das unaufhaltsame Content-Wachstum und zeigt, wie wir den Überblick behalten, vertrauensvolle Quellen finden und die Entwicklung beruflich und privat für uns nutzen können.
Das E-Book können Sie in Legimi-Apps oder einer beliebigen App lesen, die das folgende Format unterstützen:
Seitenzahl: 95
Ähnliche
Holger Volland
Overload
Die KI-Medienflut kommt. Was ist noch echt, was Fake?
Über dieses Buch
Die Zahl verfügbarer Inhalte in Medien, Entertainment und Social Media wächst in einem nie dagewesenen Tempo. Und es wird alles noch viel mehr. Bis 2026 werden schätzungsweise über 90 % der Inhalte synthetischen Ursprungs und mithilfe Künstlicher Intelligenz hergestellt sein. Dies bringt nicht nur Herausforderungen in Bezug auf die Menge der Inhalte mit sich, sondern auch ernsthafte Fragen zur Echtheit und Authentizität. Zur Überforderung der Nutzer:innen durch die schiere Masse kommen Fragen nach Echtheit, Wahrheit und Relevanz: Was ist eine vertrauenswürdige Nachricht? Was ein echtes Foto oder Video? Welchen Quellen kann ich vertrauen? Wie erhalten wir bei dieser Flut an Inhalten unsere Souveränität zurück?
Dieses Buch erklärt verständlich das unaufhaltsame Content-Wachstum und zeigt, wie wir den Überblick behalten, vertrauensvolle Quellen finden und die Entwicklung beruflich und privat für uns nutzen können.
Vita
Holger Volland ist Medien- und Digitalexperte. Er ist CEO des Wirtschaftsverlags brand eins in Hamburg und schreibt als Autor zu den Themen Transformation, Medienentwicklung, Digitalisierung und Künstliche Intelligenz. Als Keynote-Speaker und Dozent findet man ihn unter anderem bei Bits & Pretzels, St. Gallen, Goethe-Institut, DLD, Art Directors Club, SXSW, Frankfurter Buchmesse. Er engagiert sich bei Z-Inspection, dem interdisziplinären Wissenschaftsnetzwerk für vertrauenswürdige Künstliche Intelligenz und als Advisory Board Member der Sonophilia Foundation.
Impressum
Veröffentlicht im Rowohlt Verlag, Hamburg, Juni 2024
Copyright © 2024 by brand eins Verlag Verwaltungs GmbH, Hamburg
Lektorat Gabriele Fischer
Faktencheck Katja Ploch
Projektmanagement Hendrik Hellige
Covergestaltung Mike Meiré / Meiré und Meiré
ISBN 978-3-644-02100-6
Schrift Droid Serif Copyright © 2007 by Google Corporation
Schrift Open Sans Copyright © by Steve Matteson, Ascender Corp
Dieses Werk ist urheberrechtlich geschützt, jede Verwertung bedarf der Genehmigung des Verlages.
Die Nutzung unserer Werke für Text- und Data-Mining im Sinne von § 44b UrhG behalten wir uns explizit vor.
Hinweise des Verlags
Abhängig vom eingesetzten Lesegerät kann es zu unterschiedlichen Darstellungen des vom Verlag freigegebenen Textes kommen.
Alle angegebenen Seitenzahlen beziehen sich auf die Printausgabe.
Im Text enthaltene externe Links begründen keine inhaltliche Verantwortung des Verlages, sondern sind allein von dem jeweiligen Dienstanbieter zu verantworten. Der Verlag hat die verlinkten externen Seiten zum Zeitpunkt der Buchveröffentlichung sorgfältig überprüft, mögliche Rechtsverstöße waren zum Zeitpunkt der Verlinkung nicht erkennbar. Auf spätere Veränderungen besteht keinerlei Einfluss. Eine Haftung des Verlags ist daher ausgeschlossen.
www.rowohlt.de
Für Erik.
Die Flut kommt
Am Anfang dieses Buches stand eine Zahl. «Ein Europol-Bericht aus dem Jahr 2022 schätzt, dass bis zum Jahr 2026 etwa 90 Prozent der Online-Inhalte durch KI generiert werden könnten.» So las ich im KI-Report «Ghost in the Machine» des Norwegian Consumer Council. Wow. Neun von zehn Inhalten. Bis 2026. Das war ja quasi morgen. Mein Interesse war geweckt. Denn ich habe als Medienmacher natürlich auch ein wirtschaftliches Interesse an der Frage, wie die Landschaft von Inhalten und Medien zukünftig geprägt ist. Auch als Buchautor beschäftige ich mich zudem schon lange mit digitalen Entwicklungen, besonders den Fähigkeiten, die wir KI zuschreiben.
Ich suchte nach ähnlichen Vorhersagen, und die Zahl begegnete mir immer wieder. Auch in der einflussreichen US-amerikanischen Tageszeitung New York Times, die sich ebenfalls auf die europäische Polizeibehörde Europol und deren Deepfake-Report bezog. Andere Medien griffen die 90 Prozent auf und gaben wahlweise Europol, die New York Times oder den Norwegian Consumer Council als Quellen an. Alle drei sind schließlich Institutionen mit einer hohen Vertrauenswürdigkeit, sprich: seriöse Quellen. Im Laufe der Recherche kamen weitere Medien hinzu. Die angesehene Fachzeitschrift Nature schrieb: «Wissenschaftler gehen davon aus, dass etwa 90 Prozent aller Internetinhalte innerhalb weniger Jahre synthetisch sein könnten», und verwies auf ein Academic Paper namens «The Age of Synthetic Realities», dieses wiederum hatte die Zahl übernommen aus dem «Synthetic Reality & Deep Fakes Impact on Police Work Report» für das European Network of Law Enforcement Technology Services. Dort stand die Zahl mit dem Hinweis «Experts believe …», aber gänzlich ohne Quellenangabe. Eine Sackgasse. Ebenfalls tauchte die Zahl in einem Briefing des European Parliamentary Research Service für das Europäische Parlament auf, das wiederum auf den Europol-Report verwies. Also: Zurück auf Anfang.
Viele Artikel, die sich letztlich auf eine einzige Quelle bezogen. Ich beschaffte mir den Europol-Report und fand dort als Quelle für die 90 Prozent das Sachbuch «Deepfakes: The Coming Infocalypse» von Nina Schick aus dem Jahr 2020. Tatsächlich gibt es darin ein Interview mit dem Gründer eines Start-ups für generative Medien, Synthesia. Schick schreibt über das Gespräch mit ihm: «He believes that synthetic video may account for up to 90 per cent of all video content in as little as three to five years.»
Ein einziger Mensch, noch dazu der Besitzer einer Firma, die mit synthetischen Medien ihr Geld verdient, mutmaßt also, dass 90 Prozent der Videos im Netz drei bis fünf Jahre nach dem Erscheinen des Buches in 2020 synthetisch sein könnten. Und das ist nun die Expertenquelle, auf die sich ein riesiges Zitate-Netzwerk, darunter Nature, Europol, Sicherheitsbehörden, die EU-Kommission, wissenschaftliche Papiere oder die New York Times berufen?
Nun werden Sie sich zu Recht fragen, warum ich dennoch ein ganzes Buch über dieses Thema geschrieben habe, obwohl doch anscheinend die einzige relevante Datenquelle gar nicht belastbar ist? Das genau ist ein Grund für dieses Buch: unser Glaube an Medieninhalte, Quellen, Experten und Zitate. Und meine Überzeugung, dass dieser Glaube schon heute öfter enttäuscht wird – wie bei meiner Recherche. In naher Zukunft aber wird er unglaublich stark strapaziert werden. Denn egal, ob es 90 oder nur 30 Prozent sind: Viele Inhalte, Videos, Nachrichten, Texte, ja sogar Personen werden in Zukunft synthetisch oder zumindest teilweise maschinell hergestellt sein. Dadurch wird es noch schwerer werden, die Originalquellen zu finden, als dies bei meiner Recherche der Fall war. Und es wird noch schwerer, diesen Quellen zu glauben. Es ist also an der Zeit, unser Vertrauen in Medien einem Aktualitäts-Check zu unterziehen. Ist es noch gerechtfertigt? Und falls es in Gefahr ist, wie können wir es wiederherstellen?
Der zweite Grund liegt in der Zahl 90 Prozent selbst. Es ist kein Wunder, dass alle diese Quellen bereitwillig auf sie hereingefallen sind. Bereits nach kurzen eigenen Recherchen erscheint sie mir womöglich sogar zu niedrig. Ein Experte des Copenhagen Institute for Future Studies wurde zitiert mit: «In einem Szenario, in dem GPT-3 ‹freikommt›, wäre das Internet nicht mehr wiederzuerkennen.» In diesem Szenario – das mit ChatGPT längst Realität geworden ist – würde er darauf wetten, dass «99 Prozent bis 99,9 Prozent von 2025 bis 2030 von KI generiert werden». Mein Interesse wurde immer größer. Es müsste doch möglich sein, die wirkliche Größenordnung besser einzuschätzen als nur auf Basis der Interviewaussage eines Start-up-Gründers. Weil ich die eine Statistik mit einer einleuchtenden Zahl nicht fand, habe ich mir die relevanten Medien, Plattformen und Anwendungsfälle im Einzelnen genau angesehen, um einschätzen zu können, wie groß das Problem wirklich ist. Meine These war, dass der Anteil synthetischer Inhalte je nach Nutzungssituation, Nutzerin und Nutzer oder Medium stark schwankt, aber teilweise überwältigend groß sein kann.
Als Belege fand ich viele unterschiedliche Quellen, die meine Vermutung stützen: Wir sehen in einigen Mediengattungen heute schon eine Flut an künstlichen Inhalten. Und wir alle werden in den kommenden Jahren Inhalten ausgesetzt sein, die zu 100 Prozent synthetisch sind – und oft werden wir es gar nicht merken. Darunter sind aufsehenerregende, aber eher anekdotische Ereignisse, wie vollständig algorithmisch kreierte Bücher auf Amazon. Und es gibt Medientypen, die schon heute ausschließlich maschinelle Inhalte in riesigen Mengen bereitstellen, ohne dass dies zum Thema gemacht wird. Allein der Output einiger bekannter Text- und Bildgeneratoren lässt darauf schließen, wie groß die Flut an synthetischem Content sein wird. Denn selbst wenn nur ein Bruchteil dieser Erzeugnisse in unserem alltäglichen Medienkonsum landete, wäre es doch eine ganze Menge: So sprach allein OpenAI bereits Ende 2023 von 100 Millionen aktiven Usern pro Woche für sein Produkt ChatGPT. Und das ist nur ein Dienst neben Stable Diffusion, Midjourney und vielen anderen speziellen Content-Maschinen. Ganz zu Schweigen von den Microsoft-Programmen wie etwa Copilot für Firmen und dem chatbasierten Nachfolger der Suchmaschine Bing für den Massenmarkt oder Google mit Gemini und anderen Angeboten.
Es geht nicht nur um die Menge. Auch die Qualität dieser Entwicklung hat Sprengkraft. Denn wenn nur eine einzige Nachricht nicht mehr glaubwürdig ist, stört das unser Vertrauen in alle anderen Inhalte. Wir erleben das immer wieder in Krisen. So soll Russland fast reflexartig Beweise für Kriegsverbrechen im Angriffskrieg gegen die Ukraine als Fake News bezeichnet haben. Der Wahlkämpfer Donald Trump hat diesen Trick zur Methode gemacht. Viele politische Hetzkampagnen machen sich das zunutze, indem sie mit nur wenigen gezielten Fakes Zweifel schüren. Der Rest kommt dann von ganz alleine. Denn kommt das häufiger vor, verlieren wir das Vertrauen in die jeweiligen Medien oder Quellen. Und wenn die Fakes zum Alltag werden, wovon ich ausgehe, wird unser Vertrauen in die Medienlandschaft, wie wir sie heute kennen, stark in Mitleidenschaft gezogen. Und das schadet auch unserer Demokratie, die sich schließlich in weiten Teilen auf Medien stützt.
Das sind genug Gründe, sich mit dem Thema vertraut zu machen. Denn es geht auch um die Frage, ob wir genug Mittel und Wege haben, um nicht gänzlich in dieser Flut an Content zu ersaufen. Zuvor müssten wir aber wissen, womit wir es genau zu tun haben. Mein Ehrgeiz war geweckt: Wie viel Prozent synthetische Inhalte sind es denn nun wirklich?
Eine neue Epoche
Anwendungen für den Alltag, die auf künstlicher Intelligenz beruhen, gibt es schon lange. Die Empfehlungsalgorithmen von YouTube, Spotify, Netflix oder Amazon gehören ebenso dazu wie Spamfilter ihres E-Mail-Programms, der Übersetzungsanbieter DeepL oder die personalisierte Auswahl von Meldungen in LinkedIn. Meist ist die KI im Hintergrund und fällt uns Usern gar nicht auf. Wir sehen sie erst, seit mit dem weltweiten Start von ChatGPT die Möglichkeiten von generativer künstlicher Intelligenz in unser Blickfeld gerückt sind, seither sprechen auch zurückhaltende Expertinnen und Experten vom Epochenwechsel und einer Revolution.
DeepL-Gründer Jarosław Kutyłowski beschreibt im Interview die Folgen für die Medienlandschaft: «Künstliche Intelligenz hat disruptives Potenzial, vielleicht das größte seit dem Aufkommen des Internets. Wir sehen darin eine großartige Chance: für die Medien wie auch für alle anderen Branchen. Auf redaktioneller Seite kann KI beispielsweise bei der Datenanalyse oder der Recherche helfen. Redaktionsteams können sich dank der Technik auf journalistische Kernaufgaben konzentrieren, wie etwa Beziehungsaufbau und -pflege sowie ausführliche Analysen. Übersetzungssoftware kann Medien auch helfen, eine internationale Zielgruppe zu erreichen.» Für die Nutzerinnen und Nutzer sieht er viele Erleichterungen, macht aber anhand seiner Übersetzungssoftware auch klar, dass die neuen Tools Anforderungen an unser aller Wissen stellen: «Allerdings ersetzt all das nicht die Notwendigkeit, Quellen und deren Motive kritisch zu hinterfragen. Ein gutes Verständnis von den Möglichkeiten und Grenzen der Übersetzungs-Tools sowie Medienkompetenz sind wichtiger denn je.»
Die neuen Werkzeuge generieren mehr oder weniger selbsttätig Inhalte auf der Basis von Prompts, also Aufforderungen. Solche Inhalte sind Texte, Programmcodes, Bilder, Videos, Stimmen, Musik, wie sie bis vor Kurzem eher aus menschlicher Kreativität und Fleiß geboren wurden. Noch haben wir es mit einer neuen Entwicklung zu tun. Doch sehen wir uns an, wie schnell sie sich verbreitet, so verwundert es nicht, dass öffentliche Organisationen wie Europol, das Norwegian Consumer Council oder das FBI schon wenige Monate nach dem Start von ChatGPT gewarnt und Reports mit Handlungsempfehlungen veröffentlicht haben. OpenAI
