KI und Recht für Dummies E-Book

Kristina Schreiber

• Herausgeber: Wiley-VCH
• Kategorie: Wissenschaft und neue Technologien
• Serie: Für Dummies
• Sprache: Deutsch

Seitenzahl: 372

Veröffentlichungsjahr: 2025

Beschreibung

Rechtssicherheit bei der Entwicklung und Nutzung von KI gewinnen

Lassen auch Sie sich von KI unterstützen – Content von ChatGPT erstellen, Grafiken von Midjourney gestalten und Fragen von CoPilot beantworten? Oder nutzen Sie schon KI-Modelle in Ihren eigenen Systemen und bieten Kundenservice via Chatbot mithilfe künstlicher Intelligenz an? Haben Sie dabei Datenschutz, Urheberrecht, die Vorgaben der KI-Verordnung und Haftungsfragen im Blick? Dieses Buch erklärt Ihnen verständlich und praxisnah die rechtlichen Aspekte der Nutzung künstlicher Intelligenz und hilft Ihnen dabei, rechtliche Fallstricke zu erkennen und Risiken zu minimieren – damit Sie die Effizienz und Innovationskraft von künstlicher Intelligenz rechtssicher nutzen können!

Sie erfahren

• Was die KI-Verordnung für Ihre Nutzung von KI bedeutet
• Welche Rolle das Urheberrecht bei der Contenterstellung mit KI spielt
• Was für das Training von KI-Systemen gilt
• Wie Sie Chatbots rechtssicher einsetzen

Leseprobe

KI und Recht für Dummies

Schummelseite

DAS »KI-RECHT«

Es gibt nicht das eine KI-Gesetzbuch, sondern neben der Verordnung über Künstliche Intelligenz (KI-VO) muss im Zusammenhang mit Künstlicher Intelligenz (KI) auch das sonstige allgemeine Recht beachtet werden. Dazu gehören vor allem:

KI-VerordnungDatenschutzrechtUrheberrechtHaftungsrechtGeheimnisschutzrechtIT-SicherheitsrechtArbeitsrecht und Allgemeines GleichbehandlungsgesetzPersönlichkeitsrechtMedienstaatsvertragWettbewerbsrechtVertragsrecht

KÜNSTLICHE INTELLIGENZ UND DATENSCHUTZ

Die Vorgaben der DSGVO sind immer relevant, wenn personenbezogene Daten verarbeitet werden, zum Beispiel beim Training, der Eingabe des Inputs oder Nutzung des Outputs.

Um personenbezogene Daten handelt es sich immer dann, wenn eine Information einem Menschen zugeordnet werden kann – unabhängig davon, wie banal oder sensibel die Information ist.

Werden personenbezogene Daten verarbeitet, muss der Verantwortliche sicherstellen, dass dafür eine Rechtsgrundlage besteht, zum Beispiel:

Einwilligung der betroffenen Person zur Vertragserfüllung mit dem Vertragspartner erforderlichzur Wahrung berechtigter Interessen erforderlich (und Interessen der betroffenen Person überwiegen dem gegenüber nicht)zur Erfüllung rechtlicher Verpflichtungen erforderlichzum Schutz lebenswichtiger Interessen erforderlichzur Wahrnehmung öffentlicher Interessen erforderlich

DIE KI-VERORDNUNG

Die KI-Verordnung, die unter anderem eine vertrauenswürdige KI sowie ein hohes Schutzniveau für uns als Bürgerinnen und Bürger sicherstellen soll, ist eine europäische Risikoregulierung und basiert auf folgenden Grundprinzipien:

KI-Kompetenz: Unternehmen, die KI anbieten oder betreiben, müssen für ausreichend KI-Kompetenz bei ihren Mitarbeitenden beziehungsweise Beauftragten sorgen.Verbotene KI-Praktiken: Schädliche und unverhältnismäßig risikobehaftete Praktiken werden verboten, zum Beispiel KI für ein Social Scoring oder zur Emotionserkennung am Arbeitsplatz, die weder aus medizinischen Gründen noch aus Sicherheitsinteressen relevant ist.Hochrisiko-KI-Systeme: KI-Systeme mit einem hohen Risiko für unsere Sicherheit, Freiheit und unsere Grundrechte werden engmaschig reguliert. Wer solche KI-Systeme anbietet oder betreibt, muss einen umfassenden Pflichtenkatalog erfüllen, unter anderem ein umfassendes Risikomanagementsystem vorsehen, eine menschliche Aufsicht absichern und Transparenz herstellen.Transparenz: KI-Ergebnisse, die mit der Realität (zum Beispiel direkte Kommunikation, Bilder, Videos etc.) verwechselt werden könnten, müssen gekennzeichnet werden. Auch sind Emotionserkennungssysteme und solche zur biometrischen Erkennung, wenn sie mit KI funktionieren, erkennbar zu gestalten. All das soll sicherstellen, dass wir auch künftig noch unterscheiden können, was Realität und was Fake ist.Generative KI: Die Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, also zum Beispiel OpenAI mit ChatGPT, müssen das systemische Risiko ihrer Modelle im Blick behalten und ihren Nutzern diverse Informationen zur Verfügung stellen, damit mögliche Risiken erkennbar und kontrollierbar bleiben.Kontrolle: Die Einhaltung der KI-Verordnung wird durch nationale Marktüberwachungsbehörden kontrolliert (in Deutschland voraussichtlich die Bundesnetzagentur). Bei Verstößen drohen hohe Bußgelder.

Mit der KI-Verordnung hat die EU weltweit eine der ersten umfassenden Risikoregulierungssysteme für künstliche Intelligenz geschaffen. Auch wenn die KI-Verordnung in ihrer konkreten Ausgestaltung umstritten ist, ist dies ein Meilenstein. Andere Länder blicken auf genau dieses Regulierungssystem und werden es berücksichtigen, wenn sie ihre eigene KI-Regulierung erarbeiten.

DIE EU-KI-VO UND KMUs

Die Umsetzung der zum Teil umfangreichen Anforderungen aus der KI-VO ist insbesondere für kleinere Unternehmen eine Herausforderung. Die KI-VO sieht zwar keine Ausnahmen für kleine und mittelständische Unternehmen (KMUs) vor, möchte aber auch kleine innovative Unternehmen durch folgende Maßnahmen unterstützen:

weniger Bürokratieaufwand durch vereinfachte Musterformulare zur Erfüllung der technischen Dokumentation für Anbieter von Hochrisiko-KI-SystemenMöglichkeit der Mitarbeit in den EU-Gremien, in denen die Normungsprozesse für KI stattfindenkostenloser beziehungsweise stark vergünstigter Zugang zu KI-Reallaboren, um KI-Anwendungen unter möglichst realistischen Bedingungen realitätsnah zu testen – ohne umfangreiche Pflichten und DokumentationenBerücksichtigung der KMU-/Start-up-Eigenschaft bei der Berücksichtigung der Bußgeldhöhe (unter anderem soll stets der niedrigere mögliche Betrag gelten)Das kostenlose KI-Service Desk der Bundesnetzagentur (www.​bundesnetzagentur.de/DE/Fachthemen/Digitales/KI/start_ki) soll KMUs mit folgenden Bausteinen helfen: Selbsteinschätzungstool (Compliance-Kompass): unterstützt bei der groben Einordnung, ob ein KI-System vom AI Act betroffen istInformationsangebot: beinhaltet kompakte Erläuterungen zu Pflichten, Definitionen, Verboten und BeispielenKontaktfunktion: Möglichkeit, sich bei offenen Fragen direkt mit einer Anfrage an die Behörde zu wendenSchulungen: hilft mit Hinweisen zu kostenlosen Weiterbildungsangeboten zur KI-Regulierung

KÜNSTLICHE INTELLIGENZ UND URHEBERRECHT

Das UrhG schützt Urheberinnen, also Autoren, Filmschaffende und sonstige Kreative in ihren geistigen und persönlichen Beziehungen zum Werk sowie dessen Nutzung. Geschützt ist nur,

was ausreichend individuell ist,von Menschen geschaffen wurde undin konkreter wahrnehmbarer Form vorliegt.

URHEBERRECHT BEI TRAINING, INPUT UND OUTPUT

Bei KI und Urheberrecht sollte man zwischen dem Training, dem Input (Prompt) und dem Output unterscheiden und sich dann fragen, ob dort jeweils Rechte Dritter verletzt werden können beziehungsweise, ob ein eigener Urheberrechtschutz besteht:

Ob beim Training mit fremden Inhalten Rechte der Urheber verletzt werden, ist noch nicht abschließend geklärt – es ist aber recht wahrscheinlich.Beim Input ist denkbar, dass mit Prompts, die urheberrechtlich geschützte Werke beinhalten, Rechte der Urheber verletzt werden.Prompts, die sich deutlich von dem abheben, wie der Durchschnittsnutzer den Prompt gestaltet hätte, können eigenen Urheberrechtsschutz genießen – der normale Prompt erreicht diese Individualität aber in der Regel nicht.Output kann die Urheberrechte Dritter verletzen, wenn der KI-generierte Inhalt diesen eins zu eins wiedergibt.Urheberrechtsschutz für KI-generierten Output besteht in der Regel nicht, es sei denn, der Output wurde im Anschluss durch einen Menschen noch wesentlich bearbeitet.

UMSETZUNG IM UNTERNEHMEN – KI-GOVERNANCE

Unternehmen, die KI sinnvoll einsetzen wollen, brauchen eine effektive KI-Governance – ein System zur Integration und Steuerung von KI-Anwendungen:

Positionierung: Die Führungsebene eines Unternehmens muss eine klare Vision verfolgen und die KI-Strategie für das Unternehmen festlegen.Strukturen: Es sollte stets klar sein, wer auf organisatorischer Ebene was zu tun hat (»Wer macht was?«). Das betrifft die Unternehmensstrukturen, die Zuständigkeiten und Rollen, Entscheidungsbefugnisse und Berichtswege im Unternehmen.Prozesse: In der Praxis muss es klare Abläufe geben, zum Beispiel für den Einkauf oder die Implementierung von KI, und diese Abläufe müssen zu den Vorgaben passen.Kosten und Ressourcen: Wie viel Geld und Ressourcen Unternehmen in die Hand nehmen müssen, um »KI-ready« zu sein, hängt maßgeblich davon ab, wie groß die strategische Bedeutung des KI-Einsatzes für das Unternehmen ist, welche Risiken mit dem konkreten KI-Einsatz verbunden sind, in welcher Branche das Unternehmen tätig ist und wie gut die bestehende IT- und Compliance-Infrastruktur ist.Rechtliches Framework: Wer rechtliche Vorgaben einhält, schützt sein Unternehmen vor Schäden, Kosten und Reputationsverlust. Dafür muss ein gutes, aber auch effektives Regelwerk geschaffen werden – und auch das nützt nur, wenn die Mitarbeitenden entsprechend geschult werden.

INHALT VON KI-RICHTLINIEN

Mit KI-Richtlinien können Sie das Risiko der Haftung für Ihr Unternehmen reduzieren. Vor allem aber dienen KI-Richtlinien dazu, Ihren Mitarbeitenden zu erklären, was sie bei der Nutzung von KI-Tools dürfen – und was nicht. Daher sollten sie verständlich geschrieben sein und individuell zu Ihrem Unternehmen und der konkreten KI-Nutzung passen. Folgende Inhalte sollten darin geregelt werden:

Zweck der Richtliniepersönlicher und sachlicher AnwendungsbereichBegriffsbestimmungen und DefinitionenVerantwortlichkeiten und RollenEthikgrundsätzegegebenenfalls Liste verbotener und/oder erlaubter Toolstechnische SchutzmechanismenVorgaben für Einsatzfelder von KIVorgaben für die Nutzung von KI-Systemen Eingabe personenbezogener DatenEingabe von Geschäftsgeheimnissen und vertraulichen InformationenEingabe und Nutzung urheberrechtlich geschützter InhaltePrüfung KI-generierter Inhalte

KI und Recht für Dummies

Bibliografische Information der Deutschen Nationalbibliothek

Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie; detaillierte bibliografische Daten sind im Internet über ​http://​d​nb.d-​​nb.​de abrufbar.

© 2026 Wiley-VCH GmbH, Boschstraße 12, 69469 Weinheim, Germany

Wiley, the Wiley logo, Für Dummies, the Dummies Man logo, and related trademarks and trade dress are trademarks or registered trademarks of John Wiley & Sons, Inc. and/or its affiliates, in the United States and other countries. Used by permission.

Bevollmächtigte des Herstellers gemäß EU-Produktsicherheitsverordnung ist die Wiley-VCH GmbH, Boschstr. 12, 69469 Weinheim, Deutschland, E-Mail: [email protected].

KI-Haftungsausschluss: Der Verlag und die Autoren dieses Werks haben nach bestem Wissen und Gewissen gearbeitet, einschließlich einer gründlichen Überprüfung des Inhalts. Jedoch übernehmen weder der Verlag noch die Autoren Garantien oder Gewährleistungen hinsichtlich der Genauigkeit oder Vollständigkeit des Inhalts dieses Werks. Insbesondere schließen sie jegliche ausdrücklichen oder stillschweigenden Gewährleistungen aus, einschließlich Gewährleistungen der Handelsüblichkeit oder Eignung für einen bestimmten Zweck. Bei der Erstellung dieses Werks wurden bestimmte KI-Systeme eingesetzt. Es kann keine Garantie durch Vertriebsmitarbeiter, schriftliche Verkaufsunterlagen oder Werbeaussagen übernommen oder erweitert werden. Der Verweis auf eine Organisation, Website oder ein Produkt als Quelle für weitere Informationen impliziert keine Unterstützung oder Empfehlungen durch den Verlag und die Autoren. Der Verkauf dieses Werks erfolgt unter der Voraussetzung, dass der Verlag keine professionellen Dienstleistungen erbringt. Die enthaltenen Ratschläge und Strategien sind möglicherweise nicht für Ihre Situation geeignet. Konsultieren Sie gegebenenfalls einen Spezialisten. Leser sollten sich darüber im Klaren sein, dass die in diesem Werk aufgeführten Websites zwischen dem Zeitpunkt der Erstellung und dem Zeitpunkt des Lesens geändert sein können oder nicht mehr existieren. Weder der Verlag noch die Autoren haften für entgangene Gewinne oder sonstige wirtschaftliche Schäden, einschließlich besonderer, zufälliger, Folgeschäden oder sonstiger Schäden.

Print ISBN: 978-3-527-72341-6ePub ISBN: 978-3-527-85275-8

Coverillustration: fotomek - ​stock.​adobe.​comKorrektur: Frauke Wilkens, München

Über die Autorinnen

Dr. Kristina Schreiber ist Rechtsanwältin und Partnerin bei Loschelder Rechtsanwälte in Köln, Fachanwältin für Verwaltungsrecht und CIPP/E. Seit über 15 Jahren forscht und berät sie in allen Regulierungsfragen der Digitalisierung, zunächst im Telekommunikationsrecht und dem »Internet of Things«, in allen Fragen des Datenschutz- und IT-Rechts und nunmehr intensiv auch in der Regulierung der künstlichen Intelligenz und ihrem rechtssicheren Einsatz in Unternehmen und öffentlichen Einrichtungen.

Kristina Schreiber studierte Rechtswissenschaften an der Rheinischen Friedrich-Wilhelms-Universität Bonn. Von 2002 bis 2010 war sie zunächst studentische, dann wissenschaftliche Mitarbeiterin am Zentrum für Europäische Integrationsforschung (ZEI). Sie promovierte dort zur Dr. jur. zu einem netzwirtschaftsübergreifenden Thema mit Bezügen zum Telekommunikations- und Energierecht. Ihren juristischen Vorbereitungsdienst leistete sie in Köln. 2010 wurde sie als Rechtsanwältin zugelassen und ist seitdem in der Sozietät Loschelder tätig, seit 2016 als Partnerin. Ihre Expertise wird in allgemeinen Marktrankings anerkannt, so listete unter anderem die WirtschaftsWoche Kristina Schreiber wiederholt unter den renommiertesten Anwälten für Datenschutzrecht in Deutschland (u. a. »Top Anwältin 2025 im Datenschutzrecht«) und der Kanzleimonitor als eine der meistempfohlenen Anwälte im IT- und Datenschutzrecht.

Kristina Schreiber publiziert regelmäßig zu diesen Themen, ist Mitherausgeberin der EuDIR – Zeitschrift für Europäisches Daten- und Informationsrecht, hält Vorträge zu aktuellen Rechtsfragen aus ihren Spezialgebieten, schult Entwickler und Anwender zum rechtssicheren Einsatz von KI-Anwendungen, ist Lehrbeauftragte an der Fernuniversität Hagen und bloggt unter ​www.​digitalisierungsrecht.​eu.

Marlene Schreiber ist Rechtsanwältin, Fachanwältin für IT-Recht und Partnerin bei HÄRTING Rechtsanwälte in Berlin. Sie berät seit über 13 Jahren zu allen rechtlichen Fragen der Digitalisierung – von IT- und Datenschutzrecht über Plattform-, E-Commerce- und Softwarefragen sowie der Entwicklung und Gestaltung digitaler Geschäftsmodelle bis hin zur rechtssicheren Einführung und dem Einsatz neuer Technologien, insbesondere künstlicher Intelligenz, im Unternehmen.

Marlene Schreiber studierte Rechtswissenschaften an der Universität Potsdam und absolvierte ihr Referendariat in Berlin. 2012 begann sie ihre Tätigkeit als Rechtsanwältin bei der auf das IT- und IP-Recht spezialisierten Kanzlei HÄRTING Rechtsanwälte und wurde dort 2020 Partnerin. Marlene Schreiber wird regelmäßig im Best Lawyers Ranking als führende Rechtsanwältin für das IT-Recht, das Datenschutzrecht und das Technologieinformationsrecht gelistet und wurde 2023 vom Handelsblatt/Best Lawyers als »Anwältin des Jahres« im IT-Recht und im aktuellen WirtschaftsWoche-Ranking als »Top Anwältin 2025 im IT-Recht« ausgezeichnet.

Marlene Schreiber veröffentlicht regelmäßig Beiträge und hält Vorträge, Workshops und Webinare zu rechtlichen Themen im Zusammenhang mit künstlicher Intelligenz und digitalen Geschäftsmodellen. Sie engagiert sich aktiv bei der Weiterentwicklung des IT-Rechts, unter anderem als Co-Sprecherin des Arbeitskreises IT-Recht im Berliner Anwaltsverein und als Gebietsleiterin der Arbeitsgemeinschaft IT-Recht im Deutschen Anwaltsverein sowie international als Vice Chair des Technology Law Committee der International Bar Association. Darüber hinaus ist sie Mitherausgeberin der Fachzeitschrift ZdiW – Zeitschrift für das Recht der digitalen Wirtschaft, unterstützt Unternehmen bei der Schulung von AI Officern und ist Co-Veranstalterin der jährlich stattfindenden interdisziplinären Konferenzen »IT Juristinnentag – das Barcamp zu Digitalisierung und Recht« sowie »Der KI-Tag«.

Inhaltsverzeichnis

Cover

Titelblatt

Impressum

Über die Autorinnen

Inhaltsverzeichnis

Einführung

Über dieses Buch

Törichte Annahmen über den Leser

Konventionen in diesem Buch

Was Sie nicht lesen müssen

Wie dieses Buch aufgebaut ist

Symbole, die in diesem Buch verwendet werden

Wie es weitergeht

Teil I: Ihr Einstieg ins »KI-Recht«

Kapitel 1: When KI meets Recht

Das »KI-Recht«

Risiken – was soll schon passieren …?

Kapitel 2: Die vielen Gesichter der »künstlichen Intelligenz«

Künstliche Intelligenz – Wer bist du und wenn ja, wie viele?

Rechtliche Aspekte im Umgang mit KI

Teil II: »How to comply with AI?« – der Deep Dive ins Recht

Kapitel 3: Datenschutzrecht

Wann das EU-Datenschutzrecht gilt

Large Language Models und der Datenschutz

Akteure des Datenschutzes

Verbot mit Erlaubnisvorbehalt

Erlaubnistatbestände für die Datenverarbeitung nach DSGVO

Drittstaatentransfer

Angemessene Datensicherheit

Checkliste Datenschutz: KI im Unternehmen

Kapitel 4: Geistiges Eigentum

Wann besteht urheberrechtlicher Schutz?

Verletzt das Training von KI mit geschützten Inhalten Urheberrechte?

Der Input und das Urheberrecht

Der Output und das Urheberrecht

Gesetz versus Vertrag (AGB, Lizenzen)

Kapitel 5: Haftung: Wenn die KI übers Ziel hinausschießt

Haftung von Unternehmen

Beispiel Chatbots gone wild

Von KI-Assistenten zu KI-Agenten – ein Blick in die (gar nicht so ferne) Zukunft

Haftung von Unternehmern – warum KI Chefsache ist

Kapitel 6: Sonstige Rechtsgebiete

Topsecret: Geheimnisschutz

Schutz vor Hackern: Das Cybersicherheitsrecht

Integrität bewahren: Das Persönlichkeitsrecht

Kennzeichnungspflicht: Der Medienstaatsvertrag

KI am Arbeitsplatz: Arbeitsrecht

Diskriminierung vermeiden: Gleichbehandlung

Unlauter? Das Wettbewerbsrecht

Kapitel 7: Spezielles KI-Recht: Überblick über die KI-Verordnung

Ziele der KI-VO: Warum noch eine EU-Verordnung?

Anwendungsbereich der KI-Verordnung

Ausnahmen vom Anwendungsbereich

Keine Ausnahmen für KMUs und Start-ups – oder etwa doch?

Zeitlicher Geltungsbeginn

Durchsetzung

Umsetzungshilfen

Kapitel 8: Vorgaben aus der KI-Verordnung

Akteure – wer bin ich und wenn ja, wie viele?

Übersicht: Die Risikoklassen

KI-Kompetenz – Brauchen Sie einen KI-Beauftragten?

Checkliste: Die wichtigsten Pflichten aus dem AI Act

Kapitel 9: Ran an die Verträge

KI-Anwendungen beschaffen

Verträge mit Kunden

Teil III: KI-Governance – KI rechtssicher im Unternehmen umsetzen

Kapitel 10: KI-Governance: Compliance und Co

Positionierung des Unternehmens

Strukturen innerhalb des Unternehmens

Prozesse

Kosten und Ressourcen

Hilfe bei der KI-Governance für KMUs und Start-ups – das KI-Service Desk der Bundesnetzagentur

Rechtliches Regelwerk

Kapitel 11: KI-Richtlinie: Der Umgang Ihres Unternehmens mit künstlicher Intelligenz

Inhalte einer KI-Richtlinie

Muster für eine interne KI-Richtlinie Ihres Unternehmens

Teil IV: Der Top-Ten-Teil

Kapitel 12: Zehn Ideen, wie Sie KI im Unternehmen einsetzen können

Content-Erstellung

Chatbots und virtuelle Assistenten

Intelligente Dokumentenanalyse und Suche

Übersetzungen und Sprachverarbeitung

Code-Generierung und -Review

Predictive Maintenance beziehungsweise Forecasting

Automatisierte Bilderkennung

Content-Kuration und -Empfehlung

E-Mail-Management

HR

Kapitel 13: Zehn No-Gos bei der KI-Nutzung im Unternehmen

Freie Auswahl! … und mehr Risiko, wenn KI-Anwendungen frei nutzbar sind

Wen juckt's … wenn niemand verantwortlich ist?

Die guten ins Töpfchen, die schlechten ins Kröpfchen: Training mit schlechten Daten

Das geht doch eben schnell, oder? … Wenn Compliance und Datenschutz zu spät einbezogen werden

Das geht doch auch einfach: Risiken bei fehlender Abstimmung über den Einsatz von KI

Wenn die KI übernimmt: Es gilt, was der Chatbot sagt

Leadgenerierung auf die schnelle Art: Risiko bei KI-Werbung

Risiko Transparenz über Mitarbeitende: Was wäre, wenn …

… und Tschüss! Risiko bei KI-generierten Schreiben

Aber bitte mit Sahne … nur nicht bei verspäteter Einbindung des Betriebsrats

Kapitel 14: Zehn Q&A zu praktischen Fragen der KI-Verordnung

Ab wann bin ich KI-Betreiber?

Ich werde doch nicht zum Anbieter, nur weil ich meinen Unternehmensnamen drauf mache, oder?

Wie viel darf ich an einem KI-System ändern, bis ich vom Nutzer zum Anbieter werde?

Muss ich jetzt alle KI-generierten Inhalte kennzeichnen oder ist das nicht eh allen klar?

Hochriskant? Ich habe doch einen »Human in the Loop«!

Ist für die Einstufung als KI-System relevant, wie groß der KI-Anteil der Software ist?

KI-Modell oder KI-System

KI in Produkten

Was gilt für KI von Drittanbietern?

Was ist mit Open-Source-KI?

Kapitel 15: Zehn Dinge, die Sie über KI-Kompetenz in Unternehmen wissen sollten

Was ist KI-Kompetenz?

Ist KI-Kompetenz jetzt Pflicht?

Wer muss KI-Kompetenz haben?

Müssen Unternehmen einen »AI Officer« oder KI-Beauftragten benennen?

Muss ein AI-Governance-Board eingerichtet werden?

Ist die KI-Schulung Pflicht?

Welche Schulung brauchen Ihre Mitarbeitenden?

Müssen Sie Schulungen dokumentieren?

Ab wann müssen Unternehmen ein KI-Kompetenzprogramm eingerichtet haben?

Was passiert, wenn Sie nicht schulen?

Literaturverzeichnis

Abbildungsverzeichnis

Stichwortverzeichnis

End User License Agreement

Tabellenverzeichnis

Kapitel 2

Tabelle 2.1: Juristisch relevante Unterschiede von KI-Systemen

Kapitel 3

Tabelle 3.1: Personenbezogene Daten in LLMs

Tabelle 3.2: Datenschutzrechtliche Rollen und Pflichten

Tabelle 3.3: Checkliste Datenschutz: KI im Unternehmen

Kapitel 5

Tabelle 5.1: Übersicht Compliance-Verantwortung und Haftung der Geschäftsleitung

Kapitel 7

Tabelle 7.1: Übersicht KI-Modell versus KI-System und allgemeiner versus spezifis...

Tabelle 7.2: Übersicht Umsetzungshilfen

Kapitel 8

Tabelle 8.1: Übersicht Risikoklasse und Folgen der Einstufung

Tabelle 8.2: Übersicht Transparenz- und Kennzeichnungspflichten

Kapitel 9

Tabelle 9.1: Vor- und Nachteile von Standard-KI und individueller KI

Illustrationsverzeichnis

Kapitel 2

Abbildung 2.1: Hierarchische Darstellung von KI-Systemen

Kapitel 3

Abbildung 3.1: Allgemeiner Lebenszyklus von KI-Systemen

Kapitel 4

Abbildung 4.1: »Selfie« des Schopfmakaken Naruto genießt keinen urheberrechtliche...

Abbildung 4.2: LG Bielefeld: Kein Urheberrecht mangels hinreichend ...

Abbildung 4.3: OLG Hamburg: »Wir sind Papst« ausreichend individuell und daher ur...

Abbildung 4.4: LG München: Zitat von Karl Valentin: ausreichend individuell und g...

Abbildung 4.5: Bildgenerierung durch ChatGPT unter Einfügung fremde...

Abbildung 4.6: »Théâtre D'opéra Spatial«, Jason Michael Allen

Kapitel 5

Abbildung 5.1: Screenshots aus einem Chat zwischen Chatbot und Nutzer

Abbildung 5.2: Screenshot von einem Onlineartikel über das Gerichtsurteil

Abbildung 5.3: Screenshots des Chats zwischen dem Chatbot eines Autohändlers und ...

Kapitel 7

Abbildung 7.1: KI-Verordnung – Schutztrias

Abbildung 7.2: Was ist KI? Abwägung KI versus smarte Software

Abbildung 7.3: Verhältnis von KI-Modell und KI-System

Abbildung 7.4: KI-Verordnung Geltungsbeginn

Kapitel 8

Abbildung 8.1: Risikoklassen der KI-Systeme

Abbildung 8.2: McDonald's – Emotionenerkennung durch KI

Abbildung 8.3: China – Überwachung durch KI im Klassenzimmer

Abbildung 8.4: USA – Gefühlserkennung durch KI bei der Einreise

Kapitel 10

Abbildung 10.1: Zentrale KI-Governance-Struktur

Abbildung 10.2: Dezentrale KI-Governance-Struktur

Abbildung 10.3: Hybride KI-Governance-Struktur

Orientierungspunkte

Cover

Titelblatt

Impressum

Über die Autorinnen

Inhaltsverzeichnis

Einführung

Fangen Sie an zu lesen

Literaturverzeichnis

Abbildungsverzeichnis

Stichwortverzeichnis

End User License Agreement

Seitenliste

1

2

3

4

5

6

9

10

11

12

21

22

23

24

25

26

27

28

29

30

31

32

33

34

35

37

38

39

40

41

42

43

44

45

46

47

48

49

50

51

52

53

54

55

56

57

58

59

60

61

62

63

64

65

66

67

68

69

70

71

72

73

74

75

76

77

78

79

80

81

82

83

84

85

86

87

89

90

91

92

93

94

95

96

97

98

99

100

101

103

104

105

106

107

108

109

110

111

112

113

114

115

116

117

118

119

120

121

122

123

124

125

126

127

128

129

130

131

132

133

134

135

136

137

138

139

140

141

142

143

144

145

146

147

148

149

150

151

152

153

154

155

156

157

158

159

160

161

162

163

164

165

166

167

168

169

170

171

172

173

174

175

176

177

178

179

180

181

182

183

184

185

186

187

188

189

190

191

192

193

194

195

196

197

198

199

201

202

203

204

205

206

207

208

209

210

211

212

213

214

215

216

217

218

219

220

221

222

223

224

225

226

227

228

229

231

232

233

234

235

236

237

238

239

240

241

243

244

245

246

247

248

249

251

252

253

254

255

256

257

258

259

260

261

262

263

265

266

267

268

269

271

272

273

274

275

Einführung

Künstliche Intelligenz – oder kurz KI – verändert unsere Welt in einem rasanten Tempo und hat dabei schon in fast jedem Alltagsbereich Einzug gefunden. Durch KI entstehen Chancen und Innovationspotenziale – es sind damit aber auch Risiken und Rechtsunsicherheiten verbunden.

Der Einsatz von KI-Systemen im Unternehmen ist kein Zukunftsszenario oder Nischenthema mehr. KI wird in Unternehmen immer häufiger eingesetzt:

Unternehmen implementieren Copilot von Microsoft 365, ChatGPT von OpenAI oder vergleichbare Tools, um ihre Mitarbeitenden effektiver arbeiten zu lassen.

KI optimiert personalisierte Werbung, für die das Nutzerverhalten analysiert und dann potenziell interessante Angebote in Echtzeit ausgespielt werden.

Im Kundenservice automatisieren KI-gestützte Chatbots einfache Tätigkeiten schon beinahe vollständig oder leisten umfassende Beratung von potenziellen Kunden auf der Website des Onlineshops.

KI-basierte Software sammelt Daten in Produktionsstätten, analysieren diese und optimiert selbstständig Herstellungsprozesse.

Der AI Index 2025 der Standford University gibt an, dass 2024 bereits bei 78 Prozent der Befragten in den jeweiligen Unternehmen KI zum Einsatz kam – Tendenz steigend. Zum Vergleich: 2023 waren es noch nur rund 55 Prozent.

Über dieses Buch

Um die Vorteile von KI für Ihr Unternehmen zu nutzen, ohne unnötige Risiken einzugehen, müssen Sie die Rechtsvorgaben kennen. Nur so vermeiden Sie Haftungs- und Bußgeldrisiken und sichern ab, dass Sie die Innovationspotenziale von KI auch voll ausschöpfen können.

Aber wie ist denn nun der Einsatz von KI gesetzlich geregelt? Genau das bringen wir Ihnen in diesem Buch näher. Wir beleuchten umfassend die rechtlichen Rahmenbedingungen für die Entwicklung und Nutzung von KI und gehen Fragen nach wie:

Was darf KI?

Wer ist verantwortlich, wenn etwas schiefläuft?

Was gilt es zu beachten, wenn Sie (personenbezogene) Daten in eine KI eingeben?

Wie gestalten Sie Verträge für die Beschaffung und Vermarktung von KI?

Und was braucht ein Unternehmen an Governance und Richtlinien, um den rechtskonformen Einsatz von KI umfassend abzusichern.

Schon vorab lässt sich sagen: So wenig, wie es »die KI« gibt, gibt es auch ein »KI-Gesetzbuch«. KI hat viele Facetten, von Sprachassistenten über Bilderkennung bis hin zu medizinischer Diagnostik. Und auch das KI-Recht ist umfangreich, beginnt mit der KI-Verordnung und reicht über das Datenschutz- und Urheberrecht bis zum klassischen Zivilrecht.

Das Recht ist technologieneutral gestaltet. Und dennoch gibt es viele Besonderheiten und typische Herausforderungen beim Einsatz von KI. Die KI-Verordnung der EU bringt eine fundamentale Risikoregulierung (keine Sorge, was das ist, erklären wir Ihnen später ausführlich). Was Sie in Sachen Datenschutz-, Urheberrecht oder Vertragsgestaltung beachten müssen, gibt sie Ihnen nicht vor. Dafür müssen Sie in andere Rechtsakte schauen, die wir Ihnen ebenfalls in den folgenden Kapiteln im Einzelnen erklären.

Kurzum: Bei KI und Recht blicken Sie zunächst einmal in einen »Rechtsdschungel«. Mit diesem Buch aber navigieren wir Sie so durch das Paragraphendickicht, dass Sie den Wald nicht vor lauter Bäumen aus dem Blick verlieren. Damit können Sie dann mit (hoffentlich) kühlem Kopf die KI-Entwicklung und KI-Nutzung in Ihrem Unternehmen rechtssicher gestalten.

Unser Ziel mit diesem Buch ist es, Ihnen das Thema KI und Recht verständlich, praxisnah und unterhaltsam zu vermitteln – ganz im Stil der … für Dummies-Reihe. Dabei werden wir Ihnen einen Überblick geben, welche Rahmenbedingungen gelten und was das für Sie bedeutet. Um die abstrakte Thematik handfester und praxisnaher zu gestalten, arbeiten wir uns immer anhand von konkreten Beispielen durch die verschiedenen Rechtsgebiete.

Bereit? Dann lassen Sie uns gemeinsam in die Welt von Recht und KI starten.

Da dieses Buch von KI und Recht handelt, werden wir an einigen Stellen nicht darum herumkommen, uns juristische Definitionen genauer anzuschauen und in die Systematik und Anforderungen der verschiedenen Rechtsgebiete einzutauchen. Keine Sorge: Wir reduzieren die Fachtermini auf ein Minimum und erklären Ihnen diese immer mit Praxisbeispielen. Sie brauchen für dieses Buch weder rechtliche Vorkenntnisse, noch wollen wir Sie zu Juristinnen und Juristen machen. Aber Sie werden das Buch nach der Lektüre (hoffentlich) mit einem rechtlichen Grundverständnis und der Gewissheit zuklappen, dass KI auch aus rechtlicher Sicht »machbar« ist.

Auch die Technik kommt in diesem Buch nicht zu kurz: Um uns gemeinsam die Rechtsanforderungen zu erarbeiten, müssen wir uns die Arbeitsweise von KI näher anschauen. Das ist bisweilen herausfordernd. Auch hier werden wir Sie mitnehmen, egal mit welchen Vorkenntnissen Sie in dieses Buch eintauchen. Oft geht es dabei um Hintergründe, die für Sie nur bei einem vertieften Interesse relevant sind. Dann finden Sie diese Ausführungen in Passagen, die Sie auch getrost auslassen können, denn Sie werden dann zwar die ein oder andere Vertiefung auslassen, aber den Zusammenhang dennoch verstehen.

Das vorliegende Buch soll Ihnen – wie bei der … für Dummies-Reihe üblich – als Grundlagenbuch dienen. Der Fokus dieses Buches liegt darauf, Ihnen einen Überblick und einen ersten rechtlichen Einblick darüber zu geben, wie KI rechtlich geregelt ist und in welchen Rechtsgebieten KI besondere Aufmerksamkeit genießt. Sie lernen, was Sie für einen rechtssicheren Einsatz im Blick haben müssen. Erfahrene … für Dummies-Leser wissen, es kann durchaus auch anspruchsvoll werden. Dafür werden Sie mit allen notwendigen Instrumenten ausgestattet, um KI auch in Ihrem Unternehmen zum Erfolg zu führen!

In diesem Sinne – viel Spaß und Neugier beim Lesen!

Törichte Annahmen über den Leser

Jede und jeder von Ihnen ist in diesem Buch herzlich willkommen. Wir freuen uns über Ihr Interesse! Vorkenntnisse benötigen Sie nicht. Nicht über künstliche Intelligenz und erst recht nicht im Recht. Wir nehmen Sie an die Hand und begleiten Sie auf Ihrem Weg zum rechtssicheren KI-Einsatz.

Dieses Buch ist daher für alle geeignet, die sich für den rechtssicheren Einsatz künstlicher Intelligenz im beruflichen Umfeld interessieren. Sie werden auf den folgenden Seiten viel finden, was Sie in der Praxis für die kommerziell erfolgreiche Nutzung von KI benötigen, vom Arbeitsrecht über das Urheberrecht bis hin zur Vertragsgestaltung. Egal, ob Sie Gründer, gestandener Gesellschafter eines etablierten Unternehmens, Juristin, Entwicklerin oder Marketingfreak sind – wann immer Sie Ihre KI-Anwendungsfälle sicher gestalten möchten, sind Sie hier genau richtig!

Konventionen in diesem Buch

Wir freuen uns, dass Sie dieses Buch zur Hand genommen haben – egal ob weiblich, männlich oder divers. Damit sich alle unsere Leserinnen und Leser angesprochen fühlen und dennoch im Lesefluss nicht gestört werden, haben wir uns gegen ein Gendern mit *, : oder der stetigen Wiederholung aller möglichen Formen entschieden. Stattdessen kommen in unserem Buch Entwicklerinnen genauso vor wie Geschäftsführer oder Mitarbeitende. Denn die Welt der künstlichen Intelligenz ist – zum Glück – nicht nur interdisziplinär, sondern auch bunt und divers. Bitte fühlen Sie sich immer direkt angesprochen, selbst dann, wenn die konkrete Form einmal nicht passt – es sind ausdrücklich immer alle mitgemeint.

Was Sie nicht lesen müssen

Dieses Buch besteht aus mehreren Teilen und Kapiteln. Die Kapitel stehen zwar oftmals im Zusammenhang miteinander, Sie können sie jedoch auch einzeln lesen. Immer dann, wenn Sie für eine Vertiefung einen anderen Abschnitt benötigen, verweisen wir Sie ganz konkret dorthin. Sie können also in jedem Kapitel in dieses Buch einsteigen. Wenn Sie die Rechtsvorgaben für KI insgesamt verstehen möchten, sollten Sie sich aber mit allen Kapiteln beschäftigen.

Wie dieses Buch aufgebaut ist

Das Buch besteht aus vier Teilen, die wiederum in zahlreiche Kapitel unterteilt sind. Sie können alle Teile und sogar fast alle Kapitel separat lesen. An manchen Stellen kann es jedoch sein, dass Sie einmal zurückblättern müssen, um das Thema insgesamt zu verstehen. Dann verweisen wir Sie auch ganz konkret in die weiteren relevanten Kapitel.

Teil I: Ihr Einstieg ins »KI-Recht«

KI ist keine Zukunftsversion mehr, sondern vielmehr fester Bestandteil unseres Alltags geworden. KI-Systeme übernehmen immer mehr Aufgaben – ob Sprachassistent, Bilderkennung oder Textgenerierung. Dabei stellt sich zwangsläufig die Frage: Wie passt das eigentlich mit geltendem Recht zusammen?

Teil I dieses Buches führt in das »KI-Recht« ein – wir schauen uns also das Zusammenspiel von KI und Recht an.

In Kapitel 1 zeigen wir Ihnen einen ersten Überblick über die wichtigsten rechtlichen Rahmenbedingungen. Im ersten Schritt gehen wir dabei auf die KI-Verordnung ein und erörtern, warum es trotzdem noch kein eigenständiges »KI-Gesetzbuch« gibt, das alles regelt. Sie erfahren, in welche Rechtsbereiche Sie darüber hinaus noch schauen müssen, um KI rechtssicher und erfolgreich zu nutzen.

In Kapitel 2 gehen wir dann der Frage nach, was »KI« überhaupt ist. Sie lernen verschiedene Arten, Definitionen und Facetten der KI – von GenAI bis zu LLMs – kennen und verstehen, warum diese Unterscheidungen nicht nur technisch, sondern auch rechtlich bedeutsam sind.

Teil II: »How to comply with AI?« – der Deep Dive ins Recht

In Teil II dieses Buches tauchen Sie dann so richtig in die rechtlichen Rahmenbedingungen ein. Nach grundlegender Einführung in die Welt der KI und deren allgemeiner rechtlicher Einordnung vertiefen wir hier die zentralen Rechtsgebiete. Sie verstehen den Anwendungsbereich, die einzelnen Anforderungen und bekommen Checklisten, worauf Sie für Ihre KI achten müssen. Diese Kapitel geben Ihnen einen praxisnahen Überblick über die wichtigsten Grundlagen und aktuellen Entwicklungen.

In Kapitel 3 bis 6 geht es um die Anforderungen des Datenschutzes und des Urheberrechts, wir klären Haftungsfragen und beleuchten sonstige relevante Rechtsgebiete.

Kapitel 7 und 8 widmen sich dann ganz der KI-Verordnung. Was regelt sie, wann müssen Sie die KI-Verordnung beachten und was bedeuten die Vorgaben genau für Ihre KI?

Wenn Sie KI in Ihrem Unternehmen nutzen, werden Sie nicht umhinkommen, Verträge über die Beschaffung oder auch Vermarktung von KI zu schließen. Worauf Sie dabei achten müssen, erläutern wir Ihnen in Kapitel 9.

Teil III: KI-Governance – KI rechtssicher im Unternehmen umsetzen

Sie sehen: KI führt zu umfassenden Rechtsanforderungen, die im Unternehmen umgesetzt werden müssen, und zwar nicht nur von der IT-Abteilung. KI berührt fast alle Bereiche im Unternehmen, vom Einkauf über Compliance, IT und Datenschutz bis hin zum Vertrieb, Personal und Marketing. Damit alle wissen, was zu tun ist, bedarf es einer umfassenden Struktur und klarer Verantwortungen. Wie es gelingt, dafür eine passende KI-Governance mit den richtigen KI-Richtlinien zu implementieren, vertiefen wir in Teil III.

In diesem Teil finden Sie ganz konkrete Tipps, wie Sie die Umsetzung der rechtlichen Anforderungen an KI auch in Ihrem Unternehmen Wirklichkeit werden lassen. Kapitel 10 beschäftigt sich mit der passenden KI-Governance und in Kapitel 11 lernen Sie, wie Sie eine KI-Richtlinie für Ihr Unternehmen schreiben. Hier finden Sie auch ein Muster für eine KI-Richtlinie, auf dem Sie Ihre eigene KI-Richtlinie aufsetzen können.

Teil IV: Der Top-Ten-Teil

Den Abschluss bildet der Top-Ten-Teil. In diesem Teil erhalten Sie – ganz im Stil der … für Dummies-Reihe – wertvolle Tipps und Übersichten zum Thema KI. Wir zeigen Ihnen zehn typische KI-Anwendungen im Unternehmen, die womöglich auch für Sie interessant sind. Damit Sie dabei auch erfolgreich sind, folgen zehn No-Gos bei der KI-Nutzung im Unternehmen und die Top Ten der Q&A zu praktischen Fragen der KI-VO. Am Ende klären wir die zehn wichtigsten Fragen dazu, was KI-Kompetenz bedeutet und wie Sie diese in Ihrem Unternehmen umsetzen können.

Symbole, die in diesem Buch verwendet werden

Wie in allen … für Dummies-Büchern enthält auch dieses Symbole, damit Sie sich schnell im Text orientieren können:

Bei diesem Symbol ist besondere Aufmerksamkeit geboten!

Wenn dieses Symbol verwendet wird, weisen wir Sie auf besondere Risiken hin – lesen Sie die entsprechenden Texte daher besonders aufmerksam!

An dieser Stelle finden Sie konkrete Beispiele.

Dieses Symbol kennzeichnet einen Tipp.

Wichtige Begriffe werden hier noch einmal kurz und bündig erklärt.

Bei diesem Symbol werden Sie noch mal an bereits Erklärtes erinnert und gegebenenfalls verwiesen.

Dieses Symbol wird verwendet, wenn wir in einen kleinen Exkurs machen – zum Beispiel um zu erklären, wie etwas funktioniert oder um aus einem Urteil zu berichten.

Unter diesem Symbol finden Sie hilfreiche Orientierung und unterstützende Wegweiser.

Wie es weitergeht

Jetzt haben Sie es schon vom Inhaltsverzeichnis über die Einleitung bis hierher geschafft. Wir freuen uns, wenn wir Ihr Interesse geweckt haben und wenn Sie nun Lust und Zeit haben weiterzulesen. Zudem hoffen wir, dass Ihnen dieses Buch als Wegbegleiter in Zukunft beiseitesteht, wenn Fragen zu KI und Recht aufkommen.

Falls Sie uns Feedback zu dem Buch zukommen lassen wollen, melden Sie sich gern. Wir sind für jeden Verbesserungsvorschlag dankbar. Aber jetzt wünschen wir Ihnen erst einmal viel Freude und neue Erkenntnisse beim Lesen. Wir sind sicher: Wenn Sie KI rechtskonform einsetzen, werden Sie Risiken vermeiden und die Chancen von KI nutzen können!

Teil I

Ihr Einstieg ins »KI-Recht«

IN DIESEM TEIL …

»Aller Anfang ist schwer«, denken Sie vielleicht – gerade wenn es um juristische Themen geht. Vielleicht ist es Ihnen bisher sogar ganz gut gelungen, einen großen Bogen ums Recht zu machen. Dabei ist das gar nicht nötig!

Was uns schwerfällt, ist meist das, was wir (noch) nicht verstehen. Und genau da setzen wir an: Recht muss nicht kompliziert sein – zumindest nicht in diesem Buch.

In Teil I machen wir Ihnen den Einstieg leicht:

Kapitel 1 zeigt Ihnen, welche Fragen rund um »KI und Recht« wirklich wichtig sind – und warum.

In Kapitel 2 räumen wir mit Buzzwords auf und schaffen ein gemeinsames Verständnis dafür, was künstliche Intelligenz überhaupt ist – und wo das Recht dabei ins Spiel kommt.

Kapitel 1

When KI meets Recht

IN DIESEM KAPITEL

Warum KI (auch) ein Rechtsthema istWelches Recht für KI giltWarum eine KI-Verordnung nicht ausreichtWarum Sie sich mit dem Recht auseinandersetzen sollten

Künstliche Intelligenz unterstützt vermutlich auch Sie bereits in Ihrem Alltag – privat, um die Geburtstagsrede für Oma Erika zu verfassen, oder beruflich, um sich bei der Erstellung einer Präsentation unterstützen zu lassen. Unzählige KI-Anwendungen sind frei verfügbar, die Ergebnisse werden immer besser und damit die Anwendungsfälle immer umfassender. Das Innovationspotenzial durch KI ist enorm. Aber mit der zunehmenden Verbreitung wachsen auch die Risiken von KI. Dies sind zum einen die Folgen unkontrollierbarer Entwicklungen – Sie haben bestimmt schon einmal von der »KI als Black Box« gehört. So richtig verstehen wir nicht, auf welchem Weg KI-Anwendungen zu ihren Ergebnissen kommen und warum sie sich wie weiterentwickeln. Damit eng verbunden sind zudem Risiken für unsere Demokratie, unsere Gesellschaft, unsere Menschenrechte und unsere Grundrechte. Solche Risiken entstehen durch den möglichen gezielten Missbrauch von KI-Anwendungen, etwa durch Cyberkriminelle oder für die Meinungsmache. Sie entstehen aber auch ungewollt, etwa weil KI nicht ausreichend trainiert wurde, um Diskriminierungen zu vermeiden.

Wenn Sie KI erfolgreich in Ihrem Arbeitsalltag nutzen beziehungsweise sicher in Ihrem Unternehmen einsetzen möchten, sollten Sie in der Lage sein, die mit KI verbundenen Chancen und Innovationspotenziale zu heben und gleichzeitig die damit verbundenen Risiken zu vermeiden.

Ein wesentlicher Baustein, um dies zu erreichen, ist das Recht: Die Rechtsvorgaben für KI schützen und leiten Sie, damit Risiken vermieden werden – zu Ihren Gunsten, aber auch zugunsten Dritter, zum Beispiel Ihrer Kunden. Gleichzeitig kann uns das Recht Hilfestellungen zu praktischen Umsetzungsfragen geben (zum Beispiel der Priorisierung von Themen oder der Strukturierung von Prozessen) und der Einsatz rechtssicherer und damit vertrauenswürdiger KI hilfreiche Wettbewerbsvorteile verschaffen.

Das Recht ist daher ein elementarer Aspekt im sinnvollen und wirksamen Umgang mit KI. Dieses Buch führt Sie durch alle wesentlichen Rechtsfragen bei der Entwicklung und Nutzung von KI und unterstützt Sie dabei, die Anforderungen an Sie und Ihr Unternehmen praxisnah und effektiv umzusetzen.

Das »KI-Recht«

Wenn Sie KI-Anwendungen entwickeln oder nutzen, müssen Sie verschiedenste Rechtsvorgaben beachten. Das KI-Recht oder gar »Das KI-Gesetzbuch« gibt es nicht. Es steckt auch nicht in der KI-Verordnung (über die Sie in Kapitel 7 und 8 mehr erfahren). Sie finden rechtliche Vorgaben für KI auch in einer Vielzahl weiterer nationaler und EU-Gesetze, zum Beispiel der Datenschutz-Grundverordnung, dem Zivilrecht und sogar dem Betriebsverfassungsgesetz.

Die KI-Verordnung – kurz KI-VO – ist im August 2024 auf EU-Ebene in Kraft getreten. Als EU-Verordnung gilt sie auch unmittelbar für Ihren Umgang mit KI, wie ein nationales Gesetz. Sie ist der weltweit erste umfassende Rechtsrahmen für den Einsatz von KI. Und dennoch reguliert die KI-Verordnung den Einsatz von KI nicht erschöpfend.

Die KI-Verordnung (KI-VO) ist eine Risikoregulierung. Sie ist ein Produktsicherheitsrecht, das die spezifischen Risiken künstlicher Intelligenz minimieren will.

Unter Risikoversteht die KI-VO die Kombination eines Schadenseintrittts bei Angebot und Nutzung von KI sowie der Schwere des möglichen Schadens. Je höher der potenzielle Schaden und je wahrscheinlicher sein Eintritt, desto höher das Risiko – und desto strenger die Regulierung.

Die KI-VO reguliert die Sicherheit von KI-Systemen. Alle Maßnahmen der KI-VO sollen dafür sorgen, dass das Risiko der KI für Sie und die Gesellschaft insgesamt kontrollierbar bleibt. Zum Beispiel müssen Sie unter der KI-VO manche KI-Ergebnisse kennzeichnen und besonders dokumentieren.

Bereiche wie Datenschutz, Urheberrecht, Haftungsregelungen oder auch strafrechtliche Aspekte im Zusammenhang mit dem Einsatz von künstlicher Intelligenz werden durch die KI-VO nicht geregelt. Das muss sie auch nicht, denn dafür gibt es bereits rechtliche Vorgaben. Allerdings führt dies dazu, dass Sie beim Einsatz und der Entwicklung von KI-Anwendungen eine Vielzahl anderer allgemeiner Rechtsvorschriften beachten müssen – darunter beispielsweise

die Datenschutz-Grundverordnung (DSGVO),

das Betriebsverfassungsgesetz (BetrVG),

das Bürgerliche Gesetzbuch (BGB),

das Gesetz gegen den unlauteren Wettbewerb (UWG) oder

das Urhebergesetz (UrhG).

Das hört sich erst mal komplex und aufwendig an. Und es hilft alles nichts: Wenn Sie KI entwickeln oder nutzen wollen, müssen Sie Ihren Weg durch den Dschungel der verschiedenen rechtlichen Anforderungen finden. Aber verzweifeln Sie nicht, denn so schwierig oder umfangreich, wie es auf den ersten Blick vielleicht aussehen mag, ist es meistens gar nicht. Die folgenden Kapitel helfen Ihnen dabei, die rechtlichen Themen strukturiert, praxisnah und effektiv anzugehen.

Für Ihre Rechtsprüfung sollten Sie folgende Schritte absolvieren:

Welche Daten und Informationen werden für die KI in ihren verschiedenen Entwicklungsstufen verwendet und zu welchem Zweck?

Eine KI ist immer nur so gut wie die Daten, mit denen sie trainiert wurde. Rechtlich müssen Sie dabei absichern, dass Sie diese Daten auch verwenden dürfen. Dasselbe gilt für den Input und den Output – welche Daten dürfen in ein KI-Tool eingegeben werden und wer darf was mit dem Output anstellen? Für all diese Fragen ist insbesondere das Datenschutz- und Urheberrecht wichtig, zu dem Sie weitere Informationen in den Kapiteln 3 und 4 finden. Und denken Sie auch an den Geheimnisschutz, um Ihr Unternehmens-Know-how zu schützen. Was dahinter steckt, lesen Sie in Kapitel 6.

Welches Risiko geht mit dem Zweck oder auch mit Ihrer KI insgesamt einher? Welcher Schaden kann eintreten und wer muss dafür geradestehen?

Recht ist kein Selbstzweck. Sie müssen daher auch für Ihre KI-Anwendung immer die möglichen Folgen im Blick haben. Was das in Sachen Haftung bedeuten kann, lesen Sie in Kapitel 5.

Gibt es einen Betriebsrat, den Sie beteiligen müssen? Und dürfen Sie die Nutzung von KI eigentlich anordnen?

Welchen Spielraum Sie als Arbeitgeber haben und welche Rechte als Arbeitnehmer, lesen Sie in Kapitel 6.

Um welches KI-Modell, welches KI-System geht es?

Nur wenn Sie wissen, um welches Tool genau es geht, können Sie auch die rechtlichen Anforderungen konkretisieren. Wie Sie dies herausfinden und was das für die Entwicklung und Nutzung der KI rechtlich bedeutet, erfahren Sie in Kapitel 7.

Welche Rolle nehmen Sie ein? Nutzen Sie die KI privat oder geschäftlich? Sind Sie Anbieterin oder Betreiberin?

Von der Beantwortung dieser Frage hängt ab, welche rechtlichen Vorgaben die KI-VO konkret mit sich bringt. Wie diese Prüfung die rechtlichen Anforderungen an Ihre KI-Anwendung verändert, können Sie in Kapitel 8 vertiefen.

Für welchen Zweck wollen Sie die KI entwickeln oder einsetzen, ist es ein spezifischer oder ein allgemeiner Zweck?

Vom Zweck der KI ist abhängig, welches Risiko sie rechtlich mit sich bringt und ob Sie zum Beispiel Ihre KI öffentlich registrieren müssen. Alle wichtigen Hintergrundinformationen dazu finden Sie in Kapitel 8. Zu den unterschiedlichen Anforderungen der KI-VO an KI mit spezifischen oder allgemeinen Zwecken finden Sie in Kapitel 7 weitere Hintergründe.

Welche Verträge schließen Sie, um die KI entwickeln, anbieten oder nutzen zu können?

Mit Verträgen schaffen Sie das rechtliche Fundament und die Grundlage, damit Sie Ihr Geschäftsmodell auch langfristig erfolgreich auf die KI-Anwendung stützen können. Zu den Verträgen finden Sie alle wichtigen Informationen in Kapitel 9.

Wie stellen Sie sicher, dass Ihr Unternehmen KI »compliant« einsetzt? Wer ist dafür zuständig, für den sicheren Einsatz von KI zu sorgen?

Die rechtlichen Anforderungen werden Sie in Ihrem Unternehmen nur erfolgreich umsetzen können, wenn die Prozesse und Zuständigkeiten klar geregelt sind und wenn die, die es angeht, wissen, was zu tun ist (und was besser nicht getan werden sollte). Wie Sie dies angehen und umsetzen können, erfahren Sie in den Kapiteln 10 und 11.

Wenn Sie Antworten auf diese Fragen gefunden haben, werden Sie auch die rechtlichen Rahmenbedingungen einschätzen können. Sie können dann bestimmen, welche Rechtsanforderungen Sie genauer in den Blick nehmen müssen:

KI-VO

Die KI-VO müssen Sie für jedes beruflich angebotene oder genutzte KI-System berücksichtigen. Sie müssen für ausreichend Kompetenz im Unternehmen sorgen, wenn Sie KI beruflich verwenden – egal wie hoch das Risiko der KI ist. Und wenn Sie eine KI mit besonderem Risiko anbieten oder nutzen, bringt die KI-VO weitere Pflichten mit sich. Mehr dazu erfahren Sie in Kapitel 8.

Zivil- und IT-Recht für die Vertragsgestaltung

Wenn Sie KI anbieten oder erwerben, dann achten Sie unbedingt auf die dazugehörigen Verträge, für die das allgemeine Zivil- und IT-Recht gilt. Aber es gibt auch einige Besonderheiten für KI-Produkte, zum Beispiel was die Gewährleistung angeht. Schauen Sie deshalb sehr genau hin, was Sie in Ihrem KI-Angebot versprechen können und was Ihnen beim KI-Erwerb vom Anbieter zugesichert wird. Alles Wichtige zu KI-Verträgen lesen Sie in Kapitel 9.

Haftungsrecht

Wenn Sie KI nutzen, können Fehler geschehen. Wenn Sie die KI einsetzen, dann haften Sie für deren Fehler. Haftungserleichterungen können Sie insbesondere durch transparente Beschreibungen erreichen; was kann die KI leisten (und was nicht). Außerdem sollen Sie genau darauf achten, wie detailliert KI-Ergebnisse überprüft werden müssen, um eine angemessene Sicherheit zu erreichen. Die Details dazu lesen Sie in Kapitel 5.

Datenschutz- und Persönlichkeitsrecht

Sobald Sie in einer KI – zum Training, bei der Nutzung oder im Input – personenbezogene Daten verarbeiten, müssen Sie das Datenschutzrecht beachten. Wenn es sich um detailliertere Verarbeitungsvorgänge handelt, kann zusätzlich das Persönlichkeitsrecht der betroffenen Personen eine Rolle spielen. Das bedeutet für Sie insbesondere, dass Sie für jede dieser Verarbeitungen eine Erlaubnisgrundlage benötigen und die Datenschutzgrundsätze der DSGVO einhalten müssen. Wenn Sie KI in einer Cloud nutzen, wie das bei Standardangeboten häufig der Fall ist, benötigen Sie dafür in der Regel einen Auftragsverarbeitungsvertrag mit dem Anbieter. Mehr zu diesem Thema finden Sie in Kapitel 3.

Geschäftsgeheimnisschutz

Sobald Sie vertrauliche Daten im Training, bei der Feinjustierung oder im Input verwenden, müssen Sie auf den Erhalt des Geheimnisschutzes achten. Dies gilt auf zwei Ebenen:

Sie müssen verhindern, dass Informationen durch die Eingabe in KI-Anwendungen bekannt werden, zum Beispiel gegenüber dem KI-Tool-Anbieter. Das gilt sowohl für Informationen, die für Sie wichtig (und schutzwürdig) sind, als auch für Informationen, zu denen Sie eine Vertraulichkeitsvereinbarung (ein sogenanntes NDA –

Non-Disclosure Agreement

) abgeschlossen haben.

Sie müssen die Anforderungen des Geschäftsgeheimnisschutzgesetzes einhalten. Nur wenn Sie Informationen auch tatsächlich technisch-organisatorisch schützen, können diese nach dem Geschäftsgeheimnisschutzgesetz als Geschäftsgeheimnis gelten (und sind besonders geschützt). Diesen Schutz dürfen Sie nicht durch unachtsame Eingabe in KI-Anwendungen aufs Spiel setzen.

Details dazu finden Sie in Kapitel 6.

Urheberrecht

Urheberrechtlich geschützte Werke dürfen nur mit besonderen Rechten durch KI weiterverarbeitet werden. Die KI-Ergebnisse sind hingegen oft nicht urheberrechtlich schutzfähig, weil sie das Werk einer Maschine sind und keine persönliche geistige Schöpfung. Nur in Einzelfällen ist das anders. Wenn Sie KI mit schutzfähigen oder geschützten Werken nutzen, müssen Sie das Urheberrecht prüfen. Wie genau Sie dabei vorgehen können, erklären wir Ihnen in Kapitel 4.

Wettbewerbsrecht