KI-VO E-Book

Kristin Benedikt

• Herausgeber: C.F. Müller
• Kategorie: Fachliteratur
• Sprache: Deutsch

Veröffentlichungsjahr: 2025

Beschreibung

Der bewährte Leitfaden zur KI-VO erscheint in der dritten Auflage pünktlich zur nächsten wichtigen Umsetzungsfrist. In der neuen Auflage hat das Expertenteam die ersten wichtigen praktischen Erfahrungen mit der KI-VO aus dem ersten Jahr ihrer Geltung sowie die neuen Vorgaben und Guidelines der EU eingearbeitet. Der Praxisleitfaden zum Einsatz Künstlicher Intelligenz ermöglicht dem Rechtsanwender eine verlässliche Orientierung beim Einsatz der neuen Technik. Neben den Grundlagen in der KI-Verordnung selbst werden praxisrelevante Bereiche in den Anhängen über Hochrisiko-KI-Systeme eingeordnet und KI-Kompetenz vermittelt. Die Anwendungsfälle reichen von der biometrischen Identifizierung natürlicher Personen über Fragen der Bildung sowie des Arbeitsrechts bis hin zum Einsatz in der Justiz bezogen auf Strafverfolgung und Rechtspflege. Besonderes Augenmerk wird auf die verständliche Vermittlung der komplexen technischen Zusammenhänge beim Einsatz Künstlicher Intelligenz gelegt. Aufgezeigt werden zudem die in der unternehmerischen Praxis auftretenden Abgrenzungsfragen zum übrigen Digital- und Datenrecht der EU, vor allem der DS-GVO. Besonders relevant wird dies etwa bei den Transparenzvorschriften, beim technischen Datenschutz sowie bei der Risikofolgenabschätzung. Schließlich behandelt das Werk praxisrelevante Haftungsfragen und stellt die Durchsetzung durch das Aufsichtsregime dar.

Leseprobe

KI-Verordnung

Leitfaden für die Praxis

Herausgegeben von

Prof. Dr. Rolf Schwartmann

Prof. Dr. Tobias O. Keber

Dipl. Jur. Kai Zenner, M.Sc.

Bearbeitet von

Kristin Benedikt Richterin am Verwaltungsgericht Regensburg, Mitglied des Vorstandes der Gesellschaft für Datenschutz und Datensicherheit (GDD) e.V.

Dr. Jonas Ganter Justiziar

Dr. h.c. Marit Hansen Landesbeauftragte für Datenschutz Schleswig-Holstein

Markus Hartmann Leitender Oberstaatsanwalt bei der Generalstaatsanwaltschaft Köln und Leiter der Zentral- und Ansprechstelle Cybercrime Nordrhein-Westfalen

Dr. Clarissa Henning Persönliche Referentin des Landesbeauftragten für Datenschutz und Informationsfreiheit in Baden-Württemberg

Prof. Dr. Tobias O. Keber Landesbeauftragter für Datenschutz und Informationsfreiheit Baden-Württemberg

Prof. Dr. Martin Kessen Richter am BGH

Moritz Köhler Kölner Forschungsstelle für Medienrecht, Technische Hochschule Köln

Sascha Kremer Rechtsanwalt, Fachanwalt für IT-Recht

Sonja Kurth Ehem. Kölner Forschungsstelle für Medienrecht, Technische Hochschule Köln

Daniel Maslewski, LL.M. Referent beim Landesbeauftragten für Datenschutz und Informationsfreiheit Baden-Württemberg

Dr. Kristof Meding Gruppenleiter Computational Law, CZS Institute for Artificial Intelligence and Law an der Universität Tübingen

Dr. Robin L. Mühlenbeck Rechtsanwalt

Dr. Peter Nägele Referent beim Landesbeauftragten für Datenschutz und Informationsfreiheit Baden-Württemberg

Eva-Maria Pottkämper, LL.M. Ehem. Kölner Forschungsstelle für Medienrecht, Technische Hochschule Köln

Johannes Rembold, LL.M. Referent beim Landesbeauftragten für Datenschutz und Informationsfreiheit Baden-Württemberg

Dr. Jessica Sänger Rechtsanwältin und Syndikusanwältin, Direktorin für europäische und internationale Angelegenheiten, Börsenverein des Deutschen Buchhandels e.V.

Prof. Dr. Rolf Schwartmann Leiter der Kölner Forschungsstelle für Medienrecht an der Technischen Hochschule Köln, Vorsitzender der Gesellschaft für Datenschutz und Datensicherheit (GDD) e.V.

Dr. Anne Steinbrück Referentin beim Landesbeauftragten für Datenschutz und Informationsfreiheit Baden-Württemberg

David Wasilewski, LL.B. Wissenschaftlicher Mitarbeiter in einer internationalen Wirtschaftskanzlei

Dr. Markus Wünschelbaum Persönlicher Referent für Policy und Datenstrategie des Hamburgischen Beauftragten für Datenschutz und Informationsfreiheit

Dipl.-Jur. Kai Zenner, M.Sc. Büroleiter und Berater für Digitalpolitik des Europaabgeordneten Axel Voss

www.cfmueller.de

Impressum

Bibliografische Information der Deutschen Nationalbibliothek

Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie; detaillierte bibliografische Daten sind im Internet über <https://portal.dnb.de> abrufbar.

ISBN 978-3-8114-6772-9

E-Mail: [email protected]

Telefon: [phone]Telefax: [phone]

www.cfmueller.de

© 2026 C.F. Müller GmbH, Waldhofer Straße 100, 69123 Heidelberg

Hinweis des Verlages zum Urheberrecht und Digitalen Rechtemanagement (DRM)

Dieses Werk, einschließlich aller seiner Teile, ist urheberrechtlich geschützt. Der Verlag räumt Ihnen mit dem Kauf des e-Books das Recht ein, die Inhalte im Rahmen des geltenden Urheberrechts zu nutzen.

Jede Verwertung außerhalb der engen Grenzen des Urheberrechtsgesetzes ist ohne Zustimmung des Verlages unzulässig und strafbar. Dies gilt insbesondere für Vervielfältigungen, Übersetzungen, Mikroverfilmungen und Einspeicherung und Verarbeitung in elektronischen Systemen.

Der Verlag schützt seine e-Books vor Missbrauch des Urheberrechts durch ein digitales Rechtemanagement. Angaben zu diesem DRM finden Sie auf den Seiten der jeweiligen Anbieter.

Vorwort zur 3. Auflage

Die 3. Auflage erscheint ein gutes Jahr nach der Veröffentlichung der im September 2024 erschienenen und vergriffenen 2. Auflage und ein Dreivierteljahr nach dem Erscheinen der englischen Ausgabe im Januar 2025. Unterdessen sind die ersten Vorschriften der KI-Verordnung im Februar und im August 2025 in Kraft getreten. Die Einrichtung der zuständigen Marktaufsichtsbehörde hätte im August erfolgen müssen. Im Oktober 2025 liegt aber in Deutschland nur ein entsprechender Gesetzesentwurf vor. Auf das Gesetz konnten wir nicht warten, wohl aber Impulse für seine Verabschiedung setzen. Zudem haben wir erste Rechtsprechung und Literatur bis August 2025 berücksichtigen können sowie teilweise umfangreiche Ergänzungen vorgenommen.

Allen Autorinnen und Autoren gilt unser herzlicher Dank, ebenso wie Frau Maren Kirchhof für das gründliche Lektorat von Seiten des Verlages.

Im Sinne der besseren Orientierung im Buch haben wir uns dazu entschieden, die Nummerierung der Kapitel anzupassen und die Randnummern neu und durchgängig zu vergeben.

Köln, Stuttgart und Brüssel im Oktober 2025

Rolf Schwartmann, Tobias Keber und Kai Zenner

Vorwort

Der vorliegende Leitfaden wird faktisch zeitgleich mit dem Inkrafttreten der KI-Verordnung veröffentlicht. Dies geschah am 1. August 2024, nämlich 20 Tage nach der Veröffentlichung im Amtsblatt der Europäischen Union am 12. Juli 2024[*]. Die Anforderungen des neuen Rechts zur Regelung des Inverkehrbringens und des Betriebs von KI-Modellen und KI-Systemen treten neben vorhandene EU-Rechtsakte wie etwa das Gesetz über digitale Dienste (DSA) zum Schutz der Demokratie und die DS-GVO zum Schutz personenbezogener Daten. Zusätzlich gelten die Vorschriften des Urheberrechts und eine Fülle weiterer Rechtsakte des europäischen und mitgliedstaatlichen Rechts.

Die Komplexität des neuen Rechts beginnt bei ihrem zentralen Regelungsgegenstand, dem KI-System, das sich insbesondere durch Undurchsichtigkeit (Opazität), Unvorhersehbarkeit aber auch Autonomie und insofern mangelnde Beherrschbarkeit auszeichnet. Diese letzte, nach dem herkömmlichen Sprachsinn allein dem Menschen zugesprochene Kategorie wird von der KI-Verordnung per Definition auf besondere Software erstreckt, die im unterschiedlichen Maße in der Lage ist, sich ohne menschliches Zutun und ohne menschliche Vorhersehbarkeit oder gar Beherrschbarkeit zu verändern. Weil sich die neue Generation der KI-Systeme dabei der menschlichen Kommunikation in Wort, Schrift, Ton und Bild bedient, kann sie menschliche Kreativität nach Regeln der Wahrscheinlichkeitsrechnung simulieren. Sie ist seit der Markteinführung von ChatGPT im November 2022 in vielschichtiger Ausprägung für Menschen jeden Alters verfügbar.

Dieses Handbuch nähert sich der Einordnung dieser Technik und ihres regulatorischen Rahmens in drei Teilen. In Teil 1 geht es um Grundlagen von der zeitlichen Agenda der KI-VO über die Begriffsbestimmungen und die Abgrenzung des KI-Rechts zu benachbarten Handlungsfeldern bis zur komplexen technischen und wirtschaftlichen Einordnung der KI.

Teil 2 ist der Regulierung von KI gewidmet und in drei Kapitel unterteilt, die der beschriebenen Regelungsstruktur folgen. Es wird das neue Recht der KI auf der Ebene des EU-Rechts dargestellt. Hier liegt der deutliche Schwerpunkt des Buches. Es werden Regelungen für KI-Modelle mit allgemeinem Verwendungszweck (GPAI) auf der einen und für hochriskante KI-Systeme auf der anderen Seite anhand von Praxisbeispielen und Handreichungen eingeordnet. Ebenfalls Gegenstand dieses Kapitels sind die Pflichten und Verantwortlichkeiten bei KI generell und beim Einsatz von KI entlang der Wertschöpfungskette. Zudem werden Fragen der Standardisierung und des Testens in Reallaboren behandelt. Da die KI-VO neben bestehende Regeln tritt und den Einsatz nicht abschließend regelt, verbleibt ein Regulierungsspielraum für den nationalen Gesetzgeber, der im zweiten Kapitel dieses Teils dargelegt wird. Das komplexe Verhältnis zwischen der Regulierung nach der KI-VO und der Regulierung künstlicher Intelligenz in anderen Rechtsakten der Union sowie der Mitgliedstaaten wird im abschließenden dritten Kapitel beschrieben. Gerade für Behörden und Unternehmen, die KI-Systeme in ihre Arbeitsabläufe implementieren wollen, sind die dortigen Ausführungen zu Datenrecht, Urheberrecht, Persönlichkeitsrecht sowie Prüfungs- und Arbeitsrecht von großer Relevanz.

Teil 3 des Buches ist der Durchsetzung der KI-rechtlichen Regulierung gewidmet. Hier wird nach der Behandlung der Aufsicht über KI-Modelle und KI-Systeme auf europäischer und nationaler Ebene die Haftung im Zusammenhang mit dem Einsatz von KI-Systemen aufgezeigt. Weitere Kapitel sind der Sanktionierung von Verstößen gegen die KI-VO und der Darstellung behördlicher Anordnungen nach der DS-GVO gewidmet.

Der Leitfaden ist im Wesentlichen von Praktikern für Praktiker geschrieben und das besondere Augenmerk des Buches liegt auf der verständlichen und praxisorientierten Darstellung des neuen Rechts. Der Herausgeberkreis setzt sich aus dezidierten Vertretern einer praxis- und lösungsorientierten Wissenschaft sowie der Datenschutzaufsicht und der Perspektive des europäischen Gesetzgebers zusammen. Die Herausgeber Rolf Schwartmann und Tobias Keber haben ihre (gemeinsame) wissenschaftliche Herkunft neben dem internationalen Recht insbesondere im Medien- und Datenschutzrecht, das den Schwerpunkt ihrer Tätigkeit ausmacht. Das besondere Augenmerk beider Herausgeber liegt in der praxisorientierten Forschung. Rolf Schwartmann forscht als Leiter der Kölner Forschungsstelle für Medienrecht an der TH Köln im Bereich des Rechts der Medien-, Daten und der künstlichen Intelligenz und lehrt dazu insbesondere im dortigen Masterstudiengang Medienrecht und Medienwirtschaft. Er ist Vorsitzender der Gesellschaft für Datenschutz und Datensicherheit (GDD) e.V. und Mitglied der Datenethikkommission der Bundesregierung. Tobias Keber ist seit Juli 2023 als Landesbeauftragter für den Datenschutz und die Informationsfreiheit Baden-Württembergs Leiter einer großen nationalen Datenschutzaufsichtsbehörde und damit auch für die Aufsicht über eine Reihe bedeutender Tech-Unternehmen mit Schwerpunkt auf KI zuständig. Davor hat er bereits intensiv zum Einsatz von KI geforscht. Mitherausgeber Kai Zenner hat als Büroleiter des Europaabgeordneten Axel Voss den Entstehungsprozess der KI-VO seit 2019 begleitet und maßgeblich an den Verhandlungen des Gesetzes, insbesondere auf technischer Ebene, mitgewirkt. Er ist zudem Teil von Expertengruppen und -netzwerken auf Ebene der OECD und der Vereinten Nationen (UNO). Seine Beiträge zum Leitfaden geben seine persönliche Auffassung und nicht die des Europäischen Parlaments wieder.

Die Autorenschaft des Buches wurde mit besonderer Bedachtnahme auf die Anforderungen der Praxis an die Vermittlung der Besonderheiten des neuen Rechtsgebiets rund um KI gewählt. Es war uns wichtig, einen Kreis zusammenzustellen, der sich aus Personen aus Wissenschaft und Praxis zusammensetzt, die ihre große Expertise aus unterschiedlichen Bereichen von Recht und Technik in das nun in Normen gefasste Recht der künstlichen Intelligenz einbringen. Das Team besteht aus Autoren aus der Wissenschaft ebenso wie aus Angehörigen der Anwalt-, Richter und Staatsanwaltschaft sowie aus Vertretern der Datenschutzaufsicht und einschlägiger Verbände und Unternehmen. Es sind neben juristischen Mitwirkenden insbesondere auch mit KI befasste Techniker und Informatiker eingebunden. Rechtsprechung und Literatur sowie weitere Quellen konnten bis Anfang Juni 2024 berücksichtigt werden.

Das vorliegende Buch ist eines der ersten, das zur KI-Verordnung mit deren Inkrafttreten erscheint. Das war unser ambitioniertes Ziel. Der Band wurde im Frühjahr 2024 unter erheblichem Einsatz geschrieben, nachdem die KI-Verordnung im Februar 2024 ihre im Wesentlichen endgültige Fassung erhalten hatte. Das Buch muss und will sich an dem Anspruch messen lassen, das Recht der künstlichen Intelligenz nicht nur praxisgerecht darzustellen, sondern auch Lösungen zu entwickeln und verständlich darzubieten, die die Europäische Union zu einem sicheren und attraktiven Standort für KI zum Wohl der Menschen macht.

Allen Mitwirkenden und insbesondere auch dem Verlag C.F. Müller danken wir als Herausgeber dafür, das ambitionierte Projekt in kurzer Zeit reibungslos umgesetzt zu haben. Besonderer Dank gilt Moritz Köhler von der Kölner Forschungsstelle für Medienrecht an der TH Köln, der bei der Koordination der Beiträge viele Fäden sicher in der Hand hatte.

Wir freuen uns über Anregungen, Kritik und Lob zu diesem Buch, das wir nicht nur in folgende Auflagen dieses Buches einbringen werden, sondern auch in den Heidelberger Kommentar zur KI-VO, der Ende 2024 erscheinen soll, ebenfalls herausgegeben von

Rolf Schwartmann, Tobias Keber und Kai Zenner

Köln, Stuttgart und Brüssel im Juli 2024

Inhaltsverzeichnis

Vorwort zur 3. Auflage

Vorwort

Abkürzungsverzeichnis

Literatur (Auswahl)

1. TeilEinleitung

§ 1Status Quo

A.Ein Jahr KI-VO: Was ist passiert von August 2024 bis August 2025?1 – 5

B.Was sind die Hauptprobleme im Sommer 2025?6 – 11

C.Herausforderung KI12

§ 2KI-Fibel – Eine kleine Werkzeugkunde für eine große Technik

A.Rollen und Regeln13 – 37

I.Die Rollenverteilung im KI-Recht13 – 21

1.Anbieter und Entwickler14

2.Betreiber15 – 17

3.Anwender18

4.Sonderproblem „Schatten-KI“19

5.Private Tätigkeit unterfällt dem KI-Recht nicht20, 21

II.Regeln und Fragen für den KI-Einsatz22 – 37

1.Welche Zwecke darf man mit dem Werkzeug KI verfolgen?22 – 29

a)Verbote23, 24

b)Erlaubte, aber hochriskante Zwecke25 – 27

c)Das Allermeiste ist erlaubt28, 29

2.Braucht man das Werkzeug KI für einen der Zwecke?30 – 37

a)Welche Zwecke möchte man mit KI verfolgen?31 – 34

b)Gibt es ein entsprechendes Tool?35

c)Ist das Produkt für die ausgewählten Zwecke inhaltlich und rechtlich geeignet?36

d)Sind alle Pflichten als Betreiber und Anwender nach KI-Recht und sonstigem Recht erfüllt?37

B.Ein „einfacher“ Anwendungsfall38 – 52

2. TeilGrundlagen

§ 3Zeitliche Agenda der KI-VO

A.Überblick53

B.Geltung der Vorschriften der KI-VO54

C.Anwendbarkeit auf Altsysteme55

D.Leitlinien, Praxisleitfäden und Durchführungsrechtsakte der Kommission56

E.Handlungspflichten für die Mitgliedstaaten57

§ 4Begriffsbestimmungen

A.Künstliche Intelligenz58

B.Symbolische KI (1. Welle)59 – 62

C.Maschinelles Lernen (2. Welle)63

D.GPAI-Modelle und generative KI64

E.Zukunftsprognose (3. Welle)65

§ 5Abgrenzung zu anderen Handlungsfeldern

A.Abgrenzung zu Legal Tech und Automatisierung66

B.Abgrenzung zu Robotik67

§ 6Technische und wirtschaftliche Einordnung künstlicher Intelligenz

A.Funktionsweise von KI-Anwendungen68 – 77

B.Überblick zu Anwendungsbereichen von KI und Use Cases78 – 136

I.GPAI-Modelle und generative KI als Kopiloten78, 79

II.GPAI-Modelle und generative KI zur Bild- und Textverarbeitung80 – 82

III.Open Source und generative KI83 – 89

IV.Legal Tech und Smart Contracts90

V.KI in der Rechts-, Steuer- und Unternehmensberatung91 – 99

1.KI als eigenes Produkt, as a Service oder Integration in Beratungsleistungen91 – 94

2.Praktische Beispiele für die Nutzung von KI bei Beratungsleistungen95

3.Kurze Bewertung unter Beachtung der KI-VO96 – 99

VI.KI-Anwendungen im Sport und Gesundheitssektor100, 101

VII.KI im öffentlichen Sektor102 – 121

1.Strafverfolgung102 – 108

a)Spezifische Use Cases der Strafverfolgung104, 105

b)Allgemeine Use Cases der Strafverfolgung106 – 108

2.Bildungseinrichtungen109 – 113

a)Ausgangssituation110, 111

b)Bewertung112, 113

3.Behörden114 – 121

VIII.KI im Beschäftigungskontext122 – 127

IX.Umgehungsgefahr durch Altsysteme128 – 136

3. TeilRegulierung von KI

§ 7KI-VO

A.Entstehungsgeschichte137 – 142

B.Anwendungsbereich143 – 186

I.Sachlicher Anwendungsbereich146 – 153

1.Begriff der künstlichen Intelligenz in der KI-VO147 – 152

a)KI-System148 – 151

b)GPAI-Modelle152

2.Geschützte Rechtsgüter153

II.Persönlicher Anwendungsbereich154 – 160

1.Verpflichtete155 – 159

2.Geschützte160

III.Territorialer Anwendungsbereich161

IV.Bereichsausnahmen162 – 186

1.Freie und quelloffene Lizenz (FOSS)162 – 169

a)Genese163

b)KI-Systeme, nicht -Modelle164

c)Freie und quelloffene Lizenz (FOSS)165, 166

d)Bereitgestellt167 – 169

2.DS-GVO170, 171

3.Forschung172 – 174

4.Militär175 – 179

5.Weitere Ausnahmen180 – 186

C.Risikobasierter Ansatz187 – 631

I.Grundlagen187 – 190

II.Maßnahmen zur KI-Kompetenz (Art. 4)191 – 194

1.Die Rechtspflicht des Art. 4192

2.Erforderliche Grundkenntnisse193, 194

III.Verbotene KI-Systeme195 – 265

1.Unterschwellige Beeinflussung (Art. 5 Abs. 1 Buchst. a)195 – 203

a)Zweck und Anwendungsbereich196

b)Definition und Interpretationsspielraum197, 198

c)Voraussetzungen für das Verbot199, 200

d)Einschränkungen und zukünftige Betrachtungen201, 202

e)Beispiele aus den Leitlinien der Kommission203

2.Ausnutzen von Vulnerabilität und Schutzbedürftigkeit (Art. 5 Abs. 1 Buchst. b)204 – 209

a)Ziel und Umfang204, 205

b)Einschränkungen und Auswirkungen206

c)Beispiele aus den Leitlinien der Kommission207

d)Zukünftige Entwicklungen208, 209

3.Bewertung auf Grundlage des sozialen Verhaltens (Art. 5 Abs. 1 Buchst. c)210 – 216

a)Verbot und seine Bedingungen211

b)Ziel und Herausforderungen212

c)Spezifizierung des Verbots213

d)Anwendungsbereich und zukünftige Überlegungen214 – 216

4.Prädiktive Polizeiarbeit (Art. 5 Abs. 1 Buchst. d)217 – 226

a)Anwendungsbereich219 – 221

b)Risiken des Predictive Policing222, 223

c)Abgrenzung von der automatisierten Datenanalyse224 – 226

5.Ungezielte Sammlung und Verwendung von Gesichtsbildern (Art. 5 Abs. 1 Buchst. e)227 – 229

6.Emotionserkennungssysteme (Art. 5 Abs. 1 Buchst. f)230 – 234

7.Biometrische Kategorisierung (Art. 5 Abs. 1 Buchst. g)235 – 240

8.Biometrische Echtzeit-Fernidentifizierung (Art. 5 Abs. 1 Buchst. h)241 – 263

a)Verbot der Nutzung241 – 245

b)Die zulässigen Zwecke des Einsatzes der RBI246 – 250

aa)Suche nach Opfern von Straftaten und vermissten Personen (Art. 5 Abs. 1 UAbs. 1 Buchst. h (1) KI-VO)246

bb)Abwehr schwerwiegender Gefahren (Art. 5 Abs. 1 UAbs. 1 Buchst. h (2) KI-VO)247

cc)Aufklärung von Straftaten (Art. 5 Abs. 1 UAbs. 1 Buchst. h (3) KI-VO)248, 249

dd)Zwecke außerhalb der Strafverfolgung (Art. 5 Abs. 1 UAbs. 2 KI-VO)250

c)Weitere Anforderungen an die RBI (Art. 5 Abs. 2 KI-VO)251 – 254

aa)Situationsfolgenabschätzung (Art. 5 Abs. 2 S. 1 Buchst. a KI-VO)252

bb)Eingriffsfolgenabschätzung (Art. 5 Abs. 2 S. 1 Buchst. b KI-VO)253

cc)Geeignete Einschränkungen, Grundrechte-Folgenabschätzung und Registrierung (Art. 5 Abs. 2 S. 2 KI-VO)254

d)Vorabautorisierung der RBI durch nationale Behörden (Art. 5 Abs. 3 KI-VO)255 – 257

e)Mitteilung an Marktüberwachungsbehörde und Datenschutzbehörde (Art. 5 Abs. 4 KI-VO)258

f)Umsetzung der RBI im nationalen Recht (Art. 5 Abs. 5 KI-VO)259, 260

g)Jahresbericht der Marktüberwachungsbehörden und Datenschutzbehörden zum RBI-Einsatz (Art. 5 Abs. 6 KI-VO)261, 262

h)Jahresbericht der Kommission zum RBI-Einsatz (Art. 5 Abs. 7 KI-VO)263

9.Verhältnis zum sonstigen Unionsrecht (Art. 5 Abs. 8 KI-VO)264, 265

IV.Hochrisiko-KI-Systeme266 – 599

1.Grundlagen266 – 292

a)Klassifizierung nach Art. 6 Abs. 1268

b)Klassifizierung nach Art. 6 Abs. 2 KI-VO269 – 286

aa)Ausnahmen von der Hochrisiko-Klassifizierung (Art. 6 Abs. 3 KI-VO)270 – 283

bb)Recht der Kommission zur Änderung der relevanten Kriterien284 – 286

c)Recht der Kommission zur Änderung des Anhangs III287 – 292

2.Hochrisiko-KI-Systeme gem. Art. 6 Abs. 1 KI-VO (Anhang I)293 – 305

a)Wege zur Einstufung als Hochrisiko-KI-System gem. Art. 6 Abs. 1 KI-VO i.V.m. Anhang I296

b)Hochrisiko-KI-Systeme im Produktsicherheitsrecht297

c)Produktregulierung nach altem Rechtsrahmen298 – 300

d)Produktregulierung nach neuem Rechtsrahmen301, 302

e)Folgen einer Klassifizierung als Hochrisiko-System303

f)Zwischenfazit304, 305

3.Hochrisiko-KI-Systeme gem. Art. 6 Abs. 2 KI-VO (Anhang III)306 – 408

a)Biometrische Identifizierung, Kategorisierung und Emotionserkennung natürlicher Personen306 – 312

b)Verwaltung und Betrieb kritischer Infrastrukturen313 – 316

c)Allgemeine und berufliche Bildung317 – 342

aa)Hochrisiko-Klassifizierung nach Anhang III Nr. 3318 – 325

bb)Handreichung für Bildungseinrichtungen326 – 342

d)Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit343 – 364

aa)Sektoraler Anwendungsbereich345 – 352

bb)Erfasste Einsatzfelder353 – 360

cc)Ausnahmen von der Hochrisiko-Regulierung361 – 364

e)Zugänglichkeit und Inanspruchnahme grundlegender privater und öffentlicher Dienste und Leistungen365 – 374

aa)Zugang zu öffentlichen Unterstützungsleistungen und -diensten366, 367

bb)Kreditwürdigkeit und Kreditscore368 – 371

cc)Lebens- und Gesundheitsversicherungen372

dd)Notrufe373, 374

f)Strafverfolgung375 – 384

g)Migration, Asyl und Grenzkontrolle385 – 388

h)Rechtspflege und demokratische Prozesse389 – 408

aa)Hochrisiko-Klassifizierung nach Anhang III Nr. 8390 – 403

bb)Strukturierter Parteivortrag – ein Fall für die KI-VO?404 – 408

4.Anforderungen an Hochrisiko-KI-Systeme409 – 506

a)Einhaltung der Anforderungen an Hochrisiko-KI-Systeme (Art. 8)409 – 419

aa)Genese410

bb)Adressaten der Pflichten411

cc)Modalitäten der Einhaltung412, 413

dd)Besonderheiten für KI-Systeme i.S.v. Art. 6 Abs. 1414, 415

ee)Use Case und Konkurrenzen zu anderen Pflichten der KI-VO416 – 419

b)Riskomanagementsystem (Art. 9)420 – 439

aa)Managementsysteme zum Umgang mit Risiken421 – 423

bb)Anforderungen des Art. 9 an ein Risikomanagementsystem424 – 435

cc)Nachweis der Erfüllung des Art. 9 KI-VO436 – 439

c)Daten und Daten-Governance (Art. 10)440 – 451

aa)Regulierung der Trainings-, Validierungs- und Testdatensätze (Art. 10 Abs. 1–4 KI-VO)444 – 447

bb)Rechtsgrundlage für die Verarbeitung besonderer Kategorien personenbezogener Daten (Art. 10 Abs. 5 KI-VO)448 – 451

d)Technische Dokumentation (Art. 11 KI-VO)452 – 461

e)Aufzeichnungspflichten (Art. 12)462 – 471

aa)Protokollierungsfunktionen zur Gewährleistung der Rückverfolgbarkeit463 – 467

bb)Spezielle Protokollierungsfunktionen für biometrische Fernidentifizierungssysteme468

cc)Adressat und Aufbewahrungspflicht469

dd)Konflikt mit der richterlichen Unabhängigkeit470, 471

f)Transparenz und Bereitstellung von Informationen für die Betreiber (Art. 13)472 – 481

aa)Bedeutung der Transparenz beim Einsatz von Hochrisiko-KI-Systemen473, 474

bb)Transparenz475 – 477

cc)Betriebsanleitungen478 – 481

g)Menschliche Aufsicht (Art. 14)482 – 495

aa)Verständnis für Funktionsweise und Risiken (Art. 14 Abs. 4 Buchst. a–c)486 – 489

bb)Eingriff in den Betrieb (Art. 14 Abs. 4 Buchst. d und e KI-VO)490 – 493

cc)Verifizierung beim Einsatz biometrischer Fernidentifizierungssysteme494, 495

h)Genauigkeit, Robustheit und Cybersecurity (Art. 15 KI-VO)496 – 506

5.Pflichten im Umgang mit Hochrisiko-KI-Systemen507 – 599

a)Pflichten der Anbieter von Hochrisiko-KI-Systemen (Art. 16–22 KI-VO)508 – 547

aa)Allgemeine Pflichten der Anbieter (Art. 16 KI-VO)509 – 511

bb)Angaben zum Anbieter512

cc)Vorhandensein eines Qualitätsmanagements (Art. 17 KI-VO)513 – 517

dd)Aufbewahren der Dokumentation (Art. 18 KI-VO)518 – 522

ee)Aufbewahren der Protokolle (Art. 19 KI-VO)523 – 526

ff)Ergreifen erforderlicher Korrekturmaßnahmen und Bereitstellen erforderlichen Informationen (Art. 20 KI-VO)527 – 534

gg)Zusammenarbeit mit den zuständigen Behörden (Art. 21 KI-VO)535 – 539

hh)Sicherstellen der Barrierefreiheitsanforderungen540

ii)Benennen eines Bevollmächtigten (Art. 22 KI-VO)541 – 547

b)Pflichten der Einführer von Hochrisiko-KI-Systemen (Art. 23 KI-VO)548 – 557

aa)Überprüfungspflichten (Abs. 1, Abs. 2)549 – 551

bb)Pflichten ab dem Inverkehrbringen (Abs. 3–5)552 – 554

cc)Zusammenarbeit mit den zuständigen nationalen Behörden (Abs. 6, Abs. 7)555 – 557

c)Pflichten der Händler von Hochrisiko-KI-Systemen (Art. 24 KI-VO)558 – 564

aa)Überprüfungspflichten (Abs. 1, Abs. 2)559, 560

bb)Pflichten ab dem Bereitstellen auf dem Markt (Abs. 3–4)561 – 563

cc)Zusammenarbeit mit den zuständigen nationalen Behörden (Abs. 5, Abs. 6)564

d)Pflichten der Betreiber von Hochrisiko-KI-Systemen (Art. 26 KI-VO)565 – 591

aa)Pflichten im Zusammenhang mit der Verwendung (Abs. 1–3)566 – 569

bb)Zweckgemäße und repräsentative Eingabedaten (Abs. 4)570 – 573

cc)Überwachungspflichten (Abs. 5)574 – 576

dd)Aufbewahrungspflicht für automatisch erzeugte Protokolle (Abs. 6)577

ee)Informationspflicht für Arbeitgeber (Abs. 7)578, 579

ff)Registrierung (Abs. 8)580

gg)Durchführung der Datenschutz-Folgenabschätzung (Abs. 9)581 – 583

hh)Hochrisiko-KI-System zur nachträglichen biometrischen Fernidentifizierung (Abs. 10)584 – 589

ii)Informationspflicht gegenüber natürlichen Personen (Abs. 11)590

jj)Zusammenarbeit mit den zuständigen nationalen Behörden (Abs. 12)591

e)Grundrechte-Folgenabschätzung für Hochrisiko-KI-Systeme (Art. 27 KI-VO)592 – 599

aa)Verpflichtete zur Durchführung der Grundrechte-Folgenabschätzung (Abs. 1)593

bb)Zeitpunkt, Häufigkeit der Durchführung und Verhältnis zur Datenschutz-Folgenabschätzung (Abs. 1, Abs. 2, Abs. 4)594 – 596

cc)Gegenstand und Durchführung der Grundrechte-Folgenabschätzung (Abs. 1)597, 598

dd)Mitteilung an die Marktüberwachungsbehörde (Abs. 3, Abs. 5)599

V.KI-Systeme mit besonderen Transparenzpflichten (Art. 50 KI-VO)600 – 629

1.Zeitpunkt der Erfüllung der Transparenzpflichten (Abs. 5 Satz 1)603 – 605

2.Beachtung der geltenden Barrierefreiheitsanforderungen (Abs. 5 Satz 2)606

3.Besondere Transparenzpflichten607 – 627

a)KI-Systeme für die direkte Interaktion mit natürlichen Personen (Abs. 1)608 – 611

b)KI-Systeme zur Erzeugung synthetischer Audio-, Bild-, Video- oder Textinhalte (Abs. 2)612 – 615

c)Emotionserkennungssysteme oder System zur biometrischen Kategorisierung (Abs. 3)616 – 619

d)KI-Systeme zur Erzeugung von Deepfakes (Abs. 4 Fall 1)620 – 625

e)KI-System zur Erzeugung oder Manipulation von Texten zur Information der Öffentlichkeit (Abs. 4 Fall 2)626, 627

4.Verhältnis der besonderen Transparenzpflichten zum Gesetz über Digitale Dienste628, 629

VI.Einfache KI-Systeme (Art. 2 i.V.m. Art. 112, Art. 95)630, 631

D.Verantwortlichkeiten entlang der KI-Wertschöpfungskette632 – 678

I.Konzeptionelle Einführung: Probleme mit dem Ansatz der Kommission632 – 638

II.Der finale Ansatz nach dem Trilog im Überblick639 – 678

1.GPAI-Modelle mit systemischem Risiko (Art. 51 und 52 KI-VO) (Level 1)641 – 655

a)Genese642 – 645

b)Begriffsbestimmungen von GPAI-Modellen (Art. 3 Nr. 63–65)646

c)Klassifizierung von systemischen GPAI-Modellen (Art. 51 und 52 KI-VO)647

d)Art. 51 KI-VO: GPAI-Modelle mit systemischem Risiko648

e)Mitteilungspflicht aus Art. 52 Abs. 1 KI-VO649

f)Informations- und Dokumentationspflichten für systemische GPAI-Modelle aus Art. 53 KI-VO650

g)Spezifische Pflichten für GPAI-Modelle mit systemischem Risiko (Art. 55 KI-VO)651

h)Verhaltenskodizes (Art. 56 KI-VO)652 – 655

2.GPAI-Modelle und KI-Komponenten (Art. 53 und Art. 25 Abs. 2 KI-VO) (Level 2)656 – 663

3.Anbieter (Level 3)664 – 674

a)Definition665, 666

b)Anbieterstellung durch Maßnahmen nach Art. 25 KI-VO („Upgrade mit Folgen“)667 – 674

aa)Art. 25 Abs. 1 Buchst. a: Markenzeichen669

bb)Art. 25 Abs. 1 Buchst. b: Technische Modifikation670

cc)Art. 25 Abs. 1 Buchst. c: Zweckänderung671, 672

dd)Art. 25 Abs. 2 KI-VO: Zusammenarbeit673, 674

4.Betreiber (Level 4)675, 676

5.Betroffene Person (Level 5)677, 678

E.Harmonisierte Normen und gemeinsame Spezifikationen (Art. 40 f. KI-VO)679 – 695

I.Europäische Normung681 – 683

II.Rolle der Standardisierung in der KI-VO684 – 687

III.Harmonisierte Normen und Normungsdokumente: Art. 40 KI-VO688 – 693

IV.Gemeinsame Spezifikationen: Art. 41 KI-VO694, 695

F.Reallabore (Art. 57 f. KI-VO)696 – 719

I.Allgemeines697 – 701

II.Ziele der Reallabore702, 703

III.Durchführungsrechtsakte der Kommission704, 705

IV.Befugnis zur Weiterverarbeitung personenbezogener Daten706, 707

V.Abschlussbericht708

VI.Haftung709

VII.Testen unter Realbedingungen außerhalb von Reallaboren710 – 714

VIII.Förderung der Innovation, insbesondere bei KMU und Start-up-Unternehmen715 – 717

IX.Nationales Reallabore-Gesetz718

X.Anwendbare Regelungen für Gesundheitsforschung mit KI719

§ 8Nationale Regulierung

A.Verhältnis zwischen KI-VO und sonstigem Recht720, 721

B.Anwendungsbereich der KI-VO722

C.Öffnungsklauseln723 – 727

D.Zulässigkeit des Einsatzes von KI-Systemen728 – 730

E.Anwendungsfall: KI-Einsatz in den Medien731 – 737

I.Differenzierung nach Automatisierungsstufen732 – 735

II.Sonderproblem: Vielfaltssicherung beim KI-Einsatz in den Medien736, 737

§ 9Verhältnis zu anderen Rechtsgebieten

A.Einführung738, 739

B.Datenrecht740 – 845

I.DS-GVO740 – 809

1.Anwendungsbereich und Verantwortlichkeit740 – 752

a)Datenkategorien im Umgang mit KI-Systemen741 – 743

b)Anwendbarkeit der DS-GVO744 – 748

c)Datenschutzrechtliche Verantwortlichkeit749 – 752

2.Begriff der künstlichen Intelligenz in der DS-GVO753 – 755

3.Verbot mit Erlaubnisvorbehalt nach Art. 6 Abs. 1 und Art. 9 Abs. 1 DS-GVO756 – 769

a)Art. 6 Abs. 1 Buchst. a DS-GVO: Einwilligung757

b)Art. 6 Abs. 1 Buchst. b DS-GVO: Erfüllung eines Vertrages758, 759

c)Art. 6 Abs. 1 Buchst. c DS-GVO: Erfüllung einer rechtlichen Verpflichtung760

d)Art. 6 Abs. 1 Buchst. e DS-GVO: Öffentliches Interesse oder Öffentliche Gewalt761

e)Art. 6 Abs. 1 Buchst. f DS-GVO: Berechtigte Interessen762 – 768

f)Art. 6 Abs. 4 DS-GVO: Zweckänderung769

4.Besondere Kategorien personenbezogener Daten770 – 773

5.Verbot der automatisierten Einzelfallentscheidung gem. Art. 22 DS-GVO774 – 782

6.Transparenz- und Informationspflichten nach Art. 5 Abs. 1 Buchst. a und 12 ff. DS-GVO783 – 786

7.Technische und organisatorische Maßnahmen (Art. 24, 25, 32 DS-GVO)787 – 809

a)Anforderungen der DS-GVO789 – 797

aa)Ziel der technischen und organisatorischen Maßnahmen in der DS-GVO790 – 792

bb)Anforderungen des Art. 25 DS-GVO: Gestaltung der Verarbeitung793 – 795

cc)Anforderungen des Art. 32 DS-GVO: Sicherheit der Verarbeitung796, 797

b)Bedeutung für KI-Systeme798 – 807

aa)Allgemein798 – 800

bb)Umsetzung des Art. 25 DS-GVO in Bezug auf KI-Systeme801 – 805

cc)Umsetzung des Art. 32 DS-GVO in Bezug auf KI-Systeme806, 807

c)Leitlinien und Standards808

d)DSK Orientierungshilfe für den datenschutzkonformen Einsatz von KI-Anwendungen809

II.BDSG und Landesdatenschutzgesetze810 – 814

1.BDSG811 – 813

2.Landesdatenschutzgesetze814

III.Telekommunikations-Digital-Dienste-Datenschutz-Gesetz (TDDDG)815 – 819

IV.Data Act (DA)820 – 826

1.Allgemeine Erwägungen zwischen KI-VO und DA822, 823

2.Daten und Daten-Governance (Art. 10 KI-VO)824 – 826

V.Data Governance Act (DGA)827 – 832

1.Adressaten828, 829

2.Zentrale Inhalte der Rechtsakte830 – 832

a)KI-Verordnung: Sicherheit und Verantwortung in der KI-Nutzung830

b)Data Governance Act: Datenverfügbarkeit und -austausch831

c)Komplementäre Beziehung zwischen KI-VO und DGA832

VI.European Data Spaces833 – 845

1.European Health Data Space (EHDS)835 – 842

2.„GreenData4All“843 – 845

C.Verhältnis zu anderen europäischen Rechtsakten846 – 852

I.European Media Freedom Act (EMFA)846 – 850

II.Weitere Rechtsakte851, 852

D.Urheberrecht853 – 881

I.Die Input-Seite853 – 870

1.Urheberrechte an Trainingsdaten853 – 865

2.Pflichten für GPAI-Anbieter866 – 868

3.Prompts869, 870

II.Die Output-Seite871 – 881

1.Kein Urheberrecht der KI-Anwendung871, 872

2.Urheberrecht des Anbieters873

3.Urheberrecht des Verwenders874, 875

4.Verwandte Schutzrechte876 – 881

E.Persönlichkeitsrecht882 – 890

I.Verletzungen des Persönlichkeitsrechts durch KI-generierte Inhalte884 – 887

II.Lösungsansätze in der Entwicklung888, 889

III.Konsequenzen für Anwender890

F.Prüfungsrecht891 – 900

I.Einsatz seitens der Prüflinge892, 893

II.Einsatz seitens der Prüfer894 – 900

G.Arbeitsrecht: KI im Beschäftigungskontext901 – 947

I.Beschäftigungsspezifische KI-Verbote902 – 905

II.Arbeitgeber als Regulierungsadressaten906 – 909

III.Arbeitnehmer als KI-Betreiber910

IV.KI-Öffnungsklausel im Beschäftigungskontext911 – 939

1.Zweckrichtung912

2.Persönlicher Regelungsumfang: Beschäftigte und teilweise Solo-Selbstständige913, 914

3.Sachlicher Regelungsumfang: Anwender-Sphäre915 – 917

4.Zulässige Regelungsinstrumente918 – 924

a)Gesetze918

b)Kollektivvereinbarungen919

c)Begriff der „vorteilhafteren“ Regelung920 – 924

aa)Mehrdimensionale Regulierungsziele921 – 923

bb)Günstiger meint Vorteile, ohne Unterschreiten des Schutzniveaus924

5.Gesetzliche Regelungsspielräume925 – 935

a)Konkretisierung der Hochrisiko-Systeme nach Anhang III Nr. 4926, 927

b)Umsetzung der Plattform-Richtlinie928

c)KI-Beauftragter929

d)Betreiber-Eigenschaft des Arbeitgebers konkretisieren930

e)Stärkung der Rechte von Beschäftigten931

f)Sandboxing-Optionen und Reallabore für Betreiber im Beschäftigungskontext932

g)Grenzüberschreitender Einsatz von KI-Systemen933

h)Ausweitung von KI-Verboten934

i)Beschäftigtendatengesetz als Umsetzungsversuch935

6.Regelungsspielräume in Kollektivvereinbarungen936 – 939

a)KI-Einsatz im Konzern938

b)Konkretisierung von Vorgaben: Beteiligungs- und Informationsrechten der KI-VO939

V.Regelungskonkurrenz im Unionsrecht: Plattform-Richtlinie940

VI.Regelungskonkurrenzen im deutschen Arbeitsrecht941 – 947

4. TeilDurchsetzung

§ 10Governance

A.Einführung948 – 951

B.Übersicht der Aufsicht952 – 1007

I.Kommission (Amt für Künstliche Intelligenz, Art. 64 ff. KI-VO)952, 953

II.Europäischer Ausschuss für künstliche Intelligenz (Art. 65–66 KI-VO)954 – 956

III.Beratungsforum (Art. 67 KI-VO)957, 958

IV.Wissenschaftliches Gremium unabhängiger Sachverständiger (Art. 68–69 KI-VO)959, 960

V.Europäischer Datenschutzbeauftragter (EDPS)961

VI.Bewertung962

VII.Nationale Behörden963 – 977

1.Struktur964 – 972

a)Nationale Behörden nach der KI-VO965 – 967

b)Zuweisung an nationale Behörden968 – 972

2.Pflichten der Mitgliedstaaten973

3.Modalitäten der Aufsicht974 – 977

a)Unabhängigkeit, Unparteilichkeit und Unvoreingenommenheit974

b)Vertraulichkeit975

c)Erfahrungsaustausch976

d)Anleitung und Beratung977

VIII.Maßnahmenkatalog978 – 998

1.Marktüberwachungsbehörden979 – 990

a)Untersuchungsbefugnisse980 – 983

b)Aufsichtsrechtliche Maßnahmen bei Verstößen gegen die KI-VO984 – 986

c)Weitere Aufgaben der Marktüberwachungsbehörden987 – 990

2.Andere nationale Behörden (Art. 77 KI-VO)991

3.GPAI-Systeme und -Modelle992 – 998

IX.Notifizierungsverfahren und notifizierte Stellen999 – 1003

X.Rechtsbehelfe1004 – 1007

1.Recht auf Beschwerde bei der zuständigen Marktaufsichtsbehörde (Art. 85 KI-VO)1005

2.Recht auf Erklärung der individuellen Entscheidungsfindung (Art. 86 KI-VO)1006

3.Whistleblower-Richtlinie1007

§ 11Haftung

A.Herausforderungen1008 – 1013

B.Haftung des Herstellers1014 – 1025

I.Vertragliche Haftung1015

II.Deliktische Haftung1016 – 1025

1.Produkthaftungsgesetz1018, 1019

2.Produzentenhaftung1020, 1021

3.Haftung nach § 823 Abs. 2 BGB1022, 1023

4.Störerhaftung für falschen oder rechtswidrigen Output?1024, 1025

C.Haftung des Betreibers1026 – 1042

I.Pflicht zur menschlichen Aufgabenwahrnehmung1028, 1029

II.Prüfung KI-generierter Ergebnisse1030

III.Haftungsmodelle bei vollautomatisierter KI-Nutzung1031 – 1042

1.Sorgfaltspflichten1032 – 1038

2.Störerhaftung1039

3.Analoge Anwendung von Gefährdungshaftungstatbeständen1040

4.Einführung einer Gefährdungshaftung de lege ferenda?1041, 1042

D.Anwendungsfall: Haftung für Urheberrechtsverletzungen1043 – 1049

I.Inputs1044, 1045

II.Outputs1046 – 1049

§ 12Sanktionen und sonstige Durchsetzungsmaßnahmen

A.Einführung1050

B.Bußgelder1051 – 1062

I.Allgemeine Bedingungen1052 – 1055

II.Höhe der Geldbußen1056 – 1059

III.Besonderheiten für GPAI-Modelle und Einrichtungen der Union1060, 1061

IV.Bußgelder nach der DS-GVO1062

C.Andere Sanktionen und Durchsetzungsmaßnahmen1063

§ 13Behördliche Anordnungen nach der DS-GVO

Stichwortverzeichnis

Abkürzungsverzeichnis

a.A.

andere Ansicht

Abs.

Absatz

a.E.

am Ende

AEUV

Vertrag über die Arbeitsweise der Europäischen Union

AfP

Zeitschrift für Medien- und Kommunikationsrecht

Art.

Artikel

Aufl.

Auflage

BB

Betriebs-Berater

BDSG

Bundesdatenschutzgesetz

BGB

Bürgerliches Gesetzbuch

BGH

Bundesgerichtshof

BR-Drucks.

Bundesratsdrucksache

bspw.

beispielsweise

BT-Drucks.

Bundestagsdrucksache

Buchst.

Buchstabe

BVerfG

Bundesverfassungsgericht

bzgl.

bezüglich

bzw.

beziehungsweise

CR

Computer und Recht

DA

Data Act

DB

Der Betrieb

DGA

Data Governance Act

DRiZ

Deutsche Richterzeitung

DSA

Digital Services Act

DSB

Datenschutz-Berater

DS-GVO

Datenschutz-Grundverordnung

DSK

Datenschutzkonferenz

DSM-RL

Richtlinie EU 2019/790 des Europäischen Parlaments und des Rates über das Urheberrecht und die verwandten Schutzrechte im digitalen Binnenmarkt

DuD

Datenschutz und Datensicherheit

EDSA

Europäischer Datenschutzausschuss

EMFA

European Media Freedom Act

ErwG

Erwägungsgrund

etc.

et cetera

EU

Europäische Union

EuGH

Gerichtshof der Europäischen Union

EuR

Europarecht (Zeitschrift)

EuZW

Europäische Zeitschrift für Wirtschaftsrecht

f.

folgender

F.A.Z.

Frankfurter Allgemeine Zeitung

ff.

folgende

FOSS

freie und quelloffene Lizenz

FS

Festschrift

gem.

gemäß

GG

Grundgesetz

ggf.

gegebenenfalls

GPAI-Modell

KI-Modell mit allgemeinem Verwendungszweck

GPAI-System

KI-System mit allgemeinem Verwendungszweck

GRCh

Charta der Grundrechte der Europäischen Union

GRUR

Gewerblicher Rechtsschutz und Urheberrecht

Halbs.

Halbsatz

HmbBfDI

Der Hamburgische Beauftragte für Datenschutz und Informationsfreiheit

HR

Human Resources

Hrsg.

Herausgeber

i.E.

im Ergebnis

i.S.d.

im Sinne des/der

i.S.v.

im Sinne von

i.V.m.

in Verbindung mit

insb.

insbesondere

IT

Informationstechnik

JI-RL

Richtlinie des Europäischen Parlaments und des Rates zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten durch die zuständigen Behörden zum Zwecke der Verhütung, Ermittlung, Aufdeckung oder Verfolgung von Straftaten oder der Strafvollstreckung sowie zum freien Datenverkehr

Kap.

Kapitel

KI

Künstliche Intelligenz

KIR

Künstliche Intelligenz und Recht (Zeitschrift)

KI-VO

KI-Verordnung

KMU

Kleine und mittlere Unternehmen

K&R

Kommunikation und Recht

LfDI BW

Der Landesbeauftragte für Datenschutz und Informationssicherheit Baden-Württemberg

LTO

Legal Tribune Online

LTZ

Zeitschrift für digitale Anwendung

MedR

Medizinrecht (Zeitschrift)

ML

maschinelles Lernen

MMR

Multimedia und Recht

MüKo

Münchener Kommentar

m.w.N.

mit weiteren Nennungen/mit weiteren Nachweisen

NJW

Neue Juristische Wochenschrift

NLF

New Legislative Framework

Nr.

Nummer

NVwZ

Neue Zeitschrift für Verwaltungsrecht

NZA

Neue Zeitschrift für Arbeitsrecht

NZBau

Neue Zeitschrift für Baurecht und Vergaberecht

OECD

Organisation für wirtschaftliche Zusammenarbeit und Entwicklung

PharmR

Fachzeitschrift für das gesamte Arzneimittelrecht

RBI

Biometrische Echtzeit-Fernidentifizierung

RBÜ

Revidierte Berner Übereinkunft zum Schutz von Werken der Literatur und Kunst

RDi

Recht Digital

RDV

Recht der Datenverarbeitung

Rn.

Randnummer

S.

Satz/Seite

s.

siehe

sog.

sogenannt(e)

st. Rspr.

ständige Rechtsprechung

teilw.

teilweise

TOM

technische und organisatorische Maßnahmen

u.a.

unter anderem

UAbs.

Unterabsatz

UrhG

Urheberrechtsgesetz

Urt.

Urteil

usw.

und so weiter

UWG

Gesetz gegen den unlauteren Wettbewerb

v.

vom

v.a.

vor allem

VersR

Versicherungsrecht (Zeitschrift)

vgl.

vergleiche

VK:KIWA

Virtuelles Kompetenzzentrum KI und wissenschaftliches Arbeiten

W3C

World Wide Web Consortium

WRP

Wettbewerb in Recht und Praxis

z.B.

zum Beispiel

ZD

Zeitschrift für Datenschutz

ZfDR

Zeitschrift für Digitalisierung und Recht

ZfPC

Zeitschrift für Product Compliance

ZRP

Zeitschrift für Rechtspolitik

ZUM

Zeitschrift für Urheber- und Medienrecht

Literatur (Auswahl)

Achleitner Das Medienprivileg im European Media Freedom Act, MMR 2025, 89

Assion/Willecke Neue Regelungen zu vernetzten Produkten und Diensten: EU Data Act, MMR 2023, 805

Bai et al. Training a Helpful and Harmless Assistant with Reinforcement Learning from Human Feedback, arXiv:2204.05862 2022

Bauckhage/Föhr/Loitz/Marten Fünf Thesen zur Bedeutung von Künstlicher Intelligenz in der Wirtschaftsprüfung, DB 2023, 2065

Baumann Generative KI und Urheberrecht – Urheber und Anwender im Spannungsfeld, NJW 2023, 3673

Baumgartner/Brunnbauer/Cross Anforderungen der DS-GVO an den Einsatz von Künstlicher Intelligenz, MMR 2023, 543

Becker Der Kommissionsentwurf für eine KI-Verordnung – Gefahr für die Wissenschaftsfreiheit? Eine Analyse des KI-VOE im Licht von Art. 13 GRC, ZfDR 2023, 164

Becker/Feuerstack Der neue Entwurf des EU-Parlaments für eine KI-Verordnung, MMR 2024, 22

Becker/Toprak/Beyerer Explainable Artificial Intelligence for Interpretable Data Minimization, 2023 IEEE International Conference on Data Mining Workshops (ICDMW), 2023, 885

Bennek Synergie von Large Language Models und Knowledge Graphen im Rechtsbereich: Anwendungen, Herausforderungen und Zukunftsperspektiven, DSRITB 2023, 573

Bertelsmann Automatisch erlaubt? Fünf Anwendungsfälle algorithmischer Systeme auf dem juristischen Prüfstand, 2020

Berz/Engel/Hacker Generative KI, Datenschutz, Hassrede und Desinformation – Zur Regulierung von KI-Meinungen, ZUM 2023, 586

Binder/Egli Umgang mit Hochrisiko-KI-Systemen in der KI-VO, MMR 2024, 626

Birnbaum ChatGPT und Prüfungsrecht, NVwZ 2023, 1127

Blasek Künstliche Intelligenz in China und der EU – KI-Regulierung in unterschiedlichen Wertesystemen und Rechtskulturen, KIR 2025, 100

Bode Contesting Use of Force Norms Through Technological Practices ZaöRV 2023, 39

Bomhard/Merkle Europäische KI-Verordnung – Der aktuelle Kommissionsentwurf und praktische Auswirkungen, RDi 2021, 276

Bomhard/Siglmüller AI Act – das Trilogergebnis, RDi 2024, 45

Borges/Keil Rechtshandbuch Big Data, 2024

Botta Die Förderung innovativer KI-Systeme in der EU, ZfDR 2022, 391

Boucher Artificial Intelligence: how does it work, why does it matter, and what can we do about it?, STOA, 2020

Braegelmann Zuhilfenahme Künstlicher Intelligenz bei der Erstellung von Texten für die Universität, RDi 2024, 188

Brodowski/Hartmann/Sorge Legal Tech, KI und eine „hybride Cloud“ im Einsatz gegen Kindesmissbrauch, NJW 2023, 583

Bronner Risikoklassifizierung, Risikobewertung und Risikominimierung nach der

KI-Verordnung – Eine erste Analyse des risikobasierten Regulierungsansatzes der KI-VO, KIR 2024, 55

Brown et al. Language Models are Few-Shot Learners, arXiv:2005.14165 2020, 1

Buchholz/Kremer Deepfakes in der Unternehmenskommunikation – Teil 1: Eine Einordnung aus datenschutz- und persönlichkeitsrechtlicher Perspektive, CR 2025, 56

Buchholz/Kremer Deepfakes in der Unternehmenskommunikation – Teil 2: Eine Einordnung aus urheberrechtlicher Perspektive, CR 2025, 202

Buchholz/Kremer Deepfakes in der Unternehmenskommunikation – Teil 3: Eine Einordnung aus der Perspektive KI-spezifischer Regulatorik, CR 2025, 343

Callies/Ruffert EUV/AEUV, 6. Aufl. 2022

Chakrabarti/Kaufmann Künstliche Intelligenz im Betrieb - Neue Herausforderungen für die betriebliche Mitbestimmung?, NZA 2025, 372

Cipierre Konzepte zur Umsetzung der rollen- und kontextspezifischen Anforderungen an die KI-Kompetenz gemäß Art. 4 KI-VO, RDV 2025, 26

Cipierre Konzepte zur Umsetzung von KI-Kompetenz im Unternehmen zwischen KI-VO und DSG­VO, RDV 2024, 261

Cole/Schiedermair/Wagner Die Entfaltung von Freiheit im Rahmen des Rechts, Festschrift für Dieter Dörr zum 70. Geburtstag, 2022 (zit.: Bearbeiter in FS Dörr)

Danda Außer- und quasivertragliche Haftung von Legal Tech-Anbietern – Eine Untersuchung zu Smart Contracts sowie automatisiert erstellten Verträgen und Gutachten, LTZ 2024, 9

Däubler Die KI-Verordnung der Europäischen Union: Überblick und Konsequenzen im Arbeitsrecht, SR 2024, 110

Denga Die Nutzungsgovernance im European Health Data Space als Problem eines Immaterialgütermarkts, EuZW 2023, 25

Der Hamburgische Beauftragte für Datenschutz und Informationsreiheit Diskussionspapier: Large Language Models und personenbezogene Daten, abrufbar unter https://datenschutz-hamburg.de/fileadmin/user_upload/HmbBfDI/Datenschutz/Informationen/240715_Diskussionspapier_HmbBfDI_KI_Modelle.pdf (zuletzt abgerufen am 18.9.2025)

Dierks European Health Data Space – Anforderungen und Chancen für die pharmazeutische Industrie, PharmR 2023, 369, 370 f.

Dornis Generatives KI-Training und der TDM-Trugschluss, GRUR 2024, 1676

Dornis/Stober Urheberrecht und Training generativer KI-Modelle, 2024

Ebers/Heinze/Krügel/Steinrötter (Hrsg.) Künstliche Intelligenz und Robotik, 2020 (zit.: Ebers/Heinze/Krügel/Steinrötter/Bearbeiter § Rn. )

Ebers/Hoch/Rosenkranz/Ruschemeier/Steinrötter Der Entwurf für eine EU-KI-Verordnung: Richtige Richtung mit Optimierungsbedarf, RDi 2021, 531

Ebers/Hoch/Rosenkranz/Ruschemeier/Steinrötter The European Commission’s Proposal for an Artificial Intelligence Act – A Critical Assessment by Members of the Robotics and AI Law Society (RAILS), Multidisciplinary Scientific Journal 2021, 589

Ebert/Spiecker gen. Döhmann Der Kommissionsentwurf für eine KI-Verordnung der EU, NVwZ 2021, 1188

Ebers/Streitbörger Die Regulierung von Hochrisiko-KI-Systemen in der KI-Verordnung, RDi 2024, 393

Ebers/Quarch/Rode Auswirkungen der EU KI-VO auf den Einsatz Künstlicher Intelligenz durch Justizbehörden, LTZ 2025, 21

Ehring/Taeger Produkthaftungs- und Produktsicherheitsrecht, 2022

Eichelberger Arzthaftung beim Einsatz von KI und Robotik, ZfPC 2023, 209

Engel Generative KI, Foundation Models und KI-Modelle mit allgemeinem Verwendungszweck in der KI-VO, KIR 2024, 21

Engeler Der Konflikt zwischen Datenmarkt und Datenschutz: Eine ökonomische Kritik der Einwilligung, NJW 2022, 3398

Europäische Kommission Artificial Intelligence – Questions and Answers, abrufbar unter https://ec.europa.eu/commission/presscorner/detail/en/QANDA_21_1683 (zuletzt abgerufen am 18.9.2025)

Europäische Kommission Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz gemäß der Verordnung (EU) 2024/1689 (KI-Verordnung), C(2025) 5052 final, 29.7.2025, abrufbar unter https://ec.europa.eu/newsroom/dae/redirection/document/118661 (zuletzt abgerufen am 18.9.2025)

Europäische Kommission Leitfaden für die Umsetzung der Produktvorschriften der EU 2022 („Blue Guide“), 2022/C 247/01, 2022, abrufbar unter https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=OJ:C:2022:247:TOC (zuletzt abgerufen am 18.9.2025)

Ferreau Europas Digital- und Medienpolitik ist nicht (immer) die Lösung, sondern das Problem, K&R Editorial 11/2023

Feuerstack/Becker//Hertz Die Entwürfe des EU-Parlaments und der EU-Kommission für eine KI-Verordnung im Vergleich: Eine Bewertung mit Fokus auf Regeln zu Transparenz, Forschungsfreiheit, Manipulation und Emotionserkennung, ZfDR 2023, 433

Fischer/Jeremias/Dieterich Prüfungsrecht, 8. Aufl. 2022

Fleck AI literacy als Rechtsbegriff, Anforderungen an die KI-Kompetenz nach Art. 4 KI-VO, KIR 2024, 99

Foerste/Graf von Westphalen Produkthaftungshandbuch, 4. Aufl. 2024 (zit.: Foerste/Graf von Westphalen/Bearbeiter)

Forgó Der European Health Data Space im Kontext der MMR, MMR 2023, 3

Frank/Heine KI-Einsatz im Betrieb unter der KI-Verordnung, NZA 2023, 1281

Franzen Beschäftigtendatenschutz: Was wäre besser als der Status quo?, RDV 2014, 201

Friedewald/Roßnagel/Heesen/Krämer/Lamla Künstliche Intelligenz, Demokratie und Privatheit, Der KI-Verordnungsentwurf und biometrische Erkennung: Ein großer Wurf oder kompetenzwidrige Symbolpolitik?, 2022 (zit.: Friedewald/Roßnagel/Heesen/Krämer/Lamla/Bearbeiter)

Furch Stimmlokalisierung von Games, MMR 2024, 728

Geminn Die Regulierung Künstlicher Intelligenz, ZD 2021, 354

Gerdemann Harmonisierte Normen und ihre Bedeutung für die Zukunft der KI, MMR 2024, 614

Gerecke Social Media und Recht: Einige urheberrechtliche Gedanken zu generativen KI-Modellen, GRUR-Prax 2023, 381

Gless/Seelmann Intelligente Agenten und das Recht, 2016

Gola/Heckmann Datenschutz-Grundverordnung, Bundesdatenschutzgesetz – DS-GVO/BDSG, 3. Aufl. 2022 (zit.: Gola/Heckmann/Bearbeiter DS-GVO/BDSG, Art./§ Rn.)

Gonscherowski/Hansen/Rost Resilienz – eine neue Anforderung aus der Datenschutz-Grundverordnung, DuD 2018, 442

Götting/Lauber-Rönsberg/Rauer (Hrsg.) BeckOK Urheberrecht, 45. Ed. 2025 (zit.: BeckOK UrhR/Bearbeiter § Rn. )

Götz Rechtsdurchsetzung von „meldenden Personen“ gegenüber Online-Plattformen nach dem DSA — Zur abschließenden Regelung der Rechtsbehelfe durch den DAS, CR 2023, 450

Graf/van Hövell/Stoppe Künstliche Intelligenz in der Medizin. Datenschutz und Haftungsfragen in der Schnittstelle zwischen KI-VO und MDR, PharmaR 2025, 77

Graichen Die Automatisierung der Justiz, 2022

von der Groeben/Schwarze/Hatje Europäisches Unionsrecht, 7. Aufl. 2015

Grützmacher Die zivilrechtliche Haftung für KI nach dem Entwurf der geplanten KI-VO, CR 2021, 433

Gsell/Krüger/Lorenz/Reymann (Hrsg.) BeckOGK BGB (zit.: BeckOGK BGB/Bearbeiter § Rn. )

Gudarzi Vielfaltssicherung in sozialen Netzwerken: Eine verfassungsrechtliche Betrachtung des Schutzes der Meinungsvielfalt und der Meinungsbildungsfreiheit, 2022

Günter/Gerigk/Berger Von Algorithmen und Arbeitnehmern: Die europarechtliche Regulierung von KI im arbeitsrechtlichen Kontext, NZA 2024, 234

Hacker A Legal Framework for AI Training Data – From First Principles to the Artificial Intelligence Act, Law Innovation and Technology 2021, 257

Hacker/Berz Der AI Act der Europäischen Union – Überblick, Kritik und Ausblick, ZRP 2023, 226

Hahn Die Regulierung biometrischer Fernidentifizierung in der Strafverfolgung im KI-Verordnungsentwurf der EU-Kommission, ZfDR 2023, 142

Hanloser Cookies 2.0 – TTDSG und nun? ZD 2021, 399

Hansen Dokumentation als Normalfall? – Cyberresilienz-Verordnung und KI-Verordnung helfen bei der Rechenschaftspflicht, DuD 2025, 288

Hansen/Probst Souveräne Sicherheit, Zero Trust und das Datenschutzrecht, DuD 2023, 623

Hansen/Walczak Die KI zaubert nicht, KIR 2024, 82

Hartmann KI & Recht kompakt, 2020

Hartmann ChatGPT & Co. in der Strafjustiz – Einsatzszenarien großer KI-Sprachmodelle in der Strafverfolgung, RDV 2023, 300 ff.

Hartmann/Cipierre/Beek Datamining in der Strafjustiz? RDV 2023, 147 ff.

Hartmann/Prinz Immaterialgüterrechtlicher Schutz von Systemen Künstlicher Intelligenz, DSRITB 2018, 769

Hartung Smartlaw, ChatGPT und das RDG, RDi 2023, 209

Heckmann/Paschke (Hrsg.) Cyber Resilience Act, 2025

Heckmann/Rachut Rechtsichere Hochschulprüfungen mit und trotz generativer KI, OdW 2024, 65

Heinze Daten, Plattformen und KI als Dreiklang unserer Zeit, DSRITB 2022, 187

Heinze/Engel Das Verbot von ausbeuterischen und manipulativen KI-Praktiken, KIR 2025, 20

Heinze/Sorge/Specht-Riemenschneider Das Recht der Künstlichen Intelligenz, KIR 2024, 11

Hennemann Der European Media Freedom Act oder: Von Zielen und Mitteln des Medienrechts, ZEuP 2024, 498

Hennemann/Steinrötter Der Data Act, NJW 2024, 1

Hentsch/Rodenhausen Einsatzfelder von KI in Games, MMR 2024, 714

Herberger/Martink/Rüßmann/Weth/Würdinger (Hrsg.), juris PraxisKommentar BGB (zit.: jurisPK BGB/Bearbeiter § Rn. )

Hilgendorf/Roth-Isigkeit Die neue Verordnung der EU zur Künstlichen Intelligenz, 2023

Hirzle Haftung für die Veröffentlichung von Informationen durch KI, RDi 2025, 39

Hoeren/Sieber/Holznagel Handbuch Multimedia-Recht; 60. Aufl. 2024; Loseblattwerk (zit: Bearbeiter in Hoeren/Sieber/Holznagel, Multimedia-Recht)

Holthausen Big Data, People Analytics, KI und Gestaltung von Betriebsvereinbarungen – Grund-, arbeits- und datenschutzrechtliche An- und Herausforderungen, RdA 2021, 19

Holthausen Einsatz künstlicher Intelligenz im HR-Bereich und Anforderungen an die „schöne neue Arbeitswelt X.0“, RdA 2023, 361

Hornung KI-Regulierung im Mehrebenensystem, DuD 2022, 561

Hornung/Schallbruch IT-Sicherheitsrecht, 2. Aufl. 2024

Hüger Die Rechtmäßigkeit von Datenverarbeitungen im Lebenszyklus von KI-Systemen, ZfDR 2024, 263

Ji et al. Survey of hallucination in natural language generation, ACM Computing Surveys, Vol. 55, Issue 12, Article No. 248, 3

Käde Training generativer KI-Modelle ist (auch) Text- und Data-Mining, KIR 2024, 162

Käde/von Maltzahn Die Erklärbarkeit von Künstlicher Intelligenz (KI). Entmystifizierung der Black Box und Chancen für das Recht, InTeR 2020, 66

Kahnemann Schnelles Denken, langsames Denken, 2012

Kalbfus/Schöberle ArbRAktuell, Arbeitsrechtliche Fragen beim Einsatz von KI am Beispiel von ChatGPT 2023, 251

Karaboga/Frei/Ebbers/Rovelli/Friedewald Emotions- und Krankheitserkennung mittels biometrischer Verfahren, DuD 2023, 553

Kastl-Riemann Algorithmen und Künstliche Intelligenz im Äußerungsrecht ZUM 2023, 578

Kaulartz/Braegelmann Rechtshandbuch Artificial Intelligence und Machine Learning, 2020

Keber/Maslewski Rechtsgrundlagen für das Training von Systemen Künstlicher Intelligenz nach der DS-GVO, RDV 2023, 273

Keber/Kugelmann Vollzug des Datenschutzrechts im Fall von generativen KI-Systemen am Beispiel von DeepSeek, EuDIR 2025, 222

Keber/Nägele KIR 2025, 167, 169

Kessen/Reif/Burkhardt Datenschutz- und zivilrechtliche Anforderungen an „Service gegen Daten“-Geschäftsmodelle RDV 2022, 64

Kilian/Jäck/Ebel European AI Standards – Technical Standardization and Implementation Challenges under the EU AI Act, März 2025, https://ki-verband.de/wp-content/uploads/2025/05/Study_European-AI-Standards_FINAL_20250325.pdf

Kipker Handbuch Cybersecurity, 2. Aufl. 2023

Klagge/Üge KI und Geschäftsgeheimnisrecht in der Games-Branche, MMR 2024, 733

Klein Mehr als nur Scoring: Die SCHUFA-Entscheidung C-634/21 und ihre Auswirkungen, BB 2024, 266

Klindt Kommentar Produktsicherheitsgesetz, 3. Aufl. 2021

Kluth Künstliche Intelligenz als Auslöser neuer Regelungsbedarfe im Architekten- und Ingenieurrecht, NZBau 2023, 283

Köhler Das Verbot der automatisierten Einzelentscheidung und der hinreichende Einfluss des Menschen, EuDIR 2025, 16

Köhler Zur Maßgeblichkeit automatisierter Entscheidungsvorbereitungen, RDV 2025, 188

Köhler Zur Unionsrechtskonformität von § 3 BDSG: Erkenntnisse aus EuGH, Urt. v. 30.3.2023 – C-34/21, RDV 2023, 307

Kraetzig Deliktsschutz gegen KI-Abbilder – Teil 1: Täuschende Deepfakes, CR 2024, 207

Kraetzig Europäische Medienregulierung – Freiheit durch Aufsicht?, NJW 2023, 1485

Kramme Vertragsrecht für digitale Produkte, RDi 2021, 20

Krause Auf dem Weg zur unionsrechtlichen Regelung von Plattformtätigkeiten, NZA 2022, 522

Kremer Querschläger SCHUFA-Urteil: Auswirkungen auf Affinitätenanalyse, Kundensegmentierung und KI – Was der EuGH neben dem Scoring für Kredite mitentschieden hat, CR 2024, 50

Krizhevsky/Sutskever/Hinton Advances Neural Information Processing Systems 25 2012, 1

Krone Urheberrechtlicher Schutz von ChatGPT-Texten? RDi 2023, 117

Kühling/Buchner Datenschutz-Grundverordnung, Bundesdatenschutzgesetz: DS-GVO/BDSG, 4. Aufl. 2024 (zit.: Kühling/Buchner/Bearbeiter Art./§ Rn. )

Kulick/Goldhammer (Hrsg.) Der Terrorist als Feind?, 2020 (zit.: Kulick/Goldhammer/Bearbeiter)

Lang/Reinbach Künstliche Intelligenz im Arbeitsrecht NZA 2023, 1273

Laoutoumai Künstliche Intelligenz und Versicherung – Versicherungsspezifische Fragestellungen beim Einsatz von KI, KIR 2025, 161

Laue/Nink/Kremer Betriebliches Datenschutzrecht in der Praxis, 3. Aufl. 2024

Lauscher/Legner Künstliche Intelligenz und Diskriminierung, ZfDR 2022, 367

LfDI BW, BW Diskussionspapier: Rechtsgrundlagen im Datenschutz beim Einsatz von Künstlicher Intelligenz, Version 2.0, Stand: 17.10.2024, https://www.baden-wuerttemberg.datenschutz.de/rechtsgrundlagen-datenschutz-ki/ (zuletzt abgerufen am 18.9.2025)

Linardatos Auf dem Weg zu einer europäischen KI-Verordnung – ein (kritischer) Blick auf den aktuellen Kommissionsentwurf, GPR 2022, 60

Macher/Graf Ballestrem Der neue EU Data Act: Zugang zu Daten – und Geschäftsgeheimnissen?, GRUR-Prax 2023, 661

Malferrari Europäische Kommission: Wettbewerb: Kommission bittet um Rückmeldungen zur Marktdefinition, EuZW 2022, 1083

Martini Blackbox Algorithmus, 2019

Martini/Botta KI-Aufsicht im föderalen Staat, MMR 2024, 630

Martini/Wendehorst(Hrsg.) KI-VO: Verordnung über Künstliche Intelligenz, 2024 (zit.: Martini/Wendehorst/Bearbeiter Art. Rn. )

Mayrhofer Produkthaftungsrechtliche Verantwortlichkeit des „Trainer-Nutzers“ von KI-Systemen, RDi 2023, 20

Meyer Künstliche Intelligenz im Personalmanagement und Arbeitsrecht, NJW 2023, 1841

Mitsching/Rauda/Sach Die sieben wichtigsten KI-Anwendungsfälle in der Games-Branche, MMR 2024, 718

Müller-Peltzer/Tanczik Künstliche Intelligenz und Daten, RDi 2023, 452

Muller/Schöppl/Avramidou/Talvitie/Peñalver AIA in-depth, #3a High-Risk AI Classification

Münchener Kommentar zum Bürgerlichen Gesetzbuch BGB, 8. Aufl. 2020 (zit.: MüKo BGB/Bearbeiter Art. Rn. )

Münchener Kommentar zur Zivilprozessordnung mit Gerichtsverfassungsgesetz und Nebengesetzen(zit.: MüKo ZPO/Bearbeiter Art. Rn. )

Nash/Revesz Grandfathering and Environmental Regulation: The Law and Economics of New Source Review, Northwestern University Law Review 2007

Nebel Werbe-Tracking nach Inkrafttreten des TTDSG – Zum einwilligungsfreien Browser- und Device-Fingerprinting, CR 2021, 666

Nemitz Künstliche Intelligenz und Demokratie, MMR 2024, 603

Niemann/Kevekordes Machine Learning und Datenschutz (Teil 1), CR 2020, 17

Nordemann Generative Künstliche Intelligenz: Urheberrechtsverletzungen und Haftung, GRUR 2024, 1

Nordemann/Rasouli Die Regelungen der KI-Verordnung mit Urheberrechtsbezug – Möglichkeit der privaten Rechtsdurchsetzung?, ZUM 2024, 780

Oechsler Die Haftungsverantwortung für selbstlernende KI-Systeme, NJW 2022, 2713

Ory Medienfreiheit – Der Entwurf eines European Media Freedom Act, ZRP 2023, 26

Oster/Walter/Zaouras Festschrift Gounalakis (zit.: Bearbeiter in FS Gounalakis)

Pesch/Böhme Verarbeitung personenbezogener Daten und Datenrichtigkeit bei großen Sprachmodellen, MMR 2023, 917

Pfeffer Stille Europäisierung – Wie europäisch wird das deutsche Polizeirecht?, NVwZ 2022, 294

Peifer Künstliche Intelligenz (KI) und Urheberrecht – Rechte, Vergütung, Haftung, K&R-Beil. 2024, 25

Piltz Das neue TTDSG aus Sicht der Telemedien, CR 2021, 555

Plath DS-GVO/BDSG/TTDSG, 4. Aufl. 2023 (zit.: Plath/Bearbeiter Art./§ Rn. )

Rachut Kein Zugang zum Masterstudium wegen Vorlage eines mittels KI erstellten Essays, Anmerkung zu VG München, Beschluss vom 28.11.2023 – M 3 E 23.4371, NJW 2024, 1052

Raji Datenräume in der Europäischen Datenstrategie am Beispiel des European Health Data Space, ZD 2023, 3

Rath Überlastung der Gerichte durch Firmen wie Flightright?, DRiZ 2019, 288

Reusch KI und Software im Kontext von Produkthaftung und Produktsicherheit, RDi 2023, 152

Riehm/Abold Rechtsbehelfe von Verbrauchern bei Verträgen über digitale Produkte — Einführung in das neue Gewährleistungsrecht für die Digitalisierung, CR 2021, 530

Roos/Weitz Hochrisiko-KI-Systeme im Kommissionsentwurf für eine KI-Verordnung, MMR 2021, 844

Roß European Media Freedom Act und Kernfragen der europäischen Integration, EuR 2023, 450

Roßnagel Datenschutz in der Forschung, ZD 2019, 157

Roth-Isigkeit Grundstrukturen der geplanten KI-Aufsichtsbehörden – KI-Bürokratie?, ZRP 2022, 187

Roth-Isigkeit Der risikobasierte Ansatz als Paradigma des Digitalverwaltungsrechts, MMR 2024, 621

Roth-Isigkeit Der neue Rechtsrahmen für Künstliche Intelligenz in der Europäischen Union, KIR 2024, 15

Rüthers/Fischer/Birk Rechtstheorie, 12. Aufl. 2022

Saam/Hermann Die Ausnahmeregelung zur Einstufung als Hochrisiko-KI nach Art. 6 III KI-VO, RDi 2024, 608

Sassenberg Einbindung von KI-Systemen in Software Konsequenzen für die Verantwortlichkeit, CR 2025, 209

Schack Auslesen von Webseiten zu KI-Trainingszwecken als Urheberrechtsverletzung de lege lata et ferenda, NJW 2024, 113

Schaub Nutzung von Künstlicher Intelligenz als Pflichtverletzung?, NJW 2023, 2145

Schefzig/Kilian (Hrsg.) BeckOK KI-Recht, 1. Aufl. 2025 (zit. BeckOK/Bearbeiter Kap./Art. Rn. )

Schippan Der Einsatz von Künstlicher Intelligenz bei der Verarbeitung von journalistischen Inhalten, ZUM 2024, 670

Schippel Datenqualität in Data Act und AI Act, K&R 2024, 561

Schippel Trainingsvorgaben: Wie kann man KI-Kompetenz nach Art. 4 KI-VO vermitteln?, KIR 2025, 119

Schmidhuber Deep Learning in Neural Networks: An Overview, Neural Networks 2015, 85

Schnabl ChatGPT im Lichte der Anwaltshaftung, RDi 2025, 8

Schneider KI-unterstütztes Coding in der Spieleentwicklung, MMR 2024, 724

Schucht Die neue Architektur im europäischen Produktsicherheitsrecht nach New Legislative Framework und Alignment Package, EuZW 2014, 848

Schumacher/Sydow/von Schönfeld Cookie Compliance, quo vadis?, MMR 2021, 603

Schüßler/Zöll EU-Datenschutz-Grundverordnung und Beschäftigtendatenschutz,DuD 2013, 639

Schwartmann Dialektik versus Stochastik, Wissenschaft darf nicht im mathematischen Bermuda-Dreieck der KI verschwinden, Forschung & Lehre 2023, 132

Schwartmann Autonom wie ein Tier – KI in Hochschullehre und Prüfung, Forschung & Lehre 2024, 352 f.

Schwartmann Was Unternehmen über die KI-Verordnung wissen müssen, RDV 2024, 257

Schwartmann/Benedikt/Köhler Expertenwissen KI und Datenschutz, 2025

Schwartmann/Benedikt/Köhler Merkblatt KI-Kompetenz, 2025

Schwartmann/Benedikt/Köhler/Wünschelbaum Erste Hilfe zur KI-Verordnung, 2024

Schwartmann/Benedikt/Reif Datenschutz bei Websites – Aktuelle Rechtslage und Ausblick auf das TTDSG, RDV 2020, 231

Schwartmann/Benedikt/Reif Datenschutz im Internet, 2025

Schwartmann/Benedikt/Reif Entwurf zum TTDSG: Für einen zeitgemäßen Online-Datenschutz?, MMR 2021, 99

Schwartmann/Benedikt/Stelkens Advocatus Diaboli im Rechtsstaat, RDV 2023, 296

Schwartmann/Jaspers/Thüsing/Kugelmann DS-GVO/BDSG, 3. Aufl. 2024 (zit.: HK DS-GVO/BDSG/Bearbeiter Art./§ Rn. )

Schwartmann/Kessen/Hartmann/Benedikt „Richter-Maschine-Richter“ – Kontrolle des Einsatzes generativer KI, DRiZ 2023, 388

Schwartmann/Köhler Verfassungsrechtliche Anforderungen an die polizeiliche Nutzung personenbezogener Daten, NVwZ 2024, 1709

Schwartmann/Kurth/Köhler Der Einsatz von KI an Hochschulen – eine rechtliche Betrachtung, OdW 2024, 161

Schwartmann/Zenner GPAI-Anwendungen auf dem Prüfstand: Die Regulierung der KI-VO entlang der Wertschöpfungskette, EuDIR 2025, 3

Schwartmann/Zenner/Köhler Handreichung zu den verbotenen KI-Praktiken gemäß der KI-VO, EuDIR 2025, 78

Selbst Disparate Impact in Big Data Policing, Georgia Law Review 2017, 109

Siglmüller/Gassner Softwareentwicklung durch Open-Source-trainierte KI – Schutz und Haftung, RDi 2023, 124

Simitis/Hornung/Spiecker gen. Döhmann Datenschutzrecht, 2019 (zit.: Datenschutzrecht/Bearbeiter Art./§ Rn. )

Singelnstein Predictive Policing: Algorithmenbasierte Straftatprognosen zur vorausschauenden Kriminalintervention, NStZ 2018, 1

Skitka/Mosier/Burdick Does automation bias decision-making?, International Journal of Human-Computer Studies 51, 991

Spickhoff Stand und Entwicklung des Haftungsrechts, VersR 2025, 905

Srinivasan Navigating the legal landscape for GPAI – a bottom-up view, EuDIR 2025, 51

Steege Definition von Künstlicher Intelligenz in Art. 3 Nr. 1 KI-VO-E, MMR 2022, 926

Steen Ableitungen als wesentliche Fähigkeit von KI-Systemen nach der KI-VO, KIR 2024, 7

Steinrötter Digital Fairness by Design, MMR 2025, 81

Steinrötter Verhältnis von Data Act und DS-GVO, GRUR 2023, 216

Stephen et al. Open Problems and Fundamental Limitations of Reinforcement Learning from Human Feedback, arXiv:2307.15217 2023, 1, 1 ff.

Taeger/Gabel DSGVO – BDSG – TTDSG, 4. Aufl. 2022 (zit.: Taeger/Gabel/Bearbeiter Art./§ Rn. )

Thiermann Klinische Prüfungen mit KI-basierten Medizinprodukten im Anwendungsbereich der KI-Verordnung, MPR 2025, 10

Tschorr Regulierung der auf Biometrie basierenden KI-Systeme – Betrachtung der Vorgaben der KI-VO hinsichtlich biometrischer Fernidentifizierungssysteme, MMR 2024, 304

Ukrow EU: Einigung zum European Media Freedom Act erzielt, MMR-Aktuell 2024, 01294

Ukrow Künstliche Intelligenz als Herausforderung für die positive Medienordnung, 2022

Vassilaki Gesetzesentwurf zum strafrechtlichen Schutz von Persönlichkeitsrechten vor Deepfakes – Oder: Von der Notwendigkeit, keine Gesetze zu erlassen, CR 2024, 701

Vaswani et al. Attention is All you Need, Advances in Neural Information Processing Systems 30 (NIPS 2017), 1

Veale/Borgesius Demystifying the Draft EU Artificial Intelligence Act, CRI 2021, 108

Voudoulaki Künstliche Intelligenz und Datenschutz – Erklärbarkeit von KI-Entscheidungen und ihre Auswirkungen auf die Transparenzpflicht, ZGI 2005, 9

Wachter/Leeb KI-Systeme in der Rechtspflege, RDi 2024, 440

Wagner Verantwortlichkeit im Zeichen digitaler Techniken, VersR 2020, 717

Weiler/Bell/Wilkens Update aus der Praxis: Die neue Produkthaftungsrichtlinie – Auswirkungen auf und Implikationen für die Praxis, RIW 2025, 1

Wendehorst/Nessler/Aufreiter/Aichinger Der Begriff des „KI-Systems“ unter der neuen KI-VO, MMR 2024, 605

Wendt/Wendt Das neue Recht der Künstlichen Intelligenz, 2024

Werry Generative KI-Modelle im Visier der Datenschutzbehörden, MMR 2023, 911

Wiebe Produktsicherheitsrechtliche Betrachtung des Vorschlags für eine KI-Verordnung, BB 2022, 899

Wilmer Herausforderungen der Vertragsgestaltung mithilfe Künstlicher Intelligenz, EuZW 2024, 868

Wöbbeking Auswirkungen der KI-VO auf die anwaltliche Tätigkeit, AnwBl. 2025, 17

Wolff Algorithmen als Richter, Band 3, 2022

Wolff/Brink/v. Ungern-Sternberg (Hrsg.) BeckOK Datenschutzrecht, 48. Ed. 1.5.2024 (zit.: BeckOK Datenschutzrecht/Bearbeiter Art./§ Rn. )

Wünschelbaum Kollektivautonomer Datenschutz, 2022

Wünschelbaum IT-Mitbestimmung bei generativen KI-Systemen: Bestandsaufnahme und Handlungsleitfaden, RDV 2024, 140

Wünschelbaum Zentrale Koordinierung oder Zentralisierung? Reformoptionen für die deutsche Datenschutzaufsicht, ZD-Aktuell 2025, 01160

Wünschelbaum/Sorber Beschäftigtendatenschutz (wieder) gescheitert?, NZA 2024, 1540

Zech/Hünefeld Einsatz von KI in der Medizin: Haftung und Versicherung, MedR 2023, 1

Zenner KI-Regulierung: Ein Trilog unter großem Zeitdruck, RDV 2023, 340

Zentrum für vertrauenswürdige Künstliche Intelligenz Vertrauenswürdige KI-Systeme im Journalismus, Ausgabe 8 v. 29.11.2023

Zimmerling/Brehm Prüfungsrecht, 2. Aufl. 2001

Zirnstein Künstliche Intelligenz und Datenschutz: Die Stellungnahme 28/2024 des EDSA im Überblick, K&R 2025, 90

1. TeilEinleitung

§ 1Status Quo

A.Ein Jahr KI-VO: Was ist passiert von August 2024 bis August 2025?

1

Seit der Veröffentlichung der 2. Auflage dieses Leitfadens im August 2024 hat sich die Debatte um KI ebenso, wie das KI-Recht im politischen und gesellschaftlichen Kontext zügig entwickelt.

Seit Februar 2025 beanspruchen Kapitel 1 und 2 der KI-VO mit Art. 4 (KI-Kompetenz) und Art. 5 (Verbotene Praktiken im KI-Bereich) Geltung. Die Kommission veröffentlichte dazu kurz nach Geltungsbeginn weitere Informationen.[1] Am 10.7. wurden zudem die Codes of Practice für GPAI-Modell veröffentlicht,[2] kurz darauf erschien ein Leitfaden über die Anwendbarkeit der Pflichten für Anbieter von GPAI-Modellen.[3] Im August 2025 beanspruchen weitere Teile der KI-VO Geltung. Davon sind zunächst die Mitgliedstaaten betroffen, weil sie gemäß Art. 70 Abs. 1 S. 1 KI-VO eine Aufsichtsbehörde benennen müssen. Solange diese ihre Arbeit nicht aufgenommen hat, kann die KI-VO nicht vollzogen werden.

2

Auf nationaler Ebene wurde in Deutschland im Januar 2025 noch von der Administration der Ampel-Koalition ein Entwurf zur nationalen Begleitung der KI-VO vorgelegt, nach dessen Idee die Bundesnetzagentur als Marktaufsichtsbehörde als KI-Aufsichtsbehörde etabliert werden soll. Nachdem es der Entwurf wegen des Regierungswechsels nicht ins Parlament geschafft hatte, wurde im August 2025 ein zweiter Referentenentwurf veröffentlicht. Auch dieser sah vor, dass die Bundesnetzagentur die Marktaufsicht gemäß der KI-VO übernimmt.

3

Im Koalitionsvertrag der seit Mai 2025 amtierenden Koalition aus CDU/CSU und SPD spielt KI ebenfalls eine besondere Rolle. Sie ist Kern der wirtschafts- und technologiepolitischen Politik und soll mittels gezielter Infrastrukturinvestitionen und innovationsfreundlicher Regulierung gefördert werden. Deutschland soll in der EU durch Kooperation zwischen Staat, Wirtschaft und Wissenschaft führende KI-Nation werden. Aus einer Zukunftstechnologie ist eine Querschnittsmaterie im Zentrum von Wirtschaft und Gesellschaft geworden. Massive Investitionen in die digitale Infrastruktur und in den Ausbau von KI-Kapazitäten sollen sich in einer nationalen „KI-Gigafactory“[4] und KI-Reallaboren zur Erprobung der neuen Technik realisieren. Die KI-VO soll innovationsfreundlich und bürokratiearm „umgesetzt“, sprich implementiert werden, wobei die Marktaufsicht einheitlich erfolgen soll.

4

In der öffentlichen Verwaltung soll KI eingesetzt werden.[5] Es gilt Verwaltungsprozesse zu beschleunigen, zu automatisieren und effizienter zu gestalten. Auch in der Justiz soll Künstliche Intelligenz in größerem Umfang eingeführt werden.[6]

5

Im Kultursektor soll kulturwirtschaftliches Potenzial von KI ausnutzt und zugleich Urheberrecht durch Kennzeichnung von KI-Inhalten gestärkt werden.[7]

B.Was sind die Hauptprobleme im Sommer 2025?

6

Im Sommer 2025 ist KI allgegenwärtig. Einreisekontrollen finden ebenso unter Einsatz von biometrischer Gesichtserkennung statt, wie das Entsperren von Smartphones. Suchalgorithmen und „Timelines“ sozialer Netzwerke kommen nicht ohne KI aus. Beim Schreiben dieser Zeilen drängt sich der Copilot von Microsoft konsequent mit dem Angebot auf, den entstehenden Text sofort umzuformulieren. Meta bietet nur noch eine Version des Messengers WhatsApp mit einem KI-Assistenten an, den man nach allem, was bekannt ist, nicht deaktivieren kann. Snapchat, ein von Jugendlichen präferierter Dienst, kann nicht ohne seinen Bot „My AI“ betrieben werden, der sich ungefragt als Freund und Ansprechpartner in allen Lebenslagen per Voreinstellung auf Kindersmartphones installiert. In der Wissenschaft wird das neue Werkzeug ebenso eingesetzt wie in Unternehmen, Schulen und Hochschulen.

7

Es sind hohe Erwartungen und Hoffnungen an die Ausschöpfung des Potentials der neuen autonomen Technik geknüpft, aber ebenso sind Unsicherheiten mit deren Einsatz verbunden. Letztere werden auch der neuen und als komplex empfundenen Regulierung angelastet. Nicht wenige Stimmen hadern mit dem Ansatz der EU, einen Rechtsrahmen für die die neue Technik gesetzt zu haben und sehen in der KI-VO eine Innovationsbremse. Die EU-Kommission hat vor diesem Hintergrund im April 2025 einen Aktionsplan für den KI-Kontinent vorgelegt.[8] Unternehmen können in diesem Rahmen vorbringen, wie sie durch die KI-VO behindert werden und die Gesetzgebung soll unter Berücksichtigung dessen überprüft werden. Dazu passt es, dass mit dem Arbeitsplan der EU-Kommission für 2025 die fest eingeplante Richtlinie zur Harmonisierung der KI-Haftung wieder von der Agenda der EU-Gesetzgebungsvorhaben gestrichen wurde.[9]

8

Im Sommer 2025 lassen sich mit Blick auf den Einsatz von KI eine Reihe von Problemen benennen, die angegangen werden müssen. Generell wird der Fokus in öffentlicher Verwaltung, Wirtschaft und in der Politik kaum auf die Verantwortung beim Betrieb von KI-Systemen gelegt. KI-Systeme an Behörden, Schulen, Hochschulen, und auch in der Justiz werden getestet oder gar eingesetzt, ohne dass Grundrechtefolgenabschätzungen, die nach Art. 27 KI-VO für Behörden gelten, in der Debatte eine Rolle spielen. KI-Agenten und andere neue Erscheinungen können rechtlich noch nicht eingeordnet werden, sind aber im Einsatz.

9

KI wird Auswirkungen auf Berufsfelder haben, denn Deepfakes, also synthetische oder synthetisierte Stimmen werden Synchronsprecher vermutlich ersetzen und ihnen droht das Schicksaal der Kinoorchester nach der Erfindung des Tonfilms.

10

Faktisch unterschätzt erscheint das Problem der Schatten-KI, sprich das von Arbeitgebern nicht autorisierte Verwenden von KI durch Beschäftigte. Arbeitgeber dürften sich unter Berücksichtigung des Rechtsgedankens aus § 5 Abs. 4 BetrSichVO nicht darauf berufen, dass sie den Einsatz von KI, den sie nicht aktiv unterbinden, nicht verantworten.[10]

Abbildung 1:Sakurai, Schatten-KI

[Bild vergrößern]

11

Ein weites Feld ist der Umfang von Transparenzpflichten beim Einsatz von KI nach Art. 50 KI-VO. Ebenso ungeklärt ist die Frage, wann eine Veränderung eines KI-System zum Anbieterwechsel nach Art. 25 KI-VO führt und wie diese Veränderung technisch vollzogen werden muss.[11] Ebenso offen sind Einzelheiten des sonstigen nationalen Rechts und die Frage, wie diese mit der KI-VO zusammenspielen. Schließlich ist auch nicht geklärt, inwieweit Urheberrecht und der Schutz personenbezogener Daten in KI-Modellen zu behandeln sind.

C.Herausforderung KI

12

Über allem aber steht eine Herausforderung, die sich in folgende Frage kleiden lässt:

„Wie kann der rechtlich und ethisch verantwortbare Einsatz von KI in einem Europa gelingen, das seine Werteordnung nicht aufgeben will und zugleich fortschrittlich, zukunftsoffen und weltweit wettbewerbsfähig sein will?“

Abbildung 2:Sakurai, Stier

[Bild vergrößern]

§ 2KI-Fibel – Eine kleine Werkzeugkunde für eine große Technik

A.Rollen und Regeln

I.Die Rollenverteilung im KI-Recht

13

Die KI-Verordnung legt insbesondere Pflichten für Anbieter und Betreiber von KI vor. Aus dem vielfältigen Recht, das Menschen vor Verletzungen durch den Einsatz der KI als Werkzeug schützt, ergeben sich weitere Pflichten für die Nutzer von KI. Das KI-Gesetz regelt zunächst Pflichten für Anbieter von KI-Modellen und -Systemen.

1.Anbieter und Entwickler

14

Anbieter sind Hersteller und Entwickler von KI, setzen diese Produkte aber nicht selbst ein. Das sind in der Regel große KI-Anbieter wie OpenAI, Meta und Google oder kleinere, wie Mistral oder andere staatliche oder private Einrichtungen. Darunter fallen auch KI-Systemanbieter wie Microsoft für den Copiloten, oder auch Anbieter von besonderen KI-Systemen mit besonderen Aufgaben und erweiterter Autonomie, sog. „KI-Agenten“.

2.Betreiber

15

Der Einsatz der Werkzeuge erfolgt durch Nutzer oder Verwender, die das KI-Gesetz Betreiber nennt. Das ist faktisch jeder, der KI nicht ausschließlich zu privaten Zwecken eigenverantwortlich verwendet. Wer als Handwerker seine Mitarbeiter- oder Kunden per Sprach-KI anspricht oder sich einen Werbeflyer von einer Bild-KI erzeugen lässt, ist Betreiber, denn er verwendet ein KI-System für berufliche Zwecke. Betreiber von KI sind also in erster Linie Behörden und Unternehmen und Dienstleister. An sie richten sich die Pflichten für den Werkzeugeinsatz. Wer für ein Unternehmen oder eine Behörde oder einen Dienstleister arbeitet und im Auftrag des Arbeitgebers KI einsetzt, ist nicht Betreiber, sondern bloßer Anwender der KI. Das Gesetz nennt diesen Kreis „sonstige Dritte“. Als sonstiger Dritter ist man solange kein Betreiber von KI, wie man sich an den Auftrag des Arbeitgebers hält.

16

Das bedeutet: Der Chef legt als Betreiber der KI fest, ob und wozu das Werkzeug KI im Unternehmen eingesetzt wird. Er legt auch fest, welche Aufgaben mit dem Werkzeug wahrgenommen werden dürfen und welche nicht. Dazu schaut er in die Betriebsanleitung und Nutzungsbedingungen des Werkzeugs KI und richtet den zulässigen Einsatz des Werkzeuges an dessen bestimmungsgemäßem Zweck aus. Diesen gibt er an die Beschäftigten weiter.

17

Beispiele

Mit dem Gabelstapler fährt man Palletten im Lager aus, aber nicht Tabletts für das Essen in der Kantine. Mit dem Dienstwagen werden nur Dienstfahrten erledigt, keine privaten Fahrten. Mit Allzweck-KI werden keine hochriskanten Aufgaben erledigt. Hochriskant sind etwa viele Aufgaben im Personalbereich. Nicht hochriskant und erlaubt ist es etwa, sich eine Anregung für eine Werbebotschaft geben zu lassen. Man darf aber keine Inhalte nutzen, die etwa gegen Datenschutz- oder Urheberrecht verstoßen.

3.Anwender

18

Die Beschäftigten sind nicht Betreiber, da sie KI nicht eigenverantwortlich nutzen. Das Gesetz bezeichnet sie als „sonstige Dritte“. Sie handeln für den Betreiber und in dessen Verantwortung. Nutzt ein Beschäftigter aber KI zu einem Zweck, den das Unternehmen untersagt hat, dann nutzt er KI eigenverantwortlich. Es wäre nicht fair, dem Chef die Verantwortung für den bewussten Missbrauch eines Werkzeuges anzulasten, obwohl er diesen Missbrauch verboten hat. Wenn ein Beschäftigter also eine Personalentscheidung mit einem GPAI-System vornimmt, obwohl das verboten ist, dann ist er und nicht mehr der Chef verantwortlich. Dann ist der Mitarbeiter Betreiber der KI.

4.Sonderproblem „Schatten-KI“

19

Es kommt vor, dass im Unternehmen keine Regelung zu KI getroffen wird, oder dass der Chef den Einsatz privater KI duldet, obwohl er die Software für das Unternehmen nicht angeschafft hat. In diesem Fall spricht man von Schatten KI. Duldet das Unternehmen den Einsatz privater KI, dann dürfte er Betreiber sein. Duldet er den Einsatz nicht, sondern hat ihn verboten und kann ihn nicht erkennen, dann ist der Beschäftigte Betreiber.

5.Private Tätigkeit unterfällt dem KI-Recht nicht

20

Wer KI für rein private Zwecke betreibt, ist nicht Betreiber von KI. Für ihn gilt das KI-Gesetz nicht. Wer sich als Privatperson medizinischen Rat per Sprachbot einholt, der handelt in jeder Hinsicht erlaubt, denn das KI-Recht gilt für ihn nicht und er ist auch nicht durch das sonstige Recht gebunden. Das Recht für Ärzte gilt nicht für ihn und auch die Pflicht nur Medizinprodukte zu verwenden, ist für Privatleute irrelevant.

21

Allerdings muss man als Privatperson aufpassen. Schulen, die Schülern die Verwendung eines Sprachbots zur Unterstützung bei den Hausaufgaben zur Verfügung stellen, sind Betreiber von KI-Systemen und müssen den Schülern KI-Kompetenz vermitteln. Schließlich sind Hausaufgaben keine Privatsache, sondern werden im Rahmen der staatlichen Schulpflicht erledigt.

II.Regeln und Fragen für den KI-Einsatz

1.Welche Zwecke darf man mit dem Werkzeug KI verfolgen?

22