KI-VO E-Book

Kristin Benedikt

• Herausgeber: C.F. Müller
• Kategorie: Fachliteratur
• Sprache: Deutsch

Veröffentlichungsjahr: 2024

Beschreibung

Im August 2024 trat mit der KI-VO ein umfassendes KI-Gesetz mit signifikanten Folgen für Zivilgesellschaft und Wirtschaft in Kraft. Die ersten Vorschriften gelten bereits sechs Monate später. Ziel des europäischen Gesetzgebers war es, vor den Gefahren durch KI besser zu schützen, gleichzeitig aber auch die Innovation in KI zu fördern. Der neue Praxisleitfaden zum Einsatz Künstlicher Intelligenz ermöglicht dem Rechtsanwender eine erste verlässliche Orientierung beim Einsatz der neuen Technik. Neben den Grundlagen in der KI-Verordnung selbst werden praxisrelevante Bereiche in den Anhängen über Hochrisiko-KI-Systeme eingeordnet. Die Anwendungsfälle reichen von der biometrischen Identifizierung natürlicher Personen über Fragen der Bildung sowie des Arbeitsrechts bis hin zum Einsatz in der Justiz bezogen auf Strafverfolgung und Rechtspflege. Besonderes Augenmerk wird auf die verständliche Vermittlung der komplexen technischen Zusammenhänge beim Einsatz Künstlicher Intelligenz gelegt. Aufgezeigt werden zudem die in der unternehmerischen Praxis auftretenden Abgrenzungsfragen zum übrigen Digital- und Datenrecht der EU, vor allem der DS-GVO. Besonders relevant wird dies etwa bei den Transparenzvorschriften, beim technischen Datenschutz sowie bei der Risikofolgenabschätzung. Schließlich behandelt das Werk praxisrelevante Haftungsfragen und stellt die Durchsetzung durch das Aufsichtsregime dar. Das Werk wird in deutscher und englischer Sprache (vorbestellbar hier) erscheinen. Im Überblick: - Einordnung konkreter Anwendungsfälle in die Regulierung durch die KI-Verordnung - KI-VO in Abgrenzung zur DS-GVO (z.B. Transparenzvorschriften, technischer Datenschutz und Risikofolgenabschätzung) - Vermittlung technischer Zusammenhänge bei der Umsetzung rechtlicher Pflichten - Haftung für KI - Checklisten für den Einsatz von KI im UnternehmenFür einen Blick ins Buch wird auf die unter Downloads zu findenden Leseproben verwiesen. Professor Dr. Rolf Schwartmann ist Leiter der Kölner Forschungsstelle für Medienrecht an der Technischen Hochschule Köln und Vorsitzender der Gesellschaft für Datenschutz und Datensicherheit sowie Herausgeber und Autor zahlreicher Fachpublikationen zum Datenschutz und Digitalrecht. Professor Dr. Tobias Keber ist Landesbeauftragter für den Datenschutz und die Informationsfreiheit in Baden-Württemberg und hat zuvor an der Hochschule der Medien in Stuttgart zu Künstlicher Intelligenz geforscht. Kai Zenner ist Büroleiter von MdEP Axel Voss, des Berichterstatters der EVP für die KI-Verordnung und hat intensiv an den Verhandlungen zur Verabschiedung des Gesetzes mitgewirkt. Darüber hinaus ist er One AI Mitglied (OECD) und berät den High Level Advisory Body zu AI (HLAB AI) der Vereinten Nationen tätig. Im Juni 2023 erhielt er für seine Arbeit und sein Engagement im Europäischen Parlament den MEP Award für den besten parlamentarischen Assistenten.

Leseprobe

KI-Verordnung

Leitfaden für die Praxis

Herausgegeben von

Prof. Dr. Rolf Schwartmann

Prof. Dr. Tobias O. Keber

Dipl. Jur. Kai Zenner M.sc.

Bearbeitet von

Kristin Benedikt Richterin am Verwaltungsgericht Regensburg, Mitglied des Vorstandes der Gesellschaft für Datenschutz und Datensicherheit (GDD) e.V.

Dr. Jonas Ganter Justiziar

Tobias Haar, LL.M., MBA Justiziar bei Aleph Alpha

Dr. h.c. Marit Hansen Landesbeauftragte für Datenschutz in Schleswig-Holstein

Markus Hartmann Leitender Oberstaatsanwalt bei der Generalstaatsanwaltschaft Köln und Leiter der Zentral- und Ansprechstelle Cybercrime Nordrhein-Westfalen

Dr. Clarissa Henning Persönliche Referentin des Landesbeauftragten für Datenschutz und Informationsfreiheit in Baden-Württemberg

Prof. Dr. Tobias O. Keber Landesbeauftragter für Datenschutz und Informationsfreiheit Baden-Württemberg

Dr. Martin Kessen Richter am BGH

Moritz Köhler Kölner Forschungsstelle für Medienrecht, Technische Hochschule Köln

Sascha Kremer Rechtsanwalt, Fachanwalt für IT-Recht

Sonja Kurth Kölner Forschungsstelle für Medienrecht, Technische Hochschule Köln

Daniel Maslewski Referent beim Landesbeauftragten für Datenschutz und Informationsfreiheit Baden-Württemberg

Dr. Kristof Meding Gruppenleiter Computational Law, CZS Institute for Artificial Intelligence and Law an der Universität Tübingen

Dr. Robin Lucien Mühlenbeck Ass. iur

Dr. Peter Nägele Referent beim Landesbeauftragten für Datenschutz und Informationsfreiheit Baden-Württemberg

Eva-Maria Pottkämper, LL.M. Kölner Forschungsstelle für Medienrecht, Technische Hochschule Köln

Johannes Rembold, LL.M. Referent beim Landesbeauftragten für Datenschutz und Informationsfreiheit Baden-Württemberg

Dr. Jessica Sänger Rechtsanwältin und Syndikusanwältin, Direktorin für europäische und internationale Angelegenheiten, Börsenverein des Deutschen Buchhandels e.V.

Prof. Dr. Rolf Schwartmann Leiter der Kölner Forschungsstelle für Medienrecht an der Technischen Hochschule Köln, Vorsitzender der Gesellschaft für Datenschutz und Datensicherheit (GDD) e.V.

Dr. Anne Steinbrück Referentin beim Landesbeauftragten für Datenschutz und Informationsfreiheit Baden-Württemberg

David Wasilewski, LL.B. Kölner Forschungsstelle für Medienrecht, Universität zu Köln

Dr. Markus Wünschelbaum Persönlicher Referent für Policy und Datenstrategie des Hamburgischen Beauftragten für Datenschutz und Informationsfreiheit

Dipl.-Jur. Kai Zenner, M.Sc. Büroleiter und Berater für Digitalpolitik des Europaabgeordneten Axel Voss

www.cfmueller.de

Impressum

Bibliografische Information der Deutschen Nationalbibliothek

Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie; detaillierte bibliografische Daten sind im Internet über <https://portal.dnb.de> abrufbar.

ISBN 978-3-8114-6642-5

E-Mail: [email protected]

Telefon: [phone]Telefax: [phone]

www.cfmueller.de

© 2024 C.F. Müller GmbH, Heidelberg

Hinweis des Verlages zum Urheberrecht und Digitalen Rechtemanagement (DRM)

Dieses Werk, einschließlich aller seiner Teile, ist urheberrechtlich geschützt. Der Verlag räumt Ihnen mit dem Kauf des e-Books das Recht ein, die Inhalte im Rahmen des geltenden Urheberrechts zu nutzen.

Jede Verwertung außerhalb der engen Grenzen des Urheberrechtsgesetzes ist ohne Zustimmung des Verlages unzulässig und strafbar. Dies gilt insbesondere für Vervielfältigungen, Übersetzungen, Mikroverfilmungen und Einspeicherung und Verarbeitung in elektronischen Systemen.

Der Verlag schützt seine e-Books vor Missbrauch des Urheberrechts durch ein digitales Rechtemanagement. Angaben zu diesem DRM finden Sie auf den Seiten der jeweiligen Anbieter.

Vorwort zur 2. Auflage

Die im Juli 2024 erschienene Erstauflage des Leitfadens war so schnell vergriffen, dass im August 2024 eine Neuauflage erforderlich wurde. Wir haben im Rahmen einer geringfügigen Aktualisierung die seit Juli erschienene Literatur berücksichtigt und kleinere Ungenauigkeiten geglättet. Wir sind auch weiterhin für Kritik und Hinweise auf mögliche Fehler dankbar, die bitte an die Kölner Forschungsstelle für Medienrecht an der TH Köln ([email protected]) zu richten sind.

Die Herausgeber im August 2024

Vorwort

Der vorliegende Leitfaden wird faktisch zeitgleich mit dem Inkrafttreten der KI-Verordnung veröffentlicht. Dies geschah am 1. August 2024, nämlich 20 Tage nach der Veröffentlichung im Amtsblatt der Europäischen Union am 12. Juli 2024[*]. Die Anforderungen des neuen Rechts zur Regelung des Inverkehrbringens und des Betriebs von KI-Modellen und KI-Systemen treten neben vorhandene EU-Rechtsakte wie etwa das Gesetz über digitale Dienste (DSA) zum Schutz der Demokratie und die DS-GVO zum Schutz personenbezogener Daten. Zusätzlich gelten die Vorschriften des Urheberrechts und eine Fülle weiterer Rechtsakte des europäischen und mitgliedstaatlichen Rechts.

Die Komplexität des neuen Rechts beginnt bei ihrem zentralen Regelungsgegenstand, dem KI-System, das sich insbesondere durch Undurchsichtigkeit (Opazität), Unvorhersehbarkeit aber auch Autonomie und insofern mangelnde Beherrschbarkeit auszeichnet. Diese letzte, nach dem herkömmlichen Sprachsinn allein dem Menschen zugesprochene Kategorie wird von der KI-Verordnung per Definition auf besondere Software erstreckt, die im unterschiedlichen Maße in der Lage ist, sich ohne menschliches Zutun und ohne menschliche Vorhersehbarkeit oder gar Beherrschbarkeit zu verändern. Weil sich die neue Generation der KI-Systeme dabei der menschlichen Kommunikation in Wort, Schrift, Ton und Bild bedient, kann sie menschliche Kreativität nach Regeln der Wahrscheinlichkeitsrechnung simulieren. Sie ist seit der Markteinführung von ChatGPT im November 2022 in vielschichtiger Ausprägung für Menschen jeden Alters verfügbar.

Dieses Handbuch nähert sich der Einordnung dieser Technik und ihres regulatorischen Rahmens in drei Teilen. In Teil 1 geht es um Grundlagen von der zeitlichen Agenda der KI-VO über die Begriffsbestimmungen und die Abgrenzung des KI-Rechts zu benachbarten Handlungsfeldern bis zur komplexen technischen und wirtschaftlichen Einordnung der KI.

Teil 2 ist der Regulierung von KI gewidmet und in drei Kapitel unterteilt, die der beschriebenen Regelungsstruktur folgen. Es wird das neue Recht der KI auf der Ebene des EU-Rechts dargestellt. Hier liegt der deutliche Schwerpunkt des Buches. Es werden Regelungen für KI-Modelle mit allgemeinem Verwendungszweck (GPAI) auf der einen und für hochriskante KI-Systeme auf der anderen Seite anhand von Praxisbeispielen und Handreichungen eingeordnet. Ebenfalls Gegenstand dieses Kapitels sind die Pflichten und Verantwortlichkeiten bei KI generell und beim Einsatz von KI entlang der Wertschöpfungskette. Zudem werden Fragen der Standardisierung und des Testens in Reallaboren behandelt. Da die KI-VO neben bestehende Regeln tritt und den Einsatz nicht abschließend regelt, verbleibt ein Regulierungsspielraum für den nationalen Gesetzgeber, der im zweiten Kapitel dieses Teils dargelegt wird. Das komplexe Verhältnis zwischen der Regulierung nach der KI-VO und der Regulierung künstlicher Intelligenz in anderen Rechtsakten der Union sowie der Mitgliedstaaten wird im abschließenden dritten Kapitel beschrieben. Gerade für Behörden und Unternehmen, die KI-Systeme in ihre Arbeitsabläufe implementieren wollen, sind die dortigen Ausführungen zu Datenrecht, Urheberrecht, Persönlichkeitsrecht sowie Prüfungs- und Arbeitsrecht von großer Relevanz.

Teil 3 des Buches ist der Durchsetzung der KI-rechtlichen Regulierung gewidmet. Hier wird nach der Behandlung der Aufsicht über KI-Modelle und KI-Systeme auf europäischer und nationaler Ebene die Haftung im Zusammenhang mit dem Einsatz von KI-Systemen aufgezeigt. Weitere Kapitel sind der Sanktionierung von Verstößen gegen die KI-VO und der Darstellung behördlicher Anordnungen nach der DS-GVO gewidmet.

Der Leitfaden ist im Wesentlichen von Praktikern für Praktiker geschrieben und das besondere Augenmerk des Buches liegt auf der verständlichen und praxisorientierten Darstellung des neuen Rechts. Der Herausgeberkreis setzt sich aus dezidierten Vertretern einer praxis- und lösungsorientierten Wissenschaft sowie der Datenschutzaufsicht und der Perspektive des europäischen Gesetzgebers zusammen. Die Herausgeber Rolf Schwartmann und Tobias Keber haben ihre (gemeinsame) wissenschaftliche Herkunft neben dem internationalen Recht insbesondere im Medien- und Datenschutzrecht, das den Schwerpunkt ihrer Tätigkeit ausmacht. Das besondere Augenmerk beider Herausgeber liegt in der praxisorientierten Forschung. Rolf Schwartmann forscht als Leiter der Kölner Forschungsstelle für Medienrecht an der TH Köln im Bereich des Rechts der Medien-, Daten und der künstlichen Intelligenz und lehrt dazu insbesondere im dortigen Masterstudiengang Medienrecht und Medienwirtschaft. Er ist Vorsitzender der Gesellschaft für Datenschutz und Datensicherheit (GDD) e.V. und Mitglied der Datenethikkommission der Bundesregierung. Tobias Keber ist seit Juli 2023 als Landesbeauftragter für den Datenschutz und die Informationsfreiheit Baden-Württembergs Leiter einer großen nationalen Datenschutzaufsichtsbehörde und damit auch für die Aufsicht über eine Reihe bedeutender Tech-Unternehmen mit Schwerpunkt auf KI zuständig. Davor hat er bereits intensiv zum Einsatz von KI geforscht. Mitherausgeber Kai Zenner hat als Büroleiter des Europaabgeordneten Axel Voss den Entstehungsprozess der KI-VO seit 2019 begleitet und maßgeblich an den Verhandlungen des Gesetzes, insbesondere auf technischer Ebene, mitgewirkt. Er ist zudem Teil von Expertengruppen und -netzwerken auf Ebene der OECD und der Vereinten Nationen (UNO). Seine Beiträge zum Leitfaden geben seine persönliche Auffassung und nicht die des Europäischen Parlaments wieder.

Die Autorenschaft des Buches wurde mit besonderer Bedachtnahme auf die Anforderungen der Praxis an die Vermittlung der Besonderheiten des neuen Rechtsgebiets rund um KI gewählt. Es war uns wichtig, einen Kreis zusammenzustellen, der sich aus Personen aus Wissenschaft und Praxis zusammensetzt, die ihre große Expertise aus unterschiedlichen Bereichen von Recht und Technik in das nun in Normen gefasste Recht der künstlichen Intelligenz einbringen. Das Team besteht aus Autoren aus der Wissenschaft ebenso wie aus Angehörigen der Anwalt-, Richter und Staatsanwaltschaft sowie aus Vertretern der Datenschutzaufsicht und einschlägiger Verbände und Unternehmen. Es sind neben juristischen Mitwirkenden insbesondere auch mit KI befasste Techniker und Informatiker eingebunden. Rechtsprechung und Literatur sowie weitere Quellen konnten bis Anfang Juni 2024 berücksichtigt werden.

Das vorliegende Buch ist eines der ersten, das zur KI-Verordnung mit deren Inkrafttreten erscheint. Das war unser ambitioniertes Ziel. Der Band wurde im Frühjahr 2024 unter erheblichem Einsatz geschrieben, nachdem die KI-Verordnung im Februar 2024 ihre im Wesentlichen endgültige Fassung erhalten hatte. Das Buch muss und will sich an dem Anspruch messen lassen, das Recht der künstlichen Intelligenz nicht nur praxisgerecht darzustellen, sondern auch Lösungen zu entwickeln und verständlich darzubieten, die die Europäische Union zu einem sicheren und attraktiven Standort für KI zum Wohl der Menschen macht.

Allen Mitwirkenden und insbesondere auch dem Verlag C.F. Müller danken wir als Herausgeber dafür, das ambitionierte Projekt in kurzer Zeit reibungslos umgesetzt zu haben. Besonderer Dank gilt Moritz Köhler von der Kölner Forschungsstelle für Medienrecht an der TH Köln, der bei der Koordination der Beiträge viele Fäden sicher in der Hand hatte.

Wir freuen uns über Anregungen, Kritik und Lob zu diesem Buch, das wir nicht nur in folgende Auflagen dieses Buches einbringen werden, sondern auch in den Heidelberger Kommentar zur KI-VO, der Ende 2024 erscheinen soll, ebenfalls herausgegeben von

Rolf Schwartmann, Tobias Keber und Kai Zenner

Köln, Stuttgart und Brüssel im Juli 2024

Inhaltsverzeichnis

 Vorwort zur 2. Auflage

 Vorwort

 Abkürzungsverzeichnis

 Literaturverzeichnis

 1. TeilGrundlagen

  1. KapitelZeitliche Agenda der KI-VO

   (Schwartmann/Kurth)

  2. KapitelBegriffsbestimmungen

   (Keber/Zenner/Hansen/Schwartmann)

   A.Künstliche Intelligenz1

   B.Symbolische KI (1. Welle)2 – 5

   C.Maschinelles Lernen (2. Welle)6

   D.GPAI-Modelle und generative KI7

   E.Zukunftsprognose (3. Welle)8

  3. KapitelAbgrenzung zu anderen Handlungsfeldern 

   (Benedikt/Keber)

   A.Abgrenzung zu Legal Tech und Automatisierung 1

   B.Abgrenzung zu Robotik 2

  4. KapitelTechnische und wirtschaftliche Einordnung künstlicher Intelligenz

   A.Funktionsweise von KI-Anwendungen (Meding)1 – 10

   B.Überblick zu Anwendungsbereichen von KI und Use Cases11 – 69

    I.GPAI-Modelle und generative KI als Kopiloten (Schwartmann/Mühlenbeck)11, 12

    II.GPAI-Modelle und generative KI zur Bild- und Textverarbeitung (Schwartmann/Mühlenbeck)13 – 15

    III.Open Source und generative KI (Wünschelbaum)16 – 22

    IV.Legal Tech und Smart Contracts (Schwartmann/Mühlenbeck)23

    V.KI in der Rechts-, Steuer- und Unternehmensberatung (Kremer)24 – 32

     1.KI als eigenes Produkt, as a Service oder Integration in Beratungsleistungen24 – 27

     2.Praktische Beispiele für die Nutzung von KI bei Beratungsleistungen28

     3.Kurze Bewertung unter Beachtung der KI-VO29 – 32

    VI.KI-Anwendungen im Sport und Gesundheitssektor (Schwartmann/Mühlenbeck)33, 34

    VII.KI im öffentlichen Sektor35 – 54

     1.Strafverfolgung (Hartmann)35 – 41

      a)Spezifische Use Cases der Strafverfolgung37, 38

      b)Allgemeine Use Cases der Strafverfolgung39 – 41

     2.Bildungseinrichtungen (Schwartmann)42 – 46

      a)Ausgangssituation43, 44

      b)Bewertung45, 46

     3.Behörden (Wünschelbaum)47 – 54

    VIII.KI im Beschäftigungskontext (Wünschelbaum)55 – 60

    IX.Umgehungsgefahr durch Altsysteme (Wünschelbaum)61 – 69

 2. TeilRegulierung von KI

  1. KapitelKI-VO

   A.Entstehungsgeschichte (Zenner)1 – 6

   B.Anwendungsbereich7 – 50

    I.Sachlicher Anwendungsbereich (Keber/Zenner)10 – 17

     1.Begriff der künstlichen Intelligenz in der KI-VO11 – 16

      a)KI-System12 – 15

      b)GPAI-Modelle16

     2.Geschützte Rechtsgüter17

    II.Persönlicher Anwendungsbereich (Keber/Zenner)18 – 24

     1.Verpflichtete19 – 23

     2.Geschützte24

    III.Territorialer Anwendungsbereich (Keber/Zenner)25

    IV.Bereichsausnahmen26 – 50

     1.Freie und quelloffene Lizenz (FOSS) (Keber/Zenner)26 – 33

      a)Genese27

      b)KI-Systeme, nicht -Modelle28

      c)Freie und quelloffene Lizenz (FOSS)29, 30

      d)Bereitgestellt31 – 33

     2.DS-GVO (Maslewski)34, 35

     3.Forschung (Keber/Zenner)36 – 38

     4.Militär (Keber/Zenner)39 – 43

     5.Weitere Ausnahmen (Schwartmann/Köhler)44 – 50

   C.Risikobasierter Ansatz51 – 477

    I.Grundlagen (Schwartmann/Köhler)51 – 54

    II.Maßnahmen zur KI-Kompetenz (Art. 4)55, 56

    III.Verbotene KI-Systeme57 – 124

     1.Unterschwellige Beeinflussung (Art. 5 Abs. 1 Buchst. a) (Schwartmann/Pottkämper)57 – 63

      a)Zweck und Anwendungsbereich57

      b)Definition und Interpretationsspielraum58, 59

      c)Voraussetzungen für das Verbot60, 61

      d)Einschränkungen und zukünftige Betrachtungen62, 63

     2.Ausnutzen von Vulnerabilität und Schutzbedürftigkeit (Art. 5 Abs. 1 Buchst. b) (Schwartmann/Pottkämper)64 – 68

      a)Ziel und Umfang64, 65

      b)Einschränkungen und Auswirkungen66

      c)Zukünftige Entwicklungen67, 68

     3.Bewertung auf Grundlage des sozialen Verhaltens (Art. 5 Abs. 1 Buchst. c) (Schwartmann/Pottkämper)69 – 75

      a)Verbot und seine Bedingungen70

      b)Ziel und Herausforderungen71

      c)Spezifizierung des Verbots72

      d)Anwendungsbereich und zukünftige Überlegungen73 – 75

     4.Prädiktive Polizeiarbeit (Art. 5 Abs. 1 Buchst. d) (Schwartmann/Keber/Köhler)76 – 85

      a)Anwendungsbereich78 – 80

      b)Risiken des Predictive Policing81, 82

      c)Abgrenzung von der automatisierten Datenanalyse83 – 85

     5.Ungezielte Sammlung und Verwendung von Gesichtsbildern (Art. 5 Abs. 1 Buchst. e) (Schwartmann/Keber/Pottkämper)86 – 88

     6.Emotionserkennungssysteme (Art. 5 Abs. 1 Buchst. f) (Schwartmann/Keber/Steinbrück)89 – 93

     7.Biometrische Kategorisierung (Art. 5 Abs. 1 Buchst. g) (Keber/Schwartmann)94 – 99

     8.Biometrische Echtzeit-Fernidentifizierung (Art. 5 Abs. 1 Buchst. h) (Ganter/Rembold)100 – 124

      a)Verbot der Nutzung100 – 104

      b)Die zulässigen Zwecke des Einsatzes der RBI105 – 124

       aa)Suche nach Opfern von Straftaten und vermissten Personen (Art. 5 Abs. 1 UAbs. 1 Buchst. h (1) KI-VO)105

       bb)Abwehr schwerwiegender Gefahren (Art. 5 Abs. 1 UAbs. 1 Buchst. h (2) KI-VO)106

       cc)Aufklärung von Straftaten (Art. 5 Abs. 1 UAbs. 1 Buchst. h (3) KI-VO)107, 108

       dd)Zwecke außerhalb der Strafverfolgung (Art. 5 Abs. 1 UAbs. 2 KI-VO)109

       ee)Weitere Anforderungen an die RBI (Art. 5 Abs. 2 KI-VO)110

       ff)Situationsfolgenabschätzung (Art. 5 Abs. 2 S. 1 Buchst. a KI-VO)111 – 113

       gg)Autorisierung der RBI durch nationale Behörden (Art. 5 Abs. 3 KI-VO)114 – 116

       hh)Mitteilung an Marktüberwachungsbehörde und Datenschutzbehörde (Art. 5 Abs. 4 KI-VO)117

       ii)Umsetzung der RBI im nationalen Recht (Art. 5 Abs. 5 KI-VO)118, 119

       jj)Jahresbericht der Marktüberwachungsbehörden und Datenschutzbehörden zum RBI-Einsatz (Art. 5 Abs. 6 KI-VO)120, 121

       kk)Jahresbericht der Kommission zum RBI-Einsatz (Art. 5 Abs. 7 KI-VO)122

       ll)Verhältnis zum sonstigen Unionsrecht (Art. 5 Abs. 8 KI-VO)123, 124

    IV.Hochrisiko-KI-Systeme125 – 449

     1.Grundlagen (Schwartmann/Köhler)125 – 151

      a)Klassifizierung nach Art. 6 Abs. 1127

      b)Klassifizierung nach Art. 6 Abs. 2 KI-VO128 – 145

       aa)Ausnahmen von der Hochrisiko-Klassifizierung (Art. 6 Abs. 3 KI-VO)129 – 142

       bb)Recht der Kommission zur Änderung der relevanten Kriterien143 – 145

      c)Recht der Kommission zur Änderung des Anhangs III146 – 151

     2.Hochrisiko-KI-Systeme gem. Art. 6 Abs. 1 KI-VO (Anhang I) (Schwartmann/Pottkämper)152 – 164

      a)Wege zur Einstufung als Hochrisiko-KI-System gem. Art. 6 Abs. 1 KI-VO i.V.m. Anhang I155

      b)Hochrisiko-KI-Systeme im Produktsicherheitsrecht156

      c)Produktregulierung nach altem Rechtsrahmen157 – 159

      d)Produktregulierung nach neuem Rechtsrahmen160, 161

      e)Folgen einer Klassifizierung als Hochrisiko-System162

      f)Zwischenfazit163, 164

     3.Hochrisiko-KI-Systeme gem. Art. 6 Abs. 2 KI-VO (Anhang III)165 – 265

      a)Biometrische Identifizierung, Kategorisierung und Emotionserkennung natürlicher Personen (Hansen/Nägele/Steinbrück)165 – 171

      b)Verwaltung und Betrieb kritischer Infrastrukturen (Nägele)172 – 175

      c)Allgemeine und berufliche Bildung176 – 201

       aa)Hochrisiko-Klassifizierung nach Anhang III Nr. 3 (Schwartmann/Keber/Henning)177 – 184

       bb)Handreichung für Bildungseinrichtungen (Schwartmann)185 – 201

      d)Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit (Wünschelbaum)202 – 221

       aa)Sektoraler Anwendungsbereich204 – 209

       bb)Erfasste Einsatzfelder210 – 217

       cc)Ausnahmen von der Hochrisiko-Regulierung218 – 221

      e)Zugänglichkeit und Inanspruchnahme grundlegender privater und öffentlicher Dienste und Leistungen (Schwartmann/Köhler)222 – 231

       aa)Zugang zu öffentlichen Unterstützungsleistungen und -diensten223, 224

       bb)Kreditwürdigkeit und Kreditscore225 – 228

       cc)Lebens- und Gesundheitsversicherungen229

       dd)Notrufe230, 231

      f)Strafverfolgung (Benedikt/Hartmann)232 – 241

      g)Migration, Asyl und Grenzkontrolle (Benedikt)242 – 245

      h)Rechtspflege und demokratische Prozesse246 – 265

       aa)Hochrisiko-Klassifizierung nach Anhang III Nr. 8 (Schwartmann/Benedikt/Köhler)247 – 260

       bb)Strukturierter Parteivortrag – ein Fall für die KI-VO? (Schwartmann/Köhler)261 – 265

     4.Anforderungen an Hochrisiko-KI-Systeme266 – 363

      a)Einhaltung der Anforderungen an Hochrisiko-KI-Systeme (Art. 8) (Schwartmann/Keber/Köhler/Zenner)266 – 276

       aa)Genese267

       bb)Adressaten der Pflichten268

       cc)Modalitäten der Einhaltung269, 270

       dd)Besonderheiten für KI-Systeme i.S.v. Art. 6 Abs. 1271, 272

       ee)Use Case und Konkurrenzen zu anderen Pflichten der KI-VO273 – 276

      b)Riskomanagementsystem (Art. 9) (Hansen)277 – 296

       aa)Managementsysteme zum Umgang mit Risiken278 – 280

       bb)Anforderungen des Art. 9 an ein Risikomanagementsystem281 – 292

       cc)Nachweis der Erfüllung des Art. 9 KI-VO293 – 296

      c)Daten und Daten-Governance (Art. 10) (Schwartmann/Keber/Köhler/Nägele)297 – 308

       aa)Regulierung der Trainings-, Validierungs- und Testdatensätze (Art. 10 Abs. 1–4 KI-VO)301 – 304

       bb)Rechtsgrundlage für die Verarbeitung besonderer Kategorien personenbezogener Daten (Art. 10 Abs. 5 KI-VO)305 – 308

      d)Technische Dokumentation (Art. 11 KI-VO) (Hansen)309 – 318

      e)Aufzeichnungspflichten (Art. 12) (Schwartmann/Keber/Köhler)319 – 328

       aa)Protokollierungsfunktionen zur Gewährleistung der Rückverfolgbarkeit320 – 324

       bb)Spezielle Protokollierungsfunktionen für biometrische Fernidentifizierungssysteme325

       cc)Adressat und Aufbewahrungspflicht326

       dd)Konflikt mit der richterlichen Unabhängigkeit327, 328

      f)Transparenz und Bereitstellung von Informationen für die Betreiber (Art. 13) (Schwartmann/Keber/Köhler)329 – 338

       aa)Bedeutung der Transparenz beim Einsatz von Hochrisiko-KI-Systemen330, 331

       bb)Transparenz332 – 334

       cc)Betriebsanleitungen335 – 338

      g)Menschliche Aufsicht (Art. 14) (Schwartmann/Keber/Köhler)339 – 352

       aa)Verständnis für Funktionsweise und Risiken (Art. 14 Abs. 4 Buchst. a–c)343 – 346

       bb)Eingriff in den Betrieb (Art. 14 Abs. 4 Buchst. d und e KI-VO)347 – 350

       cc)Verifizierung beim Einsatz biometrischer Fernidentifizierungssysteme351, 352

      h)Genauigkeit, Robustheit und Cybersecurity (Art. 15 KI-VO) (Nägele/Steinbrück)353 – 363

     5.Pflichten im Umgang mit Hochrisiko-KI-Systemen (Kremer/Haar)364 – 449

      a)Pflichten der Anbieter von Hochrisiko-KI-Systemen (Art. 16–22 KI-VO)365 – 398

       aa)Allgemeine Pflichten der Anbieter (Art. 16 KI-VO)366, 367

       bb) Vorhandensein eines Qualitätsmanagements (Art. 17 KI-VO)368 – 372

       cc)Aufbewahren der Dokumentation (Art. 18 KI-VO)373 – 377

       dd)Aufbewahren der Protokolle (Art. 19 KI-VO)378 – 380

       ee)Ergreifen erforderlicher Korrekturmaßnahmen und Bereitstellen erforderlichen Informationen (Art. 20 KI-VO)381 – 387

       ff)Zusammenarbeit mit den zuständigen Behörden (Art. 21 KI-VO)388 – 392

       gg)Benennen eines Bevollmächtigten (Art. 22 KI-VO)393 – 398

      b)Pflichten der Einführer von Hochrisiko-KI-Systemen (Art. 23 KI-VO)399 – 408

       aa)Überprüfungspflichten (Abs. 1, Abs. 2)400 – 402

       bb)Pflichten ab dem Inverkehrbringen (Abs. 3–5)403 – 405

       cc)Zusammenarbeit mit den zuständigen nationalen Behörden (Abs. 6, Abs. 7)406 – 408

      c)Pflichten der Händler von Hochrisiko-KI-Systemen (Art. 24 KI-VO)409 – 415

       aa)Überprüfungspflichten (Abs. 1, Abs. 2)410, 411

       bb)Pflichten ab dem Bereitstellen auf dem Markt (Abs. 3–4)412 – 414

       cc)Zusammenarbeit mit den zuständigen nationalen Behörden (Abs. 5, Abs. 6)415

      d)Pflichten der Betreiber von Hochrisiko-KI-Systemen (Art. 26 KI-VO)416 – 441

       aa)Pflichten im Zusammenhang mit der Verwendung (Abs. 1–3)417 – 420

       bb)Zweckgemäße und repräsentative Eingabedaten (Abs. 4)421 – 424

       cc)Überwachungspflichten (Abs. 5)425 – 427

       dd)Aufbewahrungspflicht für automatisch erzeugte Protokolle (Abs. 6)428

       ee)Informationspflicht für Arbeitgeber (Abs. 7)429

       ff)Registrierung (Abs. 8)430

       gg)Durchführung der Datenschutz-Folgenabschätzung (Abs. 9)431 – 433

       hh)Hochrisiko-KI-System zur nachträglichen biometrischen Fernidentifizierung (Abs. 10)434 – 439

       ii)Informationspflicht gegenüber natürlichen Personen (Abs. 11)440

       jj)Zusammenarbeit mit den zuständigen nationalen Behörden (Abs. 12)441

      e)Grundrechte-Folgenabschätzung für Hochrisiko-KI-Systeme (Art. 27 KI-VO)442 – 449

       aa)Verpflichtete zur Durchführung der Grundrechte-Folgenabschätzung (Abs. 1)443

       bb)Zeitpunkt, Häufigkeit der Durchführung und Verhältnis zur Datenschutz-Folgenabschätzung (Abs. 1, Abs. 2, Abs. 4)444 – 446

       cc)Gegenstand der Grundrechte-Folgenabschätzung (Abs. 1)447, 448

       dd)Mitteilung an die Marktüberwachungsbehörde (Abs. 3, Abs. 5)449

    V.KI-Systeme mit besonderen Transparenzpflichten (Art. 50 KI-VO) (Kremer/Haar)450 – 476

     1.Zeitpunkt der Erfüllung der Transparenzpflichten (Abs. 5)453 – 455

     2.Beachtung der geltenden Barrierefreiheitsanforderungen (Abs. 5)456

     3.Besondere Transparenzpflichten457 – 474

      a)KI-Systeme für die direkte Interaktion mit natürlichen Personen (Abs. 1)458 – 461

      b)KI-Systeme zur Erzeugung synthetischer Audio-, Bild-, Video- oder Textinhalte (Abs. 2)462 – 465

      c)Emotionserkennungssysteme oder System zur biometrischen Kategorisierung (Abs. 3)466 – 468

      d)KI-Systeme zur Erzeugung von Deepfakes (Abs. 4 Fall 1)469 – 472

      e)KI-System zur Erzeugung oder Manipulation von Texten zur Information der Öffentlichkeit (Abs. 4 S. 4)473, 474

     4.Verhältnis der besonderen Transparenzpflichten zum Digital Services Act475, 476

    VI.Einfache KI-Systeme (Art. 2 i.V.m. Art. 112, Art. 95) (Kremer/Haar)477

   D.Verantwortlichkeiten entlang der KI-Wertschöpfungskette (Zenner/Schwartmann/Hansen)478 – 524

    I.Konzeptionelle Einführung: Probleme mit dem Ansatz der Kommission478 – 484

    II.Der finale Ansatz nach dem Trilog im Überblick485 – 524

     1.GPAI-Modelle mit systemischem Risiko (Art. 51 und 52 KI-VO) (Level 1)487 – 501

      a)Genese488 – 491

      b)Begriffsbestimmungen von GPAI-Modellen (Art. 3 Nr. 63–65)492

      c)Klassifizierung von systemischen GPAI-Modellen (Art. 51 und 52 KI-VO)493

      d)Art. 51 KI-VO: GPAI-Modelle mit systemischem Risiko494

      e)Mitteilungspflicht aus Art. 52 Abs. 1 KI-VO495

      f)Informations- und Dokumentationspflichten für systemische GPAI-Modelle aus Art. 53 KI-VO496

      g)Spezifische Pflichten für GPAI-Modelle mit systemischem Risiko (Art. 55 KI-VO)497

      h)Verhaltenskodizes (Art. 56 KI-VO)498 – 501

     2.GPAI-Modelle und KI-Komponenten (Art. 53 und Art. 25 Abs. 2 KI-VO) (Level 2)502 – 509

     3.Anbieter (Level 3)510 – 520

      a)Definition511, 512

      b)Anbieterstellung durch Maßnahmen nach Art. 25 KI-VO („Upgrade mit Folgen“)513 – 520

       aa)Art. 25 Abs. 1 Buchst. a: Markenzeichen515

       bb)Art. 25 Abs. 1 Buchst. b: Technische Modifikation516

       cc)Art. 25 Abs. 1 Buchst. c: Zweckänderung517, 518

       dd)Art. 25 Abs. 2 KI-VO: Zusammenarbeit519, 520

     4.Betreiber (Level 4)521, 522

     5.Betroffene Person (Level 5)523, 524

   E.Harmonisierte Normen und gemeinsame Spezifikationen (Art. 40 f. DS-GVO) (Hansen)525 – 539

    I.Europäische Normung527 – 529

    II.Rolle der Standardisierung in der KI-VO530 – 533

    III.Harmonisierte Normen und Normungsdokumente: Art. 40 KI-VO534 – 537

    IV.Gemeinsame Spezifikationen: Art. 41 KI-VO538, 539

   F.Reallabore (Art. 57 f. KI-VO) (Keber/Hansen/Nägele)540 – 563

    I.Allgemeines541 – 545

    II.Ziele der Reallabore546, 547

    III.Durchführungsrechtsakte der Kommission548, 549

    IV.Befugnis zur Weiterverarbeitung personenbezogener Daten550, 551

    V.Abschlussbericht552

    VI.Haftung553

    VII.Testen unter Realbedingungen außerhalb von Reallaboren554 – 558

    VIII.Förderung der Innovation, insbesondere bei KMU und Start-up-Unternehmen559 – 562

    IX.Nationales Reallabore-Gesetz562

    X.Anwendbare Regelungen für Gesundheitsforschung mit KI563

  2. KapitelNationale Regulierung

   (Schwartmann/Köhler)

   A.Anwendungsbereich der KI-VO3

   B.Öffnungsklauseln4 – 8

   C.Zulässigkeit des Einsatzes von KI-Systemen9 – 11

   D.Anwendungsfall: KI-Einsatz in den Medien12 – 18

    I.Differenzierung nach Automatisierungsstufen13 – 16

    II.Sonderproblem: Vielfaltssicherung beim KI-Einsatz in den Medien17, 18

  3. KapitelVerhältnis zu anderen Rechtsgebieten

   A.Datenrecht3 – 105

    I.DS-GVO3 – 70

     1.Anwendungsbereich und Verantwortlichkeit (Schwartmann/Köhler)3 – 15

      a)Datenkategorien im Umgang mit KI-Systemen4 – 6

      b)Anwendbarkeit der DS-GVO7 – 11

      c)Datenschutzrechtliche Verantwortlichkeit12 – 15

     2.Begriff der künstlichen Intelligenz in der DS-GVO (Maslewski)16 – 18

     3.Verbot mit Erlaubnisvorbehalt nach Art. 6 Abs. 1 und Art. 9 Abs. 1 DS-GVO (Keber)19 – 32

      a)Art. 6 Abs. 1 Buchst. a DS-GVO: Einwilligung20

      b)Art. 6 Abs. 1 Buchst. b DS-GVO: Erfüllung eines Vertrages21, 22

      c)Art. 6 Abs. 1 Buchst. c DS-GVO: Erfüllung einer rechtlichen Verpflichtung23

      d)Art. 6 Abs. 1 Buchst. e DS-GVO: Öffentliches Interesse oder Öffentliche Gewalt24

      e)Art. 6 Abs. 1 Buchst. f DS-GVO: Berechtigte Interessen25 – 31

      f)Art. 6 Abs. 4 DS-GVO: Zweckänderung32

     4.Besondere Kategorien personenbezogener Daten (Keber/Steinbrück)33, 34

     5.Verbot der automatisierten Einzelfallentscheidung gem. Art. 22 DS-GVO (Schwartmann/Benedikt/Köhler)35 – 43

     6.Transparenz- und Informationspflichten nach Art. 5 Abs. 1 Buchst. a und 12 ff. DS-GVO (Schwartmann/Köhler)44 – 47

     7.Technische und organisatorische Maßnahmen (Art. 24, 25, 32 DS-GVO) (Hansen/Keber)48 – 70

      a)Anforderungen der DS-GVO50 – 58

       aa)Ziel der technischen und organisatorischen Maßnahmen in der DS-GVO51 – 53

       bb)Anforderungen des Art. 25 DS-GVO: Gestaltung der Verarbeitung54 – 56

       cc)Anforderungen des Art. 32 DS-GVO: Sicherheit der Verarbeitung57, 58

      b)Bedeutung für KI-Systeme59 – 68

       aa)Allgemein59 – 61

       bb)Umsetzung des Art. 25 DS-GVO in Bezug auf KI-Systeme62 – 66

       cc)Umsetzung des Art. 32 DS-GVO in Bezug auf KI-Systeme67, 68

      c)Leitlinien und Standards69

      d)DSK Orientierungshilfe für den datenschutzkonformen Einsatz von KI-Anwendungen70

    II.BDSG und Landesdatenschutzgesetze (Schwartmann/Köhler)71 – 75

     1.BDSG72 – 74

     2.Landesdatenschutzgesetze75

    III.Telekommunikations-Digitale-Dienste-Datenschutz-Gesetz (TDDDG) (Benedikt)76 – 80

    IV.Data Act (DA) (Schwartmann/Wasilewski)81 – 86

     1.Allgemeine Erwägungen zwischen KI-VO und DA82, 83

     2.Daten und Daten-Governance (Art. 10 KI-VO)84 – 86

    V.Data Governance Act (DGA) (Schwartmann/Pottkämper)87 – 92

     1.Adressaten88, 89

     2.Zentrale Inhalte der Rechtsakte90 – 92

      a)KI-Verordnung: Sicherheit und Verantwortung in der KI-Nutzung90

      b)Data Governance Act: Datenverfügbarkeit und -austausch91

      c)Komplementäre Beziehung zwischen KI-VO und DGA92

    VI.European Data Spaces (Schwartmann/Wasilewski)93 – 105

     1.European Health Data Space (EHDS)95 – 102

     2.„GreenData4All“103 – 105

   B.Verhältnis zu anderen europäischen Rechtsakten (Schwartmann/Wasilewski)106 – 111

    I.European Media Freedom Act (EMFA)106 – 110

    II.Weitere Rechtsakte111

   C.Urheberrecht (Sänger)112 – 135

    I.Die Input-Seite112 – 124

     1.Urheberrechte an Trainingsdaten112 – 122

     2.Prompts123, 124

    II.Die Output-Seite125 – 135

     1.Kein Urheberrecht der KI-Anwendung125, 126

     2.Urheberrecht des Anbieters127

     3.Urheberrecht des Verwenders128, 129

     4.Verwandte Schutzrechte130 – 135

   D.Persönlichkeitsrecht (Schwartmann/Köhler)136 – 144

    I.Verletzungen des Persönlichkeitsrechts durch KI-generierte Inhalte138 – 141

    II.Lösungsansätze in der Entwicklung142, 143

    III.Konsequenzen für Anwender144

   E.Prüfungsrecht (Schwartmann/Köhler/Kurth)145 – 149

    I.Einsatz seitens der Prüflinge146, 147

    II.Einsatz seitens der Prüfer148, 149

   F.Arbeitsrecht: KI im Beschäftigungskontext (Wünschelbaum)155 – 199

    I.Beschäftigungsspezifische KI-Verbote156 – 159

    II.Arbeitgeber als Regulierungsadressaten160 – 163

    III.Arbeitnehmer als KI-Betreiber164

    IV.KI-Öffnungsklausel im Beschäftigungskontext165 – 191

     1.Zweckrichtung166

     2.Persönlicher Regelungsumfang: Beschäftigte und teilweise Solo-Selbstständige167, 168

     3.Sachlicher Regelungsumfang: Anwender-Sphäre169 – 171

     4.Zulässige Regelungsinstrumente172 – 178

      a)Gesetze172

      b)Kollektivvereinbarungen173

      c)Begriff der „vorteilhafteren“ Regelung174 – 178

       aa)Mehrdimensionale Regulierungsziele175 – 177

       bb)Günstiger meint Vorteile, ohne Unterschreiten des Schutzniveaus178

     5.Gesetzliche Regelungsspielräume179 – 187

      a)Konkretisierung der Hochrisiko-Systeme nach Anhang III Nr. 4180, 181

      b)Umsetzung der Plattform-Richtlinie182

      c)KI-Beauftragter183

      d)Betreiber-Eigenschaft des Arbeitgebers konkretisieren184

      e)Stärkung der Rechte von Beschäftigten185

      f)Sandboxing-Optionen und Reallabore für Betreiber im Beschäftigungskontext186

      g)Grenzüberschreitender Einsatz von KI-Systemen187

     6.Regelungsspielräume in Kollektivvereinbarungen188 – 191

      a)KI-Einsatz im Konzern190

      b)Konkretisierung von Vorgaben: Beteiligungs- und Informationsrechten der KI-VO191

    V.Regelungskonkurrenz im Unionsrecht: Plattform-Richtlinie192

    VI.Regelungskonkurrenzen im deutschen Arbeitsrecht193 – 199

 3. TeilDurchsetzung

  1. KapitelGovernance

   A.Einführung (Zenner)1 – 4

   B.Übersicht der Aufsicht5 – 59

    I.Kommission (Amt für Künstliche Intelligenz, Art. 64 ff. KI-VO) (Zenner)5, 6

    II.Europäischer Ausschuss für künstliche Intelligenz (Art. 65–66 KI-VO) (Zenner)7 – 9

    III.Beratungsforum (Art. 67 KI-VO) (Zenner)10, 11

    IV.Wissenschaftliches Gremium unabhängiger Sachverständiger (Art. 68–69 KI-VO) (Zenner)12, 13

    V.Europäischer Datenschutzbeauftragter (EDPS) (Zenner)14

    VI.Bewertung (Zenner)15

    VII.Nationale Behörden (Schwartmann/Hansen/Keber)16 – 29

     1.Struktur17 – 24

      a)Nationale Behörden nach der KI-VO18 – 20

      b)Zuweisung an nationale Behörden21 – 24

     2.Pflichten der Mitgliedstaaten25

     3.Modalitäten der Aufsicht26 – 29

      a)Unabhängigkeit, Unparteilichkeit und Unvoreingenommenheit26

      b)Vertraulichkeit27

      c)Erfahrungsaustausch28

      d)Anleitung und Beratung29

    VIII.Maßnahmenkatalog (Schwartmann/Keber/Zenner/Hansen)30 – 50

     1.Marktüberwachungsbehörden31 – 42

      a)Untersuchungsbefugnisse32 – 35

      b)Aufsichtsrechtliche Maßnahmen bei Verstößen gegen die KI-VO36 – 38

      c)Weitere Aufgaben der Marktüberwachungsbehörden39 – 42

     2.Andere nationale Behörden (Art. 77 KI-VO)43

     3.GPAI-Systeme und -Modelle44 – 50

    IX.Notifizierungsverfahren und notifizierte Stellen (Schwartmann/Köhler)51 – 55

    X.Rechtsbehelfe (Schwartmann/Köhler)56 – 59

     1.Recht auf Beschwerde bei der zuständigen Marktaufsichtsbehörde (Art. 85 KI-VO)57

     2.Recht auf Erklärung der individuellen Entscheidungsfindung (Art. 86 KI-VO)58

     3.Whistleblower-Richtlinie59

  2. KapitelHaftung

   A.Grundlagen (Kessen)1 – 25

    I.Vertragliche Haftung7

    II.Deliktische Haftung8 – 25

     1.Haftung des Nutzers/Betreibers8 – 16

     2.Haftung von Herstellern und Lieferanten17 – 25

      a)Produkthaftungsgesetz19, 20

      b)Produzentenhaftung21 – 23

      c)Haftung nach § 823 Abs. 2 BGB24, 25

   B.Sonderfragen des nationalen Rechts26 – 38

    I.Haftung für Urheberrechtsverletzungen (Sänger)26 – 31

     1.Inputs27

     2.Outputs28 – 31

    II.Haftung für Persönlichkeitsrechtsverletzungen (Schwartmann/Köhler)32 – 38

  3. KapitelSanktionen und sonstige Durchsetzungsmaßnahmen

   (Schwartmann/Köhler)

   A.Bußgelder2 – 13

    I.Allgemeine Bedingungen3 – 6

    II.Höhe der Geldbußen7 – 10

    III.Besonderheiten für GPAI-Modelle und Einrichtungen der Union11, 12

    IV.Bußgelder nach der DS-GVO13

   B.Andere Sanktionen und Durchsetzungsmaßnahmen14

  4. KapitelBehördliche Anordnungen nach der DS-GVO

   (Keber/Maslewski)

 Stichwortverzeichnis

Abkürzungsverzeichnis

a.A.

andere Ansicht

Abs.

Absatz

a.E.

am Ende

AEUV

Vertrag über die Arbeitsweise der Europäischen Union

AfP

Zeitschrift für Medien- und Kommunikationsrecht

Art.

Artikel

Aufl.

Auflage

BB

Betriebs-Berater

BDSG

Bundesdatenschutzgesetz

BGB

Bürgerliches Gesetzbuch

BGH

Bundesgerichtshof

BR-Drucks.

Bundesratsdrucksache

bspw.

beispielsweise

BT-Drucks.

Bundestagsdrucksache

Buchst.

Buchstabe

BVerfG

Bundesverfassungsgericht

bzgl.

bezüglich

bzw.

beziehungsweise

CR

Computer und Recht

DA

Data Act

DB

Der Betrieb

DGA

Data Governance Act

DRiZ

Deutsche Richterzeitung

DSA

Digital Services Act

DSB

Datenschutz-Berater

DS-GVO

Datenschutz-Grundverordnung

DSK

Datenschutzkonferenz

DSM-RL

Richtlinie EU 2019/790 des Europäischen Parlaments und des Rates über das Urheberrecht und die verwandten Schutzrechte im digitalen Binnenmarkt

DuD

Datenschutz und Datensicherheit

EDSA

Europäischer Datenschutzausschuss

EMFA

European Media Freedom Act

ErwG

Erwägungsgrund

etc.

et cetera

EU

Europäische Union

EuGH

Gerichtshof der Europäischen Union

EuR

Europarecht (Zeitschrift)

EuZW

Europäische Zeitschrift für Wirtschaftsrecht

f.

folgender

F.A.Z.

Frankfurter Allgemeine Zeitung

ff.

folgende

FOSS

freie und quelloffene Lizenz

FS

Festschrift

gem.

gemäß

GG

Grundgesetz

ggf.

gegebenenfalls

GPAI-Modell

KI-Modell mit allgemeinem Verwendungszweck

GPAI-System

KI-System mit allgemeinem Verwendungszweck

GRCh

Charta der Grundrechte der Europäischen Union

GRUR

Gewerblicher Rechtsschutz und Urheberrecht

Halbs.

Halbsatz

HmbBfDI

Der Hamburgische Beauftragte für Datenschutz und Informationsfreiheit

HR

Human Resources

Hrsg.

Herausgeber

i.E.

im Ergebnis

i.S.d.

im Sinne des/der

i.S.v.

im Sinne von

i.V.m.

in Verbindung mit

insb.

insbesondere

IT

Informationstechnik

JI-RL

Richtlinie des Europäischen Parlaments und des Rates zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten durch die zuständigen Behörden zum Zwecke der Verhütung, Ermittlung, Aufdeckung oder Verfolgung von Straftaten oder der Strafvollstreckung sowie zum freien Datenverkehr

Kap.

Kapitel

KI

Künstliche Intelligenz

KIR

Künstliche Intelligenz und Recht (Zeitschrift)

KI-VO

KI-Verordnung

KMU

Kleine und mittlere Unternehmen

K&R

Kommunikation und Recht

LfDI BW

Der Landesbeauftragte für Datenschutz und Informationssicherheit Baden-Württemberg

LTO

Legal Tribune Online

LTZ

Zeitschrift für digitale Anwendung

MedR

Medizinrecht (Zeitschrift)

ML

maschinelles Lernen

MMR

Multimedia und Recht

MüKo

Münchener Kommentar

m.w.N.

mit weiteren Nennungen/mit weiteren Nachweisen

NJW

Neue Juristische Wochenschrift

NLF

New Legislative Framework

Nr.

Nummer

NVwZ

Neue Zeitschrift für Verwaltungsrecht

NZA

Neue Zeitschrift für Arbeitsrecht

NZBau

Neue Zeitschrift für Baurecht und Vergaberecht

OECD

Organisation für wirtschaftliche Zusammenarbeit und Entwicklung

PharmR

Fachzeitschrift für das gesamte Arzneimittelrecht

RBI

Biometrische Echtzeit-Fernidentifizierung

RBÜ

Revidierte Berner Übereinkunft zum Schutz von Werken der Literatur und Kunst

RDi

Recht Digital

RDV

Recht der Datenverarbeitung

Rn.

Randnummer

S.

Satz/Seite

s.

siehe

sog.

sogenannt(e)

st. Rspr.

ständige Rechtsprechung

teilw.

teilweise

TOM

technische und organisatorische Maßnahmen

u.a.

unter anderem

UAbs.

Unterabsatz

UrhG

Urheberrechtsgesetz

Urt.

Urteil

usw.

und so weiter

UWG

Gesetz gegen den unlauteren Wettbewerb

v.

vom

v.a.

vor allem

VersR

Versicherungsrecht (Zeitschrift)

vgl.

vergleiche

VK:KIWA

Virtuelles Kompetenzzentrum KI und wissenschaftliches Arbeiten

W3C

World Wide Web Consortium

WRP

Wettbewerb in Recht und Praxis

z.B.

zum Beispiel

ZD

Zeitschrift für Datenschutz

ZfDR

Zeitschrift für Digitalisierung und Recht

ZfPC

Zeitschrift für Product Compliance

ZRP

Zeitschrift für Rechtspolitik

ZUM

Zeitschrift für Urheber- und Medienrecht

Literaturverzeichnis

Assion/Willecke Neue Regelungen zu vernetzten Produkten und Diensten: EU Data Act, MMR 2023, 805

Bai et al. Training a Helpful and Harmless Assistant with Reinforcement Learning from Human Feedback, arXiv:2204.05862 2022

Bauckhage/Föhr/Loitz/Marten Fünf Thesen zur Bedeutung von Künstlicher Intelligenz in der Wirtschaftsprüfung, DB 2023, 2065

Baumann Generative KI und Urheberrecht – Urheber und Anwender im Spannungsfeld, NJW 2023, 3673

Baumgartner/Brunnbauer/Cross Anforderungen der DS-GVO an den Einsatz von Künstlicher Intelligenz, MMR 2023, 543

Becker Der Kommissionsentwurf für eine KI-Verordnung – Gefahr für die Wissenschaftsfreiheit? Eine Analyse des KI-VOE im Licht von Art. 13 GRC, ZfDR 2023, 164

Becker/Feuerstack Der neue Entwurf des EU-Parlaments für eine KI-Verordnung, MMR 2024, 22

Becker/Toprak/Beyerer Explainable Artificial Intelligence for Interpretable Data Minimization, 2023 IEEE International Conference on Data Mining Workshops (ICDMW), 2023, 885

Bennek Synergie von Large Language Models und Knowledge Graphen im Rechtsbereich: Anwendungen, Herausforderungen und Zukunftsperspektiven, DSRITB 2023, 573

Bertelsmann Automatisch erlaubt? Fünf Anwendungsfälle algorithmischer Systeme auf dem juristischen Prüfstand, 2020

Berz/Engel/Hacker Generative KI, Datenschutz, Hassrede und Desinformation – Zur Regulierung von KI-Meinungen, ZUM 2023, 586

Binder/Egli Umgang mit Hochrisiko-KI-Systemen in der KI-VO, MMR 2024, 626

Birnbaum ChatGPT und Prüfungsrecht, NVwZ 2023, 1127

Bode Contesting Use of Force Norms Through Technological Practices ZaöRV 2023, 39

Bomhard/Merkle Europäische KI-Verordnung – Der aktuelle Kommissionsentwurf und praktische Auswirkungen, RDi 2021, 276

Bomhard/Siglmüller AI Act – das Trilogergebnis, RDi 2024, 45

Borges/Keil Rechtshandbuch Big Data, 2024

Botta Die Förderung innovativer KI-Systeme in der EU, ZfDR 2022, 391

Braegelmann Zuhilfenahme Künstlicher Intelligenz bei der Erstellung von Texten für die Universität, RDi 2024, 188

Brodowski/Hartmann/Sorge Legal Tech, KI und eine „hybride Cloud“ im Einsatz gegen Kindesmissbrauch, NJW 2023, 583

Brown et al. Language Models are Few-Shot Learners, arXiv:2005.14165 2020, 1

Callies/Ruffert EUV/AEUV, 6. Aufl. 2022

Cole/Schiedermair/Wagner Die Entfaltung von Freiheit im Rahmen des Rechts, Festschrift für Dieter Dörr zum 70. Geburtstag, 2022 (zit.: Bearbeiter in FS Dörr)

Däubler Die KI-Verordnung der Europäischen Union: Überblick und Konsequenzen im Arbeitsrecht, SR 2024, 110

Denga Die Nutzungsgovernance im European Health Data Space als Problem eines Immaterialgütermarkts, EuZW 2023, 25

Der Hamburgische Beauftragte für Datenschutz und Informationsreiheit Diskussionspapier: Large Language Models und personenbezogene Daten, https://datenschutz-hamburg.de/fileadmin/user_upload/HmbBfDI/Datenschutz/Informationen/240715_Diskussionspapier_HmbBfDI_KI_Modelle.pdf

Dierks European Health Data Space – Anforderungen und Chancen für die pharmazeutische Industrie, PharmR 2023, 369, 370 f.

Ebers/Heinze/Krügel/Steinrötter (Hrsg.) Künstliche Intelligenz und Robotik, 2020 (zit.: Ebers/Heinze/Krügel/Steinrötter/Bearbeiter § Rn. )

Ebers/Hoch/Rosenkranz/Ruschemeier/Steinrötter Der Entwurf für eine EU-KI-Verordnung: Richtige Richtung mit Optimierungsbedarf, RDi 2021, 531

Ebers/Hoch/Rosenkranz/Ruschemeier/Steinrötter The European Commission‚s Proposal for an Artificial Intelligence Act – A Critical Assessment by Members of the Robotics and AI Law Society (RAILS), Multidisciplinary Scientific Journal 2021, 589

Ebert/Spiecker gen. Döhmann Der Kommissionsentwurf für eine KI-Verordnung der EU, NVwZ 2021, 1188

Ehring/Taeger Produkthaftungs- und Produktsicherheitsrecht, 2022

Eichelberger Arzthaftung beim Einsatz von KI und Robotik, ZfPC 2023, 209

Engel Generative KI, Foundation Models und KI-Modelle mit allgemeinem Verwendungszweck in der KI-VO, KIR 2024, 21

Engeler Der Konflikt zwischen Datenmarkt und Datenschutz: Eine ökonomische Kritik der Einwilligung, NJW 2022, 3398

Europäische Kommission Artificial Intelligence – Questions and Answers, https://ec.europa.eu/commission/presscorner/detail/en/QANDA_21_1683

Ferreau Europas Digital- und Medienpolitik ist nicht (immer) die Lösung, sondern das Problem, K&R Editorial 11/2023

Feuerstack/Becker//Hertz Die Entwürfe des EU-Parlaments und der EU-Kommission für eine KI-Verordnung im Vergleich: Eine Bewertung mit Fokus auf Regeln zu Transparenz, Forschungsfreiheit, Manipulation und Emotionserkennung, ZfDR 2023, 433

Fischer/Jeremias/Dieterich Prüfungsrecht, 8. Aufl. 2022

Foerste/Graf von Westphalen Produkthaftungshandbuch, 4. Aufl. 2024 (zit.: Foerste/Graf von Westphalen/Bearbeiter)

Forgó Der European Health Data Space im Kontext der MMR, MMR 2023, 3

Frank/Heine KI-Einsatz im Betrieb unter der KI-Verordnung, NZA 2023, 1281

Franzen Beschäftigtendatenschutz: Was wäre besser als der Status quo?, RDV 2014, 201

Friedewald/Roßnagel/Heesen/Krämer/Lamla Künstliche Intelligenz, Demokratie und Privatheit, Der KI-Verordnungsentwurf und biometrische Erkennung: Ein großer Wurf oder kompetenzwidrige Symbolpolitik?, 2022 (zit.: Friedewald/Roßnagel/Heesen/Krämer/Lamla/Bearbeiter)

Furch Stimmlokalisierung von Games, MMR 2024, 728

Geminn Die Regulierung Künstlicher Intelligenz, ZD 2021, 354

Gerdemann Harmonisierte Normen und ihre Bedeutung für die Zukunft der KI, MMR 2024, 614

Gless/Seelmann Intelligente Agenten und das Recht, 2016

Gola/Heckmann Datenschutz-Grundverordnung, Bundesdatenschutzgesetz – DS-GVO/BDSG, 3. Aufl. 2022 (zit.: Gola/Heckmann/Bearbeiter DS-GVO/BDSG, Art./§ Rn.)

Gonscherowski/Hansen/Rost Resilienz – eine neue Anforderung aus der Datenschutz-Grundverordnung, DuD 2018, 442

Götz Rechtsdurchsetzung von „meldenden Personen“ gegenüber Online-Plattformen nach dem DSA — Zur abschließenden Regelung der Rechtsbehelfe durch den DAS, CR 2023, 450

Graichen Die Automatisierung der Justiz, 2022

von der Groeben/Schwarze/Hatje Europäisches Unionsrecht, 7. Aufl. 2015

Grützmacher Die zivilrechtliche Haftung für KI nach dem Entwurf der geplanten KI-VO, CR 2021, 433

Gudarzi Vielfaltssicherung in sozialen Netzwerken: Eine verfassungsrechtliche Betrachtung des Schutzes der Meinungsvielfalt und der Meinungsbildungsfreiheit, 2022

Günter/Gerigk/Berger Von Algorithmen und Arbeitnehmern: Die europarechtliche Regulierung von KI im arbeitsrechtlichen Kontext, NZA 2024, 234

Hacker A Legal Framework for AI Training Data – From First Principles to the Artificial Intelligence Act, Law Innovation and Technology 2021, 257

Hacker/Berz Der AI Act der Europäischen Union – Überblick, Kritik und Ausblick, ZRP 2023, 226

Hahn Die Regulierung biometrischer Fernidentifizierung in der Strafverfolgung im KI-Verordnungsentwurf der EU-Kommission, ZfDR 2023, 142

Hanloser Cookies 2.0 – TTDSG und nun? ZD 2021, 399

Hansen/Probst Souveräne Sicherheit, Zero Trust und das Datenschutzrecht, DuD 2023, 623

Hartmann KI & Recht kompakt, 2020

Hartmann ChatGPT & Co. in der Strafjustiz – Einsatzszenarien großer KI-Sprachmodelle in der Strafverfolgung, RDV 2023, 300 ff.

Hartmann/Cipierre/Beek Datamining in der Strafjustiz? RDV 2023, 147 ff.

Hartmann/Prinz Immaterialgüterrechtlicher Schutz von Systemen Künstlicher Intelligenz, DSRITB 2018, 769

Hartung Smartlaw, ChatGPT und das RDG, RDi 2023, 209

Heckmann/Rachut Rechtsichere Hochschulprüfungen mit und trotz generativer KI, OdW 2024, 65

Heinze Daten, Plattformen und KI als Dreiklang unserer Zeit, DSRITB 2022, 187

Heinze/Sorge/Specht-Riemenschneider Das Recht der Künstlichen Intelligenz, KIR 2024, 11

Hennemann/Steinrötter Der Data Act, NJW 2024, 1

Hentsch/Rodenhausen Einsatzfelder von KI in Games, MMR 2024, 714

Hilgendorf/Roth-Isigkeit Die neue Verordnung der EU zur Künstlichen Intelligenz, 2023

Hoeren/Sieber/Holznagel Handbuch Multimedia-Recht; 60. Aufl. 2024; Loseblattwerk (zit: Bearbeiter in Hoeren/Sieber/Holznagel, Multimedia-Recht)

Holthausen Big Data, People Analytics, KI und Gestaltung von Betriebsvereinbarungen – Grund-, arbeits- und datenschutzrechtliche An- und Herausforderungen, RdA 2021, 19

Holthausen Einsatz künstlicher Intelligenz im HR-Bereich und Anforderungen an die „schöne neue Arbeitswelt X.0“, RdA 2023, 361

Hornung KI-Regulierung im Mehrebenensystem, DuD 2022, 561

Hornung/Schallbruch IT-Sicherheitsrecht, 2. Aufl. 2024 (im Erscheinen)

Ji et al. Survey of hallucination in natural language generation, ACM Computing Surveys, Vol. 55, Issue 12, Article No. 248, 3

Käde/von Maltzahn Die Erklärbarkeit von Künstlicher Intelligenz (KI). Entmystifizierung der Black Box und Chancen für das Recht, InTeR 2020, 66

Kahnemann Schnelles Denken, langsames Denken, 2012

Kalbfus/Schöberle ArbRAktuell, Arbeitsrechtliche Fragen beim Einsatz von KI am Beispiel von ChatGPT 2023, 251

Karaboga/Frei/Ebbers/Rovelli/Friedewald Emotions- und Krankheitserkennung mittels biometrischer Verfahren, DuD 2023, 553

Kastl-Riemann Algorithmen und Künstliche Intelligenz im Äußerungsrecht ZUM 2023, 578

Kaulartz/Braegelmann Rechtshandbuch Artificial Intelligence und Machine Learning, 2020

Keber/Maslewski Rechtsgrundlagen für das Training von Systemen Künstlicher Intelligenz nach der DS-GVO, RDV 2023, 273

Kessen/Reif/Burkhardt Datenschutz- und zivilrechtliche Anforderungen an „Service gegen Daten“-Geschäftsmodelle RDV 2022, 64

Kipker Handbuch Cybersecurity, 2. Aufl. 2023

Klagge/Üge KI und Geschäftsgeheimnisrecht in der Games-Branche, MMR 2024, 733

Klindt Kommentar Produktsicherheitsgesetz, 3. Aufl. 2021

Kluth Künstliche Intelligenz als Auslöser neuer Regelungsbedarfe im Architekten- und Ingenieurrecht, NZBau 2023, 283

Köhler Zur Unionsrechtskonformität von § 3 BDSG: Erkenntnisse aus EuGH, Urt. v. 30.3.2023 – C-34/21, RDV 2023, 307

Kraetzig Deliktsschutz gegen KI-Abbilder – Teil 1: Täuschende Deepfakes, CR 2024, 207

Kraetzig Europäische Medienregulierung – Freiheit durch Aufsicht?, NJW 2023, 1485

Kramme Vertragsrecht für digitale Produkte, RDi 2021, 20

Krause Auf dem Weg zur unionsrechtlichen Regelung von Plattformtätigkeiten, NZA 2022, 522

Krizhevsky/Sutskever/Hinton Advances Neural Information Processing Systems 25 2012, 1

Krone Urheberrechtlicher Schutz von ChatGPT-Texten? RDi 2023, 117

Kühling/Buchner Datenschutz-Grundverordnung, Bundesdatenschutzgesetz: DS-GVO/BDSG, 4. Aufl. 2024 (zit.: Kühling/Buchner/Bearbeiter Art./§ Rn. )

Kulick/Goldhammer (Hrsg.) Der Terrorist als Feind?, 2020 (zit.: Kulick/Goldhammer/Bearbeiter)

Lang/Reinbach Künstliche Intelligenz im Arbeitsrecht NZA 2023, 1273

Laue/Nink/Kremer Betriebliches Datenschutzrecht in der Praxis, 3. Aufl. 2024

Linardatos Auf dem Weg zu einer europäischen KI-Verordnung – ein (kritischer) Blick auf den aktuellen Kommissionsentwurf, GPR 2022, 60

Macher/Graf Ballestrem Der neue EU Data Act: Zugang zu Daten – und Geschäftsgeheimnissen?, GRUR-Prax 2023, 661

Malferrari Europäische Kommission: Wettbewerb: Kommission bittet um Rückmeldungen zur Marktdefinition, EuZW 2022, 1083

Martini Blackbox Algorithmus, 2019

Martini/Botta KI-Aufsicht im föderalen Staat, MMR 2024, 630

Mayrhofer Produkthaftungsrechtliche Verantwortlichkeit des „Trainer-Nutzers“ von KI-Systemen, RDi 2023, 20

Meyer Künstliche Intelligenz im Personalmanagement und Arbeitsrecht, NJW 2023, 1841

Mitsching/Rauda/Sach Die sieben wichtigsten KI-Anwendungsfälle in der Games-Branche, MMR 2024, 718

Müller-Peltzer/Tanczik Künstliche Intelligenz und Daten, RDi 2023, 452

Muller/Schöppl/Avramidou/Talvitie/Peñalver AIA in-depth, #3a High-Risk AI Classification

Münchener Kommentar zum Bürgerlichen Gesetzbuch BGB, 8. Aufl. 2020

(zit.: MüKo BGB/Bearbeiter Art. Rn. )

Nebel Werbe-Tracking nach Inkrafttreten des TTDSG – Zum einwilligungsfreien Browser- und Device-Fingerprinting, CR 2021, 666

Nemitz Künstliche Intelligenz und Demokratie, MMR 2024, 603

Niemann/Kevekordes Machine Learning und Datenschutz (Teil 1), CR 2020, 17

Nordemann Generative Künstliche Intelligenz: Urheberrechtsverletzungen und Haftung, GRUR 2024, 1

Oechsler Die Haftungsverantwortung für selbstlernende KI-Systeme, NJW 2022, 2713

Ory Medienfreiheit – Der Entwurf eines European Media Freedom Act, ZRP 2023, 26

Oster/Walter/Zaouras Festschrift Gounalakis (zit.: Bearbeiter in FS Gounalakis)

Pesch/Böhme Verarbeitung personenbezogener Daten und Datenrichtigkeit bei großen Sprachmodellen, MMR 2023, 917

Pfeffer Stille Europäisierung – Wie europäisch wird das deutsche Polizeirecht?, NVwZ 2022, 294

Piltz Das neue TTDSG aus Sicht der Telemedien, CR 2021, 555

Plath DS-GVO/BDSG/TTDSG, 4. Aufl. 2023 (zit.: Plath/Bearbeiter Art./§ Rn. )

Rachut Kein Zugang zum Masterstudium wegen Vorlage eines mittels KI erstellten Essays, Anmerkung zu VG München, Beschluss vom 28.11.2023 – M 3 E 23.4371, NJW 2024, 1052

Raji Datenräume in der Europäischen Datenstrategie am Beispiel des European Health Data Space, ZD 2023, 3

Rath Überlastung der Gerichte durch Firmen wie Flightright?, DRiZ 2019, 288

Reusch KI und Software im Kontext von Produkthaftung und Produktsicherheit, RDi 2023, 152

Riehm/Abold Rechtsbehelfe von Verbrauchern bei Verträgen über digitale Produkte — Einführung in das neue Gewährleistungsrecht für die Digitalisierung, CR 2021, 530

Roos/Weitz Hochrisiko-KI-Systeme im Kommissionsentwurf für eine KI-Verordnung, MMR 2021, 844

Roß European Media Freedom Act und Kernfragen der europäischen Integration, EuR 2023, 450

Roßnagel Datenschutz in der Forschung, ZD 2019, 157

Roth-Isigkeit Grundstrukturen der geplanten KI-Aufsichtsbehörden – KI-Bürokratie?, ZRP 2022, 187

Roth-Isigkeit Der risikobasierte Ansatz als Paradigma des Digitalverwaltungsrechts, MMR 2024, 621

Roth-Isigkeit Der neue Rechtsrahmen für Künstliche Intelligenz in der Europäischen Union, KIR 2024, 15

Rüthers/Fischer/Birk Rechtstheorie, 12. Aufl. 2022

Schaub Nutzung von Künstlicher Intelligenz als Pflichtverletzung?, NJW 2023, 2145

Schmidhuber Deep Learning in Neural Networks: An Overview, Neural Networks 2015, 85

Schneider KI-unterstütztes Coding in der Spieleentwicklung, MMR 2024, 724

Schucht Die neue Architektur im europäischen Produktsicherheitsrecht nach New Legislative Framework und Alignment Package, EuZW 2014, 848

Schumacher/Sydow/von Schönfeld Cookie Compliance, quo vadis?, MMR 2021, 603

Schüßler/Zöll EU-Datenschutz-Grundverordnung und Beschäftigtendatenschutz,DuD 2013, 639

Schwartmann Dialektik versus Stochastik, Wissenschaft darf nicht im mathematischen Bermuda-Dreieck der KI verschwinden, Forschung & Lehre 2023, 132

Schwartmann Autonom wie ein Tier – KI in Hochschullehre und Prüfung, Forschung & Lehre 2024, 352 f.

Schwartmann/Benedikt/Reif Datenschutz bei Websites – Aktuelle Rechtslage und Ausblick auf das TTDSG, RDV 2020, 231

Schwartmann/Benedikt/Reif Datenschutz im Internet(im Erscheinen)

Schwartmann/Benedikt/Reif Entwurf zum TTDSG: Für einen zeitgemäßen Online-Datenschutz?, MMR 2021, 99

Schwartmann/Benedikt/Stelkens Advocatus Diaboli im Rechtsstaat, RDV 2023, 296

Schwartmann/Jaspers/Thüsing/Kugelmann DS-GVO/BDSG, 3. Aufl. 2024 (im Erscheinen) (zit.: HK DS-GVO/BDSG/Bearbeiter Art./§ Rn. )

Schwartmann/Kessen/Hartmann/Benedikt „Richter-Maschine-Richter“ – Kontrolle des Einsatzes generativer KI, DRiZ 2023, 388

Schwartmann/Kurth/Köhler Der Einsatz von KI an Hochschulen – eine rechtliche Betrachtung, OdW 2024, 161

Selbst Disparate Impact in Big Data Policing, Georgia Law Review 2017, 109

Siglmüller/Gassner Softwareentwicklung durch Open-Source-trainierte KI – Schutz und Haftung, RDi 2023, 124

Simitis/Hornung/Spiecker gen. Döhmann Datenschutzrecht, 2019 (zit.: Datenschutzrecht/Bearbeiter Art./§ Rn. )

Singelnstein Predictive Policing: Algorithmenbasierte Straftatprognosen zur vorausschauenden Kriminalintervention, NStZ 2018, 1

Skitka/Mosier/Burdick Does automation bias decision-making?, International Journal of Human-Computer Studies 51, 991

Steege Definition von Künstlicher Intelligenz in Art. 3 Nr. 1 KI-VO-E, MMR 2022, 926

Steen Ableitungen als wesentliche Fähigkeit von KI-Systemen nach der KI-VO, KIR 2024, 7

Steinrötter Verhältnis von Data Act und DS-GVO, GRUR 2023, 216

Stephen et al. Open Problems and Fundamental Limitations of Reinforcement Learning from Human Feedback, arXiv:2307.15217 2023, 1, 1 ff.

Taeger/Gabel DSGVO – BDSG – TTDSG, 4. Aufl. 2022 (zit.: Taeger/Gabel/Bearbeiter Art./§ Rn. )

Ukrow EU: Einigung zum European Media Freedom Act erzielt, MMR-Aktuell 2024, 01294

Ukrow Künstliche Intelligenz als Herausforderung für die positive Medienordnung, 2022

Vaswani et al. Attention is All you Need, Advances in Neural Information Processing Systems 30 (NIPS 2017), 1

Veale/Borgesius Demystifying the Draft EU Artificial Intelligence Act, CRI 2021, 108

Wagner Verantwortlichkeit im Zeichen digitaler Techniken, VersR 2020, 717

Wendehorst/Nessler/Aufreiter/Aichinger Der Begriff des „KI-Systems“ unter der neuen KI-VO, MMR 2024, 605

Wendt/Wendt Das neue Recht der Künstlichen Intelligenz, 2024

Werry Generative KI-Modelle im Visier der Datenschutzbehörden, MMR 2023, 911

Wiebe Produktsicherheitsrechtliche Betrachtung des Vorschlags für eine KI-Verordnung, BB 2022, 899

Wolff Algorithmen als Richter, Band 3, 2022

Wünschelbaum Kollektivautonomer Datenschutz, 2022

Wünschelbaum IT-Mitbestimmung bei generativen KI-Systemen: Bestandsaufnahme und Handlungsleitfaden, RDV 2024, 140

Zech/Hünefeld Einsatz von KI in der Medizin: Haftung und Versicherung, MedR 2023, 1

Zenner KI-Regulierung: Ein Trilog unter großem Zeitdruck, RDV 2023, 340

Zentrum für vertrauenswürdige Künstliche Intelligenz Vertrauenswürdige KI-Systeme im Journalismus, Ausgabe 8 v. 29.11.2023

Zimmerling/Brehm Prüfungsrecht, 2. Aufl. 2001

1. TeilGrundlagen

1. KapitelZeitliche Agenda der KI-VO

1

Am 12.7.2024 wurde die KI-Verordnung im Amtsblatt der Europäischen Union veröffentlicht. 20 Tage nach ihrer Veröffentlichung, also am 1.8.2024, trat sie in Kraft (Art. 113 S.1).

Die zeitliche Anwendbarkeit der Verordnung ist insbesondere in Art. 113 geregelt. Dieser sieht ein sukzessives Wirksamwerden der Regelungen vor. Allgemein ist die Verordnung 24 Monate nach Inkrafttreten, also ab 2.8.2026, uneingeschränkt anwendbar (Art. 113 S. 2). Für einige Teilbereiche gelten jedoch Ausnahmen.

2

Die allgemeinen Bestimmungen (Kapitel I) und die Regelungen zu verbotenen Praktiken (Kapitel II) sind bereits sechs Monate nach Inkrafttreten, also ab 2.2.2025, anwendbar (Art. 113 S. 3 Buchst. b).

Ebenfalls früher anwendbar, nämlich zwölf Monate nach Inkrafttreten, sind gewisse Regelungen zu Hochrisiko-KI-Systemen (Kapitel III Abschnitt 4 zu notifizierenden Behörden und benannten Stellen) sowie die Regelungen zu GPAI-Systemen (Kapitel V), Governance (Kapitel VII) und Vertraulichkeit bzw. Sanktionen (Kapitel XII und Art. 78). Die nach nationalem Recht festzulegenden Sanktionen sollen ebenfalls ab diesem Zeitpunkt gelten (ErwG 179).

Erst nach 36 Monaten anzuwenden ist Art. 6 Abs. 1, der jene Voraussetzungen festlegt, unter denen ein KI-System als hochriskant eingestuft wird.

3

Zur Veranschaulichung der zeitlichen Agenda dient das folgende Schema:

12. Juli 2024

•

Veröffentlichung im Amtsblatt der EU

1. August 2024

•

Inkrafttreten (Art. 113 S.1)

2. November 2024

•

Ermittlung und Veröffentlichung der Behörden, die die Einhaltung des Grundrechtsschutzes in Zusammenhang mit der Verwendung von Hochrisiko-KI-Systemen überwachen, durch Mitgliedstaaten (Art. 77 Abs. 2)

2. Februar 2025

•

Geltung von Kapitel I und II (allgemeine Bestimmungen und verbotene Praktiken) (Art. 113 S. 3 Buchst. a) u.a. KI-Kompetenz.

2. Mai 2025

•

Veröffentlichung von Verhaltenskodizes durch das KI-Büro (Art. 56 Abs. 9)

2. Juni 2025

•

Abgabe des finalen Reports von CEN (europäisches Komitee für Standardisierung) und CENELEC (Europäisches Komitee für elektrotechnische Standardisierung) an die Kommission (s. C(2023)3215)

2. August 2025

•

Geltung von

-

Kapitel III Abschnitt 4 (Notifizierende Behörden und benannte Stellen für Hochrisiko-KI)

-

Kapitel V (GPAI-Systeme)

-

Kapitel VII (Governance)

-

Kapitel XII (Vertraulichkeit und Sanktionen)

-

Art. 78 (Vertraulichkeit für alle, die an Anwendung der VO beteiligt sind) gelten (Art. 113 S. 3 Buchst. b)

•

Erlaubnis für die Kommission, gemeinsame Durchführungsrechtsakte für Art. 53 und 55 zu erlassen, soweit noch kein Verhaltenskodex durch das AI-Büro festgelegt wurde (Art. 56 Abs. 9)

•

Benennung oder Errichtung von notifizierenden Behörden und Marktüberwachungsbehörden und Informieren der Kommission über Kontaktmöglichkeiten durch Mitgliedsstaaten (Art. 70 Abs. 2)

•

Veröffentlichung von Leitlinien zur Mitteilung schwerwiegender Vorfälle durch Hochrisiko-KI durch die Kommission (Art. 73 Abs. 7)

•

Einmal jährlich: Prüfung verbotener KI-Praktiken durch Kommission und Vorlage der Ergebnisse an EU-Parlament und Rat (Art. 112 Abs. 1)

•

Mitteilung der mitgliedstaatlichen Sanktionsregeln und anderer Durchsetzungsmaßnahmen an Kommission (Art. 99 Abs. 2 i.V.m. ErwG 179)

•

Geltung mitgliedstaatlicher Sanktionsregeln (ErwG. 179)

2. Februar 2026

•

Vorlage von Leitlinien für die praktische Umsetzung von Art. 6 (Klassifizierung von Hochrisiko-KI) und einer umfassenden Liste praktischer Beispiele für Anwendungsfälle von KI-Systemen mit und ohne hohes Risiko durch die Kommission (Art. 6 Abs. 5)

•

Erlass eines Durchführungsrechtsakts mit detaillierten Bestimmungen zur Erstellung eines Musters für den Plan zur Überwachung nach dem Inverkehrbringen durch die Kommission (Art. 72 Abs. 3)

2. August 2026

•

Generelle Geltung der Verordnung (Art. 113 S. 2)

•

Betriebsbereitschaft der von den Mitgliedstaaten zu errichtenden KI-Reallabore (Art. 57 Abs. 1)

•

Für Betreiber von Hochrisiko-KI-Systemen, die vor August 2026 in Verkehr gebracht oder in Betrieb genommen wurden, gilt die VO nur dann, wenn an diesen Systemen ab diesem Datum wesentliche Änderungen vorgenommen werden (Art. 111 Abs. 2)

2. August 2027

•

Geltung von Art. 6 Abs. 1 (Voraussetzungen für die Klassifizierung als Hochrisiko-KI-System) und der entsprechenden Verpflichtungen (Art. 113 S. 3 Buchst. c)

•

Erfüllung der VO-Pflichten durch Anbieter von GPAI-Systemen, die vor August 2025 in Verkehr gebracht wurden (Art. 111 Abs. 3)

2. August 2030

•

Erfüllung der VO-Pflichten durch Anbieter und Betreiber von Hochrisiko-KI-Systemen, die bestimmungsgemäß von Behörden genutzt werden sollen (Art. 111 Abs. 2 S. 2)

31. Dezember 2030

•

Anpassung von KI-Systemen, die Bestandteil von IT-Großsystemen sind, durch einen in Anhang X genannten Rechtsakt geschaffen wurden und vor August 2030 in Verkehr gebracht bzw. in Betrieb genommen wurden, an VO (Art. 111 Abs. 1)

Hinweis:

Konkrete Details zur zeitlichen Agenda sowie zu aktuellen Entwicklungen im Zusammenhang mit der KI-VO finden sich unter www.kaizenner.eu.

2. KapitelBegriffsbestimmungen

A.Künstliche Intelligenz

1

Angesichts der Bedeutung, der Besonderheiten und zugleich der nicht immer präzisen Verwendung des Begriffes der künstlichen Intelligenz ist es wichtig, sich näher mit dem Begriff ‚KI‘, seiner Herkunft und seinen Implikationen auseinanderzusetzen. Vielfach bestehen sehr unterschiedliche Vorstellungen davon, was KI ausmacht. Bei KI handelt es sich um einen breiten Sammelbegriff, der eine Vielzahl von Technologien umfasst, die wiederum in unterschiedlichen Produkten und Dienstleistungen auf dem Markt angeboten werden. Auch die Entwicklung von KI verlief nicht geradlinig. Auf jeden Entwicklungsschub und Boom, dem sog. KI-Sommer, folgte bislang ein Stillstand und Desinteresse, der sog. KI-Winter.[1]

B.Symbolische KI (1. Welle)

2

Zwar wurde schon in den 40er-Jahren des letzten Jahrhunderts in verschiedenen Fachrichtungen an intelligenten Maschinen geforscht, als endgültige Geburtsstunde gilt allerdings Alan Turings Artikel “Computing Machinery and Intelligence“ von 1950 bzw. ein KI-Seminar am Dartmouth College im Sommer 1956 in New Hampshire.[2] Hieraus entwickelten dann vor allem amerikanische Wissenschaftler in den 50er-Jahren Maschinen, welche anhand menschlicher Vorgaben vorbestimmte Handlungen ausübten. Im Mittelpunkt dieser Technik stand dabei ein Satz an Regeln, basierend auf dem Wissen und den Fähigkeiten von Experten.[3] Die Maschinen trafen nun anhand dieser Regeln, spezifische Entscheidungen und führten Handlungen aus. Zwei Ansätze dominierten dabei die erste KI-Welle:

3