87,99 €
Mehr erfahren.
- Herausgeber: Fachmedien Recht und Wirtschaft
- Kategorie: Fachliteratur
- Serie: Betriebs-Berater Schriftenreihe/ Wirtschaftsrecht
- Sprache: Deutsch
- Veröffentlichungsjahr: 2023
Technologische Entwicklungen wie der Einsatz von künstlicher Intelligenz (KI) lassen auch die Gesellschaft mit beschränkter Haftung (GmbH) nicht unberührt. Besonders der Einsatz von KI unmittelbar im Bereich der Unternehmensleitung und im Unternehmen bzw. im Geschäftsbetrieb selbst drängen sich auf. Überlegungen reichen bis zur KI-geführten Kapitalgesellschaft und praktische Schritte in diese Richtung sind bereits unternommen. Zeigen sich weitreichende Einsatzmöglichkeiten und wirtschaftliche Potentiale, gehen mit neuen Entwicklungen rechtliche Unsicherheiten und Herausforderungen einher. Besonders aus dem Organ- und Kompetenzgefüge der GmbH, mithin dem Zusammenwirken von Geschäftsführer und Gesellschafterversammlung, folgen rechtliche Fragestellungen wie bspw. wer innerhalb der GmbH überhaupt über den Einsatz von KI zu entscheiden hat, welche Sorgfaltspflichten beim Einsatz von KI bestehen und damit letztlich, wer im Innen- und Außenverhältnis wofür einzustehen hat und womöglich haftet. Zur Beantwortung u. a. dieser Fragen leistet dieses Werk einen Beitrag. Es hat zum Gegenstand, Zuständigkeiten und allgemeine sowie gesellschaftsrechtliche Pflichten beim Einsatz von KI auszumachen. Entscheidungs- und Haftungsmaßstäbe werden dargelegt. Darüber hinaus werden organspezifische Einsatzmöglichkeiten aufgezeigt und die jeweiligen Pflichten herausgearbeitet.
Das E-Book können Sie in Legimi-Apps oder einer beliebigen App lesen, die das folgende Format unterstützen:
Seitenzahl: 467
Ähnliche
Künstliche Intelligenz
in der GmbH
Tom Lasar
Fachmedien Recht und Wirtschaft | dfv Mediengruppe | Frankfurt am Main
Bibliografische Information der Deutschen Nationalbibliothek
Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie; detaillierte bibliografische Daten sind im Internet über http://dnb.d-nb.de abrufbar.
ISBN: 978-3-8005-1876-0
© 2023 Deutscher Fachverlag GmbH, Fachmedien Recht und Wirtschaft, Frankfurt am Main www.ruw.de Das Werk einschließlich aller seiner Teile ist urheberrechtlich geschützt. Jede Verwertung außerhalb der engen Grenzen des Urheberrechtsgesetzes ist ohne Zustimmung des Verlages unzulässig und strafbar. Das gilt insbesondere für Vervielfältigungen, Bearbeitungen, Übersetzungen, Mikroverfilmungen und die Einspeicherung und Verarbeitung in elektronischen Systemen.
Druck und Verarbeitung: WIRmachenDRUCK GmbH, Backnang
Meiner Mutter und meinen Geschwistern
Vorwort
Diese Dissertation wurde im Februar 2023 vom Fachbereich Rechtswissenschaften der Philipps-Universität Marburg als Dissertation angenommen. Sie befindet sich inhaltlich auf dem Stand der Disputation im April 2023.
Mein herzlicher Dank gilt meinem Doktorvater, Prof. Dr. Florian Möslein, LL. M. (London), für den stets freundlichen Austausch sowie seine hilfsbereite Betreuung über den gesamten Zeitraum meines Promotionsvorhabens. Ihm und meinem Zweitgutachter, Dr. Carsten Schirrmacher, danke ich zudem für die zügige Erstellung der Gutachten.
Mein besonderer Dank gebührt meiner Mutter und meinen Geschwistern für ihre immerwährende Unterstützung und ihren stetigen Rückhalt. Ihnen ist diese Arbeit gewidmet.
New York City, im Mai 2023
Tom Lasar
Inhaltsverzeichnis
Vorwort
Inhaltsverzeichnis
Abkürzungsverzeichnis
1. Teil Einleitung und Problemaufriss
1. Kapitel Digitalisierung und Künstliche Intelligenz
A. Begriffsbestimmung
I. Digitalisierung
II. Künstliche Intelligenz als Teilbereich
B. KI im Unternehmen und im (Gesellschafts-)Recht
I. Im Allgemeinen
II. Im Besonderen (in der GmbH)
III. Rechtliche Herausforderungen
C. Zusammenfassung
2. Kapitel Ziel und Rahmen der Untersuchung
A. Untersuchungsgegenstand und Rahmen
I. Forschungsschwerpunkte
II. Begrenzung
B. Zielsetzung
C. Relevanz der Untersuchung
2. Teil Geschäftsführung
1. Kapitel Organ und Kompetenz
A. Geschäftsführung als Organ der Gesellschaft
I. KI als Geschäftsführung (Substituierbarkeit)
1. Anforderungen an Geschäftsführer
a) Persönliche Anforderungen
b) Fachliche Anforderungen
2. Rechtsnatur von KI
3. Organfähigkeit
II. Zusammenfassung
B. Geschäftsführung als Kompetenz
I. Geschäftsführung und Unternehmensleitung
1. Aufgabengebiet und Zuständigkeiten im Wandel
a) Tätigkeiten
b) Abgrenzung zum Vorstand in der AG
c) Veränderte und/oder neue gesellschaftsrechtliche Tätigkeiten
2. Zusammenfassung
II. Entscheidungsfindung
1. Entscheidungsfindung innerhalb der GmbH
a) Handlungsvorgaben und Weisungsgebundenheit
b) Letztentscheidungskompetenz
2. Entscheidungsfindung innerhalb der Geschäftsführung
3. KI im Unternehmen und in der Unternehmensleitung
a) Mögliche einzusetzende Systeme
aa) KI im Unternehmen
bb) KI in der Unternehmensleitung
b) Entscheidung über das „Ob“ des Einsatzes von KI
aa) Vergleich zum Outsourcing
bb) Einsatz von KI als Geschäftsführungsentscheidung
(1) KI im Unternehmen
(a) Entscheidungscharakter und Kompetenzzuweisung
(b) Einsatz von KI als außergewöhnliche Maßnahme
(c) Vorlagepflicht
(d) Zusammenfassung
(2) KI in der Unternehmensleitung
cc) Zusammenfassung
c) Entscheidung über das „Wie“ des Einsatzes von KI
aa) KI im Unternehmen
(1) Gesellschaftsrechtliche Grenzen
(2) Datenrechtliche Grenzen
(3) Wettbewerbsrechtliche Grenzen
(4) Gleichbehandlungsrechtliche Grenzen
(5) Zukünftige Grenzen (insb. KI-VO-E)
(6) Zusammenfassung
bb) KI in der Unternehmensleitung
(1) Grenzen der Delegation
(2) Beherrschung der KI
(3) Faktische Entscheidungsfindung durch KI
C. Zusammenfassung
2. Kapitel Verantwortlichkeit und Haftung der Geschäftsführung
A. Verantwortlichkeiten im Innenverhältnis und (Innen-) Haftung nach § 43 Abs. 2 GmbHG
I. (Innen-)Haftung für das „Ob“ des Einsatzes von KI
1. Entscheidungs- und Haftungsmaßstab einschließlich Informationsbeschaffungspflichten
a) Gebundene Entscheidungen
b) Unternehmerische Entscheidungen
2. Pflicht zum Einsatz von KI
a) KI im Unternehmen
aa) Pflichtenbegründung aus dem Unternehmensinteresse
bb) Pflichtenbegründung aus den Organisationspflichten
cc) Initiativpflicht
dd) Zusammenfassung
b) KI in der Unternehmensleitung
aa) Pflicht zur Delegation
bb) Pflichtenbegründung aus der allgemeinen Informationsbeschaffungspflicht
cc) Pflicht zur Umsetzung von Empfehlungen und Entscheidungsvorschlägen
3. Zusammenfassung
II. (Innen-)Haftung für das „Wie“ des Einsatzes von KI
1. Sorgfaltspflichten
a) Allgemeine Sorgfaltspflichten
aa) Allgemeiner Sorgfaltsmaßstab beim Einsatz von KI in der Unternehmensleitung
bb) Allgemeiner Sorgfaltsmaßstab beim Einsatz von KI im Unternehmen
(1) Eigene Haftung der KI
(2) Gefährdungshaftung
(3) Verschuldenshaftung
cc) Zusammenfassung
b) Spezielle Sorgfaltspflichten
aa) KI-bezogene Vorgaben
(1) Rechtsnormen
(2) Außerrechtliche Maßgaben
bb) Analoge Anwendung der Normen des WpHG
2. Praktische KI-Entscheidungen und entsprechende Sorgfaltspflichten
a) Eigenständige Entwicklung oder externer Einkauf
b) Auswahl der konkreten KI
c) Einweisung und Implementierung
d) Überwachung der KI und Fehler in der KI
aa) Auswahl und Kontrolle der Daten
bb) Überwachungspflichten
(1) Vertrauen auf KI
(2) Überwachungssorgfalt
3. Abwälzung der individuellen Haftung durch Delegation
a) Vertikale Delegation
b) Horizontale Delegation
aa) KI in der Unternehmensleitung
bb) KI im Unternehmen
III. Zusammenfassung
B. Verantwortlichkeit im Außenverhältnis und Außenhaftung
I. Rechtsgeschäftliche Haftung
II. Deliktsrechtliche Haftung
1. Haftung nach § 823 Abs. 1 BGB
2. Haftung nach § 823 Abs. 2 BGB i.V.m. § 43 Abs. 1 GmbHG/§ 130 Abs. 1 OWiG
3. Haftung nach § 823 Abs. 2 BGB i.V.m. §§ 266a Abs. 1, 14 Abs. 1 Nr. 1 StGB
III. Steuerrechtliche Eigenhaftung
C. Zusammenfassung
3. Kapitel Konsequenzen und künftige Anforderungen an Geschäftsführer
A. Organschaftliche Konsequenzen und Anforderungen
I. Überprüfung der Kompetenzordnung in der Gesellschaft
II. Überprüfung der Organstellung
B. Operative Konsequenzen und Anforderungen
I. Notwendigkeit technischen Sachverstands
II. Praktische Konsequenzen
1. Technische Fortbildung
2. Beobachtung technologischer Entwicklungen
3. Beobachtung der konkret eingesetzten KI
4. Beobachtung rechtlicher und außerrechtlicher Entwicklungen
5. Dokumentation und Information
6. Versicherung und Versicherbarkeit
C. Zusammenfassung
3. Teil Gesellschafterversammlung
1. Kapitel Digitalisierung und KI in der Gesellschafterversammlung
A. Digitalisierte Gesellschafterversammlung
I. Sachverstand und technologische Kenntnisse
1. Grundsätzliche rechtliche Anforderungen an Gesellschafter
2. Notwendigkeit von KI-Kenntnissen zur effektiven Wahrnehmung der Gesellschafterstellung
a) Organisatorische Stellung
b) Kompetenzen und Pflichten
II. Technische Möglichkeit und rechtliche Zulässigkeit des Einsatzes von KI
B. Zusammenfassung
2. Kapitel Einsatz von KI im Zuständigkeitsbereich der Gesellschafterversammlung
A. Einsatz von KI als Streitgegenstand
I. Entscheidung über das „Ob“
1. Einsatz im Unternehmen
2. Einsatz in der Unternehmensleitung
II. Entscheidung über das „Wie“
B. Zustimmungspflichten und Weisungen bei Empfehlungen und Entscheidungsvorschlägen
C. Zusammenfassung
3. Kapitel Gesellschafterversammlung als Überwachungs- und Kontrollorgan
A. Überwachung und Kontrolle mittels KI
B. Auskunfts- und Informationsrechte
I. Rechtliche Grundlage
II. KI-bezogene Informationsbedürfnisse
III. Anspruchsumfang und Auswirkungen KI-spezifischer Besonderheiten
1. Umfang
2. Nicht-Erklärbarkeit
C. Zusammenfassung
4. Teil Fazit und Schlusswort
A. Wesentliche Ergebnisse
I. Geschäftsführung
II. Gesellschafterversammlung
B. Ausblick
Literaturverzeichnis
Abkürzungsverzeichnis
Abs.
Absatz
AG
Aktiengesellschaft
AGG
Allgemeines Gleichbehandlungsgesetz
AktG
Aktiengesetz
AO
Abgabenordnung
BDGS
Bundesdatenschutzgesetz
Beschl. v.
Beschluss vom
Begr.
Begründer/Begründung
BGB
Bürgerliches Gesetzbuch
BGH
Bundesgerichtshof
bspw.
beispielsweise
BT-Drs.
Bundestagsdrucksache
bzw.
beziehungsweise
Daten-Governance-VO
Verordnung (EU) 2022/868 des Europäischen Parlaments und des Rates vom 30. Mai 2022 über europäische Daten-Governance und zur Änderung der Verordnung (EU) 2018/1724 (Daten-Governance-Rechtsakt)
d.h.
das heißt
DSGVO
Datenschutz-Grundverordnung
evtl.
eventuell
etc.
et cetera
f./ff.
folgend(e)
gem.
gemäß
GG
Grundgesetz
ggf.
gegebenenfalls
GmbH
Gesellschaft mit beschränkter Haftung
GmbHG
Gesetz betreffend die Gesellschaften mit beschränkter Haftung
HGB
Handelsgesetzbuch
Hrsg.
Herausgeber
i.d.R.
in der Regel
inkl.
inklusive
insb.
insbesondere
InsO
Insolvenzordnung
i.S.d./e./v.
im Sinne des/eines/von
i.Ü.
im Übrigen
i.V.m.
in Verbindung mit
KAGB
Kapitalanlagegesetzbuch
KI
künstliche Intelligenz
KI-Haftungs-RL-E
Vorschlag für eine Richtlinie des Europäischen Parlaments und des Rates zur Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an künstliche Intelligenz (Richtlinie über KI-Haftung), COM/2022/496 final
KI-VO-E
Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung Harmonisierter Vorschriften für künstliche Intelligenz (Gesetz über künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union, Europäische Kommssion, COM(2021) 206 final
KWG
Kreditwesengesetz
lit.
littera
MitbestG
Mitbestimmungsgesetz
m.w.N.
mit weiteren Nachweisen
Nr.
Nummer
OWiG
Ordnungswidrigkeitengesetz
Rn.
Randnummer
S.
Satz
SGB IV
Sozialgesetzbuch Viertes Buch
sog.
sogenannt(e)
StGB
Strafgesetzbuch
u.a.
unter anderem
u.ä.
und ähnlich
u.U.
unter Umständen
Urt. v.
Urteil vom
VAG
Versicherungsaufsichtsgesetz
vgl.
vergleiche
WpHG
Wertpapierhandelsgesetz
Ziff.
Ziffer
z.B.
zum Beispiel
1. Teil Einleitung und Problemaufriss
Technologische Entwicklungen lassen auch die Gesellschaft mit beschränkter Haftung nicht unberührt1, insb. dann nicht, wenn sie umfangreich den Wirtschaftsverkehr erfassen2. Gleichzeitig gehen mit neuen Technologien oftmals (neue) rechtliche Fragen und Herausforderungen einher.3 Ebenso könnte es sich im Hinblick auf die Digitalisierung und den Einsatz künstlicher Intelligenz verhalten, insb. betreffend das Gesellschaftsrecht und konkret die GmbH. Dies soll Gegenstand der vorliegenden Dissertation sein.
1
Thiel/Nazari-Khanachayi
, RDi 2021, 134 (Rn. 1);
Paal
, ZGR 2017, 590.
2
Sassenberg/Faber-
Henseler/Unger
, Industrie 4.0-Hdb., § 1 Rn. 1, 21;
Sattler
, BB 2018, 2243, 2248;
Heuer-James/Chibanguza/Stücker
, BB 2018, 2818, 2831;
Paal
, ZGR 2017, 590, 599f.;
Bormann
, ZGR 2017, 621;
Stiemerling
, CR 2015, 762.
3
So auch
Heuer-James/Chibanguza/Stücker
, BB 2018, 2818, 2819;
Paal
, ZGR 2017, 590, 592.
1. Kapitel Digitalisierung und Künstliche Intelligenz
Gehen mit den Begriffen „Digitalisierung“ und „künstliche Intelligenz“ doch gewisse Unklarheiten einher und zeigt sich einiges als vergleichsweise unbestimmt4, ist es erforderlich, beide Begriffe näher zu beleuchten sowie sie technisch bzw. praktisch einzuordnen. Im Überblick aufzuzeigen sind von den technologischen Entwicklungen betroffene Bereiche im Gesellschaftsrecht.
4
Thiel/Nazari-Khanachayi
, RDi 2021, 134;
Linardatos
, ZIP 2019, 504;
Beck
, DÖV 2019, 648;
Heuer-James/Chibanguza/Stücker
, BB 2018, 2818.
A. Begriffsbestimmung
Zunächst einmal bedarf es der Definition einschließlich der Unterscheidung und Abgrenzung der Begriffe „Digitalisierung“ und „künstliche Intelligenz“.
I.Digitalisierung
Der Begriff der Digitalisierung dient in gewisser Weise als Überbegriff für verschiedene Entwicklungen und Technologien wie insb. das Internet der Dinge, KI und die Blockchain-Technologie.5 Die Digitalisierung ermöglicht u.a. die intelligente Automatisierung von Vorgängen mit teils hoher Komplexität.6 Angesichts ihrer Potentiale und besonders im produktionsbezogenen Bereich wird sie mitunter auch als Industrie 4.0 im Sinne einer vierten industriellen Revolution bezeichnet.7 Umfangreiche digitale Nutzungs- und Geschäftsmodelle werden oder sind bereits möglich, die praktisch sämtliche Bereiche des Lebens erfassen, denkt man bspw. an Mobilitätsdienstleister wie FREE NOW und UBER, Unterkunftsmöglichkeiten wie AirBnB oder auch Partnervermittlungen und sonstige zwischenmenschliche Beziehungen betreffende digitale Plattformen.8 Die praktische Relevanz der Digitalisierung drängt sich angesichts dessen und des ökonomischen Potentials auf.9 Annahmen gehen bspw. von bis zu 70–90 % Ressourcenersparnis durch den Einsatz digitaler Systeme in der Logistik aus.10
Digitalisierte Verfahren sind in bestimmten Bereichen bereits Alltag für die GmbH11, betrachtet man Werkzeuge zur Kommunikation und Erleichterung bestehender Prozesse wie bestehende Online-Register12 oder auch den Bereich Legal Tech mit bspw. digitalen Datenräumen.13 Ebenso zu beachten sind Entwicklungen wie die Online-Gründung von Gesellschaften.14 Im Hinblick auf die GmbH reicht die Diskussion betreffend ihre weitere Digitalisierung mithin bis zur Digitalisierung von Strukturmaßnahmen und zur sich selbst steuernden Gesellschaft.15
II.Künstliche Intelligenz als Teilbereich
Auch wenn KI als Teilbereich der Informatik16 aufzufassen und der fortschreitenden Digitalisierung zuzuordnen17 ist, stellen sich hinsichtlich der konkreten Begriffsbestimmung gewisse Schwierigkeiten18. So herrscht diesbezüglich jedenfalls keine vollkommene Einigkeit oder Allgemeingültigkeit.19 Entsprechend zeigt sich KI mitunter als „mythenumrankte Technik“.20 Unklare Begriffsgrenzen folgen aus der Tatsache, dass im Bereich der KI verschiedene wissenschaftliche Bereiche aufeinandertreffen: Neben der Informatik nimmt bspw. die Neurowissenschaft einen gewichtigen Platz ein.21 Eine begriffliche und damit inhaltliche Konkretisierung ist gleichwohl möglich. Es können technische Merkmale herausgearbeitet werden. Ausgangspunkt kann dabei mit Herberger sowie Kreutzer/Sirrenberg eine an der Wortbedeutung und Begriffskombination ausgerichtete Annäherung sein, welche die Begriffe „Intelligenz“ und „künstlich(e)“ einzeln und im Zusammenhang untersuchen.22
Abgesehen von dieser begrifflichen Untersuchung wird insgesamt und übereinstimmend gleichwohl deutlich gemacht, dass KI als algorithmenbasierte Software zur Nachbildung menschlicher Handlungsweisen beim auf Erfahrungen beruhenden Lernen zu verstehen ist.23 Beispielsweise heißt es vom Deutschen Institut für Normung e.V.: „Künstliche Intelligenz (KI) basiert auf neuronalen Netzen beziehungsweise IT-Architekturen, die dem menschlichen Gehirn nachempfunden sind und Informationen nicht wie bei klassischen Speicherelementen bedingungslos speichern, sondern eigenständig verarbeiten und darauf reagieren“.24 Mit KI versehene Maschinen können autonom handeln und Entscheidungen treffen.25 KI zeichnet eine gewisse selbstständige und fortschreitende Verbesserung und eigene Fortschreibung (sog. machine/deep learning) aus, die auf der Auswertung von Daten basiert.26 Auf diese Weise können Muster erkannt und zukunftsgerichtet Unsicherheiten statistisch genauer abgebildet werden.27 Der Algorithmus zieht aus den bereitgestellten Daten und Mustern Schlüsse und leitet hieraus Vorhersagen ab.28 Insgesamt ist KI in der Lage, Muster z.B. in Sprache und Bildern zu erkennen und zu verarbeiten, maschinell zu lernen, als Expertensystem zu agieren sowie maschinell zu planen und zu handeln.29 Anhand dieser technischen Fähigkeiten30 orientiert sich auch die gesetzgeberisch angedachte Begriffbestimmung des Art. 3 Nr. 3 des KI-VO-E, wonach ein „System der künstlichen Intelligenz“ (KI-System) eine Software [ist], die mit einer oder mehreren der in Anhang I aufgeführten Techniken und Konzepte entwickelt worden ist und im Hinblick auf eine Reihe von Zielen, die vom Menschen festgelegt werden, Ergebnisse wie Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen hervorbringen kann, die das Umfeld beeinflussen, mit dem sie interagieren31. Als Techniken und Konzepte listet Anhang I wiederum (i) Konzepte des maschinellen Lernens, mit beaufsichtigtem, unbeaufsichtigtem und bestärkendem Lernen unter Verwendung einer breiten Palette von Methoden, einschließlich des tiefen Lernens (Deep Learning), (ii) Logik- und wissensgestützte Konzepte, einschließlich Wissensrepräsentation, induktiver (logischer) Programmierung, Wissensgrundlagen, Inferenz- und Deduktionsmaschinen, (symbolischer) Schlussfolgerungs- und Expertensysteme sowie (iii) statistische Ansätze, Bayessche Schätz-, Such- und Optimierungsmethoden. Das maschinelle Lernen hat letztlich zum Ziel, dem menschlichen Verhalten inkl. dessen Fehlbarkeit gleichzukommen32 oder dieses gar (insb. hinsichtlich Schnelligkeit, Effektivität und Effizienz) zu übertreffen33. Dabei reichen die Anwendungsbereiche und Vorstellungen von der Übernahme einzelner Aufgaben (sog. schwache KI) bis hin zur umfangreichen Wahrnehmung menschlicher Fähigkeiten (sog. starke KI oder sogar sog. Superintelligenz).34 In gewisser Hinsicht führt der Einsatz von KI damit dazu, dass der Mensch in den jeweiligen Einsatzbereichen ersetzt wird.35
Der Einsatz von KI kann es gleichwohl mit sich bringen, dass KI-generierte Entscheidungen und insb. ihr Zustandekommen mitunter nicht erklärt werden können (sog. „Black Box“-Problem).36 Die Prozesse zwischen der Dateneingabe und den von einer KI generierten Ergebnissen bzw. der Datenausgabe können i.d.R. nicht und jedenfalls nicht im Detail nachvollzogen werden.37 Scheinen die generierten Ergebnisse auch korrekt, ist ihr Zustandekommen insb. bei autonomen Systemen nicht zwingend nachvollziehbar und transparent.38 Schon gar nicht besteht die Möglichkeit einer argumentativen Nachvollziehbarkeit.39 Eine KI ist schlichtweg nicht vergleichbar zu natürlichen Personen ansprechbar. Aufgrunddessen und der Tatsache, dass KI-basierte Entscheidungen im Unterschied zu schlichten Algorithmen nicht nach zwingend vorgegebenen Parametern im Sinne eines „Wenn-A-dann-B“-Schemas bzw. einer „Ja/Nein“-Fragestellung getroffen werden40, kann sich der Einsatz von KI als problematisch erweisen.
5
Sassenberg/Faber-
Unger
, Industrie 4.0-Hdb., § 1 Rn. 87;
Bartuschka
, CB 2019, 340f.;
Herberger
, NJW 2018, 2825, 2828;
Paal
, ZGR 2017, 590, 599;
Stiemerling
, CR 2015, 762; vgl. zu den Entwicklungen in Gesetzgebung und Rechtsprechung
Mitterer/Wiedemann/Thress
, BB 2021, 2 mit Verweis auf entsprechende Enwicklungen in den Jahren seit 2016.
6
Beck
, DÖV 2019, 648.
7
Sassenberg/Faber-
Henseler/Unger
, Industrie 4.0-Hdb., § 1 Rn. 21;
Käde/von Maltzan
, CR 2020, 66;
Fischer
, BOARD 2019, 68;
Heuer-James/Chibanguza/Stücker
, BB 2018, 2818;
Mitterer/Wiedemann/Zwissler
, BB 2017, 3;
Bormann
, ZGR 2017, 621, 622;
Bräutigam/Klindt
, NJW 2015, 1137.
8
Sassenberg/Faber-
Henseler/Unger
, Industrie 4.0-Hdb., § 1 Rn. 1, 21;
Fischer
, BOARD 2019, 68;
Möslein
, ZIP 2018, 204 m.w.N.;
Sattler
, BB 2018, 2243, 2248;
Paal
, ZGR 2017, 590, 599f.;
Conrad
, DuD 2017, 740, 741f.;
Stiemerling
, CR 2015, 762.
9
Thiel/Nazari-Khanachayi
, RDi 2021, 134.
10
„Die Zukunft der Logistik – Die Zukunftsforscher Karl-Heinz Land und Prof. Dr. Peter Holm im Interview“, abrufbar unter https://www.dbcargo.com/rail-de-de/logistiknews/die-zukunft-der-logistik-interview-karl-heinz-land-peter-holm-6160646 (Zugriff am 02.06.2021).
11
Bormann
, ZGR 2017, 621, 624ff.
12
Bormann
, ZGR 2017, 621, 624.
13
Wagner
, notar 2021, 89;
Noack
, ZHR 183 (2019), 105, 142.
14
Vgl. dazu ausführlich
Stelmaszczyk
, EuZW 2021, 513f.;
Zetzsche
, AG 2019, 1, 5;
Möslein
, ZIP 2018, 204.
15
Vgl. dazu
Armour/Eidenmüller
, ZHR 183 (2019), 169, 170;
Sattler
, BB 2018, 2243;
Bormann
, ZGR 2017, 621, 633ff.
16
Weber-
Groh
, „Künstliche Intelligenz“;
Linardatos
, ZIP 2019, 504;
Stiemerling
, CR 2015, 762.
17
Sassenberg/Faber-
Unger
, Industrie 4.0-Hdb., § 1 Rn. 87;
Bartuschka
, CB 2019, 340f.;
Paal
, ZGR 2017, 590, 599;
Stiemerling
, CR 2015, 762.
18
Kaulartz/Braegelmann-
Kaulartz/Braegelmann
, Rechtshandbuch AI, Kapitel 1, Rn. 1;
Zech
, ZfPW 2019, 198, 199;
Herberger
, NJW 2018, 2825f.
19
Kreutzer/Sirrenberg
, KI verstehen, S. 3;
Geminn
, ZD 2021, 354;
Stechern
, IPRB 2020, 23;
Klar
, BB 2019, 2243;
Bartuschka
, CB 2019, 340;
Herberger
, NJW 2018, 2825f.;
Klaas
, MMR 2019, 84, 85;
Strohn
, ZHR 182 (2018), 371;
Conrad
, DuD 2017, 740; vgl. ausführlich zu den verschiedenen Definitionsversuchen Kaulartz/Braegelmann-
Kaulartz/Braegelmann
, Rechtshandbuch AI, Kapitel 1, Rn. 2 m.w.N.
20
Kreutzer/Sirrenberg
, KI verstehen, S. 9; Kaulartz/Braegelmann-
Stiemerling
, Rechtshandbuch AI, Kapitel 2.1, Rn. 5;
Stechern
, IPRB 2020, 23;
Käde/von Maltzan
, CR 2020, 66;
Linardatos
, ZIP 2019, 504; so auch allgemeiner bezogen auf die Begriffe „Digitalisierung“ und „Industrie 4.0“
Beck
, DÖV 2019, 648;
Heuer-James/Chibanguza/Stücker
, BB 2018, 2818.
21
Kreutzer/Sirrenberg
, KI verstehen, S. 4;
Bartuschka
, CB 2019, 340; https://www.spektrum.de/lexikon/neurowissenschaft/kuenstliche-intelligenz/6810 (Zugriff am 04.11.2019); Themenletter „Künstliche Intelligenz in der Sozialversicherung“, Deutsche Sozialversicherung Europavertretung, S. 4, abrufbar unter https://dsv-europa.de/de/themenletter/ed-nr.-01-2019.html (Zugriff am 01.05.2021).
22
Kreutzer/Sirrenberg
, KI verstehen, S. 2ff.;
Herberger
, NJW 2018, 2825f.; vgl. auch
Armour/Eidenmüller
, ZHR 183 (2019), 169, 172.
23
Kreutzer/Sirrenberg
, KI verstehen, S. 3;
Zetzsche
, AG 2019, 1, 5;
Kessler/Klich
, WPg 2019, 691; vgl. ausführlich zu den verschiedenen Definitionsversuchen Kaulartz/Braegelmann-
Kaulartz/Braegelmann
, Rechtshandbuch AI, Kapitel 1, Rn. 2 m.w.N.
24
Deutsches Institut für Normung e.V., https://www.din.de/de/din-und-seine-partner/presse/mitteilungen/ki-qualitaet-sichern-327216 (Zugriff am 05.11.2019).
25
Paal
, ZGR 2017, 590, 600;
Heuer-James/Chibanguza/Stücker
, BB 2018, 2818;
Günther/Böglmüller
, BB 2017, 53;
Kirn/Müller-Hengstenberg
, MMR 2014, 225, 226.
26
Kreutzer/Sirrenberg
, KI verstehen, S. 15;
Bartuschka
, CB 2019, 340;
Linardatos
, ZIP 2019, 504, 505;
Armour/Eidenmüller
, ZHR 183 (2019), 169, 173;
Zetzsche
, AG 2019, 1, 5;
Klaas
, MMR 2019, 84, 85;
Zech
, ZfPW 2019, 198, 200f.;
Keßler
, MMR 2017, 589;
Paal
, ZGR 2017, 590, 611.
27
Weber-
Groh
, „Künstliche Intelligenz“.
28
Linardatos
, ZIP 2019, 504, 505.
29
Vgl. dazu ausführlich Kaulartz/Braegelmann-
Stiemerling
, Rechtshandbuch AI, Kapitel 2.1, Rn. 6;
Kreutzer/Sirrenberg
, KI verstehen, S. 26f.;
Zech
, ZfPW 2019, 198, 204;
Stiemerling
, CR 2015, 762.
30
Roos/Weitz
, MMR 2021, 844, 845.
31
Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung Harmonisierter Vorschriften für künstliche Intelligenz (Gesetz über künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union, Europäische Kommssion, COM(2021) 206 final, abrufbar unter https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX%3A52021PC0206 (Zugriff am 07.07.2021).
32
Künstliche Intelligenz verstehen, S. 20, 26;
Zetzsche
, AG 2019, 1, 5;
Zech
, ZfPW 2019, 198, 199;
Klaas
, MMR 2019, 84, 85.
33
Kaulartz/Braegelmann-
Stiemerling
, Rechtshandbuch AI, Kapitel 2.1, Rn. 77f.;
Kreutzer/Sirrenberg
, Künstliche Intelligenz verstehen, S. 20, 26;
Stechern
, IPRB 2020, 23;
Beck
, DÖV 2019, 648;
Paal
, ZGR 2017, 590, 611.
34
Kreutzer/Sirrenberg
, KI verstehen, S. 20, 25f.; vgl. ausführlich
Gausling
, DS-RITB 2018, 519, 520f. m.w.N.;
Gausling
, PinG 2019, 61; vgl. auch ausführlich zu den technischen Grundlagen Kaulartz/Braegelmann-
Stiemerling
, Rechtshandbuch AI, Kapitel 2.1, Rn. 1ff.;
Stiemerling
, CR 2015, 762, 765.
35
Kreutzer/Sirrenberg
, KI verstehen, S. 3;
Zetzsche
, AG 2019, 1, 5;
Klaas
, MMR 2019, 84;
Klar
, BB 2019, 2243;
Stiemerling
, CR 2015, 762;
Kirn/Müller-Hengstenberg
, MMR 2014, 225, 226.
36
Fischer/Hoppen/Wimmers-
Riehm/Meier
, DGRI 2018, Rn. 5;
Thiel/Nazari-Khanachayi
, RDi 2021, 134, 137 (Rn. 11);
Linardatos
, ZIP 2019, 504, 507;
Zetzsche
, AG 2019, 1, 7;
Noack
, ZHR 183 (2019), 105, 118, 143;
Kessler/Klich
, WPg 2019, 691f.;
Meyer
, ZRP 2018, 233, 235;
Weber/Kiefner/Jobst
, NZG 2018, 1131, 1133;
Möslein
, ZIP 2018, 204, 211;
Strohn
, ZHR 182 (2018), 371, 374;
Herberger
, NJW 2018, 2825, 2828; Studie „Maschinelles Lernen – Eine Analyse zu Kompetenzen, Forschung und Anwendung“, Fraunhofer Gesellschaft, S. 28ff., abrufbar unter https://www.bigdata-ai.fraunhofer.de/content/dam/bigdata/de/documents/Publikationen/Fraunhofer_Studie_ML_201809.pdf (Zugriff am 27.03.2021).
37
Fischer/Hoppen/Wimmers-
Riehm/Meier
, DGRI 2018, Rn. 5;
Käde/von Maltzan
, CR 2020, 66, 72;
Linardatos
, ZIP 2019, 504, 505.
38
Wischmeyer/Rademacher-
Wischmeyer
, Regulating AI, S. 77 (Rn. 3);
Klaas
, MMR 2019, 84, 85;
Herberger
, NJW 2018, 2825, 2828.
39
Herberger
, NJW 2018, 2825, 2828.
40
Kersting/Lampert/Rothkopf-
Berberich
, Wie Maschinen lernen, S. 11;
Klaas
, MMR 2019, 84, 85;
Zetzsche
, AG 2019, 1, 5;
Gausling
, PinG 2019, 61;
Kirn/Müller-Hengstenberg
, MMR 2014, 225, 226.
B. KI im Unternehmen und im (Gesellschafts-)Recht
KI erfasst die Unternehmenswelt in praktischer Hinsicht umfangreich.41 Die Einsatzmöglichkeiten und Besonderheiten sind gleichwohl branchenspezifisch42, was aber auch zum Ausdruck bringt, wie weitreichend die Potentiale von KI sind. Insbesondere im Zusammenspiel mit weiteren Technologien der Digitalisierung können Potentiale abgerufen werden.43 Die Digitalisierung einschließlich KI betrifft und beeinflusst damit auch das Recht.44
I.Im Allgemeinen
In gesellschaftsrechtlicher Hinsicht kommt der Digitalisierung im Personengesellschaftsrecht45 wie im Kapitalgesellschaftsrecht Bedeutung zu, betreffen dazugehörige Technologien bereits allgemeine Bereiche wie die Willensbildung und Kommunikation in Gesellschaften.46 Verschiedene Corporate Technologies können zum Einsatz kommen.47 Gleichzeitig gehen mit dem Einsatz neuer Technologien in diesen Bereichen die Fragen einher, ob und ggf. welche Auswirkungen sich angesichts gesellschaftsrechtlicher Gestaltungsfreiheit, aber auch Form- und Verfahrensvorschriften ergeben.48 Darüber hinaus ergeben sich gesellschaftsrechtliche Fragen betreffend gesellschaftsinterne (Letzt-)Entscheidungskompetenzen.49
In rein praktischer Hinsicht bzw. im Hinblick auf die Unternehmenswelt kommt KI im Produktions-50 und im Dienstleistungssektor51 zum Einsatz und erfasst damit Bereiche wie die Finanzbranche, das Marketing, aber auch die Mobilitätsbranche und das Medizinwesen52. Ist KI auch nicht auf spezielle Branchen und Funktionen begrenzt53, gehen gleichsam mit den einzelnen Branchen unterschiedliche, branchenspezifische rechtliche Anforderungen einher.54
II.Im Besonderen (in der GmbH)
Innerhalb des einzelnen Unternehmens hat der Einsatz von KI ebenso Bedeutung für die Organe wie für das Unternehmen selbst.55 KI kann im Unternehmen an sich und bspw. auch in der Unternehmensführung eingesetzt werden.56 In der Geschäftsführung kommt der Einsatz geschäftsleitender KI57, informationsbeschaffender KI58 und entscheidender KI59 in Betracht. Existieren Überwachungsorgane wie insb. Aufsichtsräte, ist KI auch für diese relevant.60 Darüber hinaus kann KI im Unternehmen selbst bzw. in den verschiedenen Bereichen der Unternehmensorganisation eingesetzt werden, z.B. im Berichts-61 und Rechnungswesen62, im Personalwesen63, in der Compliance und im Risikomanagement64 sowie zur Steuerung der Corporate Governance65. Zusätzlich sind für sich genommen KI-basierte Geschäftsmodelle möglich.66
Die technische Entwicklung ist bereits weit fortgeschritten67, wenngleich die Erwartungshaltung und Einsatzszenarien noch das technisch Mögliche übersteigen68. Insbesondere gedankliche Transferleistungen einschließlich der Unterscheidung zwischen Korrelationen und Kausalitäten vermag KI noch kaum zu erbringen.69 Dazu kommt, dass KI-Anwendungen auf konkrete Einsatzbereiche und Aufgabenstellungen zugeschnitten bzw. beschränkt sind.70
Es dürfte nicht verwundern, dass abhängig vom konkreten Einsatzbereich die Geltungsbereiche verschiedener gesellschaftsrechtlicher Normen und Vorschriften betroffen sind. Auch wenn KI bspw. in der Geschäftsführung eingesetzt wird, sind die entsprechenden Vorgaben selbstverständlich weiterhin von Bedeutung. Gesellschaftsrechtliche Interessen bleiben bestehen.71
III.Rechtliche Herausforderungen
Die rechtlichen Herausforderungen beim Einsatz von KI begründen sich darin, dass KI zwar menschliches Handeln nachbildet72, die Handelnde aber keine natürliche Person mehr ist73. Dies wirft Zuordnungs- und Verantwortungsfragen74, aber auch Fragen betreffend überhaupt gegebene rechtliche Vorgaben75 oder auch „nur“ die Anwendbarkeit bestehender Regelungen und einhergehend zu wahrender Standards und (Rechts-)Normen auf. Fraglich ist, wie die Anforderungen, die an natürliche Personen gestellt werden, beim Einsatz von KI gewahrt werden können und/oder ob es einen gesetzlichen oder methodischen Regelungs- und Anpassungsbedarf gibt.
Rechtliche Herausforderungen ergeben sich zudem angesichts der Autonomie und der möglichen selbstständigen Fortentwicklung der Algorithmen.76 Hiervon könnten Sorgfaltspflichten derjenigen berührt sein, auf die der Einsatz von KI in gewisser Weise zurückzuführen ist oder denen grundsätzlich Verantwortung in der GmbH zukommt. Im Hinblick auf die GmbH stellt sich somit auch die Wahrung der Kompetenzen der Organe als Herausforderung dar.77
41
Sassenberg/Faber-
Henseler/Unger
, Industrie 4.0-Hdb., § 1 Rn. 49;
Kreutzer/Sirrenberg
, KI verstehen, S. 27;
Klar
, BB 2019, 2243, 2244;
Paal
, ZGR 2017, 590, 593, 600.
42
Kreutzer/Sirrenberg
, KI verstehen, S. 107, 125ff.;
Conrad
, DuD 2017, 740, 741f.; vgl. zu Rechtsfragen einzelner Branchen Sassenberg/Faber-
Kuss/Sassenberg
, Industrie 4.0-Hdb., Kap. 4 § 13 Rn. 12.
43
Zetzsche
, AG 2019, 1, 5;
Paal
, ZGR 2017, 590, 600.
44
Sassenberg/Faber-
Kuss/Sassenberg
, Industrie 4.0-Hdb., Kap. 4 § 13 Rn. 10;
Thiel/Nazari-Khanachayi
, RDi 2021, 134;
Zetzsche
, AG 2019, 1;
Heuer-James/Chibanguza/Stücker
, BB 2018, 2818, 2819;
Paal
, ZGR 2017, 590, 592.
45
Vgl. dazu Sassenberg/Faber-
Drettmann
, Industrie 4.0-Hdb., Kap. 2 § 9.
46
Vgl.
Teichmann
, ZfPW 2019, 247, 257, 260;
Möslein
, ZIP 2018, 204, 205.
47
Vgl. dazu ausführlich
Thiel/Nazari-Khanachayi
, RDi 2021, 134f.;
Zetzsche
, AG 2019, 1, 3.
48
Teichmann
, ZfPW 2019, 247, 248f.;
Zetzsche
, AG 2019, 1,
Sattler
, BB 2018, 2243.
49
Sattler
, BB 2018, 2243, 2248;
Möslein
, ZIP 2018, 204, 208.
50
Kreutzer/Sirrenberg
, KI verstehen, S. 107ff.
51
Kreutzer/Sirrenberg
, KI verstehen, S. 125ff.
52
Zech
, ZfPW 2019, 198, 204.
53
Kreutzer/Sirrenberg
, KI verstehen, S. 108.
54
Sassenberg/Faber-
Kuss/Sassenberg
, Industrie 4.0-Hdb., Kap. 4 § 13 Rn. 12 sowie ausführlich zu den einzelnen Branchen Kap. 5 § 15–21.
55
So im Hinblick auf die Organe der AG
Zetzsche
, AG 2019, 1.
56
Lücke
, BB 2019, 1986, 1990;
Noack
, ZHR 183 (2019), 105, 113;
Möslein
, ZIP 2018, 204, 205.
57
Weber/Kiefner/Jobst
, NZG 2018, 1131, 1136.
58
Weber/Kiefner/Jobst
, NZG 2018, 1131.
59
Weber/Kiefner/Jobst
, NZG 2018, 1131, 1134.
60
Zetzsche
, AG 2019, 1, 11;
Strohn
, ZHR 182 (2018), 371, 373.
61
Zetzsche
, AG 2019, 1, 5.
62
Studie „Digitalisierung im Finanz- und Rechnungswesen 2019 – und was sie für die Abschlussprüfung bedeutet“, PricewaterhouseCoopers GmbH Wirtschaftsprüfungsgesellschaft, August 2019, S. 1ff., abzurufen unter https://www.pwc.de/de/digitale-abschlusspruefung/pwc-befragung-digitalisierung-im-finanz-und-rechnungswesen-2019.pdf (Zugriff am 03.05.2020);
Marten/Hofstetter/Reichelt/Schleehuber
, WPg 2020, 1331, 1339f.
63
Vgl. dazu ausführlich
Dzida/Groh
, NJW 2018, 1917, 1922.
64
Bräutigam/Habbe
, NJW 2022, 809, 811f.;
Thiel/Nazari-Khanachayi
, RDi 2021, 134, 136f. (Rn. 16);
Zetzsche
, AG 2019, 1, 5.
65
Armour/Eidenmüller
, ZHR 183 (2019), 169, 172, 174.
66
Studie „Big Data trifft auf künstliche Intelligenz – Herausforderungen und Implikationen für Aufsicht und Regulierung von Finanzdienstleistungen“, Bundesanstalt für Finanzdienstleistungen, S. 9; Sassenberg/Faber-
Henseler/Unger
, Industrie 4.0-Hdb., § 1 Rn. 25;
Paal
, ZGR 2017, 590, 599.
67
Kreutzer/Sirrenberg
, KI verstehen, S. 20;
Zech
, ZfPW 2019, 198;
Paal
, ZGR 2017, 590, 600.
68
Kaulartz/Braegelmann-
Stiemerling
, Rechtshandbuch AI, Kapitel 2.1, Rn. 81;
Kreutzer/Sirrenberg
, KI verstehen, S. 107f.
69
Kaulartz/Braegelmann-
Stiemerling
, Rechtshandbuch AI, Kapitel 2.1, Rn. 82.
70
Kreutzer/Sirrenberg
, KI verstehen, S. 107f.
71
Noack
, ZHR 183 (2019), 105, 142f.;
Bormann
, ZGR 2017, 621, 629f.
72
Zetzsche
, AG 2019, 1, 5.
73
Davon sprechend, dass menschliche Risiken durch technische Risiken ersetzt werden,
Zetzsche
, AG 2019, 1, 6.
74
Sassenberg/Faber-
Unger
, Industrie 4.0-Hdb., § 1 Rn. 85; Sassenberg/Faber-
Kuss/Sassenberg
, Industrie 4.0-Hdb., Kap. 4 § 13 Rn. 11; Fischer/Hoppen/Wimmers-
Riehm/Meier
, DGRI 2018, Rn. 62;
Zech
, ZfPW 2019, 198, 204;
Borges
, NJW 2018, 977, 980;
Bräutigam/Klindt
, NJW 2015, 1137;
Kirn/Müller-Hengstenberg
, MMR 2014, 225.
75
Sassenberg/Faber-
Kuss/Sassenberg
, Industrie 4.0-Hdb., Kap. 4 § 13 Rn. 11;
Möslein
, RDi 2020, 34, 35;
Heuer-James/Chibanguza/Stücker
, BB 2018, 2818, 2819.
76
Vgl.
Linardatos
, ZIP 2019, 504;
Zetzsche
, AG 2019, 1, 6;
Borges
, NJW 2018, 977, 978.
77
So im Hinblick auf die Organe der AG
Zetzsche
, AG 2019, 1, 6;
Noack
, ZHR 183 (2019), 105, 142.
C. Zusammenfassung
Mit jedem praktischen Einsatz neuer technologischer Entwicklungen gehen praktische wie rechtliche Unsicherheiten einher und ergeben sich zwangsläufig rechtliche Fragen und Herausforderungen.78 Dies gilt auch für den Einsatz von KI.79 Der Begriff der KI ist diesbezüglich hinreichend bestimmt und umrissen, um ihn rechtlich verorten und rechtliche Herausforderungen, die mit dem Einsatz von KI einhergehen, einordnen zu können. Insbesondere und im Hinblick auf diese Dissertation bestehen hinreichend viele Einsatzbereiche im gesellschaftsrechtlichen bzw. GmbH-rechtlichen Kontext, dass der Einsatz von KI einer weiteren Untersuchung zugänglich ist.
78
So auch
Teichmann
, ZfPW 2019, 247, 248;
Zetzsche
, AG 2019, 1, 6;
Heuer-James/Chibanguza/Stücker
, BB 2018, 2818, 2819.
79
Vgl. allgemein
Bräutigam/Klindt
, NJW 2015, 1137.
2. Kapitel Ziel und Rahmen der Untersuchung
Die Bedeutung und Relevanz der Auseinandersetzung mit den rechtlichen Herausforderungen sowie die Zielsetzung dieses Dissertationsvorhabens sollen im Folgenden dargelegt werden. Der Untersuchungsgegenstand soll weiter aufgezeigt und ihm ein Rahmen gegeben werden.
A. Untersuchungsgegenstand und Rahmen
Der Einsatz von KI speziell in der GmbH wurde bisher wenig untersucht.80 Dies ist insofern bemerkenswert, als dass die GmbH nach wie vor die populärste Gesellschaftsform in Deutschland ist.81 Der Stand der Literatur bzw. insb. eine Auswertung der Aufsätze und Fachbeiträge82 zeigt, dass vorrangig und allgemeiner die Digitalisierung und der Einsatz von Corporate Technologies für sich und losgelöst von der konkreten Gesellschaftsform betrachtet werden.83 Wird auf Gesellschaftsformen eingegangen, steht zumeist die AG und das Verhältnis von Vorstand und Aufsichtsrat in Rede.84 Auch werden hauptsächlich Potentiale und technische Einsatzmöglichkeiten in Unternehmen aufgezeigt sowie Grundprobleme aufgeworfen.85 Der Regulierungsbedarf und erste diesbezügliche Schritte auf nationaler und europarechtlicher Ebene werden untersucht.86
Wird konkret auf die GmbH eingegangen, betrifft dies nicht speziell den Einsatz von KI, sondern auch hier die Digitalisierung der GmbH; beispielhaft sind die vereinfachte Gesellschaftsgründung und das Abhalten einer virtuellen Gesellschafterversammlung zu nennen.87 Künstliche Intelligenz wird nur am Rande erwähnt und wenn, dann hauptsächlich im Bereich der Unternehmensleitung.88 Der Einsatz von KI bspw. durch die und in der Gesellschafterversammlung wird wenig bedacht. Eine detaillierte Auseinandersetzung im Bereich der GmbH, die über die bloße Einsatzmöglichkeit von KI hinausgeht, hat insgesamt bisher kaum stattgefunden.
Es tut sich somit eine gewisse Forschungslücke auf, die mit diesem Dissertationsvorhaben geschlossen werden soll. Im Folgenden soll der Untersuchungsgegenstand umrissen werden.
I.Forschungsschwerpunkte
Gegenstand dieser Dissertation ist der Einsatz von KI in der GmbH. Er umfasst den Einsatz von Algorithmen und insb. eigenständig handelnder Systeme in der GmbH, mithin den Einsatz in der Gesellschaft, in der Geschäftsführung und in der Gesellschafterversammlung, sodass die Organe für sich genommen ebenso in den Blick genommen werden sollen wie die Gesellschaft selbst. Der Maßstab der Untersuchung sind die allgemeinen GmbH-rechtlichen Grundsätze, an denen gleichsam auszumachen sein wird, ob und ggf. in welchem Umfang ein Regelungsbedarf besteht. Bezüge zu anderen Rechtsgebieten werden am Rande behandelt, sofern ein rechtlicher oder praktischer Anknüpfungspunkt besteht. Der übergeordnete Schwerpunkt liegt auf der Stellung der einzelnen Organe in der Gesellschaft sowie den jeweiligen Kompetenzen mitsamt etwaigen Pflichtverletzungen und Haftungsfragen. Als einzelne Untersuchungsschwerpunkte zeigen sich die Zuständigkeit für den Einsatz von KI einschließlich der Unterscheidung zwischen dem „Ob“ und dem „Wie“ des Einsatzes, die KI-bezogenen Sorgfaltspflichten und Kompetenzen der Organe sowie die Haftung beim Einsatz von KI im Innen- und Außenverhältnis.
II.Begrenzung
Die vorliegende Untersuchung ist auf die wesentlichen, zwingenden Organe in der GmbH, mithin die Geschäftsführung und die Gesellschafterversammlung89 beschränkt. Nicht oder allenfalls am Rande behandelt werden mögliche fakultative Organe wie ein fakultativer Aufsichtsrat oder Beirat90 sowie ein u.U. gesetzlich geforderter mitbestimmungsrechtlicher Aufsichtsrat91.
Darüber hinaus soll allenfalls vergleichsweise auf die Situation in der AG eingegangen werden. Wird der Einsatz von KI in der AG thematisiert, erfolgt dies vor dem Hintergrund, dass der Einsatz von KI in der Literatur gegenwärtig vorranggig in diesem Bereich und nicht in der GmbH behandelt wurde, und angesichts der Möglichkeit, die Gegebenheiten in der GmbH in vergleichender Betrachtung herauszuarbeiten und deutlich zu machen.
Insgesamt ist die Auseinandersetzung mit dem Einsatz von KI auf die Auseindersetzung anhand der gesetzlichen Vorgaben beschränkt. GmbH-rechtlich zulässige Erweiterungen und Begrenzungen gesetzlicher Kompetenzen und Handlungsspielräume durch gesellschaftsvertragliche Vereinbarungen92 können aufgrund ihrer individuellen und verschiedenartigen Ausgestaltung93 nicht berücksichtigt werden.
80
So auch im Hinblick auf die Digitalisierung und das Gesellschaftsrecht bereits
Möslein
, ZIP 2018, 204, 205.
81
MüKo GmbHG-
Fleischer/Goette
, Band 2, Vorwort;
Bormann
, ZGR 2017, 621, 622.
82
Vgl. auch das Literaturverzeichnis zu dieser Dissertation.
83
Zetzsche
, AG 2019, 1;
Teichmann
, ZfPW 2019, 247;
Armour/Eidenmüller
, ZHR 183 (2019), 169, 170.;
Sattler
, BB 2018, 2243.
84
Vgl. bspw.
Linardatos
, ZIP 2019, 504, 507;
Strohn
, ZHR 182 (2018), 371, 373.
85
Armour/Eidenmüller
, ZHR 183 (2019), 169, 170.
86
Mitterer/Wiedemann/Thress
, BB 2020, 3, 8.
87
Vgl.
Teichmann
, ZfPW 2019, 247, 257, 260;
Möslein
, ZIP 2018, 204, 205.
88
Lücke
, BB 2019, 1986, 1987;
Möslein
, ZIP 2018, 204.
89
Verspay
, GmbH-Handbuch für den Mittelstand, S. 65.
90
Drygala/Staake/Szalai
, Kapitalgesellschaftsrecht, § 11 Rn. 1, 4;
Mayer
, Wirtschaftsrecht, Abschnitt 11.3.3;
Verspay
, GmbH-Handbuch für den Mittelstand, S. 117.
91
Drygala/Staake/Szalai
, Kapitalgesellschaftsrecht, § 11 Rn. 3;
Mayer
, Wirtschaftsrecht, Abschnitt 11.3.1;
Verspay
, GmbH-Handbuch für den Mittelstand, S. 66.
92
Verspay
, GmbH-Handbuch für den Mittelstand, S. 65.
93
Priester/Mayer/Wicke-
Wolff
, MünchHdb. GesR III, § 37 Rn. 64.
B. Zielsetzung
Die Zielsetzung dieser Dissertation soll sein, die rechtlichen Herausforderungen des Einsatzes von KI in der GmbH in den Blick zu nehmen und im Spannungsfeld von Rechtsinformatik und Informationsrecht94 im GmbH-rechtlichen Kontext für Klarheit zu sorgen oder doch zumindest einen Diskussionsbeitrag in diesem Bereich zu leisten. Die Möglichkeit des Einsatzes von KI sowie dessen Auswirkungen auf die GmbH und ihre Organe sollen im grundsätzlich liberalen GmbH-Recht95 aufgezeigt werden. Das organschaftliche Gefüge innerhalb der GmbH soll beleuchtet und die Auswirkungen des Einsatzes von KI hierauf herausgearbeitet werden. Ebenso soll sich zeigen, ob künftig andere (organschaftliche und operative) Anforderungen an die Organe zu stellen sind und ob ein Wandel der jeweiligen Rollen durch den Einsatz von KI erfolgt. Schließlich sollen Kompetenz- und Verantwortungsfragen beantwortet werden. Letztlich zielt diese Dissertation darauf, zu Rechtssicherheit für Unternehmensleiter96 und Gesellschafter beizutragen und einen Beitrag zu leisten, um einer etwaig bestehenden investitionshemmenden Wirkung rechtlicher Unsicherheit entgegenzuwirken.97
94
Beck
, DÖV 2019, 648, 649;
Herberger
, NJW 2018, 2825.
95
Drygala/Staake/Szalai
, Kapitalgesellschaftsrecht, § 1 Rn. 28.
96
Möslein
, ZIP 2018, 204, 212.
97
Sassenberg/Faber-
Unger
, Industrie 4.0-Hdb., § 1 Rn. 84;
Linardatos
, ZIP 2019, 504;
Heuer-James/Chibanguza/Stücker
, BB 2018, 2818, 2819;
Sattler
, BB 2018, 2243, 2248;
Paal
, ZGR 2017, 590, 593.
C. Relevanz der Untersuchung
Zusätzlich zu der beschriebenen Forschungslücke sowie den rechtlichen Herausforderungen und der Zielsetzung bedürfte es in gewisser Weise auch eines Forschungsbedarfs. So stellt sich immer auch die Frage nach der Relevanz oder auch dem Mehrwert der Auseinandersetzung mit einer Thematik.
Der Einsatz von KI soll im kapitalgesellschaftsrechtlichen und unternehmerischen Bereich, damit in einem wirtschaftlichen Umfeld und Wettbewerb untersucht werden. Hierbei wird aus ökonomischen Gründen gehandelt, sodass auch der Einsatz von KI zu großen Teilen aus ökonomischen Gründen bzw. zur Effizienzsteigerung erfolgt.98 Zusätzlich geht mit technologischen Entwicklungen ein Wandel in der Wirtschaft einher99, der diese ökonomische Bedeutung verstärkt.100 Potenziell ergeben sich umfangreiche Auswirkungen auf bestehende Geschäftsmodelle und damit die Wettbewerbsfähigkeit von Unternehmen.101 Gleichzeitig ist es nicht fernliegend, dass Unsicherheiten im Hinblick auf und beim Einsatz von KI102 eine investitionshemmende Wirkung haben und den Wettbewerbsdruck weiter erhöhen.103 Einer Untersuchung kommt somit eine ökonomische Bedeutung zu.
Gleichzeitig wird im Rahmen einer Auseinandersetzung mit dem Einsatz von KI in der GmbH die praktische Bedeutung für die verschiedenen Organe der GmbH zu betrachten sein. Neben der Geschäftsführung ist auch die besondere Stellung der GmbH-Gesellschafter bzw. der Gesellschafterversammlung zu berücksichtigen. So besteht – insb. vor dem Hintergrund der §§ 37 Abs. 1, 45f. GmbHG – in der GmbH ein gewisses Spannungsverhältnis zwischen den Organen.104 Es stellen sich organschaftliche und kompetenzrechtliche Fragen einschließlich der Frage nach der Wahrung gesellschaftsrechtlicher Kompetenzen und Grundsätze.105 Hiermit geht auch eine haftungsrechtliche Relevanz einher.106 Der Einsatz von KI wird mithin im geltenden Recht einzuordnen sein. Der Untersuchung kommt insofern auch eine rechtsdogmatische Bedeutung zu.
Die Relevanz der Auseinandersetzung ergibt sich zusammenfassend aus den Folgen der aufgezeigten Herausforderungen, mithin angesichts rechtlicher und praktischer Unsicherheiten durch den und beim Einsatz von KI, die grundsätzliche Fragen und Problemkreise betreffen. Schon gar nicht sollte aber diese Unsicherheit zu einem Hindernis für den Einsatz von KI und damit für wirtschaftliche Potentiale werden.107
98
BGH, Urt. v. 11.11.1985 – II ZB 5/85, DNotZ 1986, 276, 280 (für den Verein); Habersack/Casper/Löbbe-
Raiser
, GmbHG, Band 1, § 14 Rn. 76; Wicke-
Wicke
, GmbHG, § 1 Rn. 3; Saenger/Inhester-
Pfisterer
, GmbHG § 1 Rn. 1;
Jula
, GmbH-Geschäftsführer, S. 23;
Drygala/Staake/Szalai
, Kapitalgesellschaftsrecht, § 4 Rn. 30;
Thiel/Nazari-Khanachayi
, RDi 2021, 134;
Wicke
, DNotZ 2020, 448, 449;
Armour/Eidenmüller
, ZHR 183 (2019), 169, 170;
Sattler
, BB 2018, 2243, 2248.
99
Paal
, ZGR 2017, 590, 599.
100
Sassenberg/Faber-
Henseler/Unger
, Industrie 4.0-Hdb., § 1 Rn. 21.
101
Thiel/Nazari-Khanachayi
, RDi 2021, 134;
Sattler
, BB 2018, 2243, 2248;
Paal
, ZGR 2017, 590, 599.
102
Linardatos
, ZIP 2019, 504, 506;
Sattler
, BB 2018, 2243, 2248.
103
Thiel/Nazari-Khanachayi
, RDi 2021, 134;
Linardatos
, ZIP 2019, 504;
Sattler
, BB 2018, 2243, 2248.
104
MüKo GmbHG-
Stephan/Tieves
, Band 2, § 37 Rn. 6.
105
Linardatos
, ZIP 2019, 504, 507;
Sattler
, BB 2018, 2243, 2248.
106
Sassenberg/Faber-
Unger
, Industrie 4.0-Hdb., § 1 Rn. 85;
Linardatos
, ZIP 2019, 504, 506.
107
Linardatos
, ZIP 2019, 504;
Heuer-James/Chibanguza/Stücker
, BB 2018, 2818, 2819;
Hauschka
, AG 2004, 461, 467.
2. Teil Geschäftsführung
Kapitalgesellschaften als juristische Personen können aufgrund ihrer vom Gesetzgeber ausgehenden Anerkennung selbst Träger von Rechten und Pflichten sein.108 So macht bspw. § 13 Abs. 1 GmbHG für die GmbH deutlich, dass die GmbH als solche Rechte und Pflichten hat. Kapitalgesellschaften zeichnet zudem eine gewisse rechtliche, gesetzlich vorgesehene Mindeststruktur aus.109 Jede Kapitalgesellschaft hat verschiedene Organe, die unabhängig von der jeweiligen personellen Besetzung Bestand haben.110 Hintergrund dieses Bestands ist, dass bei Kapitalgesellschaften insb. die Kapitalbeteiligung und nicht der bei Personengesellschaften vorherrschende persönliche Zuschnitt maßgeblich ist.111 Diese Organe vertreten die Gesellschaft folglich nicht bloß.112 Durch diese Organe ist es einer GmbH vielmehr möglich, einen eigenen Willen zu bilden und selbst zu handeln.113
Das GmbHG sieht für die GmbH grundsätzlich zwei zwingende Institutionen vor: zum einen die Geschäftsführung (vgl. § 6 Abs. 1 GmbHG) und zum anderen die Gesellschafterversammlung (vgl. § 48 Abs. 1 GmbHG). Darüber hinaus kann es nach § 52 Abs. 1 GmbHG einen fakultativen oder nach § 52 Abs. 2 GmbHG oder nach den Regelungen des MitbestG einen obligatorischen Aufsichtsrat geben (vgl. § 1 Abs. 1 MitbestG).114 Ebenso möglich, aber nicht zwingend erforderlich, sind Gremien wie Beiräte, Ausschüsse und Verwaltungsräte.115
Eine GmbH muss nach § 6 Abs. 1 GmbHG einen oder mehrere Geschäftsführer haben.116 Eine gesetzliche Beschränkung der Anzahl der Geschäftsführer existiert hingegen nicht.117
108
Wackerbarth/Eisenhardt
, GesR II, § 3 III Rn. 59.
109
Wackerbarth/Eisenhardt
, GesR II, § 3 III Rn. 60.
110
Wackerbarth/Eisenhardt
, GesR II, § 3 III Rn. 60.
111
Windbichler
, Gesellschaftsrecht, § 2 Rn. 17f.
112
MüKo GmbHG-
Stephan/Tieves
, Band 2, § 35 Rn. 15 (vgl. dort auch m.w.N. zur sog. Vertretertheorie nach
Savigny
).
113
Drygala/Staake/Szalai
, Kapitalgesellschaftsrecht, § 11 Rn. 1.
114
Drygala/Staake/Szalai
, Kapitalgesellschaftsrecht, § 11 Rn. 3;
Ebenroth/Lange
, GmbHR 1992, 69.
115
Drygala/Staake/Szalai
, Kapitalgesellschaftsrecht, § 11 Rn. 4.
116
Aufgrund der Mindestanzahl von nur einem Geschäftsführer und zur sprachlichen Vereinfachung ist im Folgenden von „dem Geschäftsführer“ die Rede.
117
Drygala/Staake/Szalai
, Kapitalgesellschaftsrecht, § 11 Rn. 6.
1. KapitelOrgan und Kompetenz
Eine Betrachtung der Geschäftsführung – und damit eine Untersuchung der Auswirkungen des Einsatzes von KI auf die Geschäftsführung – kann auf zwei Weisen erfolgen: zum einen in Form einer konstitutionellen Betrachtungsweise, die die Geschäftsführung als Organ und dabei an sie gerichtete persönliche und fachliche Anforderungen unter die Lupe nimmt118; zum anderen in Form einer eher funktionalen Untersuchung, bei der die Kompetenzen und Aufgaben im Vordergrund stehen119.
118
Windbichler
, Gesellschaftsrecht, § 22 Rn. 4.
119
Windbichler
, Gesellschaftsrecht, § 22 Rn. 10.
A. Geschäftsführung als Organ der Gesellschaft
Der gemäß § 46 Nr. 5 GmbHG von der Gesellschafterversammlung zu bestellende Geschäftsführer ist das Exekutivorgan der Gesellschaft.120 Er ist die Unternehmensleitung der GmbH.121 Wirft man Fragen zum Einsatz von KI in der GmbH und im Bereich der Unternehmensleitung auf, stehen unmittelbar die entsprechenden Normen und ihre Anwendbarkeit in Rede. Demzufolge sind die für den Geschäftsführer geltenden rechtlichen Anforderungen maßgeblich zur Klärung von Fragen, die im Zusammenhang mit dem Einsatz von KI stehen; Fragen insb. rund um persönliche Anforderungen an den Geschäftsführer bis hin zur Substituierbarkeit des Geschäftsführers. Es sind somit zunächst die gesetzlichen Anforderungen aufzuzeigen, um anschließend klären zu können, ob KI den menschlichen Geschäftsführer ersetzen und KI damit selbst zum Organ der Gesellschaft, genauer zum Geschäftsführer werden kann. Der Einsatz von KI könnte vor dem Hintergrund der Eigenschaften von KI (insb. ihrer Selbstständigkeit) zudem zu veränderten persönlichen und/oder fachlichen Anforderungen an den Geschäftsführer führen.
Hierfür maßgeblich sind die für den Geschäftsführer geltenden Normen, mithin der für einen Geschäftsführer geltende rechtliche Rahmen.
I.KI als Geschäftsführung (Substituierbarkeit)
Die Tatsache, dass KI selbständig entscheiden und handeln kann, lässt den radikalen Ansatz zu, die Geschäftsführung der GmbH einer KI bzw. einem autonomen Algorithmus zu überlassen, mithin menschliche Geschäftsführer durch KI zu ersetzen.122Armour und Eidenmüller sprechen gar von der „selbstfahrenden Kapitalgesellschaft“.123 Erste Schritte in diese Richtung zeichnen sich bereits ab: Eine menschliche Unternehmensleitung scheint bei bestimmten Gesellschaftsformen in manchen Jurisdiktionen nicht erforderlich.124 Beispielhaft vorgebracht wird hier Delaware, wo es gem. § 141(a) Delaware General Corporation Law125 (durch Bestimmung in der Unternehmensverfassung) möglich sei, die Verwaltung der Gesellschaft nicht durch ein Board ausführen zu lassen.126 Mitte Mai 2014 sorgte zudem das Unternehmen Deep Knowledge Ventures127 aus Hongkong für Aufsehen, als es den von Aging Analytics entwickelten Algorithmus VITAL („Validating Investment Tool for Advancing Life Sciences“) angeblich als sechstes Mitglied in den Vorstand berief.128 Entgegen anders lautender Schlagzeilen ist VITAL jedoch kein Unternehmensleiter, sondern agiert vielmehr als eine Art Marktbeobachter.129 VITAL erhielt auch kein gesellschaftsrechtliches Stimmrecht bzw. die rechtliche Stellung eines Vorstandsmitglieds.130 Faktisch wird VITAL „nur“ als ein beratendes Mitglied des Vorstands behandelt.131 Gleichwohl beeinflusst und unterstützt VITAL auch in dieser Rolle wesentliche Unternehmensentscheidungen.132 So sind die von VITAL gelieferten Daten entscheidend für Investitionsentscheidungen des Vorstands.133 Zumindest zwei Investitionsentscheidungen wurden bereits unter maßgeblicher Mitwirkung von VITAL getätigt.134 Die unternehmerische Bedeutung und das Potential von KI drängen sich damit auf.135
Gleichzeitig zeigt sich, dass KI in einzelnen Bereichen vertreten ist, aber noch keine umfassenden unternehmensleitenden Funktionen einnimmt.136 Die technischen Entwicklungen sind auch derzeit noch nicht derart ausgereift, dass menschliche Geschäftsführer substituiert werden könnten und Unternehmensleitung durch KI konkret bevorstünde.137 Gerade bei umfangreichen Wertungs- und Ermessensentscheidungen, die u.U. zudem gebietsübergreifend erfolgen, ist KI (noch) unterlegen.138 Nichtsdestotrotz bleibt die Übernahme von Geschäftsführungsaufgaben und Leitungsfunktionen technisch vorstellbar und im Rahmen des zukünftig Möglichen.139 Schließlich existieren bereits Bereiche (insb. die Datenerfassung, -analyse und -verarbeitung), in denen KI natürlichen Personen deutlich überlegen ist.140 Es stellt sich damit die Frage, ob es überhaupt rechtlich zulässig ist, dass KI die Geschäftsführung der GmbH übernimmt.141 Dies hätte praktisch zur Folge, dass natürliche Personen bei der Entscheidungsfindung ausgenommen würden.142
1.Anforderungen an Geschäftsführer
Maßgeblich für die Frage, ob KI Geschäftsführer der GmbH sein kann, sind die persönlichen und fachlichen Anforderungen an einen Geschäftsführer. Hiervon ausgehend wird aufzuzeigen sein, ob KI diese Anforderungen erfüllt.
Bestimmungen betreffend den Geschäftsführer finden sich in erster Linie in § 6 GmbHG (i.V.m. § 104 BGB) sowie in §§ 35 bis 38 GmbHG und §§ 43f. GmbHG.143 Letztere betreffen jedoch die Rechtsstellung, also Rechte und Pflichten des Geschäftsführers.144 Darüber hinaus finden sich u.a. im HGB und in der InsO weitere für den Geschäftsführer relevante Normen.145 Im Übrigen sind auch persönliche Maßgaben im Gesellschaftsvertrag146, in Geschäftsordnungen147 sowie im Anstellungsvertrag148 möglich. Hiervon ausgehend wird aufzuzeigen sein, ob und ggf. inwieweit diese durch den Einsatz von KI betroffen sind.
a)Persönliche Anforderungen
Das GmbHG stellt in § 6 Abs. 2 GmbHG persönliche Eignungsvoraussetzungen für einen jeden Geschäftsführer auf.149 So heißt es:
(2) Geschäftsführer kann nur eine natürliche, unbeschränkt geschäftsfähige Person sein. Geschäftsführer kann nicht sein, wer
1. als Betreuter bei der Besorgung seiner Vermögensangelegenheiten ganz oder teilweise einem Einwilligungsvorbehalt (§ 1903 des Bürgerlichen Gesetzbuchs) unterliegt,
2. aufgrund eines gerichtlichen Urteils oder einer vollziehbaren Entscheidung einer Verwaltungsbehörde einen Beruf, einen Berufszweig, ein Gewerbe oder einen Gewerbezweig nicht ausüben darf, sofern der Unternehmensgegenstand ganz oder teilweise mit dem Gegenstand des Verbots übereinstimmt,
3. wegen einer oder mehrerer vorsätzlich begangener Straftaten
a) des Unterlassens der Stellung des Antrags auf Eröffnung des Insolvenzverfahrens (Insolvenzverschleppung),
b) nach den §§ 283 bis 283d des Strafgesetzbuchs (Insolvenzstraftaten),
c) der falschen Angaben nach § 82 dieses Gesetzes oder § 399 des Aktiengesetzes,
d) der unrichtigen Darstellung nach § 400 des Aktiengesetzes, § 331 des Handelsgesetzbuchs, § 313 des Umwandlungsgesetzes oder § 17 des Publizitätsgesetzes oder
e) nach den §§ 263 bis 264a oder den §§ 265b bis 266a des Strafgesetzbuchs zu einer Freiheitsstrafe von mindestens einem Jahr
verurteilt worden ist; dieser Ausschluss gilt für die Dauer von fünf Jahren seit der Rechtskraft des Urteils, wobei die Zeit nicht eingerechnet wird, in welcher der Täter auf behördliche Anordnung in einer Anstalt verwahrt worden ist.
Satz 2 Nr. 3 gilt entsprechend bei einer Verurteilung im Ausland wegen einer Tat, die mit den in Satz 2 Nr. 3 genannten Taten vergleichbar ist.
§ 6 Abs. 2 S. 1 GmbHG stellt zunächst klar, dass nur natürliche und voll geschäftsfähige150 Personen Geschäftsführer der GmbH sein können. Der Geschäftsführer muss rechtsfähig und in der Lage sein, allgemein zulässige Rechtsgeschäfte selbstständig und mit voller Wirksamkeit vornehmen zu können151. § 6 Abs. 2 S. 2 GmbHG schränkt den Personenkreis weiter ein. Wird entgegen § 6 Abs. 2 S. 2 GmbHG eine nicht als Geschäftsführer zugelassene Person zum Geschäftsführer bestellt, ist diese Bestellung nichtig nach § 134 BGB.152 Sofern der entsprechende Grund für die Unzulässigkeit hingegen erst nach der Bestellung eintritt, ist der sofortige Amtsverlust die Folge.153
Die Staatsangehörigkeit, der Wohnsitz und der gewöhnliche Aufenthaltsort der jeweiligen Person sind hingegen unbedeutend.154 Dass dies aus praktischen und haftungsrechtlichen Gründen anders sein mag, ist für die Organstellung unbedeutend.155 Auch kann der Geschäftsführer nach § 6 Abs. 3 S. 1 GmbHG gleichzeitig Gesellschafter sein. Ein Geschäftsführer darf nach § 52 Abs. 1 GmbHG i.V.m. § 105 Abs. 1 AktG hingegen nicht gleichzeitig Mitglied in einem etwaig bestehenden Aufsichtsrat der GmbH sein.
Eignungsvoraussetzungen können darüber hinaus in der Satzung durch die Gesellschafter vorgesehen werden.156 Gleichwohl wirken diese nur intern.157 Ob diese Voraussetzungen beim jeweiligen Geschäftsführer vorliegen, wird durch das Registergericht nicht geprüft, sodass die jeweilige Bestellung auch bei deren Nichterfüllung wirksam bleibt.158
b)Fachliche Anforderungen
Ebenso wie gesetzlich vorgesehene persönliche Anforderungen sind gesetzlich geforderte fachliche Anforderungen denkbar. So könnten fachliche Eignungsvoraussetzungen wie z.B. betriebswirtschaftliche Kenntnisse erforderlich sein. § 6 Abs. 2 GmbHG stellt jedoch keine fachlichen Anforderungen an Geschäftsführer. Auch finden sich anderweitig keine unmittelbar gesetzlich geforderten bzw. originär fachlichen Anforderungen. Zu erwähnen bleibt hingegen auch hier, dass es gesellschaftsvertraglich möglich ist, bestimmte fachliche Eignungsvoraussetzungen aufzustellen.159
Das Fehlen gesetzlicher fachlicher (und im Übrigen auch unternehmensführungsbezogener) Anforderungen bedeutet jedoch nicht, dass die fachliche Qualifikation eines Geschäftsführers für ihn oder die Gesellschaft ohne Bedeutung wäre. Schließlich hängen der Fortgang und der Erfolg des Unternehmens und damit auch die Existenz der Gesellschaft zu wesentlichen Teilen von dessen Leitung und Kompetenz ab.160 Auch hängt sein ganz persönlicher Verbleib im Amt am Erfolg seiner Tätigkeit, denn die Gesellschafter können den Geschäftsführer grundsätzlich jederzeit abberufen161. Zudem kann es für ihn vor dem Hintergrund des § 43 Abs. 2 GmbHG haftungsrechtlich bedeutsam sein, wenn er trotz fehlender Qualifikation das Amt des Geschäftsführers nicht ordentlich bekleidet.162 Schließlich hat ein Geschäftsführer gem. § 43 Abs. 1 GmbHG in den Angelegenheiten der Gesellschaft die Sorgfalt eines ordentlichen Geschäftsmannes anzuwenden. Ein Geschäftsführer sollte demzufolge gewisse fachliche Qualifikationen mitbringen.163
Deutlich wird bereits an dieser Stelle, dass es bei der Frage, ob KI Geschäftsführer der GmbH sein kann, nicht auf fachliche Anforderungen ankommt. Auch kann ein Einsatz von KI nicht zu grundsätzlich veränderten fachlichen Anforderungen an den Geschäftsführer führen. Es ergeben sich aus § 6 Abs. 2 GmbHG keine fachlichen Anforderungen und damit auch keine, die im Zusammenhang mit dem Einsatz von KI stehen. Ein Geschäftsführer muss originär folglich keine KI-bezogenen Kenntnisse vorweisen. Es ergeben sich allenfalls veränderte mittelbare fachliche Anforderungen vor dem Hintergrund etwaig veränderter haftungsrechtlicher Gegebenheiten.164
2.Rechtsnatur von KI
Maßgeblich für die Frage, ob KI Geschäftsführer der GmbH sein kann, mithin organfähig ist, sind die Rechtsnatur und/oder entsprechende gesetzliche Regelungen, ist hieran doch auszumachen, ob KI rechtsfähig und geschäftsfähig ist.
Fraglos ist KI bzw. ein Algorithmus keine natürliche Person.165 Auch ist KI keine vom Gesetzgeber anerkannte rechtlich selbstständige Personenvereinigung oder ein derartiges Zweckvermögen, also keine juristische Person.166 KI könnte aber eine Sache i.S.d. § 90 BGB oder ein Werk sein.167 Gemäß § 90 BGB sind Sachen im Sinne des Gesetzes nur körperliche Gegenstände. KI ist für sich genommen aber eine Software; ihr fehlt es an einer Verkörperung.168 Erst die (notwendige) Speicherung auf einem Datenträger wie z.B. einer Festplatte oder einer CD-ROM könnte sie zu einer Sache werden lassen.169 Jedoch erscheint es auch hier naheliegender, Software und Hardware getrennt aufzufassen, sodass einzig bspw. der Datenträger eine Sache ist.170 Ohne diese Speicherung fehlt es an der Körperlichkeit und KI ist nicht als Sache aufzufassen.171 Es bleibt damit nur, KI als urheberrechtliches Werk einzustufen.172 Mit dem Fehlen einer Rechtspersönlichkeit geht die fehlende Rechtsfähigkeit einher.173 Hierfür bedürfte es etwas wie einer gesetzlich anerkannten digitalen Person oder E-Person, der gesetzlich eine Rechtsfähigkeit zukommt.174 Gibt es auch entsprechende Überlegungen, hat es gesetzgeberische Schritte in diese Richtung auf nationaler wie auf europäischer Ebene bisher nicht gegeben.175 In Teilen scheint im Übrigen losgelöst vom GmbH-Recht einiges gegen die Schaffung einer E-Person zu sprechen.176 So scheint bspw. im Deliktsrecht eine digitale Person insb. im Hinblick auf das Verschuldensprinzip nicht praktikabel.177
3.Organfähigkeit
Die Tatsache, dass eine KI ein urheberrechtliches Werk oder zumindest keine natürliche Person ist178, steht der Regelung des § 6 Abs. 2 S. 1 GmbHG entgegen. KI erfüllt damit nicht die Voraussetzungen, um Geschäftsführungsorgan der GmbH zu sein.
Da KI jedenfalls auch keine juristische Person ist179, kann ebenso dahinstehen, ob es im Hinblick auf die Verfassung mit dem Gleichbehandlungsgrundsatz aus Art. 3 Abs. 1 GG und der Berufsfreiheit nach Art. 12 Abs. 1 GG zu vereinbaren ist, dass juristische Personen nicht Geschäftsführungsorgan der GmbH sein können, oder die Einsetzung einer juristischen Person als Geschäftsführungsorgan überhaupt praktikabel wäre.180
Nähme man an, dass KI als E-Person o.ä. rechtlich anerkannt wäre, würde auch dies dem Wortlaut des § 6 Abs. 2 S. 1 GmbHG weiterhin entgegenstehen. Es bliebe einzig die Überlegung, die Regelung des § 6 Abs. 2 S. 1 GmbHG in analoger Anwendung heranzuziehen. Dafür müsste der gegebene Sachverhalt dem der gesetzlichen Regelung ähneln und die gesetzliche Regelung dürfte nicht auf den bestimmten Sachverhalt begrenzt sein.181 Vergleichbare Sachverhalte sind insofern hypothetisch gegeben, als dass natürliche Personen als Geschäftsführer durch Algorithmen technologisch ersetzt werden (könnten).182 Zu unterstellen ist, das KI mindestens die Fähigkeiten eines menschlichen Geschäftsführers mit sich bringt. Auch die Rechtsfähigkeit bzw. die Geschäftsfähigkeit sind beiderseits zu bejahen, wären diese bei natürlichen Personen gegeben und im Hinblick auf die KI die beabsichtigten Konsequenzen der rechtlichen Anerkennung. Es stellt sich damit die Frage, ob der Wortlaut des § 6 Abs. 2 S. 1 GmbHG zwingend ist und dementsprechend der Geschäftsführer zwingend eine natürliche Person sein muss. Dies könnte ungeachtet des Wortlauts kann nur damit zu verneinen sein, dass der Gesetzgeber womöglich lediglich juristische Personen vom Amt des Geschäftsführers ausschließen wollte. Auch könnte sich der Gesetzgeber zum Zeitpunkt der Bekanntmachung des GmbHG vom 20. Mai 1898 schlichtweg nicht darüber bewusst gewesen sein oder überhaupt nur vorgestellt haben, dass etwas wie KI existieren würde und sogar Geschäftsführungsaufgaben übernehmen könnte. Schließlich finden sich keine Regelungen oder auch nur Regelungsansätze bzgl. Algorithmen, die anspruchsvolle Aufgaben übernehmen können. Gegen eine Analogie spricht jedoch, dass es sich bei § 6 Abs. 2 S. 1 GmbHG um ein absolut wirkendes gesetzliches Verbot handelt.183 Betrachtet man zudem die einzelnen Regelungen des GmbHG wie z.B. § 6 Abs. 2 S. 2 GmbHG mitsamt der weiteren Eignungsvoraussetzungen, die Regelung des § 35 Abs. 1 S. 1 GmbHG sowie die gesetzliche Systematik insgesamt genauer, wird deutlich, dass diese auf natürliche Personen zugeschnitten sind.184 Auch sind z.B. gesellschaftsrechtliche Treuepflichten und datenbasierte Entscheidungsfindung zumindest nicht vollkommen in Einklang zu bringen.185 Der die Geschäftsführung betreffende gesetzliche Rahmen sieht einzig Rechte und Pflichten vor, die natürliche Geschäftsführer betreffen. Hintergrund ist, dass der Gesetzgeber das Amt als ein persönliches versteht und ein persönliches Tätigwerden für erforderlich hält.186 Eine analoge Anwendung des § 6 Abs. 2 S. 1 GmbHG auf KI scheidet damit aus. KI kann im Bereich der Geschäftsführung nicht mit natürlichen Personen gleichgesetzt werden.187 Dem Prinzip der Organschaft folgend ist es zu guter Letzt auch nicht zulässig, einer KI die Geschäftsführungsführungsbefugnis bei Wahrung der Bestellung eines natürlichen Geschäftsführers zu übertragen (vgl. auch § 44 GmbHG).188
II.Zusammenfassung
KI ist nach § 6 Abs. 2 S. 1 GmbHG nicht organfähig. Eine analoge Anwendung der Norm ist nicht möglich. Damit steht fest, dass natürliche Geschäftsführer durch KI nicht substituiert werden können. Weiterhin ist mindestens ein natürlicher Geschäftsführer in der GmbH erforderlich. Folglich kann KI nach geltendem Recht im Bereich der Geschäftsführung (nur) zur Unterstützung (sog. assisted intelligence) und Verbesserung (sog. augmented/autonomous intelligence) menschlicher Entscheidungen189 eingesetzt werden.190 Schließlich steht es § 6 Abs. 2 S. 1 GmbHG nicht entgegen, KI in beratender Funktion und als nicht förmliches Mitglied der Geschäftsführung einzusetzen.191
120
Jula
, GmbH-Geschäftsführer, S. 2.
121
Lücke
, BB 2019, 1986.
122
Zetzsche
, AG 2019, 1, 5;
Armour/Eidenmüller
, ZHR 183 (2019), 169, 183;
Möslein
, ZIP 2018, 204.
123
Armour/Eidenmüller
, ZHR 183 (2019), 169.
124
Armour/Eidenmüller
, ZHR 183 (2019), 169, 181; rechtsvergleichend
Bayern/Burri/Grant/Häusermann/Möslein/Williams
, Hastings Science and Technology Law Journal 2 (Summer 2017), 135, 136ff.
125
Im Wortlaut:
Delaware Code Title 8. Corporations § 141(a). Board of directors; powers; number, qualifications and quorum; committees; classes of directors; nonstock corporations; reliance upon books; action without meeting; removal: (a) The business and affairs of every corporation organized under this chapter shall be managed by or under the direction of a board of directors, except as may be otherwise provided in this chapter or in its certificate of incorporation. If any such provision is made in the certificate of incorporation, the powers and duties conferred or imposed upon the board of directors by this chapter shall be exercised or performed to such extent and by such person or persons as shall be provided in the certificate of incorporation.
; Zweifel an diesem Verständnis bestehen insoweit, dass jedenfalls ein board of directors aus natürlichen Personen bestehen muss, vgl. Delaware Code Title 8. Corporations § 141(b), der besagt:
The board of directors of a corporation shall consist of 1 or more members, each of whom shall be a natural person.
126
Armour/Eidenmüller
, ZHR 183 (2019), 169, 181.
127
Nach eigenen Angaben heute ein Tochterunternehmen der Deep Knowledge Group, https://www.dkv.global/overview (Zugriff am 15.05.2020).
128
U.a.
Groome
, „Deep Knowledge Venture’s Appoints Intelligent Investment Analysis Software VITAL as Board Member“, abrufbar unter http://www.prweb.com/releases/2014/05/prweb11847458.html (Zugriff am 19.05.2020);
Clauß
, „Investment-Firma wählt Computer in den Vorstand“, abrufbar unter https://www.welt.de/politik/ausland/article128184225/Investment-Firma-waehlt-Computer-in-den-Vorstand.html (Zugriff am 19.05.2020);
Wile
, „A Venture Capital Firm Just Named An Algorithm To Its Board Of Directors – Here’s What It Actually Does“, abrufbar unter https://www.businessinsider.in/A-Venture-Capital-Firm-Just-Named-An-Algorithm-To-Its-Board-Of-Directors–Heres-What-It-Actually-Does/articleshow/35075291.cms (Zugriff am 19.05.2020);
Burridge
, „Artificial intelligence gets a seat in the boardroom“, abrufbar unter https://asia.nikkei.com/Business/Artificial-intelligence-gets-a-seatin-the-boardroom (Zugriff am 19.05.2020);
Strohn
, ZHR 182 (2018), 371;
Möslein
, ZIP 2018, 204.
129
Strohn
, ZHR 182 (2018), 371.
130
Möslein
, ZIP 2018, 204, 206.
131
Burridge
, „Artificial intelligence gets a seat in the boardroom“, abrufbar unter https://asia.nikkei.com/Business/Artificial-intelligence-gets-a-seat-in-the-boardroom (Zugriff am 19.05.2020).
132
Strohn
, ZHR 182 (2018), 371.
133
Strohn
, ZHR 182 (2018), 371.
134
Zolfagharifard
, „Would you take orders from a ROBOT? An artificial intelligence becomes the world’s first company director“, abrufbar unter https://www.dailymail.co.uk/sciencetech/article-2632920/Would-orders-ROBOT-Artificial-intelligenceworld-s-company-director-Japan.html (Zugriff am 19.05.2020).
135
Möslein
, ZIP 2018, 204, 206.
136
Armour/Eidenmüller
