Welche KI? E-Book

Stefan Bauberger

• Herausgeber: Carl Hanser Verlag GmbH & Co. KG
• Kategorie: Wissenschaft und neue Technologien
• Sprache: Deutsch

Seitenzahl: 242

Veröffentlichungsjahr: 2020

Beschreibung

Künstliche Intelligenz hat das Potenzial, viele Bereiche unseres Lebens grundlegend zu verändern. Dies betrifft unter anderem Veränderungen der Arbeitswelt, autonome Fahrzeuge oder sogar Waffen, das Gesundheitssystem, demokratische Gesellschaftsstrukturen und die gesamte Lebenswelt. Daraus erwachsen große Chancen für die Gesellschaft, aber auch große Gefahren. In der Analyse solcher Szenarien zeigt sich, dass die Auswirkungen von KI in einer ethischen Detailbetrachtung nicht ausreichend erfasst werden können. Vielmehr müssen sie aus einem umfassenden gesellschaftlichen und menschlichen Zusammenhang beurteilt werden. In diesem Buch wird daher eine Perspektive auf KI gezeigt, die ethische Detailfragen zu den Anwendungen von KI aus der größeren Perspektive philosophischer Reflexion betrachtet. Diese umfasst philosophische Überlegungen zur Auswirkung der Technik und die Betrachtung von Szenarien der Technikentwicklung. Weiterhin werden Veränderungen des Menschenbildes analysiert, die mit der Entwicklung von KI verbunden sind. Damit hängt die Frage zusammen, ob KI Bewusstsein entwickeln kann und ob einer fortgeschrittenen KI ein Rechtsstatus einer elektronischen Persönlichkeit zugeordnet werden soll. Die betrachteten Entwicklungsszenarien umfassen die Veränderung der Arbeitswelt zwischen einer Hoffnung auf eine Entlastung von monotonen und gefährlichen Tätigkeiten einerseits und der Gefahr von Massenarbeitslosigkeit andererseits. Weiterhin werden neben den bekannten Problemen des autonomen Fahrens die Auswirkungen auf Szenarien der Mobilität betrachtet. In Bezug auf den Einsatz von autonomen Waffen und auf die Steuerung der Kriegsführung durch KI wird das Szenario eines neuen Wettrüstens und einer Entgrenzung der Kriegsführung vorgestellt, das eine Ächtung dieser Techniken nahelegt. Für das Gesundheitssystem und die Altenpflege wird das Szenarium einer weiteren Entmenschlichung dieser Bereiche mit einem Konzept kontrastiert, das dem menschlichen Faktor gerade durch die Entlastung von technischen Aufgaben einen neuen Stellenwert gibt. Entsprechende Szenarien werden für die Auswirkungen von KI auf die Demokratie und die Durchdringung der Lebenswelt vorgestellt.

Leseprobe

Stefan Bauberger

Welche KI?

Künstliche Intelligenz demokratisch gestalten

Autor:

Prof. Dr. Stefan Bauberger, Hochschule für Philosophie München

Alle in diesem Buch enthaltenen Informationen wurden nach bestem Wissen zusammengestellt und mit Sorgfalt geprüft und getestet. Dennoch sind Fehler nicht ganz auszuschließen. Aus diesem Grund sind die im vorliegenden Buch enthaltenen Informationen mit keiner Verpflichtung oder Garantie irgendeiner Art verbunden. Autor(en, Herausgeber) und Verlag übernehmen infolgedessen keine Verantwortung und werden keine daraus folgende oder sonstige Haftung übernehmen, die auf irgendeine Weise aus der Benutzung dieser Informationen – oder Teilen davon – entsteht. Ebenso wenig übernehmen Autor(en, Herausgeber) und Verlag die Gewähr dafür, dass die beschriebenen Verfahren usw. frei von Schutzrechten Dritter sind. Die Wiedergabe von Gebrauchsnamen, Handelsnamen, Warenbezeichnungen usw. in diesem Werk berechtigt auch ohne besondere Kennzeichnung nicht zu der Annahme, dass solche Namen im Sinne der Warenzeichen- und Markenschutz-Gesetzgebung als frei zu betrachten wären und daher von jedermann benutzt werden dürften.

Bibliografische Information der Deutschen Nationalbibliothek:Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der DeutschenNationalbibliografie; detaillierte bibliografische Daten sind im Internet über http://dnb.d-nb.de abrufbar.

Dieses Werk ist urheberrechtlich geschützt.Alle Rechte, auch die der Übersetzung, des Nachdruckes und der Vervielfältigung des Buches, oder Teilen daraus, vorbehalten. Kein Teil des Werkes darf ohne schriftliche Genehmigung des Verlages in irgendeiner Form (Fotokopie, Mikrofilm oder ein anderes Verfahren) – auch nicht für Zwecke der Unterrichtsgestaltung – reproduziert oder unter Verwendung elektronischer Systeme verarbeitet, vervielfältigt oder verbreitet werden.

© 2020 Carl Hanser Verlag München;Internet: www.hanser-fachbuch.de

Lektorat: Frank KatzenmayerHerstellung: Anne KurthCovergestaltung: Max Kostopoulos, unter Verwendung von Grafiken vonTitelmotiv: © shutterstock.com/MJgraphicsCoverkonzept: Marc Müller-Bremer, www.rebranding.de, München

Print-ISBN:        978-3-446-46516-9E-Book-ISBN:   978-3-446-46552-7E-Pub-ISBN:     978-3-446-46737-8

Inhalt

Titelei

Impressum

Inhalt

Vorwort

1 Einleitung

1.1 Was ist KI, was kann sie und was wird sie können?

1.2 KI: Top-down

1.3 KI: Bottom-up

1.4 Eine kurze (Nicht-)Definition

1.5 Wertfreie Technik?

2 Zukunft der Arbeit

2.1 Prognosen

2.2 Überschätzt oder unterschätzt?

2.3 Weiterbildung für alle oder wachsende Ungleichheit?

2.4 Woher kommt die Gefahr einer Steigerung der sozialen Ungleichheit?

2.5 De-Skilling oder Enhancement?

2.6 Strategien und Utopien

3 Medizin und Pflege

3.1 Technikphilosophische Kriterien

3.2 Anwendungen und Szenarien

4 Autonomes Fahren

4.1 Sicherheit

4.2 Dilemmata

4.3 Entwicklung der Mobilität

4.4 Szenarien

5 Autonomes Töten

5.1 LAWS und KI in der Steuerung der Kriegsführung: ethische Kriterien

5.2 Verantwortungsdiffusion

5.3 Verantwortung

5.4 Erste Dystopie: KI kontrolliert die Kriegsführung

5.5 Erweiterte Möglichkeiten und Entgrenzung der Kriegsführung

5.6 Fazit

6 Demokratie

6.1 Überwachung

6.2 Privatsphäre und Demokratie

6.3 KI und Manipulation

6.4 Wo bleibt die Demokratie?

7 Virtuelle Welten und die „wirkliche Welt“

7.1 Glaubenskriege

7.2 Objektive und subjektive Fragen

8 Roboterrechte und die ferne Zukunft

8.1 Roboterrechte und ein Persönlichkeitsstatus von KI?

8.2 KI als juristische Person?

8.3 KI als natürliche Person?

9 Übernehmen die Roboter?

Literaturhinweise

Vorwort

Technik und insbesondere Computer haben mich seit meiner Jugend fasziniert. In der damaligen analogen Welt war aber zu meinem großen Bedauern nicht daran zu denken, ein solches Gerät selbst benützen zu können. Mit dem Siegeszug der PCs habe ich später die ganze Entwicklung der Geräte direkt mitverfolgen können und das Programmieren gelernt. Insbesondere für meine Promotion in theoretischer Physik bestand ein Großteil meiner Arbeitszeit im Programmieren. Künstliche Intelligenz war zwar schon damals ein wichtiges Thema, aber es waren die langen Jahrzehnte des „KI-Winters“, der von enttäuschten Hoffnungen geprägt war.

Als ich vor mehr als sieben Jahren damit begonnen habe, mich auf dem Hintergrund meiner Lehrtätigkeit für Naturphilosophie in die Technikphilosophie einzuarbeiten, wurde schnell deutlich, dass die Digitalisierung das mit Abstand wichtigste Thema der Technik in der heutigen Zeit darstellt. Und vor etwa drei Jahren haben die plötzlichen Fortschritte auf dem Gebiet der Künstlichen Intelligenz von neuem meine Faszination geweckt, verbunden mit einem gewissen Erschrecken angesichts der heraufziehenden Möglichkeiten.

Ich habe mich diesem Thema als Philosoph angenähert, aber auch als interessierter Bürger, der für einen verantwortlichen und demokratischen Umgang mit Technik eintritt. Dafür sind ethische Prinzipien und Untersuchungen gefragt. Gleichzeitig greifen ethische Betrachtungen von einzelnen Anwendungen dieser Technik aber zu kurz. Künstliche Intelligenz hat das Potential zu großen Umwälzungen. Daher müssen immer die größeren gesellschaftlichen und ökonomischen Zusammenhänge sowie die Auswirkungen auf das Menschenbild berücksichtigt werden. Die Auswirkungen von Künstlicher Intelligenz können die Gesellschaft unkontrolliert überrollen, wenn es nicht gelingt, in einem demokratischen Prozess die möglichen Szenarien der Entwicklung im größeren Zusammenhang zu betrachten. Dabei zeigt sich, dass in diesen Szenarien gesellschaftliche Bruchstellen deutlich werden, die schon da sind, die aber durch KI vertieft werden.

Mein Anliegen mit diesem Buch ist, solche Szenarien aufzuzeigen, damit Entwickler und Anwender von Künstlicher Intelligenz Kriterien aus einer interdisziplinären Sicht an die Hand bekommen, wie die Entwicklung in guter Weise gesteuert werden kann. Weiterhin hoffe ich dazu beizutragen, dass ein größerer demokratischer Prozess, politisch und zivilgesellschaftlich, möglich wird. Dieser Prozess möge dazu führen, dass Künstliche Intelligenz ein wertvolles Werkzeug wird, ohne dass einzelne gesellschaftliche Gruppen dieses Werkzeug missbrauchen, und ohne dass Künstliche Intelligenz zum Selbstzweck wird.

Ein solches Buch steht immer auf dem Hintergrund von anregenden Diskussionen, wobei ich nicht all den Vielen danken kann, die auf diese Weise mit beigetragen haben. Sehr wichtig waren Inspirationen von Informatikern und anderen Technikern, die an der Front der Entwicklung stehen, und die selbst ethische und philosophische Fragen stellen, namentlich vor allem Prof. Klaus Peter Kratzer, Alexander von Gernler und Prof. Sami Haddadin. Andreas Dohmen hat mir die Sichtweise der Digitalindustrie aufgeschlossen, die er selbst kritisch reflektiert. Die philosophischen Gedanken sind von vielen Personen inspiriert, oft auch in Diskussionen mit Studierenden entstanden. Von besonderer Bedeutung waren Gespräche mit Prof. Alexander Filipovic, mit Dr. Tobias Müller und mit Prof. Harald Lesch. Dem Lektor vom Hanser-Verlag, Frank Katzenmayer, danke ich für seine Geduld und für viele sehr wertvolle Anregungen.

Spiegelau, im Juni 2020

Stefan Bauberger

1Einleitung

Digitalisierung ist ein Reizwort unserer Zeit: für die einen die Hoffnung für die Lösung der Probleme der Zukunft, für die anderen eine meist diffuse Bedrohung. Seit wenigen Jahren beginnt Künstliche Intelligenz (KI) in den Mittelpunkt dieser Hoffnungen und dieses Bedrohungsgefühls zu rücken, als neue Speerspitze der Digitalisierung. Der Technikphilosoph Achim Grunwald sieht die Debatte über KI als neue Systemdebatte, in der verschiedene gesellschaftliche Lager ihre Hoffnungen und Befürchtungen formulieren. Anhand dieser gegensätzlichen Utopien bezüglich KI wird somit die Zukunft verhandelt.1

In der politischen Debatte werden in dieser Auseinandersetzung von beiden Seiten Ängste geschürt: einerseits die Angst vor einer immer weiteren Technisierung der Gesellschaft und zunächst vor allem vor dem Abbau von Arbeitsplätzen, andererseits die Angst davor, dass Deutschland oder Europa den Anschluss an die Entwicklung verlieren.

Praktisch durchdringt die Digitalisierung bereits seit einigen Jahrzehnten die Arbeits- und Lebenswelt. Künstliche Intelligenz beginnt aber gerade erst, eine ernsthafte Rolle zu spielen, weshalb ihre zukünftigen Folgen leicht unterschätzt und natürlich auch überschätzt werden können. Manches wird nur aus Marketinggründen als KI bezeichnet, um auf diesen Zug der Zukunft aufzuspringen, obwohl es nichts oder sehr wenig damit zu tun hat. Dennoch gibt es einige gute Gründe, die erwarten lassen, dass KI in den kommenden Jahrzehnten tiefgreifende Auswirkungen auf die Lebenswelt haben wird – ganz abgesehen davon, dass diese Entwicklung bereits begonnen hat, wie gleich deutlich werden wird.

Die Gründe, die KI eine wichtigere Rolle ermöglichen, sind neben Fortschritten der Informatik, die lange Zeit nur von akademischem Interesse waren, technische und ökonomische Randbedingungen.

Ein wichtiger Faktor ist in diesem Zusammenhang die Verfügbarkeit von entsprechender Rechenpower. Dabei spielt zunächst der allgemeine Fortschritt der Computertechnik beziehungsweise der Chipentwicklung („Mooresches Gesetz“2) eine Rolle. Eine schon ältere Apple Watch 2 von 2015 in der Größe einer Armbanduhr hat fast die doppelte Rechenleistung des Cray-2, des leistungsfähigsten Supercomputers von 1985, der nur 30 Jahre früher gebaut wurde.3 Dabei hat dieser Supercomputer so viel Strom verbraucht und damit Wärme erzeugt, dass er – wenn man ihn auf die Größe der Apple Watch geschrumpft hätte – diese Uhr in einer Sekunde um mehr als 5000 Grad erhitzt, sie also verdampft hätte.4 Das zeigt unmittelbar, dass neben der reinen Rechenkraft auch die wachsende Energieeffizienz der Computerchips eine große Rolle spielt.5

Neben dieser allgemeinen Leistungssteigerung von Computerchips ist ein bedeutender Faktor für KI-Anwendungen, dass umfunktionierte Grafikkarten und spezialisierte KI-Chips zum Einsatz kommen. Für neuronale Netze, von denen die moderne Entwicklung geprägt ist, gilt ein anderes Anforderungsprofil als für gewöhnliche Prozessoren in Computern.6 Sogar einige Smartphones werden bereits mit solchen spezialisierten KI-Chips ausgeliefert.

Ein weiterer Faktor, der die Entwicklung vorantreibt, ist die Verfügbarkeit großer Datenmengen in einer Form, dass sie von Computern verarbeitet werden können. Warum das von Bedeutung ist, wird im Abschnitt 1.3 erklärt.

Weiterhin spielen neue ökonomische Strukturen eine Rolle. Die Entwicklung von KI wird einerseits von den großen neuen Internetkonzernen befördert, die über sehr viel Kapital verfügen und dieses bereitwillig in Forschung investieren. Ihre Zukunft hängt davon ab. Andererseits spielt auch eine neue Kultur von Start-ups und Risikokapital eine wichtige Rolle, die im Übrigen auch die heute großen Internetkonzerne begründet hat.

Ein weiterer treibender Faktor ist die wachsende Zahl von Informatikern, die in den neuen Methoden gut ausgebildet sind, und die in Forschungszentren in Unternehmen und an Universitäten in immer größeren Teams zusammenarbeiten. Der chinesische Spezialist Lee verweist darauf, dass in den nächsten Jahren der Fortschritt nicht von ganz neuen Techniken dominiert werden wird, sondern von der Anwendung von im Prinzip schon entwickelten Techniken. Dafür werden keine Spitzenforscher gebraucht (die auch heute rar sind und die nicht in beliebiger Zahl ausgebildet werden können), vielmehr können das auch gute Fachleute.7 Deren Zahl rasch wächst.

Die Entwicklung von intelligenten Robotern (die im Zentrum vieler Science-Fiction-Utopien und -Dystopien stehen) ist aber noch eine große technische Herausforderung. Roboter brauchen neben der KI auch gute Mechanik, Elektrotechnik und gute Sensorik. Dazu kommt, dass gerade Feinmotorik und die Verknüpfung von Sensorik und Motorik große Herausforderungen für KI darstellen. Viele andere, weniger leicht erkennbare Anwendungen von KI werden früher kommen.

Ein wesentlicher Faktor, der leicht dazu führt, den zukünftigen Einfluss von KI zu unterschätzen, ist, dass zunächst nur in den Blick kommt, wie bestehende Technik ersetzt werden kann.8 Schon die Geschichte der Digitalisierung der letzten Jahrzehnte lehrt aber, dass viele neue Anwendungen nicht in Kontinuität zu bestehenden Abläufen, Produkten und Techniken stehen. In gewisser Weise passt sich die Gesellschaft an die neuen Möglichkeiten an. Zur Erläuterung seien einige Beispiele für solche diskontinuierliche Entwicklungen aufgezählt, die aus dem Alltag vertraut sind:

       In den Banken wurden nicht die Mitarbeiter am Schalter und im Hintergrund durch Roboter ersetzt, die ihre Rolle übernehmen hätten können. Diese zu bauen würde auch heute und in absehbarer Zeit technisch kaum möglich sein. Stattdessen wurde das Online-Banking entwickelt – eine ganz andere Weise, Überweisungen zu tätigen, die aber ebenso Bankmitarbeiter ersetzt hat. Vermutlich kann die jüngere Generation kaum nachvollziehen, dass es Zeiten gab, in denen man Überweisungsformulare mühsam von Hand ausgefüllt und dann am Schalter in der Bank abgegeben hat – oder sogar am Schalter ausfüllen lassen hat.

       Eine entsprechende Entwicklung gab es für das Erfragen von Zugverbindungen und beim Fahrkartenkauf. Wieder wurden nicht Mitarbeiter ersetzt, die in großen Büchern die Verbindungen nachschlagen konnten (was eine Kunst war), sondern die Online-Zugauskunft und der Online-Fahrkartenkauf funktionieren nach einem ganz anderen Schema.

       Dasselbe gilt für eine Vielzahl von Buchungssystemen für Reisen.

       Was Produkte angeht, ist das Smartphone eine solche disruptive Anwendung, ebenso wie zuvor schon das Internet.

       Ein weiteres Beispiel: Airbnb ersetzt nicht die Mitarbeiter in Hotels durch Roboter (obwohl auch die vermutlich in Zukunft zum großen Teil überflüssig werden), sondern es ermöglicht durch den Einsatz von Digitaltechnik eine völlig andere Weise, auf Reisen zu übernachten.

       Musik und Filme werden nicht mehr auf Datenträgern gekauft, sondern „gestreamt“, was viel einfacher zu automatisieren ist.

       Der Siegeszug des Versandhandels wäre ohne Digitalisierung nicht möglich gewesen.

Daran schließt sich die Frage an: Wie weit ist die Entwicklung von KI schon? Vor allem: Welche Anwendungen sind schon im Einsatz?

Ein wichtiger schon jetzt praktizierter Einsatzbereich von KI ist die Datenanalyse, zum Beispiel für Marketingzwecke. Die berühmten und berüchtigten Empfehlungsalgorithmen von Facebook, Amazon und Co. setzen unter anderem auf KI. Auch Übersetzungsprogramme liefern bereits erstaunlich gute Ergebnisse und sind im praktischen Einsatz. Ihr Leistungsvermögen kann jeder im Internet testen (zum Beispiel „Google translate“ oder „DeepL“). Im Hintergrund der sogenannten Sprachassistenten Alexa, Siri, Cortana, Google Assistant und Bixby (der modernen Versionen der Televisoren aus dem Roman „1984“) arbeitet KI.

Bilderkennung ist ein weiteres wichtiges Feld. Hinter der Face ID, mit der neuere Apple-Smartphones entsperrt werden, steckt KI. China hat ein in Städten bereits fast flächendeckendes System von Kameras installiert. Die Regierung kann durch Gesichtserkennung überwachen, wer sich wo aufhält und wo auf der Straße geht. Entsprechend verwenden einige Systeme der Sprachanalyse KI-Technik. Es gibt viele kleine und spezialisierte Anwendungen in der Fertigung in Unternehmen. Die Firma Trumpf in Ditzingen löst zum Beispiel Steuerungsprobleme in der automatischen Fertigung durch KI und analysiert Maschinengeräusche, um Störungen zu erkennen.9

Bezeichnend für die gegenwärtige Situation ist aber auch, dass die spektakulärsten Durchbrüche für KI-Anwendungen aus den letzten Jahren mehr demonstrativen Charakter hatten, wie der Erfolg von AlphaGo, entwickelt von der Google-Firma DeepMind im Jahr 2016, und danach fast unbemerkt, aber viel wichtiger AlphaGo Zero beziehungsweise AlphaZero im Jahr 2017. An den Erfolg von Schachcomputern hatte man sich schon gewöhnt. Dagegen galt für das im ostasiatischen Raum verbreitete Spiel Go aufgrund seiner weit größeren Komplexität und aufgrund der sehr intuitiven Spielweise, dass Computer den besten menschlichen Spielern weit unterlegen waren. 2016 aber besiegte das System AlphaGo den südkoreanischen Profi und Spitzenspieler Lee Sedol und dann auch den Weltranglistenersten Ke Jie aus China. Diese Siege wurden in Ostasien weit stärker als Sensation wahrgenommen als in Europa und spielen eine motivierende Rolle für die gewaltigen KI-Investitionen Chinas. Im Unterschied zu den klassischen und erfolgreichen Schachprogrammen waren für den Erfolg von AlphaGo die modernen Methoden des maschinellen Lernens (Machine Learning, vgl. Abschnitt 1.3) entscheidend.

AlphaGo Zero und die allgemeinere Version AlphaZero vom selben Unternehmen waren nicht einfach Weiterentwicklungen von AlphaGo, sondern ein ganz neuer Schritt, um Computern das Lernen beizubringen. Während AlphaGo noch mit vielen Musterspielen von großen Go-Spielern trainiert wurde („Trainingsdaten“, vgl. Abschnitt 1.3), also auf einen reichen Erfahrungsschatz und das damit verbundene intuitive Wissen von Menschen zurückgreifen konnte, war AlphaGo Zero in der Lage, das Go-Spiel allein aufgrund der Regeln innerhalb kurzer Zeit besser zu lernen als die Version von AlphaGo, die ein Jahr zuvor so spektakulär Lee Sedol besiegt hatte. Nach vierzig Tagen überflügelte dieses System, einfach durch Ausprobieren verschiedener Spielweisen, die Weiterentwicklung von AlphaGo. Dasselbe Computerprogramm konnte in der Version als AlphaZero auch das Schachspiel innerhalb weniger Stunden so gut lernen, dass sie herkömmliche Schachprogramme besiegen konnte.

Der dänische Großmeister Peter Heine Nielsen kommentierte das mit den folgenden Worten:

„Ich habe mich immer gefragt, wie es sei, wenn eine überlegende Spezies auf der Erde lande und uns ihre Art Schach zu spielen zeige. Nun weiß ich es.“10

Der ehemalige Schachweltmeister Garri Kasparow meinte, er sei erstaunt darüber „was man von AlphaZero und grundsätzlich von KI-Programmen lernen kann, die Regeln und Wege erkennen können, die Menschen bisher verborgen geblieben sind“. Und weiterhin:

„Die Auswirkungen sind offenbar wunderbar und weit jenseits von Schach und anderen Spielen. Die Fähigkeit einer Maschine, menschliches Wissen aus Jahrhunderten in einem komplexen, geschlossenen System zu kopieren und zu überflügeln, ist ein Werkzeug, das die Welt verändern wird.“11

Weitere, teilweise in ihren Möglichkeiten auch erschreckende Anwendungen, funktionieren zwar, haben aber noch keinen bedeutenden Einsatz gefunden, zum Beispiel Stimmimitation, mit der beliebige Texte mit der Stimme einer anderen Person gesprochen werden können, oder die Bearbeitung von Videos, wobei Gesichter ersetzt werden können (vgl. dazu Abschnitt 6.3).

Ein bezeichnendes Beispiel für den Stand der Anwendungen und den KI-Hype ist die Spannung zwischen einerseits einer seriösen und erstzunehmenden Prognose von McKinsey, dass 70 – 90 % der Sachbearbeiter für Schadensmeldungen in Versicherungen bis 2030 durch künstliche Intelligenz ersetzt werden können,12 und andererseits dem teilweisen Scheitern einer ersten Welle des Einsatzes von KI in diesem Bereich. Die japanische Lebensversicherung „Fukoku Mutual Life Insurance“ ersetzte immerhin 2017 fast 30 % der Mitarbeiter in der Zahlungsstelle durch KI. Andere Versicherungen (Sompo, Munich RE, Swiss RE) haben aber entsprechende Projekte zurückgezogen,13 wobei offensichtlich ein wichtiger Faktor die überzogenen Erwartungen an das System Watson von IBM waren. Entsprechende Erfahrungen gibt es auch aus dem Medizinbereich.14 Insider sprechen diesem System zwar sehr gute Rechenleistung in der Datenverarbeitung zu, aber nur beschränkte Fähigkeiten im Bereich des maschinellen Lernens. Weiterhin wird gerade im Medizinbereich über mangelnde oder schlecht aufbereitete Daten für das Training der KI geklagt. Andererseits gibt es dort auch bereits gut funktionierende Anwendungen. Zum Beispiel wird im Massachusetts General Hospital KI erfolgreich zur Erkennung von Brustkrebs auf Röntgenfotos eingesetzt.

Für dieses Hin und Her gibt es zwei Interpretationsmöglichkeiten:

       Entweder ist KI zwar eine große Verheißung, die sich aber nur wenig praktisch realisieren lassen wird,

       oder KI ist gerade auf dem großen Sprung in die Praxis, wobei viele der Enttäuschungen auch damit zusammenhängen, dass – wie oben schon gesagt – das Label KI zu Marketingzwecken missbraucht wurde, ohne für die Funktion entsprechender Systeme bedeutsam zu sein.

Dieses Buch geht vom zweiten Szenario aus. Die wichtigsten Gründe dafür wurden oben schon benannt. Die sehr großen Investitionen, die gerade im letzten und in diesem Jahr vor allem in China und den USA angekündigt wurden, zeigen, dass auch die Unternehmen so denken. Ramge15 spricht vom Kitty-Hawk-Moment, der gerade in Bezug auf KI stattfindet. Kitty Hawk ist die amerikanische Kleinstadt, in deren Nähe die Gebrüder Wright im Jahr 1903 den ersten motorisierten Flug absolvierten. Nach Jahrtausenden Menschheitstraum vom Fliegen dauerte dieser erste Flug klägliche 12 Sekunden, in denen das Flugzeug 37 Meter zurücklegte. Doch dieser Flug war der Startschuss für eine gewaltige Entwicklung, für einen Umbruch der Zivilisation durch den Flugverkehr – mit großartigen Folgen für das Zusammenwachsen der Welt und der Kulturen, aber auch mit nachfolgenden heftigen Umweltproblemen, die zunehmend in den Blick geraten.

In dieser Perspektive sind in den kommenden Jahren und Jahrzehnten viele Anwendungen von KI zu erwarten, zu erhoffen oder zu befürchten. Ohne Anspruch auf Vollständigkeit sind hier einige aufgezählt:

       Viele Büroarbeiten werden durch KI automatisiert werden. Tatsächlich wird voraussichtlich der erste große Einfluss auf den Arbeitsmarkt – also die Ersetzung von menschlicher Arbeit – in diesem Bereich stattfinden. Die Beantwortung von Kundenanfragen, die Bearbeitung von Rechnungen, Buchhaltung und Steuererklärungen, einfachere Rechtsangelegenheiten und vieles mehr, was heute „Sachbearbeiter“ erledigen, wird an KI übertragen werden. Die gesellschaftlichen Auswirkungen werden in Kapitel 2 diskutiert.

       Viel in der öffentlichen Diskussion ist das autonome Fahren. Tatsächlich ist es in seiner reinen Ausprägung eine große Herausforderung für KI (vgl. Kapitel 4), die vermutlich nicht in naher Zukunft verwirklicht wird. Voraussichtlich werden zunächst Assistenzsysteme kommen, die, wie in Grundzügen schon bei Tesla-Fahrzeugen sichtbar, eine teilweise Abgabe der Kontrolle über das Fahrzeug ermöglichen. Autobahnfahrten werden sich am einfachsten automatisieren lassen, Stadtfahrten am schwersten.

       Autonome Fahrzeuge und Flugdrohnen können im Transportsektor eine große Rolle spielen und sich mit einer durchgehenden Automatisierung des Logistikbereichs verknüpfen.

       Im Produktionsbereich werden viele kleine Verbesserungen und Veränderungen durch KI kommen. Gerade (S. 3f.) wurde schon erwähnt, dass voraussichtlich auch unvorhergesehene Entwicklungen durch die Anwendung von KI möglich werden, was auch den Produktionsbereich betrifft. Ein Beispiel ist die Verschleißkontrolle anhand von Motorengeräuschen.

       KI wird in der ärztlichen Diagnostik eine große Rolle spielen, möglicherweise auch bei Operationsrobotern.

       Die Automatisierung der Infrastruktur wird mit KI-Steuerungen arbeiten, zum Beispiel in der Energieversorgung und im Verkehr, vor allem auch im Bahnverkehr.

       Intelligente Roboter werden im Fabrikbereich, in der Pflege und im Haushalt zum Einsatz kommen.

       In der Gastronomie lassen sich viele Tätigkeiten automatisieren. Für den Ersatz von Köchen braucht es wahrscheinlich gar nicht viel KI, sondern eher konventionelle Robotik und Digitaltechnik. Für die Bedienung der Kunden aber schon.

       Autonome Waffen mit KI werden schon entwickelt. Der Physiker Max Tegmark warnt insbesondere eindringlich vor winzig kleinen (Insektenformat) automatisierten Killer-Flugdrohnen, die auch außerhalb der militärischen Verwendung vielfach missbraucht werden könnten.16 Vgl. zu autonomen Waffen das Kapitel 5.

       Noch viel problematischer sind Pläne zur Steuerung der Kriegsführung durch KI, vgl. dazu ebenfalls das Kapitel 5.

       Eine große Hoffnung sind autonome Roboter für den Reparatur- und Rettungseinsatz in gefährlichen und/oder schwer zugänglichen Situationen. Bekannt geworden ist der Wettbewerb der DARPA – die Technik- und Entwicklungsagentur des US-Verteidigungsministeriums – von 2013 bis 2015, wo Roboter ihre Tauglichkeit in Katastrophensituationen beweisen mussten. Filme, die groteskes Fehlverhalten der Roboter in diesem Wettbewerb zeigen, wurden auf YouTube populär. Die Ergebnisse lassen tatsächlich großen Spielraum für Verbesserungen. Dabei geht es aber meist um Detailverbesserungen, nicht um prinzipielle Probleme. Motiviert wurde dieser Wettbewerb unter anderem durch die Katastrophe von Fukushima, wo geeignete Roboter möglicherweise den Schaden hätten vermindern können. Bezeichnend ist allerdings, dass die DARPA den Wettbewerb veranstaltet hat. Die Anforderungen an einen solchen Rettungsroboter sind denen an einen Kriegsroboter sehr ähnlich. Auch dieser soll in einer gefährlichen Situation möglichst schnell und autonom komplexe Aufgaben erfüllen.

       Intelligente Systeme für Unterricht und Weiterbildung können das Schulsystem ergänzen und flexibilisieren und der zunehmenden Anforderung des „lebenslangen Lernens“ gerecht werden.

       Persönliche Assistenzsysteme sind in ihren ersten Formen schon vom Smartphone und von Alexa und Co bekannt. Solche Systeme könnten die ganze Arbeit und Freizeit von Menschen begleiten, organisieren und optimieren, so man das will. Sie können damit den betroffenen Menschen auch ihre Selbständigkeit nehmen und sie perfekt überwachen.

       Computer-Spielewelten werden intelligenter und damit flexibler werden, verbunden mit Virtual Reality (VR). Die Intelligenz dient in diesem Zusammenhang dazu, das Spiel interessanter zu machen. „Interessanter“ bedeutet allerdings auch, dass das Spiel einen höheren Suchtfaktor bekommt. Die Grenze zwischen Spielfilmen und Spielen könnte verschwimmen, indem Menschen in die Filme, die sie betrachten, durch VR eintauchen und die Handlung beeinflussen können.

       Sexroboter können eine individuell abgestimmte „Persönlichkeit“ vortäuschen. Auch Sex-VR (Virtual Reality) kann viel flexibler und individueller werden.

       Ein breiter Einsatz von Gesichtserkennung/Spracherkennung sowie Erkennung von Emotionen in Gesichtern und Sprache, verbunden mit umfassender Datenanalyse, schafft perfekte Möglichkeiten zur zielgenauen Werbung, zu kundenorientiertem (und gleichzeitig gewinn-maximiertem) Verkauf, aber auch für Überwachungsmöglichkeiten.

       Die Manipulation von Videos und die künstliche Imitation von Stimmen schaffen neue Möglichkeiten für die Filmindustrie, aber auch die Gefahr der Fälschung von Nachrichten.

       Schriftliche und mündliche Übersetzungssysteme werden menschliche Übersetzer nicht ganz, aber weitgehend überflüssig machen.

       Automatisierter Journalismus („Robo-Journalismus“) mit KI wird in vielen Bereichen schon erprobt und ist in kleinem Maßstab schon im Einsatz. Dabei sind die ersten Bereiche etwa Sport-, Wetter-, Börsen-, Unternehmens- und Wahlberichterstattung, also alles was schnell gehen soll und wenig Denkarbeit, aber die Analyse von Daten verlangt. In China werden bereits künstlich animierte Nachrichtensprecher eingesetzt.

       Manche sehen Computer als idealen Ersatz für menschliche Richter, da sie – so scheint es – objektiv und frei von menschlichen Vorurteilen entscheiden können. Bei genauer Betrachtung zeigt sich aber, dass KI keineswegs frei von Vorurteilen ist. Über die Trainingsdaten, die aus früheren Gerichtsentscheiden kommen, werden menschliche Vorurteile in die KI eingespeist. Die scheinbare Objektivität des Computers wird damit zu einer gefährlichen Täuschung. Ebenso ist es fragwürdig, ob die Rolle eines Richters auf objektive Entscheidungen reduziert werden kann und soll.

       Der fragwürdige Traum von einer industrialisierten Landwirtschaft kann mit KI zu Ende gedacht werden. Inmitten der bewirtschafteten Felder steht ein intelligent gesteuerter Maschinenpark, von dem aus die Felder mit Flugdrohnen automatisch überwacht werden. Bei Bedarf setzen sich automatische Landmaschinen in Bewegung, um zielgenau gegen Schädlinge vorzugehen oder sonstige Arbeiten zu verrichten.

       Es gibt schon erste Experimente, Kunst mit KI zu produzieren. Es lassen sich zum Beispiel Malstile imitieren und damit neue Kunstwerke im Stil von bestimmten Malern erzeugen – wenn das als Kunst bezeichnet wird. In diesem Bereich sind brauchbare Ergebnisse erst in jüngster Zeit erzielt worden.17 Musik für den Alltagsgebrauch lässt sich in bestimmten Stilrichtungen schon produzieren.

1.1Was ist KI, was kann sie und was wird sie können?

Nur kurz sollen hier einige wichtige Meilensteine der Entwicklung von KI dargestellt werden.18

Der Mathematiker Alan Turing legte in den 30er-Jahren des letzten Jahrhunderts die theoretischen Grundlagen für die moderne Computertechnik.19 Sein Ausgangspunkt waren mathematische Probleme, die zur damaligen Zeit diskutiert wurden. Er entwickelte das Modell einer Maschine, die alles berechnen kann, was mathematisch „berechenbar“ ist. Grob gesagt sind das alle Probleme, die sich durch einen klaren „Algorithmus“ (siehe unten) lösen lassen. Diese Maschine wurde später Turing-Maschine getauft. Auch heutige Computer folgen in der Grundstruktur dem Aufbau, den Turing entwickelt hatte, mit einigen Erweiterungen.

Der Name von Turing wird noch heute in Bezug auf KI in Zusammenhang mit dem Turing-Test genannt.20

Auch in der späteren Entwicklung kamen wesentliche Anstöße für die Computerentwicklung und insbesondere für die KI-Forschung aus der Mathematik. Die Entwicklung von Computern beruht darauf, dass sich Mathematik und Technik begegnen. Dazu kommt – nicht zu vergessen – die verbreitete Anwendung, die zu preiswerter Massenproduktion führt.

Als Startschuss für die eigentliche KI-Forschung gilt der Dartmouth-Workshop 1956. Dieser trat mit dem Anspruch an, „dass grundsätzlich alle Aspekte des Lernens und anderer Merkmale der Intelligenz so genau beschrieben werden können, dass eine Maschine zur Simulation dieser Vorgänge gebaut werden kann“21. Auf diesem Workshop wurde der Begriff Künstliche Intelligenz (beziehungsweise Artificial Intelligence) geprägt. Er endete mit großen Verheißungen, aber ohne konkrete Ergebnisse. Die Teilnehmer waren die späteren Protagonisten der KI-Forschung.

Schon auf diesem Workshop entwickelte sich eine Auseinandersetzung zwischen zwei Strängen der KI-Forschung. Die „Logiker“ entwickelten Systeme, die auf der Grundlage von formalisierter Logik Probleme lösen sollten (vgl. Abschnitt 1.2 „Top-down“, Expertensysteme). Die „Konnektionisten“ setzten darauf, den Aufbau eines menschlichen Gehirns zu simulieren (vgl. Abschnitt 1.3 „Bottom-up“).22

Zunächst triumphierten die Logiker. Ein beispielhafter Erfolg war ein System zum Dame spielen, programmiert von Arthur Samuel im Jahr 1959; später wurde es noch entscheidend verbessert. Das System konnte sogar lernen und sehr gut spielen, war allerdings nicht in der Lage, die besten menschlichen Spieler zu schlagen. Samuel war bei IBM angestellt. Als Vorreiter der Computertechnik betrieb IBM auch freie Forschung im Bereich KI. Eine wesentliche Triebkraft für die weitere Forschung war dann seit 1960 die Förderung durch die DARPA, also durch die Forschungseinrichtung des amerikanischen Verteidigungsministeriums. Insofern war KI von Anfang kein unschuldiges Spiel.

Eine typische erste „Anwendung“ waren auch Systeme, die mathematische Theoreme beweisen konnten. Allen Newell und Herbert Simon stellten 1956 eine „Logic Theory Machine“ vor, und im darauf folgenden Jahr einen „General Problem Solver“.

Diese ersten Ergebnisse waren beeindruckend und sorgten für Optimismus und Forschungsgelder. Sie waren aber für praktische Probleme unbrauchbar. Der Grund dafür wird noch deutlich werden. Im Rückblick wird dieser Strang der „Logiker“ als GOFAI bezeichnet, die Abkürzung für „Good Old Fashioned Artificial Intelligence“. In der Zwischenzeit sind zahlreiche erfolgreiche Anwendungen dieses Typs von KI entstanden, in der Form von Expertensystemen und in Zusammenhang mit statistischen Methoden der Datenanalyse.

Es folgte ein sogenannter „KI-Winter“, weil die praktischen Anwendungen ausblieben und weil lange Zeit nichts wesentlich Neues entwickelt wurde – und weil die Ankündigungen gnadenlos übertrieben waren. Mit dieser Enttäuschung schrumpften auch die Forschungsgelder.

Der zweite Strang der Entwicklung, der Versuch der „Konnektionisten“, das menschliche Gehirn „nachzubauen“ (sogenannte Neuronale Netze), erlebte seinen Start 1957 mit dem Konzept des „Perzeptrons“ von Frank Rosenblatt, das 1960 zum ersten Mal konkret umgesetzt wurde. Das einfache Modell eines Neurons oder einer einzelnen Schicht von Neuronen, lässt sich mathematisch mit Methoden verstehen, die als Weiterentwicklung der Methoden der „Logiker“ betrachtet werden können. Trotzdem wurde dieser Entwicklungsstrang der KI wesentlich dadurch gebremst, dass er auf heftigen Widerstand des KI-Mainstreams (verkörpert in diesem Punkt vor allem durch Marvin Minsky) stieß.

Ungeachtet dieser Rückschläge wurden im Lauf der Zeit, vor allem seit den 1980er-Jahren, wesentliche theoretische Vorarbeiten für die Bottom-up-Methoden geleistet, die als Weiterentwicklung der Konzepte der Konnektionisten verstanden werden können. Seit einigen Jahren ist dieser Forschungsstrang regelrecht explodiert. Die Gründe für die rasche Häufung von Erfolgen dieser Methoden wurden oben schon aufgezählt, nochmal kurz zusammengefasst: Verfügbarkeit von geeigneter Hardware, Verfügbarkeit von großen geeigneten Datenmengen für das „Training“ der Systeme, Verfügbarkeit von dafür ausgebildeten Entwicklern, Verfügbarkeit sowohl von Risikokapital als auch von sehr viel Investitionskapital und Forschungsmitteln der großen Computerkonzerne.

1.2KI: Top-down

In den folgenden Abschnitten wird sich immer wieder die Frage andeuten, was es bedeuten soll, dass Maschinen „intelligent“ sind. An einigen Stellen wird sie auch explizit aufgeworfen. In diesem Buch wird ein rein funktionaler Begriff von Intelligenz vorausgesetzt. Mehr dazu im Abschnitt 1.4. Auf Kosten der Systematik erscheint es besser, vor der Definition einige Beispiele darzustellen.

Zunächst soll kurz gezeigt werden, was die Top-down-Techniken auszeichnet. Die ersten Jahrzehnte der Entwicklung von KI waren implizit oder explizit von folgender Hypothese geprägt:

„Ein physikalisches Symbolsystem hat die notwendigen und hinreichenden Mittel für allgemein intelligentes Handeln. ‚Notwendig‘ bedeutet, dass sich jedes System, bei dem allgemeine Intelligenz erkennbar ist, bei näherer Untersuchung als physikalisches Symbolsystem herausstellen wird. ‚Hinreichend‘ bedeutet, dass jedes physikalische Symbolsystem hinreichender Größe so strukturiert werden kann, dass es allgemeine Intelligenz an den Tag legt. Mit ‚allgemein intelligentes Handeln‘ möchten wir . . . Intelligenz desselben Umfangs andeuten, die auch im menschlichen Handeln zum Ausdruck kommt: . . . in jeder realen Situation ein Verhalten, das dem Zweck des Systems angemessen ist und an die Anforderungen der Umwelt angepasst werden kann – im Rahmen gewisser Einschränkungen bei Tempo und Komplexität.“23

Diese Entwicklung war von Mathematikern geprägt, und diese gingen davon aus, dass das mathematische und logische Denken die reinste Ausprägung von Intelligenz ist. Also wurden Systeme entwickelt, die möglichst klar logische Strukturen abbildeten. Das konnte auch direkt an die Konstruktionsprinzipien von Computern anknüpfen, wodurch vorzeigbare Ergebnisse auf der Grundlage der damals sehr begrenzten Hardware-Ressourcen erzielbar waren. Man konnte sozusagen direkt an die besten Möglichkeiten der Computer anknüpfen, nämlich an das Rechnen und das logische Verknüpfen.

Im Zusammenhang dieses Buches werden viele der technischen Details nicht behandelt. Allerdings sind das Prinzip der technischen Abstraktion und der Begriff des Algorithmus von Bedeutung.