Der unterlegene Mensch E-Book

Armin Grunwald

• Herausgeber: Riva
• Kategorie: Geisteswissenschaft
• Serie: riva PREMIUM
• Sprache: Deutsch
• Veröffentlichungsjahr: 2018

Seitenzahl: 329

Beschreibung

Alle reden von Digitalisierung. Wunderbare Zukunftsperspektiven werden entworfen. Komfort und Wohlstand, mehr Gesundheit und möglicherweise die digitale Unsterblichkeit warten auf uns. Diese neuen Annehmlichkeiten sind aber nur die eine Seite der Medaille. Zunehmende Abhängigkeit von digitalen Technologien, das Risiko totaler Überwachung, massenweise Übernahme menschlicher Arbeitsplätze durch Roboter, die Manipulation öffentlicher Meinung, der drohende Kontrollverlust des Menschen über die Technik – diese andere Seite zeigt bedrohliche Züge. In diesem Buch entwirft der Physiker, Philosoph sowie Deutschlands führender Technikfolgenabschätzer Armin Grunwald ein kritisches Bild der Welt von morgen und zeigt auf, womit wir zu rechnen haben, wenn wir die Digitalisierung nicht bewusst gestalten und uns selbst komplett ersetzbar machen.

Leseprobe

ARMIN GRUNWALD

DERUNTERLEGENEMENSCH

ARMIN GRUNWALD

DERUNTERLEGENEMENSCH

Die Zukunft der Menschheit im Angesicht von Algorithmen, künstlicher Intelligenz und Robotern

Bibliografische Information der Deutschen Nationalbibliothek

Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie. Detaillierte bibliografische Daten sind im Internet über http://dnb.d-nb.de abrufbar.

Für Fragen und Anregungen

[email protected]

Originalausgabe

1. Auflage 2019

© 2019 by riva Verlag, ein Imprint der Münchner Verlagsgruppe GmbH

Nymphenburger Straße 86

D-80636 München

Tel.: [phone]

Fax: [phone]

Alle Rechte, insbesondere das Recht der Vervielfältigung und Verbreitung sowie der Übersetzung, vorbehalten. Kein Teil des Werkes darf in irgendeiner Form (durch Fotokopie, Mikrofilm oder ein anderes Verfahren) ohne schriftliche Genehmigung des Verlages reproduziert oder unter Verwendung elektronischer Systeme gespeichert, verarbeitet, vervielfältigt oder verbreitet werden.

Redaktion: Matthias Teiting

Umschlaggestaltung: Marc-Torben Fischer

Umschlagabbildung: Liu_zishan/shutterstock.com

Layout: Pamela Machleidt

Satz: Müjde Puzziferri, MP Medien, München

Druck: GGP Media GmbH, Pößneck

eBook: ePubMATIC.com

ISBN Print 978-3-7423-0718-7

ISBN E-Book (PDF) 978-3-7453-0323-0

ISBN E-Book (EPUB, Mobi) 978-3-7453-0324-7

Weitere Informationen zum Verlag finden Sie unter

www.rivaverlag.de

Beachten Sie auch unsere weiteren Verlage unter www.m-vg.de

INHALT

VORWORT

TEIL I: ZUR EINSTIMMUNG

1. SCHÖNE DIGITALE ZUKUNFT?

Von Paradieserzählung und Untergangsbefürchtungen

Technik zwischen Vision und Realität

Was können wir über die Zukunft wissen?

Der unterlegene Mensch

2. WODURCH IST DIGITALE TECHNIK ÜBERLEGEN?

Technik ist immer besser als der Mensch

Wunder der Digitalisierung

Künstliche Intelligenz

TEIL II: ZUR SACHE: DIE ÜBERLEGENEN ALGORITHMEN

3. DIE DIGITALE ARBEITSWELT VON MORGEN

Von Maschinenstürmern und Automatisierungsverlierern

Roboter als bessere Mitarbeiter?

Szenario 1: Der Arbeitsmarkt bricht zusammen

Szenario 2: Der Arbeitsmarkt wandelt sich allmählich

Digitale Zukunft der Arbeit: der Mensch im Mittelpunkt?

4. DIGITALE VISIONEN FÜR FREIZEIT UND ALLTAG

Roboter als Gefährten und Liebhaber

Digital wohnen

Algorithmen als Ratgeber

Digital reisen

5. DER MENSCH ALS GEPÄCKSTÜCK: SELBST FAHRENDE AUTOS

Das Auto als Symbol der Freiheit

Algorithmen am Steuer

Entscheidungen über Leben und Tod

Algorithmen als Aufseher

Die Zukunft der automobilen Freiheit

6. GESUNDHEIT, PFLEGE UND DAS DANACH

Gläserne Patienten und digitale Ärzte

Roboter als Pflegepersonal

Digitale Unsterblichkeit?

7. MIT DIGITALISIERUNG ZUM ÜBERMENSCHEN?

Der menschliche Wunsch, besser zu sein

Technische Verbesserung des Menschen

Leistungssteigerung als Endlosspirale

Technik als Übermensch?

TEIL III: ZUM THEMA: WO BLEIBT DER MENSCH?

8. MENSCH UND ALGORITHMUS: WER MUSS SICH ANPASSEN?

Das Technik-Paradox von Freiheit und Anpassung

Digitalisierung als Naturgewalt?

Digitalisierung gestalten – aber wie?

Das letzte Wort

9. DIE ZUKUNFT DER DEMOKRATIE

Algorithmen – Totengräber der Demokratie?

Die Mär von den optimalen Entscheidungen

Der total digitale Staat

10. INDIVIDUALITÄT IM DIGITALEN NETZ

Mit Digitalisierung zu noch mehr Individualität

Die Filterblase: Triumph oder Ende der Individualität?

Die Vision vom globalen Gehirn

11. WER SIND WIR? MENSCHENBILD IM WANDEL

Eine Sache des Vertrauens

Die Beschleunigungsspirale der Innovation

Der Mensch zwischen Hybris und Unterlegenheitsgefühl

Der Mensch als Maschine?

TEIL IV: ZU GUTER LETZT

12. ILLUSIONEN DER DIGITALISIERUNG

Digitalisierung ist umweltfreundlich – wirklich?

Algorithmen arbeiten umsonst – wirklich?

Digitale Technik kommt allen zugute – wirklich?

Mit Digitalisierung zur Freiheit?

Digitalisierung als Weg in die Zukunft?

Digitalisierung als Erlösung?

13. DER ÜBERLEGENE MENSCH

Warum wir uns nicht kleinmachen sollten

Digitale Mündigkeit

Ein Lob auf die analoge Welt

DANKSAGUNG

WEITERFÜHRENDE LITERATUR

BILDNACHWEIS

VORWORT

Der Titel dieses Buches verkündet Unheil: Der Mensch scheint der digitalen Technik, seiner eigenen Schöpfung, zusehends unterlegen. In immer mehr Bereichen übertreffen uns Roboter und Algorithmen. Vielleicht digitalisieren wir uns allmählich weg. Das ist Stoff für die Erzählungen vom Ende der Menschheit, wie wir sie aus Science-Fiction-Romanen und aus Kino- und Fernsehfilmen wie etwa der Matrix-Trilogie oder Transcendence kennen. Der prickelnde Schauer des Untergangs sichert Einschaltquoten und Besucherzahlen. Derlei Unterhaltung weiß auch ich zu schätzen.

Nun bin ich im Grunde ein optimistischer, zumindest ein gelassener Mensch. Ich neige nicht zu Zukunftsängsten und Katastrophenbefürchtungen. Natürlich sehe ich, dass der sogenannte Fortschritt nicht einfach nur Fortschritt ist. Denn leider bringen die angenehmen und gewünschten Effekte unweigerlich auch, wie es in Mediziner- und Apothekersprache heißt, Risiken und Nebenwirkungen mit sich. Mein Fach, die Technikfolgenabschätzung, wurde vor über fünfzig Jahre erfunden, um möglichst verantwortlich mit dieser Janusköpfigkeit des technischen Fortschritts umzugehen. Wir sollen und wollen alles tun, damit der technische Fortschritt zum Wohl der Menschen genutzt, die Risiken und Nebenwirkungen aber möglichst nicht spürbar werden. Wo Letzteres nicht geht, weil es kaum Rosen ohne Dornen oder, in meiner Fachsprache, keine Innovation ohne Risiko gibt, suchen wir nach guten Wegen zum verantwortlichen Umgang mit den negativen Folgen. Ich bin überzeugt, dass wir in einer offenen und demokratischen Gesellschaft eine gute Zukunft gestalten können.

Dennoch klingt der Titel meines Buches düster: Der Mensch könnte gegenüber Algorithmen und künstlicher Intelligenz und Robotern den Kürzeren ziehen. Viele machen sich Sorgen – auch ich. Auch einem Optimisten kann der Gedanke kommen, dass Folgenabschätzung und Ethik, dass Verantwortungsdebatten, engagierte Zivilgesellschaft und kluge Regulierungen möglicherweise nicht ausreichen, um die weitere technische Entwicklung auf einem menschenfreundlichen Weg zu halten. Die Sorge steht im Raum, dass wir die digitalen Geister, die wir mit guten Gründen gerufen haben, nicht nur nicht wieder loswerden, sondern dass sie uns auch noch das Heft aus der Hand nehmen könnten.

Ich unterscheide zwischen Sorgen und Angst: Sich Sorgen zu machen ist ein Dienst am Gemeinwohl und am Menschen. Sorgen rütteln uns aus Bequemlichkeit und Alltagstrott auf, sie schaffen Problembewusstsein, motivieren unser Engagement und Handeln. Angst hingegen lähmt uns und macht passiv. Angst kann dazu führen, dass wir wie das Kaninchen auf die Schlange starren und letztlich gefressen werden, statt uns Gedanken zu machen, wie das Problem gelöst oder die Situation entschärft werden könnte. Sorgen sind konstruktiv. Angst ist destruktiv.

So soll dieses Buch, kurz gefasst, den verbreiteten Sorgen über eine schnelle Digitalisierung und den ›unterlegenen Menschen‹ nachgehen, ihnen eine Stimme geben, sie ernst nehmen und auf ihren Gehalt prüfen. Dies wird gelegentlich zu einer Entwarnung führen, teils aber auch zur Bekräftigung der Sorgen. Relativ oft musste ich beim Schreiben feststellen, teils für mich selbst überraschend, dass die wirklichen Sorgen gar nicht die sind, die in Medien und Öffentlichkeit zurzeit sehr präsent sind. Sondern es taten sich hinter den viel diskutierten Fragen andere und tiefer gehende Probleme auf.

Ich hoffe, ein klein wenig dazu beitragen zu können, dass die weitverbreiteten Sorgen um die Digitalisierung und ihre möglichen Folgen nicht in einen passiven Fatalismus münden. Stattdessen würde ich mir ein zupackendes Engagement wünschen. Wir dürfen die Digitalisierung weder sich selbst noch den IT-Experten oder den globalen KI- und Datenkonzernen überlassen, sondern müssen aktiv auf ihre menschenfreundliche Gestaltung drängen. Denn darum geht es: die wunderbaren Potenziale von Algorithmen, künstlicher Intelligenz und Robotern zu unser aller Wohl und für eine gute Zukunft zu nutzen.

Armin Grunwald, September 2018

TEIL I

ZUR EINSTIMMUNG

1. SCHÖNE DIGITALE ZUKUNFT?

VON PARADIESERZÄHLUNG UND UNTERGANGSBEFÜRCHTUNGEN

Eine volkstümliche Geschichte rankt sich um die Kölner Heinzelmännchen, die ehrbaren Leuten im Verborgenen unangenehme Arbeiten abnahmen. Digitale Technologien, Algorithmen, künstliche Intelligenz und Roboter werden gelegentlich wie die Heinzelmännchen der Zukunft beschrieben. Dem verbreiteten Wunsch geschuldet, die Technik möge uns von allen lästigen, langweiligen, schwierigen oder routinehaften Tätigkeiten entlasten, sollen digitale Helfer uns mehr Zeit für die schönen Dinge im Leben freischaufeln. Einige dieser stillen Helfer gibt es schon, etwa Roboter zum Staubsaugen oder Rasenmähen. Andere sind in Arbeit wie der denkende Herd oder der vorsorgende, sprich selbst einkaufende Kühlschrank. Von anderen wiederum darf man bisher nur träumen: Ein Bügelroboter etwa, der die Bügelwäsche erledigt, während wir shoppen gehen, ist angesichts von Blusen mit verspielten Rüschen derzeit nicht wirklich vorstellbar.

Die Sprachenvielfalt auf der Erde sorgt zwar für kulturellen Reichtum, macht aber vieles sehr mühsam. Wie leicht wäre die Verständigung über alle Grenzen hinweg, wenn es das Sprachproblem nicht gäbe! Wenn der Sprachenwirrwarr, wie es in der Bibel steht, von Gott selbst verordnet wurde, um den menschlichen Übermut zu bremsen, war er damit offensichtlich ziemlich erfolgreich. Die Digitalisierung macht nun selbst lernende Übersetzungstools möglich, in die man Deutsch hineinsprechen kann, während der gleiche Inhalt am anderen Ende in Ungarisch, Suaheli oder Japanisch herauskommt, je nach gewählter Einstellung. Wenn diese Programme auch bei Weitem noch nicht perfekt sein mögen: Verglichen mit der Übersetzungssoftware von vor zehn Jahren, die meist nur krachendes Gelächter provozierte, ist der heutige Stand bereits beachtlich und für viele Alltagsdinge sehr hilfreich. Den Sprachenwirrwarr mittels Digitalisierung zu überwinden und Gott damit ein Schnippchen zu schlagen, wer würde das nicht begrüßen?

Die industrielle Massenproduktion mit ihrer Fließbandarbeit ist ein Beispiel aus der Arbeitswelt. Automatisierung und Digitalisierung versprechen, die in der Industrie arbeitenden Menschen von mechanischen und monotonen Tätigkeiten zu befreien, damit sie stärker ihre kreativen Fähigkeiten ausprägen und einbringen können. Hier könnte man mit Karl Marx sagen: Arbeit soll in der digitalen Zukunft nicht mehr entfremdet, sondern selbstbestimmt und selbstverwirklichend sein (siehe Kapitel 3).

Auch der menschliche Tod wird von der Digitalisierung nicht verschont. Wenn man unser Bewusstsein digital auf eine Festplatte herunterladen und dann in einen anderen, künstlichen Körper wieder hochladen könnte, wäre digitale Unsterblichkeit vielleicht möglich (siehe Kapitel 6). Das Bewusstsein könnte dann sozusagen in einen anderen Körper umziehen, wenn der alte am Ende ist. Auch wenn das Gelingen solcher Ideen mehr als spekulativ ist: Der Wunsch nach Verlängerung des Lebens bis hin zur Unsterblichkeit ist stark, und der israelische Historiker Yuval Noah Harari sieht die Unsterblichkeit bereits als das nächste große Menschheitsprojekt an.

Die Digitalisierung setzt die Fantasie in Bewegung wie zurzeit kaum ein anderes Feld. Manche Futuristen bleiben nicht beim Individuum stehen: Über das Internet oder seine Nachfolger sollen sich irgendwann die Gehirne dieser Welt zu einer globalen Superintelligenz zusammenschließen und dann den Kosmos besiedeln. Dabei ist die Grenze zwischen haltloser Spekulation und realistischen Erwartungen oft nur schwer zu finden.

Allerdings begleiten die Digitalisierung auch Untergangserzählungen. Das Ende des Menschen sei absehbar – er sei zunehmend seinen eigenen digitalen Geschöpfen unterlegen. Schon seit über zwanzig Jahren ist der Computer besser als ›unser‹ Schachweltmeister, und im Jahre 2017 ist auch der König aller Brettspiele, das japanische Go, der Übermacht eines Algorithmus erlegen. Roboter sollen bessere Pflegekräfte werden als Menschen, weil sie unermüdlich sind und nie schlechte Laune bekommen, autonome Autos sollen uns viel sicherer durch den chaotischen Verkehr bringen als menschliche Autofahrer, Arztroboter sollen das gesamte Wissen ihrer Zunft ständig parat haben, auf Big Data gestützte psychologische Ferndiagnosen den Termin auf der Couch ersetzen, und so gehen die Geschichten weiter. Obwohl die digitale Technik von Menschen gemacht wird und sich nicht selbst herstellen kann, jedenfalls noch nicht, ist sie häufig schon besser als ihre Schöpfer.

Science-Fiction-Retro: 1984

Das Buch 1984 von George Orwell ist der Klassiker unter den düsteren Erzählungen vom technischen Fortschritt, übrigens geschrieben noch lange vor jeder Digitalisierung. Der Roman schildert einen totalitären Überwachungsstaat im Jahre 1984 aus der Perspektive des Jahres 1948. Die von dem unsichtbaren Großen Bruder geführte Elite unterdrückt die breite Masse des Volkes mithilfe einer allgegenwärtigen Gedankenpolizei. Datengrundlage und Basis für die Kontrolle und Manipulation sind nicht abschaltbare Geräte, die alle Wohnungen visuell überwachen und abhören. Die Aktualität des Buches scheint ungebrochen: In den vergangenen Jahren fand sich 1984 regelmäßig wieder in den Beststeller-Listen.

Die Folgen sind kaum absehbar – für den zukünftigen Arbeitsmarkt, der zurzeit im Zentrum der Aufmerksamkeit steht, aber auch für unsere Freizeit und unseren Lebensstil. Und es stellt sich die Frage der Kontrolle, wenn wir autonomen technischen Systemen wie Robotern oder selbst fahrenden Autos immer mehr Eigenständigkeit und Entscheidungsvollmacht übertragen. Wer verantwortet die Folgen der Entscheidungen? Wer entscheidet gegebenenfalls über Leben und Tod? Dient vielleicht in Zukunft nicht mehr die Technik dem Menschen, wie es die alte Erwartung besagt, sondern müssen die Menschen der Technik dienen, weil sie auf Gedeih und Verderb von ihr abhängig geworden sind?

Sogar Henry Kissinger, einer der profiliertesten und intellektuell wachsten Politiker des 20. Jahrhunderts, macht sich in der Juniausgabe 2018 des amerikanischen Magazins The Atlantic Sorgen, dass die demokratischen und freiheitlichen Errungenschaften der digitalen Technik zum Opfer fallen könnten.

Sorgen vor Kontrollverlust und Abhängigkeit von Technik sind nicht neu. Fritz Lang hat bereits 1927 in seinem Film Metropolis eine düstere Welt skizziert. In ihr müssen die meisten Menschen der Technik dienen, damit einige wenige auf Basis dieser Technik in Luxus leben können. Der Philosoph Herbert Marcuse befürchtete in den 1960er-Jahren, dass undurchschaubare technisch-wirtschaftliche Systeme uns zu ihren Handlangern machen könnten. Der Philosoph und Schriftsteller Günther Anders hat eine zunehmende Antiquiertheit des Menschen angesichts der von ihm selbst geschaffenen und immer besseren Technik beobachtet. Er erzählte schon vor etwa sechzig Jahren seine Geschichte über den unterlegenen Menschen. Aus heutiger Sicht wirkt sie wie ein prophetischer Vorgriff auf das digitale Zeitalter, an das damals nicht zu denken war. Eine Menge Stoff für dunkle Erzählungen über die Zukunft verbirgt sich hier, und die Kinowelt der Science-Fiction ist voll von bildgewaltigen Illustrationen. Vielleicht entspringen diese Filme nicht nur dem Wunsch nach Unterhaltung, sondern geben dem diffusen Gefühl eine Bühne, dass der Mensch gegenüber seinen digitalen Geschöpfen ein Auslaufmodell sein könnte.

Digitalisierung polarisiert. Digitale Erlösungsfantasien und apokalyptische Befürchtungen stehen sich schroff gegenüber. Viele Menschen scheinen sogar in sich selbst gespalten zu sein: Auf der einen Seite nutzen sie begeistert jede neue App, auf der anderen Seite sind sie besorgt, wohin das alles führen soll. Auch der Blick in Tageszeitungen und Fachzeitschriften, in Wissenschaftsmagazine und auf Beiträge in Fernsehen und Internet, auf Konferenzen und in die Social Media zeigt diese Spannung an. Nur in einem sind sich alle einig: dass im Zusammenhang mit der Digitalisierung viel, sehr viel für unsere Zukunft auf dem Spiel steht.

Neben den mehr oder weniger fantastisch anmutenden Visionen wirkt das Geschäft von Politik und Wirtschaft zuweilen hausbacken. Aber auch hier steht die Digitalisierung ganz oben. Es hat ein digitaler Wettlauf eingesetzt, in dem die Zahl der Smartphones pro Kopf der Bevölkerung, die Länge des Breitbandnetzes oder die Zahl der Laptops in Schulen als Maßstab für Fortschrittlichkeit, Zukunftsperspektiven und Lebensqualität genommen wird. Die Regierungen überbieten sich gegenseitig mit ihren Zielvorgaben, jeder will der Erste sein. Die weitere Digitalisierung wird massiv mit Steuergeldern gefördert, ebenso der Ausbau der Dateninfrastruktur. Auch die abgelegene Försterei soll schnelles Internet bekommen, und schon im Kindergarten, sogar das fordern einige, soll das Programmieren gelernt werden. Für diejenigen, die in diesem digitalen Wettlauf abgehängt werden, bleiben nur düstere Prophezeiungen von Wohlstandsverlust und sozialem Abstieg. Aber auch die ethischen Probleme werden wahrgenommen: Der Deutsche Bundestag hat zuletzt, am 28. Juni 2018, eine Enquete-Kommission ›Künstliche Intelligenz – gesellschaftliche Verantwortung und wirtschaftliche Potenziale‹ eingesetzt.

Herr und Knecht nach Hegel

Der Philosoph Georg Friedrich Hegel hat die Umkehr der Abhängigkeiten in ein einfaches Bild gebracht: Ein Herr hat einen Knecht. Dieser Knecht muss alles für den Herrn tun. Dadurch verlernt der Herr die lebensnotwendigen Dinge. Der Herr wird abhängig vom Knecht, und schließlich wird aus dem Knecht der eigentliche Herr. Der Herr muss dann dafür sorgen, dass es dem Knecht gut geht. Fatal daran ist: Der Übergang vom Herrn zum Knecht geschieht unmerklich.

In Politik und Wirtschaft wird der Weg in die digitale Zukunft meist als Einbahnstraße gesehen. Für Spannung sorgt höchstens noch das verzweifelte Wettrennen um die besten Plätze. Fragen ließe sich angesichts der vielfältigen Sorgen in Bezug auf die Digitalisierung, ob wir überhaupt noch umsteuern könnten, falls gravierende Fehlentwicklungen eintreten? Das Prinzip von Versuch und Irrtum hat den technischen Fortschritt lange Zeit geprägt: zuerst hoffen, dass alles gut geht, dann reparieren, wenn das nicht der Fall sein sollte. Aber viele Geschichten zeigen, wie schwer es sein kann, aus Problemen oder Fehlentwicklungen zu lernen. Der Kernenergieausstieg in Deutschland ist mühsam – aber noch weit mühsamer ist der Ausstieg aus der umwelt- und klimaschädlichen Verbrennung von Öl, Kohle und Gas, wie die aktuellen Debatten zur Zukunft von Verbrennungsmotor und Braunkohle zeigen. In der Digitalisierung geraten wir in eine noch weit stärkere Abhängigkeit von den Technologien. Bereits jetzt können wir das Internet nicht mehr abstellen, ohne umgehend die Weltwirtschaft zu ruinieren. Also müssen wir dem Internet dienen, es hegen und pflegen, weil ansonsten wir die Leidtragenden wären. Werden wir vom Herrn der Technik zu ihrem Knecht (S. 17)? Oder sind wir dies vielleicht schon?

TECHNIK ZWISCHEN VISION UND REALITÄT

Technik ist im Selbstverständnis unserer wissenschaftlich-technischen Zivilisation vor allem ein Symbol für Wohlstand und Fortschritt. Sie soll uns das Leben angenehm und komfortabel machen, die Wettbewerbsfähigkeit der deutschen Industrie sichern, mehr Gesundheit bis ins hohe Alter ermöglichen, durch Effizienz und Umweltverträglichkeit Klimawandel und Artenschwund bekämpfen, die Ernährung von demnächst wahrscheinlich zehn Milliarden Menschen sicherstellen, und so weiter. Erwartungen dieser Art prägen die Stellungnahmen aus Politik, Wirtschaft und Wissenschaft und werden vermutlich von den meisten Menschen geteilt.

Immer wieder werden ganze Zeitalter nach bestimmten Techniken benannt. So gilt das 19. Jahrhundert als Zeitalter von Kohle und Stahl mit einem extrem rasch wachsenden und prosperierenden Ruhrgebiet. Die 1950er- und 1960er-Jahre wurden als Kunststoff- oder Plastikzeitalter bezeichnet. Damals revolutionierten diese neuen Materialien nicht nur die Wirtschaft, sondern waren auch in Kultur und Mode das große Thema. Andere nennen den gleichen Zeitraum das Atomzeitalter, da die Kernenergie damals für eine gute Zukunft und unerschöpflichen Wohlstand stand (S. 19). Und heute heißt es, dass wir im digitalen Zeitalter der Bits und Algorithmen, der künstlichen Intelligenz und des Internets leben – oder wenigstens in einer frühen Phase davon – und dass dieses Zeitalter voller Verheißungen steckt.

Allerdings hat sich in der Technikgeschichte herausgestellt, dass nicht alle Hoffnungen erfüllt werden. So ging man um 1990 beispielsweise davon aus, dass ab dem Jahr 2000 Fabriken im Weltraum die Schwerelosigkeit für besondere Produktionsverfahren nutzen würden. Bis heute jedoch hat man davon nichts mehr gehört. Vergessen ist auch der Traum vom superteuren Überschallflugzeug Concorde, mit dem man an einem Tag von Paris nach New York zum Shoppen und wieder zurück fliegen könnte. Die technisch geniale und in der Entwicklung ebenfalls ziemlich teure Magnetschwebebahn Transrapid ist von der Erprobung direkt ins Deutsche Museum nach Bonn gefahren – anstatt den Fernverkehr in Deutschland zu revolutionieren. Und das erwähnte Atomzeitalter hat uns vor allem den Atommüll hinterlassen. Wenn also der technische Fortschritt in vielem eine Erfolgsgeschichte ist, so wird er doch immer auch von Ernüchterungen begleitet.

Das Atomium in Brüssel als Symbol des Atomzeitalters

Das Atomium in Brüssel wurde für die Weltausstellung 1958 errichtet. Es ist das Symbol der damaligen Zeit, in der man über Atomflugzeuge und Atomautos, Atomeisenbahnen und Atomheizungen nachdachte. Mit dem Frachter Otto Hahn hat die Bundesrepublik Deutschland sogar ein Atomschiff gebaut. Das Atom galt damals als Symbol einer glänzenden Zukunft, als Synonym für Fortschritt und Wohlstand durch unbegrenzte und billige Energieversorgung.

Zudem kommt es zu den bereits erwähnten ›Risiken und Nebenwirkungen‹ oder, in der Sprache der Technikfolgenabschätzung, zu den nicht intendierten Folgen. Gemeint sind Folgen, die mit dem Zweck der Technik nichts zu tun haben und sich erst allmählich einstellen und daher oft erst spät entdeckt werden. Der Klimawandel ist wohl das bekannteste Beispiel. Er ist zum großen Teil eine Folge des reibungslosen Funktionierens von Hunderten von Millionen Benzin- und Dieselmotoren und von Tausenden Kohle-, Öl- und Gaskraftwerken, die zur Erfüllung ihrer Funktionen leider im großen Umfang auch Treibhausgase freisetzen. Ein anderes Beispiel sind die Fluorchlorkohlenwasserstoffe (FCKW). Sie wurden jahrzehntelang weltweit als Kühlmittel in Klimaanlagen und Kühlschränken eingesetzt und taten dort brav ihren Dienst. Dass sie über komplizierte Prozesse in der Erdatmosphäre das Ozonloch verursacht haben, ist eine typische nicht intendierte Folge.

Hellsichtig hat der Philosoph Hans Jonas in seinem berühmt gewordenen Buch Das Prinzip Verantwortung 1979 diagnostiziert, dass das zentrale ethische Problem der Technik nicht darin liege, dass sie gelegentlich nicht funktioniere und dann Unfälle verursache. Vielmehr sah Jonas, dass die großen Probleme wie Klimawandel und Ozonloch, wie Artenschwund und Versauerung der Ozeane gerade von einer reibungslos funktionierenden Technik verursacht wurden. Etwas pathetisch könnte man von der Tragik des technischen Fortschritts sprechen: Gerade in seinen großen Erfolgen zeigen sich leider auch seine Schattenseiten.

Wir können aus diesen Erfahrungen einiges für die Digitalisierung lernen. Wir sollten kritisch nachfragen, wann immer uns viel versprochen wird. Nicht um prinzipiell jede visionäre Idee schlecht zu machen, sondern um die Bedingungen zu prüfen, unter denen sie sich realisieren lässt. Auch bei der schönsten Utopie sollte die Frage nach den Risiken und Nebenwirkungen nicht fehlen. Gerade in der Digitalisierung steht zu viel auf dem Spiel, als dass wir es uns leisten könnten, nach dem alten Prinzip von Versuch und Irrtum zu verfahren. Angesichts der Tragweite der gesellschaftlichen Veränderungen und der Möglichkeit eines Point of no Return wäre eine solche Naivität grob fahrlässig. Sie wäre ethisch, politisch und ökonomisch verantwortungslos. Wir brauchen einen nüchternen Blick auf das Spektrum der möglichen Folgen, um vernünftig abwägen und uns ein angemessenes Urteil bilden zu können.

WAS KÖNNEN WIR ÜBER DIE ZUKUNFT WISSEN?

Die digitalen Erzählungen handeln von unserer Zukunft. Allerdings gibt es viele unterschiedliche und einander widersprechende Geschichten. So gibt es die Geschichte von der Zukunft, in der uns die Algorithmen und Roboter die Arbeit stehlen und am Ende die Menschheit unterwerfen. Und gleichzeitig gibt es die Geschichte von der Zukunft, in der die Roboter uns das Leben angenehmer machen und den Menschen brav zu Diensten sind.

Aber was stimmt denn nun? Müssten nicht die Wissenschaftler und Zukunftsforscher herausbekommen, welche Erzählungen zur Digitalisierung richtig sind und welche falsch? Beispielsweise gibt es zur Zukunft der Arbeit, wie wir in Kapitel 3 noch sehen werden, jede Menge wissenschaftlicher Studien. Aber auch hier liegen die Vorhersagen weit auseinander. Wie kann das sein? Richten die Wissenschaftler ihre Ergebnisse nach den Wünschen der Auftraggeber aus? Sind sie käuflich? Oder gibt es gute und weniger gute Zukunftsforscher, sodass wir nur den besten Wissenschaftlern trauen sollten? Ist die Forschung einfach noch nicht weit genug, um wirklich Klarheit schaffen zu können? Braucht die Zukunftsforschung mehr Geld, um mehr Daten erheben und die Zukunft dann besser vorhersagen zu können?

Alle diese Vermutungen führen in die Irre. Es ist eine falsche, wenngleich verbreitete Ansicht, dass sich die Zukunft so erforschen ließe wie eine neue Chemikalie im Labor oder die Fortpflanzungsgewohnheiten von Igeln. Denn die Zukunft gibt es noch gar nicht, anders als eben die Chemikalie im Labor oder das verliebte Igelpärchen. Man kann die Zukunft weder mit einem Fernrohr noch mit dem Mikroskop beobachten. Es gibt keine Daten aus der Zukunft. So gesehen ist das Wort Zukunftsforschung eigentlich Unsinn. Man muss es anders verstehen, um ihm Sinn zu geben. Den Schlüssel dafür hat vor über 1600 Jahren der Kirchenvater Augustinus gefunden:

Eigentlich kann man gar nicht sagen: Es gibt drei Zeiten, die Vergangenheit, Gegenwart und Zukunft, genau würde man vielleichtsagen müssen: Es gibt drei Zeiten, eine Gegenwart in Hinsicht auf die Gegenwart, eine Gegenwart in Hinsicht auf die Vergangenheit und eine Gegenwart in Hinsicht auf die Zukunft.

Augustinus hat erkannt, dass weder die Vergangenheit noch die Zukunft existieren. Nur die Gegenwart existiert, in der wir uns Gedanken über Vergangenheit und Zukunft machen. Die Zukunft ist immer nur das, was sich konkrete Menschen in ihrer jeweils konkreten Gegenwart über die Zukunft ausdenken. Da wir keine Daten aus der Zukunft haben, sind unsere wissenschaftlichen Studien keine Tatsachenberichte aus der Zukunft. Stattdessen geben sie das wieder, was die Wissenschaftler auf der Basis von Argumenten, Theorien und Trends jetzt über die Zukunft denken. Und weil die Menschen und eben auch die Wissenschaftler verschieden sind, erzählen sie unterschiedliche Geschichten über die Zukunft. Wir sollten daher nicht von der Zukunft im Singular, sondern von Zukünften im Plural sprechen.

Zukünfte werden durch Denken, Reden, Rechnen, Simulieren etc. gemacht. Wir können sie nicht finden oder entdecken, sondern müssen sie erzeugen. Jede Zukunftserzählung und jede Zukunftsstudie wird letztlich ausgedacht oder, technisch gesprochen, hergestellt, durch einzelne Menschen wie Science-Fiction-Autoren (S. 15) oder wissenschaftliche Institute. Die Autoren und Wissenschaftler haben nie eine Zeitreise in die Zukunft unternommen, auch wenn manche so tun, als wären sie dort gewesen. Sondern sie haben Zukunftsbilder entworfen – mit ihrem Wissen, ihrer Fantasie, ihren Werten und zuweilen gesteuert von Interessen. Zukunftserzählungen berichten also nicht einfach aus der Zukunft, sondern spiegeln Gegenwartsüberzeugungen wider. Sie erzählen davon, wie ihre Autoren sich die Zukunft vorstellen. Man kann gelegentlich sehr schön sehen, wie solche Zukunftsbilder mit der Zeit in die Jahre kommen und veralten. Ein Beispiel wären die Paradieserzählungen vom Atomzeitalter (S. 19), aber auch die heute altmodisch wirkende Ausstattung des Raumschiff Enterprise aus den 1960er-Jahren.

Manche Autoren und wissenschaftlichen Teams versuchen dennoch den Eindruck zu erwecken, dass ihre Studien die Zukunft ›richtig‹ vorhersagen. Ein beliebtes Mittel dafür ist, absurd genaue Zahlenwerte anzugeben, etwa für den zukünftigen Arbeitsmarkt. Gerade in einem solchen Fall ist jedoch Vorsicht geboten! Exakte Zahlenangaben verführen uns dazu, sie als Messwerte und damit als objektive Fakten anzusehen.

Oft kommen die Zukunftsgeschichten der Digitalisierung im Gewand weitreichender Visionen daher. Sie wurden und werden von den Gurus im Silicon Valley in messianischer Pose verkündet – früher von Steve Jobs, heute von Marc Zuckerberg oder Elon Musk. In den Medien finden diese Geschichten begeisterte Abnehmer, teils fühlt man sich an eine Hofberichterstattung erinnert. Selbst kleine kritische Untertöne werden vermieden, würden sie doch wie Majestätsbeleidigung klingen. Die Visionäre des digitalen Zeitalters werden wie Apostel der Zukunft gefeiert.

Absurd genaue Vorhersagen

The Boston Consulting Group sagt vorher, dass die Digitalisierung der Industrieproduktion in Deutschland 610 000 Jobs kosten wird. Im Gegenzug sollen 960 000 neue Jobs in der IT-Branche entstehen. Die Arbeitsmarktstudie von Frey und Osborne (Kapitel 3) gibt für viele Berufsgruppen in genauen Prozentzahlen an, wie viele Jobs wegfallen werden. In den USA soll dies insgesamt 47 % der Jobs betreffen mit 70 % Wahrscheinlichkeit, in Deutschland 42 %. Angesichts der Unvorhersehbarkeit der Zukunft sind so exakte Zahlen für das Jahr 2030 allerdings Unsinn. Leider fallen viele auf diese Schein-Objektivität herein und glauben die Zahlen, gerade weil sie so exakt sind. Es sollte umgekehrt sein: Wäre in der Studie der Boston Consulting Group von 500 000–700 000 wegfallenden Jobs die Rede anstatt von 610 000, würde ich ihr eher vertrauen.

Jedoch haben diese Gurus ebenso wenig einen privilegierten Zugang zur Zukunft wie Sie und ich. Sie haben die Macht, die Zukunft zu gestalten, aber kein konkretes Wissen, das aus der Zukunft zu ihnen gekommen wäre. Auch wenn sie von Medien und Politikern hofiert werden, können sich ihre Visionen im Nachhinein als Fehleinschätzung, als naiv-romantisch, als von bloßen Interessen geleitet oder als gefährlich oder gar mörderisch herausstellen (S. 24).

Wie Visionen abstürzen können, zeigt die Geschichte der Kernenergie. Das bereits erwähnte Atomzeitalter (S. 19) beflügelte die Visionäre des Fortschritts und große Teile der Gesellschaft noch vor wenigen Jahrzehnten. Statt einer glänzenden Zukunft und einer erfolgreichen Nutzung der Atomkraft folgten jedoch Massendemonstrationen, Kernschmelzen (Tschernobyl, Fukushima) und die ungelöste Frage nach dem Verbleib des radioaktiven Abfalls. Seine ordentliche Entsorgung in einem Endlager wird uns noch Jahrzehnte oder länger beschäftigen.

Die Ambivalenz von Visionen

Der Ingenieur Wernher von Braun hatte große Visionen: Er wollte mit Raketen den Weltraum für den Menschen zu erobern. Als sein größtes Verdienst gilt mit Recht die Apollo-Mondlandung 1969 mit dem berühmten ersten Schritt eines Menschen auf dem Mond. Zuvor jedoch hatte von Braun seine Visionen in den Dienst der Nazis gestellt. Dies führte zum Bau und Einsatz der V2-Raketen, mit denen gegen Kriegsende London bombardiert wurde. Die Folge waren Tausende von Opfern, für die Produktion mussten Tausende von Zwangsarbeitern sterben.

Ein anderes Beispiel aus der digitalen Welt: Die Pioniere des Internets in den 1990er-Jahren hatten hochfliegende Visionen einer Demokratisierung der Welt und einer Abschaffung von Hierarchien und Macht. Beim Blick in die Realität des heutigen Internets mit Shitstorms, Pornografie und Meinungsmanipulation müssten sie eigentlich ziemlich deprimiert sein. In einer zugegebenermaßen überspitzten Formulierung könnte man sagen: Letztlich können wir im Vorhinein nicht wissen, ob eine radikale Vision uns einer guten Zukunft oder dem Abgrund näherbringt.

Visionen haben also ihre Zeit. Sie können veralten, sich wandeln oder ganz verschwinden. Sie können aber auch nach einer Zeit des Dornröschenschlafs noch einmal ihre Kraft entfalten. Hier ist die künstliche Intelligenz ein schönes Beispiel. Sie ist gegenwärtig als Verheißung radikal-digitaler Zukünfte in aller Munde und erscheint als Errungenschaft unserer Zeit. In Wahrheit ist sie jedoch ein Remake. Sie war bereits das große Technikthema der 1970er- und frühen 1980er-Jahre – mit damals ganz ähnlichen Zukunftsbildern wie heute. Dann verschwand sie von der Bühne, da aus den übersteigerten Visionen nichts wurde. Die Forschung entwickelte sich jedoch weiter, und heute ist künstliche Intelligenz wieder ein großes Thema.

Ein negatives Beispiel in diesem Zusammenhang ist der Boom der sogenannten New Economy Ende der 1990er-Jahre. Sie wurde als Internetwirtschaft propagiert, in der die klassischen Gesetze der Ökonomie nicht mehr gelten sollten. Start-ups schossen wie Pilze aus dem Boden, und die Anleger investierten in großem Umfang – bis die Blase zu Beginn des Jahres 2000 platzte. Zukunftsvisionen sind also mit Vorsicht zu genießen. Misstrauen ist angesagt, wenn jemand allzu sicher zu wissen glaubt, wie die Zukunft wird.

Was wird aus den heutigen Visionen der Digitalisierung werden? Könnte es sein, dass sich die Menschen in einigen Jahrzehnten fragen, was das für eine merkwürdige Zeit war, in der man Bits und Bytes, Algorithmen und Daten als Symbole einer guten Zukunft angesehen hat? Ich kann mir das zwar nicht vorstellen, schließlich bin auch ich ein Kind unserer Zeit. Aber das heißt natürlich nicht, dass es nicht trotzdem geschehen könnte. Zumindest können wir mit Blick auf die Vergangenheit nicht ausschließen, dass die digitalen Visionen sich im Laufe der Zeit tief greifend wandeln oder – wie die Visionen des Atomzeitalters – wieder verschwinden könnten. Es wäre ein fatales Missverständnis, heutige Visionen der Digitalisierung unhinterfragt als Tatsachenbeschreibungen der Zukunft zu verstehen, egal ob es sich um paradiesartige oder unheilvolle Erzählungen handelt.

Tatsächlich kann die von großen Visionen ausgehende Faszination das nüchterne Denken vernebeln. Notwendige und naheliegende Fragen nach ihrer Realisierbarkeit und ihren Folgen, nach den Gewinnern und Verlieren werden im Überschwang oft ignoriert. Wer auch nur die Frage nach möglichen nicht gewollten Folgen stellt, wird schnell als Spielverderber, Bedenkenträger, Langweiler oder Fortschrittsfeind in die Ecke gestellt. Die überbordende Faszination und das Heilspathos ihrer Apostel können allerdings auch in das genaue Gegenteil umschlagen. Allzu grandiose Paradieserzählungen können Misstrauen, Befürchtungen und Gegenwehr auslösen. Die Geschichte der Nanotechnologie ist dafür ein wunderbares Beispiel.

Weder Jubel um Visionen noch ihre Verdammung helfen also weiter. Stattdessen müssen wir die scheinbar langweiligen Fragen stellen: Wie realisierbar sind die Visionen, unter welchen Bedingungen sind sie realisierbar, wie sind die Chancen und Risiken auf verschiedene Bevölkerungsgruppen verteilt, wird es Verlierer geben, welche indirekten und nicht gewollten Folgen können sich ergeben, was kann getan werden, damit die Risiken klein gehalten werden, und so weiter. Es gilt, klaren Kopf zu bewahren.

Wie aus Visionen Horrorbilder werden können

Nanotechnologie ist ein Bereich der modernen Materialforschung, der sich mit der Gestaltung von extrem kleinen Objekten befasst – bis hin zur zielgenauen Anordnung von Atomen und Molekülen. Sie galt zunächst als wahre Wundertechnologie, die alles möglich machen sollte. Der amerikanische Futurist Eric Drexler brachte 1986 einen sogenannten molekularen Assembler ins Gespräch, der beliebige Materie in einzelnen Atome auseinander- und diese dann wieder so zusammenbauen könnte, wie es für die Herstellung eines besonderen Produkts nötig wäre. Nanoroboter waren eine andere Idee. Sie sollten im menschlichen Blutkreislauf sozusagen Patrouille fahren und alles reparieren, was irgendwie im Körper nicht ordentlich funktioniert. Was jedoch würde passieren, wenn diese Roboter außer Kontrolle gerieten? Irgendwann kippte die Stimmung. Für einige Jahre galt die Nanotechnologie dann als Hochrisikotechnologie, ja sogar als ultimative Katastrophe, in den Worten des französischen Mathematikers Jean-Pierre Dupuy. Der Weg von übertriebenen Versprechungen zum Horrorbild ist manchmal verblüffend kurz.

Wir wissen heute nicht, wie die digitale Zukunft aussehen wird. Dass wir das nicht wissen können, ist jedoch kein Grund zum Lamentieren. Wir leben nun einmal nicht in einer vorherbestimmten und daher vorhersagbaren Welt. Positiv ließe sich formulieren: Die Unsicherheit des Zukunftswissens ist nichts weiter als Ausdruck der Gestaltbarkeit von Zukunft. Wie die Zukunft wird, postulierte einmal der Philosoph Sir Karl Popper, hängt von uns ab. Wer sich die Zukunft vorhersagen lasse, habe schon aufgegeben, sie gestalten zu wollen.

Entsprechend werde ich in diesem Buch nicht als Hellseher oder Prophet auftreten. Ich habe keine Kristallkugel und weiß nicht, wie die digitale Zukunft im Jahre 2030 oder 2050 aussieht – aber ich bin daran interessiert, dass es für möglichst viele Menschen eine gute Zukunft sein wird. Wenn in den folgenden Kapiteln viel von dem unterlegenen Menschen die Rede ist, geht es entsprechend nicht um Schwarzmalerei, sondern darum, möglichst viele Menschen zu einer aktiven Gestaltung der Digitalisierung zu motivieren. Wenn wir nicht gestalten, werden wir gestaltet.

DER UNTERLEGENE MENSCH

In den zurückliegenden Jahrzehnten der Digitalisierung haben sich trotz vieler positiver Visionen allerlei nicht intendierte Folgen gezeigt: Datenmissbrauch, Bedrohung der Privatheit, Kinderpornografie im Netz, Manipulation der öffentlichen Meinung, Computer- und Internetsucht, digitale Spaltung, und vieles mehr. Die negativen Folgen sind selbstverständlich ernst zu nehmen und bedürfen ethischer Überlegungen, wissenschaftlicher Forschung, gesellschaftlicher Debatte und politischer und rechtlicher Gestaltung.

Dieses Buch konzentriert sich jedoch auf etwas anderes: Kann es sein, dass der Mensch schleichend seine Souveränität an die digitale Technik abgibt, dass sich seine Kontrollmöglichkeiten verflüchtigen und er haltlos abhängig wird, ohne es zu merken? Rutschen wir allmählich von der Herren- in die Knechtrolle (S. 17)? Schon heute können Algorithmen vieles so dramatisch viel besser als wir Menschen, und sie entwickeln sich immer weiter. Die Digitalisierung hat der Technik den Umgang mit riesigen Datenmengen beigebracht. Es besteht nun die Möglichkeit, alles miteinander zu verknüpfen. Die Technik ist lernfähig geworden. Eine Schaufel bleibt eine Schaufel, und ein traditionelles Auto ein traditionelles Auto. Aber eine zeitgemäße Software, die einen Botenroboter oder ein selbst fahrendes Auto steuert, soll im laufenden Betrieb nun ständig dazulernen. Ihr wird die Kraft zur eigenständigen Weiterentwicklung eingepflanzt. Die Fähigkeit des gezielten Lernens, bisher dem Menschen vorbehalten und wohl das zentrale Geheimnis seines Aufstiegs zur beherrschenden Kraft auf dem Planeten Erde, kann in Zukunft allmählich auf die digitale Technik übergehen. Wir wissen nicht und können heute nicht wissen, was wir dadurch lostreten. Im Extremfall digitalisieren wir uns weg.

Der garantiert fehlerfreie Roboter HAL 9000

Im Film 2001 – Odyssee im Weltraum hat Stanley Kubrick bereits 1968 einem Computer eine der Hauptrollen gegeben: HAL 9000 ist ein Rechner, dem grundsätzlich kein Fehler unterlaufen kann. Er soll die Reise zweier Astronauten und einiger eingefrorener Menschen in den Weltraum organisieren und hat zu diesem Zweck das letzte Wort an Bord des Raumschiffs. Die Astronauten bemerken jedoch, dass er bei der technischen Betreuung ein Fehler gemacht haben muss. Da das nicht sein kann, wehrt HAL 9000 sich und bringt einen der Astronauten um. Dem zweiten Astronauten gelingt es, in das Innere des Computers vorzudringen und ihm den Stecker zu ziehen, metaphorisch gesprochen. Hier behält der Mensch nach einer dramatischen Auseinandersetzung das letzte Wort.

Dies ist nicht die erste Geschichte über ein mögliches Ende der Menschheit, für das der Fortschritt verantwortlich wäre. Im Kalten Krieg wurde ein atomarer Selbstmord der Menschheit befürchtet, und in den 1970er-Jahren kam die bis heute andauernde Befürchtung auf, die Menschheit schaffe sich durch Ausplünderung und Zerstörung der Erde selbst ab. Ein befürchtetes digitales Ende der Menschheit hätte mit diesen Szenarien eins gemeinsam: Es wäre ein allmähliches Ende im Sinne der genannten nicht intendierten Folgen, ein Ende, dessen Näherkommen wir vielleicht erst erkennen, wenn es zu spät ist.

Hierzu gibt es eine anschauliche Geschichte. Ein Frosch sitzt in einem Topf mit ziemlich kaltem Wasser und bibbert vor sich hin. Dann stellt jemand den Topf auf einen Herd und heizt das Wasser auf. Der Frosch freut sich und fühlt sich zunehmend wohl. Es wird angenehm warm und immer wärmer. Der Frosch beginnt sich zu wundern und überlegt, was die Hitze bedeuten könnte und was er nun tun soll. Das Wasser wird schließlich heiß und heißer. Der Frosch beschließt auszusteigen – aber da ist es zu spät, er hat keine Kraft mehr und wird gekocht.

Diese kleine Geschichte illustriert wunderbar das Problem eines allmählich entstehenden Handlungsdrucks. Die Frage ist, wann und wie gehandelt werden müsste, bevor es zu spät ist. Wir wissen zwar heute nicht einmal, ob die Zukunft der Digitalisierung eine Gefahr darstellt, also ob es einen solchen Point of no Return überhaupt gibt. Was wir aber schon sehen ist, dass viele Menschen sich diesbezüglich Sorgen machen. Und das ist Anlass genug, einmal über die Gegenwart und Zukunft der Digitalisierung nachzudenken und den Sorgen nachzugehen.

In diesem Buch werde ich dazu die folgenden Thesen vertreten und an konkreten Beispielen erläutern und belegen:

Der Mensch zieht im Vergleich mit Algorithmen, künstlicher Intelligenz und Robotern immer häufiger den Kürzeren. Das können wir bereits heute beobachten.

Digitale Technologien machen vieles im Leben leicht und angenehm. Dies verleitet zu Bequemlichkeit und Sorglosigkeit. Angesichts der vielfältigen Verlockungen sind wir in Gefahr, problematische Entwicklungen zu übersehen oder zu ignorieren. Auch das ist bereits heute der Fall.

In absehbarer Zeit ist nicht die Unterlegenheit des Menschen die große Gefahr, sondern seine totale Abhängigkeit von der digitalen Technik.

Die oft befürchtete Übernahme der Kontrolle durch einen diktatorischen Algorithmus ist weniger das Problem; vielmehr geht es um eine Abhängigkeit von den Menschen und Unternehmen, die die Algorithmen und Daten kontrollieren.

Entscheidend für die Zukunft wird sein, ob wir in digitaler Mündigkeit oder Unmündigkeit in das neue Zeitalter eintreten.

Meine Sorge ist, dass wir in unserer überbordenden Faszination für die neuen Möglichkeiten der Digitalisierung blind werden – blind vor Begeisterung oder blind aus Bequemlichkeit. Diese Blindheit könnte uns in die vollkommene Abhängigkeit von digitalen Technologien führen, sodass wir letztendlich vom Herrn zu ihrem Knecht würden (S. 17). Statt die digitale Welt noch zu gestalten, bliebe uns nur die Anpassung. Nicht ein böser Algorithmus, der wie ein neuer Hitler nach Weltherrschaft streben würde, sondern die Macht unsichtbarer Konzerne und menschlicher Akteure würde Freiheit, Gestaltungskompetenz und Demokratie bedrohen.

Ob nun aus Faszination oder aus Bequemlichkeit, in beiden Fällen droht digitale Unmündigkeit. Der Mensch wäre dann wirklich und möglicherweise endgültig unterlegen, wenn er sich von den Verlockungen der digitalen Technologien einlullen ließe wie der Sage nach antike Seefahrer von den Gesängen der Sirenen; wenn er schleichend die Kontrolle und Gestaltungsmöglichkeiten abgäbe, seine Freiheiten und Gestaltungsmöglichkeiten dabei sanft und allmählich verschwänden, ohne dass er es bemerkte – nicht weil er unterdrückt würde, sondern weil eben das Leben in der Digitalisierung so angenehm und bequem ist.

Der Begriff der Unmündigkeit, so wie er hier gemeint ist, geht auf Immanuel Kant zurück. Er hat unser Menschenbild durch die Forderung nach Aufklärung geprägt, die er als Ausgang aus der selbst verschuldeten Unmündigkeit ansieht:

Aufklärung ist der Ausgang des Menschen aus seiner selbst verschuldeten Unmündigkeit. Unmündigkeit ist das Unvermögen, sich seines Verstandes ohne Leitung eines anderen zu bedienen. Selbst verschuldet ist diese Unmündigkeit, wenn die Ursache derselben nicht am Mangel des Verstandes, sondern der Entschließung und des Mutes liegt, sich seiner ohne Leitung eines anderen zu bedienen. ›Sapere aude! Habe Mut, dich deines eigenen Verstandes zu bedienen!‹ ist also der Wahlspruch der Aufklärung.

Ob wir Menschen der digitalen Technik letztlich unterliegen, hängt so gesehen von uns ab, nicht von den digitalen Technologien. Pathetisch könnte man in Anlehnung an Hamlet sagen: Digitale Mündigkeit oder Unmündigkeit, das ist hier die Frage!

Wenn dieses Buch ein klein wenig zur Rückeroberung der digitalen Mündigkeit beitragen könnte, wäre es das analoge Papier wert, auf dem es gedruckt ist. Entsprechend werden wir zum Ende des Buches auf den überlegenen Menschen zu sprechen kommen.

2. WODURCH IST DIGITALE TECHNIK ÜBERLEGEN?

TECHNIK IST IMMER BESSER ALS DER MENSCH