Sisyphos im Maschinenraum E-Book

Martina Heßler

• Herausgeber: C. H. Beck
• Kategorie: Fachliteratur
• Sprache: Deutsch

Veröffentlichungsjahr: 2025

Beschreibung

Das menschliche Verhältnis zur Technik ist von einer bedenklichen Schieflage geprägt: Menschen erscheinen als Mängelwesen, die unnötige Fehler machen und Dummheiten begehen, während ihre Maschinen und Technologien als Überwinder ihrer Schwächen gefeiert werden. Martina Heßler erzählt die beeindruckende Geschichte dieses wirkmächtigen Gedankens, in dem sich die menschliche Fehlbarkeit hartnäckig mit technologischer Perfektion verbindet. Von Automaten in frühen Fabriken über Sicherheitsgurte, Lügendetektoren und nette Roboter bis zu Computern als Präsidentschaftskandidaten und zur Cyborg-Reparatur: Die Geschichte der technologischen Überwindung menschlicher Fehler ist eine Geschichte des Technikchauvinismus, in der wir Menschen mehr und mehr einem modernen Sisyphos ähneln – im selbst gebauten Maschinenraum unentwegt mit der Beseitigung von Fehlern und Defekten beschäftigt. Derzeit verspricht künstliche Intelligenz, die Welt zu einem besseren Ort zu machen und menschliche Grenzen zu sprengen. Wie Martina Heßler eindrucksvoll darlegt, wird aber bereits seit dem frühen 19. Jahrhundert versucht, fehlerhafte Menschen mit überlegenen Maschinen einzuhegen, zu ersetzen und zu übertreffen. Das Bild einer perfekten Maschine, die alle denkbaren Probleme lösen kann, hat seither den gesellschaftlichen Fortschritt maßgeblich geprägt. Es wird Zeit, diese unzeitgemäße Illusion zu verabschieden.

Leseprobe

Titel

Martina Heßler

Sisyphos im Maschinenraum

Eine Geschichte der Fehlbarkeit von Mensch und Technologie

C.H.Beck

Übersicht

Cover

Inhalt

Textbeginn

Inhalt

Titel

Inhalt

Motto

Einleitung: Eine besondere Form der menschlichen Fehlbarkeit

Eine Welt ohne Fehler?

Der Mensch als letzter Bug im System?

Wozu eine Geschichte der Figur fehlerhafter Menschen?

Leben im Maschinenraum

Der Gang der Argumente

1: Der im Vergleich zur Technik fehlerhafte Mensch – Lesarten menschlicher und maschineller Unvollkommenheiten

Die Überlegenheit der Technik

Kritik und Widerstand

Zweideutigkeiten

Die Minderwertigkeit des MenschenGünther Anders und die «Faulty Construction»

Mängel, Sünden, Irrtümer Menschliche Unvollkommenheiten

Das Mängelwesen

Die Macht der Kompensation: Das Mängelwesen im Flugzeug

Die Vertreibung aus dem Paradies und die moralische Unvollkommenheit

Der Irrtum: Kognitive Unvollkommenheit

Fehler

2: Obsessionen der mechanischen Moderne. – Das Ideal der Maschine und fehlerhafte Menschen seit dem frühen 19. Jahrhundert

Dreitausendsiebenhundert Fehler

Die Antiquiertheit der allervortrefflichsten Maschine

Mechanische Maschinen Der fehlerhafte Mensch in der Fabrik

Roads not taken

Fortschritt durch «Ausschaltung» der Menschen

Die Sekundärtugenden der Maschinen

Geistige Automaten Entscheidungsmaschinen statt fehlerhafter Menschen

Watson for President: Die rechnende Maschine

Mechanische Autorität: Lullus’ Apparat zur Produktion wahrer Sätze

Mechanische Unfehlbarkeit: «solange die Maschine nicht bricht»

Elektronischer Tiefsinn

Der fehlerhafte Mensch im Automobil

Verkehrssünder und Herrenfahrer

Menschen, die Straßen diagonal überqueren

Seien Sie kein Pfropf

Der Fahrer als Automat

Gegen die «Schwäche des Subjekts»: Einpacken wie ein Ei

Soziale Maschinen Der fehlerhafte Mensch und seine zuverlässigen Gefährten

Schamlos vor der Maschine, befreit durch kathartische Objekte

Moralische Maschinen Der fehlerhafte Mensch am Lügendetektor

Maschinelle Normierung: 500 Gramm zu schwer

Maschinelle Prüfung: Lügendetektoren und Hirnscanner

Der Makel technologischer Moral

Die Obsession der Moderne und die perfekte mechanische Maschine

3: Sisyphos im Maschinenraum – Die Tücken des fehlerhaften Menschen in der Mitte des 20. Jahrhunderts

Endlose Steigerung Die Droge der Maschinisierung

Der technisierte Sisyphos

Hören wie die Fledermäuse

«Beyond the comprehension of men»: Sisyphos in der Informationsgesellschaft

Steinzeitmentalität und prometheische Hilflosigkeit

Expertensysteme: Bücher, die eigenständig Lösungen entwickeln

Das prometheische Gefälle und die unendliche Steigerung

Anwälte menschlicher Kläger Die Human Factors-Forschung in den 1950er Jahren und ein neuer Blick auf Fehler

Maschinen, die Menschen um sich haben

Machines cannot fight alone

Supermachines, aber keine Superhumans

Die Vermessung nichtmaschineller Menschen

Menschen mit drei Armen? Ein relationales Fehlerverständnis

Der Schock der Zurückgebliebenen

4: Computerbugs, irrtümliche

KI

und kaputte

Superhumans

– Fehlerhafte Maschinen von den 1970er Jahren bis heute

Ein neues Zeitalter technologischer Fehler

Amoklauf der Technik

Ironien der fehlerhaften Maschinen

Der Mythos der Unfehlbarkeit des Computers

Moralunternehmer und der vernebelte Blick

Aufklärer versus Pragmatiker: Strategien der Fehlerreduktion

Der Millennium-Bug: «Die größte Reparaturaktion der Geschichte»

Heraus aus dem Schatten der Maschine

Objekthirten und sich selbst heilende Maschinen

Irren ist maschinell Künstlich fehlerhafte Intelligenz

Eine neuartige Maschine

Menschenähnliche Fehler: Bösartige Chatbots

«Diskriminierungsanfällige»

KI

: Das Problem des Bias

Die

KI

irrt – ohne es zu bemerken

Die

KI

irrt – ohne, dass es Menschen bemerken

The Computer said

Sisyphos auf der Suche nach Lösungen

Die Menschen sind auch nicht besser

Alltägliche Cyborgs Biologischer Schrott und reparierte Körper

Superhumans und der Everyday-Cyborg

Ein Kleiderschrank voller Beine

Mühsames Take-Up

Fehlerhafte Technik im Körper

Ersatzteile

Beim Stehen nicht umfallen

Schluss: Doch keine Welt ohne Fehler

Überforderte Menschen und degradierte Maschinen

Die fehlerhaften Maschinen

Das Ende der mechanischen Maschine

Die Wiederentdeckung der Menschen

Die fehlerhafte technologische Bedingung

Die Maschine als permanente Aufgabe: Der glückliche Sisyphos?

Gerade rechtzeitig?

Literatur

Anmerkungen

Einleitung: Eine besondere Form der menschlichen Fehlbarkeit

1. Der im Vergleich zur Technik fehlerhafte Mensch

2. Obsessionen der mechanischen Moderne.

3. Sisyphos im Maschinenraum

4. Computerbugs, irrtümliche

KI

und kaputte Superhumans

Schluss: Doch keine Welt ohne Fehler

Register

Zum Buch

Vita

Impressum

Motto

Michael van Dartel: Aber können wir mit Big Data die Gesellschaft perfekt gestalten?

Douglas Copeland: Wahrscheinlich nicht. Es wird immer Idioten und schlechte Menschen geben. Ich hoffe, dass wir Muster finden, um sie zu identifizieren. Aber fahren Sie fort.

Michael van Dartel: Wie würde diese «perfekte» Zukunft aussehen?

Douglas Copeland: Seit 1990 beträgt meine Telefonrechnung jedes Jahr 200 Dollar, egal welches Telefon ich benutze, welchen Anbieter ich habe oder wo auf der Welt ich mich gerade befinde. Selbst in einer Welt perfekter Daten wird meine Telefonrechnung immer noch 200 Dollar betragen. Und um ehrlich zu sein, die Welt, in der wir leben, ist so perfekt, wie sie nur sein kann. Aber wir denken, dass die Welt schrecklich ist, also werden wir nie glücklich sein, und deshalb kann die Welt nie perfekt sein. Menschen sind niemals zufrieden.[1]

Einleitung

Eine besondere Form der menschlichen Fehlbarkeit

Eine Welt ohne Fehler?

Was wäre, wenn es keine Fehler gäbe? Wenn die Welt ohne Fehler wäre? Eine junge Frau stellte mir während eines Vortrags diese Frage,[1] die auf den ersten Blick merkwürdig, geradezu sinnlos anmutet. Die Welt ist voller Fehler. Das Fehlermachen, der Irrtum, der Makel gehören genuin zum Menschsein hinzu. Wie sehr sich Menschen auch bemühen, weder sie noch ihre Welt werden je perfekt sein.

Allerdings ist es keineswegs so, dass Menschen sich damit abgefunden hätten. Immer wieder strengen sie sich an, Fehler zu vermeiden oder sie, wie es gelegentlich sogar heißt, zu eliminieren. Immer wieder versuchen sie, eine Welt ohne Fehler oder zumindest mit wenigen Fehlern einzurichten.

Dieses Ansinnen führt unmittelbar zum Thema dieses Buches, das von der Fehlerhaftigkeit der Menschen handelt, und zwar von einer historisch spezifischen Variante ihrer Fehlerhaftigkeit: Das Buch erzählt von Fehlern, Mängeln und Defiziten, die aus dem Vergleich von Menschen mit Maschinen resultieren, sowie von den Bemühungen, menschliche Fehler maschinell zu beseitigen. Maschinen wurde dabei immer wieder nachgesagt, sie seien, anders als die Menschen, fehlerlos, ja unfehlbar.

Die vermeintliche Perfektion der Maschinen ging stets mit dem Versprechen eines «Besseren» einher: einer hochwertigen industriellen Produktion, Temposteigerung, einer höheren Effizienz oder Sicherheit, reibungsloser Abläufe, von mehr Gerechtigkeit, sozialer Zuverlässigkeit, leistungsfähigeren Körpern, oder kurz: einer besseren Welt. Es ist eine der Fragen des Buches, was dieses «besser» jeweils meinte, wie diese «bessere Welt», die mit Hilfe perfekter Maschinen verwirklicht werden soll, aussähe und was das für das Menschsein bedeutet.

Fehler werden jedoch nicht nur negativ gedeutet. Dass man aus Fehlern lernen kann und dass sie deshalb Teil eines «Fortschritts» sind, gehört genauso zu den Binsenweisheiten der Gegenwart wie die, dass Menschen Fehler machen. Daher feiern sich Menschen dafür, sie zu überwinden, aus ihnen zu lernen und somit Neues zu generieren. Derzeit zelebriert eine erfolgsorientierte Silicon Valley-Kultur das Fehlermachen und Scheitern. Aber auch in verschiedensten Städten der Welt berichten Menschen während sogenannter «Fuckup Nights» von ihren persönlichen Fehlleistungen. In Spanien soll ein «Museum of Failure» entstehen, das momentan noch als Wanderausstellung und im Internet zu sehen ist. Es inszeniert gescheiterte Projekte und zeigt teils skurril wirkende, misslungene Innovationen großer Firmen, um Menschen von der Produktivität von Fehlern zu überzeugen – davon, dass Fehler zu größerem Erfolg führen und unabdingbar für Fortschritt seien.[2]

Gleichwohl dominiert in der westlichen Kultur das Bestreben, keine Fehler zu machen. Es wird über sie geklagt und lamentiert, manchmal werden sie akzeptiert, manchmal vertuscht und versteckt, es wird versucht, aus ihnen zu lernen. Vor allem aber sollen sie vermieden werden.

Die Geschichte von Fehlern ist ein faszinierendes Thema. Allerdings wissen wir wenig über so wichtige Fragen wie etwa, seit wann der Begriff «Fehler» eine zentrale Kategorie in den unterschiedlichsten Bereichen wurde, wie sich eine Fehlerforschung etablierte, wie sich Fehlerkulturen historisch und kulturell unterschieden oder was jeweils als Fehler betrachtet wurde.[3]

Indem dieses Buch die Geschichte einer Doppelfigur erzählt, nämlich die Geschichte des im Vergleich zur Technik fehlerhaften Menschen und seines Pendants, der vermeintlich perfekten Maschine, widmet es sich einem besonderen Strang in der Geschichte von Fehlern: den Fehlern im Maschinenraum.

Doch beginnen wir mit der Gegenwart.

Der Mensch als letzter Bug im System?

Am Beginn dieses Buches stand ein Staunen. Weniger ein Staunen über die mannigfachen und unausrottbaren Fehler und Verfehlungen der Menschen als vielmehr über die vielfachen Versprechen, Maschinen würden all diese menschlichen Fehler und Unzulänglichkeiten vermeiden und, wie es so gern heißt, die Welt zu einem besseren Ort machen. Im Kontext der jüngsten Erfolge künstlicher Intelligenz war erneut eine Fülle solcher Ankündigungen zu vernehmen. Das autonome Fahren, so ist es trotz häufiger Rückschläge immer wieder zu hören, werde menschliches Versagen beseitigen und die Unfallzahlen, vor allem die Todesfälle, drastisch reduzieren. Ein japanischer Hotelbesitzer freute sich, dass sein Empfangsroboter viel bessere Manieren habe als die Menschen, die in der Rezeption tätig seien. Die Roboter seien «unschlagbar, was die Manieren angeht», schwärmte er.[4] In einer «Botbar» in New York bedient ein Roboter die Gäste.[5] Auch der Betreiber dieses Cafés zeigte sich begeistert von der perfekten Maschine: «Roboter brauchen keine Pausen, müssen nicht auf die Toilette und können 24 Stunden am Tag arbeiten». Der Hersteller der Roboter betonte zudem, dass man ihnen kein Trinkgeld geben müsse, außerdem stählen sie nicht und den besseren Kaffee machten sie auch, da sie, anders als die Menschen, ein perfekt berechnetes Gebräu servierten.[6] Auch im Bereich sozialer Beziehungen sind die Erwartungen groß: KI-Freunde seien «immer für einen da, haben nie schlechte Laune und lesen einem jeden Wunsch von den Lippen ab».[7]

Der ehemalige Chefentwickler der Google-Autos Chris Urmson bezeichnete Menschen «als letzten ‹Bug› im System».[8] Der Robotiker Ronald Arkin wiederum argumentierte vor einigen Jahren, die Emotionslosigkeit von Drohnen sei in Kriegen von großem Vorteil. Anders als Menschen handelten sie nicht aus Angst, Wut oder Rachegefühlen heraus. Stattdessen befolgten sie schlichtweg klar definierte Regeln. Daher, so die Argumentation, könne man davon ausgehen, dass Drohnen humaner töten als Menschen.[9]

Einer ganz ähnlichen Logik folgend beklagten sich Forscher, dass Menschen mit ihrer Intuition und ihren Vorurteilen Wissenschaft betrieben und dass sie in ihrer Begrenztheit die wichtigen Fragen gar nicht fänden. KI sei hier deutlich überlegen.[10] Eine Informatikerin unterstrich, KI könne das Gesundheitswesen verbessern, denn Menschen überblickten die vielen Daten schon lange nicht mehr, sie würden müde bei der Erstellung von Diagnosen. Die KI dagegen sei «neutral» und «bewahre einen kühlen Kopf».[11]

Dies ist nur ein kleiner Ausschnitt gegenwärtig kolportierter KI-Versprechen, die die Figur fehlerhafter Menschen aufrufen. Denkt man diese Ideen der perfekten, den Menschen in scheinbar jeder Hinsicht überlegenen Maschinen konsequent zu Ende, so liegt die Schlussfolgerung nahe, dass eine rein maschinelle Welt die bessere Welt wäre – eine Welt ohne Fehler.

Diese Auffassung wurde verschiedentlich formuliert. So prophezeite James Lovelock ein neues Zeitalter, das Novozän, in der eine hyperintelligente KI existiere und Menschen ihre Rolle als intelligenteste Wesen verloren haben würden. Lovelock war sich sicher, dass diese hyperintelligenten Wesen den Planeten Erde besser verstehen und damit besser behandeln würden als Menschen.[12] Der Robotiker Hans Moravec visionierte eine postbiologische Welt ohne Menschen, einen Weltzustand, der ihm wenig bedauerlich zu sein schien.[13] Der Schriftsteller Daniel Kehlmann wiederum räsonierte über das Unheil, das Menschen in die Welt gebracht haben: Massenmorde, die Zerstörung des Weltklimas, Armut. «Die Idee, dass unsere Nachfolge-Intelligenzen vernünftiger agieren werden als wir, könnte einen auch beruhigen», schrieb er. Gleichwohl wolle er, wie er unterstrich, nicht in einer solchen Welt leben.[14]

Man fragt sich, ob all diese Überlegungen, angefangen vom höflichen Roboter über die ethisch tötenden Drohnen bis zur perfekten Maschinenwelt ohne Menschen, immer ernst gemeint sind. Manchmal mag es sich um Gedankenspiele handeln, um ein Vergnügen am absurd Anmutenden. Nicht selten sind diese Versprechungen einer überlegenen Maschine offensichtlich plakativ, weitreichend und provozierend. Es verwundert daher nicht, dass sie häufig als Rhetorik, als Werbung, als Phrasen, als Trivialität abgetan werden – jedenfalls als etwas, das eher so dahingesagt wird und nicht ernst zu nehmen sei. Gleichzeitig werden diese Versprechen immer wieder ganz selbstverständlich wiederholt. Tatsächlich sind Trivialitäten aber oft nur scheinbar trivial, und Selbstverständlichkeiten mussten auch erst zu Selbstverständlichkeiten werden – sie waren zuvor gerade nicht offensichtlich und evident. In diesem Sinne wurde der Gedanke von fehlerhaften Menschen und überlegenen Maschinen schließlich zu einer Selbstverständlichkeit, die unbedacht reproduziert und vervielfältigt und damit enorm wirkmächtig wurde. Mit diesem Buch soll diese häufig so unbedacht wiederholte Redeweise hinterfragt werden.

Wozu eine Geschichte der Figur fehlerhafter Menschen?

Aus historischer Sicht ist ohnehin nichts selbstverständlich. Auch die Figur fehlerhafter Menschen ist etwas Konstruiertes, Kontingentes und nichts Zwingendes. Die Geschichte dieser Figur zu erzählen, bedeutet zuallererst, ihre scheinbare Selbstverständlichkeit in Frage zu stellen und ihre Historizität deutlich zu machen: Warum werden die menschliche Fehlerhaftigkeit und die Überlegenheit, ja die Perfektion der Maschinen bis heute so unhinterfragt behauptet? Warum scheint es überzeugend zu sein, dass Drohnen ethischer töten und autonome Automobile besser fahren als Menschen? Seit wann wird überhaupt in dieser Weise über Menschen und Maschinen gesprochen?

Die Figur fehlerhafter Menschen findet sich bereits in der frühen Neuzeit, doch etablierte sie sich insbesondere seit Beginn des 19. Jahrhunderts. Sie entstand also zu einem bestimmten Zeitpunkt, in einem spezifischen kulturellen Kontext. Sie war über viele Jahrzehnte eine unhinterfragte Prämisse technischen Handelns; sie verbreitete sich in alle gesellschaftlichen Bereiche. Aber sie veränderte sich im Laufe der Zeit, und sie trat zeitweise auch in den Hintergrund, um schließlich wieder dominant zu werden. Sie hat mithin eine lange und wechselvolle Geschichte. In der heutigen Welt entpuppt sie sich im Grunde als gestrige Figur, der ihr vergangener Entstehungskontext anhaftet. Obwohl sie reif für die Geschichte wäre, ist sie immer noch nicht Geschichte. Vielmehr hat sich der Zusammenhang zwischen fehlerhaften Menschen und überlegenen Maschinen seit dem 19. Jahrhundert tief in die Denkweisen der westlichen Welt eingeschrieben. Es handelt sich um eine folgenreiche Grundkonfiguration der westlichen Moderne, die bis heute wirkmächtig ist. Zwar werden die Versprechungen der überlegenen Maschinen und einer mit ihnen einhergehenden besseren Welt immer wieder relativiert, kritisiert oder als unrealistisch demaskiert. Dennoch bricht die Kette solcher Versprechen nicht ab. Das Buch zeichnet nach, wie diese Denkweise zu einer Selbstverständlichkeit wurde, die etwas scheinbar Gegebenes artikuliert, das als unabänderlich auftritt.

Fehlerzuschreibungen sind jedoch weder gegeben noch unabänderlich, vielmehr wandeln sie sich historisch. Stets werden Fehler vor einer spezifischen Folie des Richtigen definiert, wobei dieses Richtige auf einer Setzung basiert. Fehler resultieren daher aus dem Abgleich mit dem je als richtig Erachteten – ein Abgleich, aus dem sich dann eine spezifische Fehler-Figur formt, wie z.B. auch die Figur fehlerhafter Menschen, die aus dem Vergleich mit Maschinen entsteht.

Im Folgenden wird stets verkürzt die Rede von «der Figur» fehlerhafter Menschen sein, um umständliche Formulierungen – wie im Vergleich zu Maschinen fehlerhafte Menschen oder die Doppelfigur fehlerhafter Menschen und vermeintlich perfekter Maschinen – zu vermeiden, was jedoch immer mitzudenken ist. Schließlich ist dies kein Buch über menschliche Fehler im Allgemeinen, sondern über (vermeintliche) menschliche Fehler in technologischen Kulturen. Deshalb wird auch von einer Figur gesprochen und nicht schlichtweg von fehlerhaften Menschen. Figuren bezeichnen Denkbewegungen; sie beschreiben nicht die Wirklichkeit selbst, sondern ein Verhältnis zur Wirklichkeit, hier das menschliche Verhältnis zu Maschinen und vor allem auch zu sich selbst.

So sind die Fehlerhaftigkeit und Begrenztheit von Menschen nicht, wie so oft behauptet wird, eine Erklärung dafür, warum wir Maschinen brauchen. Die Geschichte der Figur fehlerhafter Menschen macht vielmehr deutlich, wie es dazu kommen konnte, dass Maschinen stets als Lösungen erschienen und gewählt wurden.

Diese Sichtweise mag auf den ersten Blick irritieren. Möchte man bezweifeln, dass Taschenrechner zuverlässiger und schneller rechnen als Menschen? Dass eine Werkzeugmaschine präziser arbeitet als ein Mensch, und dass ein Computer Berechnungen durchführen kann, die keinem Menschen möglich sind, schon gar nicht in dieser Geschwindigkeit? Bei Vorträgen begegnete mir des Öfteren die Auffassung, das stimme doch alles, was da über die fehlerhaften Menschen und die besseren Maschinen seit nun fast zwei Jahrhunderten gesagt wird. Menschen sind unpräzise, unzuverlässig, sie verletzen Regeln, sie lügen, sie werden müde. Auf Maschinen trifft all das nicht zu.

Dennoch soll in diesem Buch nicht ein weiteres Mal die Überlegenheit oder Unterlegenheit von Menschen und Maschinen vermessen und bestimmt werden, was schon so häufig erfolgte und die Figur letztlich jedes Mal reproduzierte. Stattdessen soll die Redeweise selbst, mithin auch die Selbstverständlichkeit dieses Vergleichs, kritisch beleuchtet werden. Das bedeutet, die verschiedenen Akte der Differenzierung genauer anzuschauen,[15] um jeweils zu zeigen, mit welchem Argument, mit welcher Wertung und mit welchem Ziel Unterschiede zwischen Menschen und Maschinen hervorgehoben wurden. Die menschliche Fehlerhaftigkeit im Angesicht der Maschine stellt keine anthropologische Konstante dar, sondern eine historisch und kulturell spezifische Fehlerhaftigkeit, die eben nur dann entsteht, wenn man Menschen aus der Perspektive von Maschinen beschreibt.

Diese Geschichte kann nicht erzählt werden, ohne auch die mit ihr verbundenen Dilemmata und Paradoxien aufzuzeigen. Denn wir haben es nicht mit einer geradlinigen Entwicklung zu tun, in der menschliche Fehler immer seltener, immer stärker eingehegt und vermieden wurden. Wie zu zeigen sein wird, verwandelte sich der als fehlerhaft charakterisierte Mensch in einen unermüdlichen und technisierten Sisyphos, der stets neu auftauchende Defekte und Mängel von Menschen und Maschinen beseitigen und eindämmen muss.

So macht der historische Blick Dynamiken und Paradoxien sichtbar, die aus dem menschlichen Bestreben entstehen, die eigenen Grenzen, Fehler und Defizite maschinell zu überwinden. Das Anliegen, mit Hilfe von Maschinen eine Welt ohne Fehler zu schaffen, erweist sich als eine unendliche Spirale der Maschinisierung. Der moderne Sisyphos werkelt endlos im Maschinenraum.

Leben im Maschinenraum

Wenn dieser menschliche, technisierte Sisyphos im Maschinenraum stets Fehler macht und behebt, so sollte man sich nicht vorstellen, dass er in einem verborgenen Kellerraum sein Werk verrichtet, unbemerkt von der Gesellschaft, die davon ausgehen kann, dass es schon jemand richtet. Vielmehr ist die ganze Welt ein Maschinenraum geworden. Wir alle haben uns in Sisyphose verwandelt und sind dauernd damit beschäftigt, die technologische Bedingung der menschlichen Existenz funktionsfähig zu halten.

Der Begriff des Maschinenraums dient hier als eine Metapher für eine maschinell gestaltete Wirklichkeit, d.h. für die technologische Bedingtheit menschlicher Lebensformen. «Technik ist Lebensform, und jede Lebensform ist von verfügbaren Techniken gekennzeichnet»,[16] hatte der Philosoph Alfred Nordmann pointiert formuliert. Seit der Industrialisierung hat sich die Art und Anzahl der verfügbaren Maschinen massiv verändert, insofern die menschliche Existenz nicht nur auf einfachen Werkzeugen, sondern auf immer komplexer werdenden Maschinen basiert – bis hin zur heutigen Unabdingbarkeit des Funktionierens digitaler Technik, die in alle Lebensbereiche eingewandert ist. Das Leben vollzieht sich unter technologischen Bedingungen.[17]

Bereits Mitte der 1950er Jahre schrieb Günther Anders: «Das Gerätesystem ist unsere ‹Welt›».[18] Er beobachtete, dass Menschen schon lange nicht mehr in einer Umgebung mit einzelnen Maschinen oder Apparaten leben. Technik sei eine «Vorentscheidung»[19] geworden. Im zweiten Band der Antiquiertheit des Menschen spricht Anders daher vom «Technik genannten Weltzustand», in dem sich nun die Geschichte abspiele.[20]

Welche Rolle spielen nun wessen Fehler in diesem Weltzustand?

Der Gang der Argumente

Das Buch möchte die Geschichte der Figur fehlerhafter Menschen mit all ihren Wendungen, Konsequenzen und Paradoxien seit ihrer Etablierung zu Beginn des 19. Jahrhunderts erzählen. Bevor allerdings ihre über 200-jährige Geschichte in den Blick genommen wird, gilt es, sie in die gegenwärtige Diskurslandschaft sowie eine Geschichte menschlicher Unvollkommenheiten einzuordnen. Daher werden im ersten Kapitel Konzepte präsentiert, die einen ausgeprägten Maschinenglauben kritisieren und diesen vor allem in einer Silicon Valley-Ideologie verorten: Technological Fix, Solutionismus und Technikchauvinismus. Insbesondere die Diagnose des Technikchauvinismus spielt eine wichtige Rolle im Buch, das mit der Geschichte fehlerhafter Menschen zugleich eine Geschichte des Technikchauvinismus schreibt.

Der Fokus des Buches auf fehlerhafte Menschen, perfekte Maschinen und technische Lösungen könnte allerdings den Eindruck wecken, als gäbe es nichts jenseits dieser Denkweise. Dem ist selbstverständlich nicht so. Daher werden hier auch Positionen, die die menschliche Überlegenheit betonen und Menschen gegen die Maschinen verteidigen, sowie Ambiguitäten jener Denkweise vorgestellt.

Die Geschichte der Figur fehlerhafter Menschen ist außerdem nicht ohne einen Denker zu schreiben, der sie bereits in den 1950er Jahren formulierte und genauso sarkastisch wie provozierend kritisierte. Er kann mithin als ihr prominentester Stichwortgeber gelten: Günther Anders. Mit seinen Überlegungen zur Antiquiertheit der Menschen war er für dieses Buch eine unentbehrliche Inspirationsquelle, doch ist er zugleich zu historisieren. So ist er mit seinen Diagnosen Teil der hier erzählten Geschichte, er kommt aber auch immer wieder mit eigener Stimme zu Wort.

Wenn man von fehlerhaften Menschen spricht, kommt vielen das Konzept des Mängelwesens in den Sinn – eine weitere Lesart fehlerhafter Menschen, die sich tatsächlich in die Figur fehlerhafter Menschen eingeschrieben hat. Aber auch andere Arten menschlicher Unvollkommenheiten wie die Sünde oder der Irrtum spielen für die Geschichte der Figur eine wichtige Rolle. Im letzten Abschnitt des ersten Kapitels wird die Figur fehlerhafter Menschen daher in historische Konzepte und Mythen menschlicher Unvollkommenheit eingeordnet. Schließlich behauptet das Buch, die Figur fehlerhafter Menschen bezeichne eine historisch neue menschliche Unvollkommenheit, die aus dem Vergleich zur Maschine entstand. Warum ist im Buch aber die Rede von fehlerhaften Menschen und nicht von unvollkommenen oder mangelhaften Menschen?

Das zweite Kapitel zeichnet die Etablierung der Figur fehlerhafter Menschen seit dem frühen 19. Jahrhundert nach. Man könnte annehmen, sie sei in der Fabrik entstanden, einem Ort, in dem es um Effizienz, d.h. um die schnelle, gleichmäßige und hochwertige Produktion von Gütern ging und in der die mechanische Maschine ihre Vorteile ausspielen konnte. Doch überraschenderweise zeigt sich, dass die Figur eine ubiquitäre Denkweise darstellt und entsprechend in sehr vielen gesellschaftlichen Bereichen zu finden ist. Diese Allgegenwart einzufangen bedeutet, ihre bemerkenswerte Stabilität, ihre vielfachen Variationen genauso wie die Simplizität des immer gleichen Arguments zur Kenntnis zu nehmen, das sich durch die verschiedensten Bereiche durchhält.

Die Wirkmächtigkeit und die Konsequenzen der Denkfigur sind dabei nur zu verstehen, wenn es gelingt, sie in ihren vielfältigen untergründigen Beziehungen in den Blick zu bekommen. Denn für historisches Arbeiten sind «Überblick und simultanes Sehen»[21] entscheidend, wie Sigfried Giedion es formuliert hatte. Was also hat ein Sexroboter mit der industriellen Produktion zu tun? Was das Fehlverhalten von Autofahrern mit dem Bias der KI? Was die angeblich perfekte Rechenmaschine mit dem Lügendetektor? Um diese Fragen zu beantworten, ist verschiedenen gesellschaftlichen Feldern jeweils ein Unterkapitel gewidmet. Es wird um die fehlerhaften Körper der Menschen in der Fabrik gehen; um die perfekten Rechenmaschinen und das Versprechen von Maschinen, mit ihrer Objektivität und Rationalität irrationale Menschen ausschalten zu können; um das Fehlverhalten chaotischer Autofahrer; um die Hoffnung auf zuverlässige Maschinenfreunde sowie um Maschinen, die Menschen moralisch überwachen sollen, wie der Lügendetektor. Insgesamt interpretiert dieses zweite Kapitel die Figur fehlerhafter Menschen als das Produkt einer mechanischen Moderne, in der die mechanische Maschine ein Ideal darstellte, das Ordnung, Stabilität, Regelhaftigkeit und Zuverlässigkeit garantierte, was die Figur fehlerhafter Menschen und perfekter Maschinen so wirkmächtig machte und zu einer Grundkonfiguration der Moderne werden ließ.

Doch haften der Figur, wie im dritten Kapitel zu sehen sein wird, gewisse Paradoxien an. Menschen wurden im Bemühen, ihre Fehler maschinell zu beseitigen, zu einem «Sisyphos im Maschinenraum», der stets mit der Behebung von neuen Fehlern und Grenzen beschäftigt ist. Der menschliche Prometheus schuf großartige Maschinen, doch holten ihn immer wieder seine eigenen Grenzen ein. Er wurde zu einem Sisyphos der endlosen Steigerung. Die Maschinisierung glich einer Droge, wurde eine Notwendigkeit und erzeugte immer wieder neue Probleme.

Das dritte Kapitel nimmt daher auch ein Forschungsfeld in den Blick, das in den USA im Zweiten Weltkrieg entstand und das zentral für eine neue Perspektive auf die Figur fehlerhafter Menschen war: die Human Factors-Forschung. Zwar bestand auch hier kein Zweifel, dass Menschen in ihrer Fehlerhaftigkeit und Begrenztheit ein Problem darstellen. Doch richtete sich der Blick nun gleichermaßen auf die komplexen Maschinen, die die Menschen derart überforderten, dass die Maschinen gewissermaßen abzurüsten waren, um überhaupt noch von Menschen bedient werden zu können. Menschen und Maschinen wurden in diesem Sinne in ihrer gegenseitigen Abhängigkeit neu betrachtet. In der Mitte des 20. Jahrhunderts etablierte sich somit ein Denken, das Menschen und Maschinen sowie ihre Fehler relational betrachtete. Das dritte Kapitel zeichnet damit entscheidende Wendepunkte in der Geschichte der Figur fehlerhafter Menschen nach.

Das vierte Kapitel stellt als wiederum längeres Kapitel das Pendant zum zweiten Kapitel dar. Nun geraten maschinelle Fehler in den Blick, die seit dem letzten Drittel des 20. Jahrhunderts aufgeregt diskutiert wurden und die Figur fehlerhafter Menschen zeitweise in den Hintergrund drängten. Wir betrachten Computerfehler und werden sehen, wie das Bild der unfehlbaren Maschine erodierte, während die doch eigentlich fehlerhaften Menschen zu Helden wurden oder nun als «Objekthirten», wie Günther Anders es formulierte, die Fehler von Maschinen zu beheben hatten. Ein Abschnitt dieses Kapitels ist der KI gewidmet, die, so wird argumentiert werden, eine neuartige Maschine darstellt, die nicht mehr dem Bild der mechanischen Maschine entspricht: Ihr Verhalten ist nicht voraussagbar, ihre Fehler sind von Menschen nicht immer zu erkennen und die Frage, was ein technologischer Fehler ist, muss neu diskutiert werden. Wir stoßen auf überforderte Menschen und überforderte Maschinen. Deutlich wird indessen eines: Das gegenwärtige Leben im Maschinenraum bedeutet eine Existenz unter einer fehlerhaften technologischen Bedingung.

Diese fehlerhafte technologische Bedingung wird auf bestürzende Weise im letzten Abschnitt dieses Kapitels sichtbar, wenn man die Erfahrungen von «Everyday-Cyborgs» bedenkt, deren implantierte Technik fehlerhaft sein kann, repariert und gewartet werden muss. Kaputte Technik im Körper kann sich als horrorhafte Erfahrung erweisen.

Im abschließenden Resümee werden noch einmal wichtige Linien und Zäsuren in der Geschichte der Figur fehlerhafter Menschen zusammengefasst. Vor allem fragt es aber, ob der technisierte Sisyphos im Sinne Camus’ ein glücklicher Mensch ist – oder ob er vielleicht glücklicher wäre, wenn er aus der Steigerungslogik aussteigen würde.

Das Buch beginnt im frühen 19. Jahrhundert und geht bis zur Gegenwart. Es konzentriert sich auf die deutsche Entwicklung mit Seitenblicken in die angelsächsische Welt. Eine globale Perspektive auf jene Figurenkonstellation wäre überaus erhellend, ja wichtig, schon der Blick auf andere europäische Länder würde die Geschichte vermutlich verschieben, konnte in diesem Rahmen jedoch nicht geleistet werden. Eine ubiquitäre Figur über 200 Jahre zu verfolgen, ist bereits für einen begrenzten geografischen Raum eine kaum zu bewältigende Herausforderung. Im Zentrum stehen daher auch nicht die Unterschiede in verschiedenen historischen Phasen, etwa des Kaiserreichs oder des Nationalsozialismus. Dies bleibt fachwissenschaftlichen Aufsätzen vorbehalten. Hier geht es um lange Linien, Kontinuitäten und markante Zäsuren, d.h. um prägnante Verschiebungen über die Zeit hinweg. Dabei liegt ein Schwerpunkt des Buches auf der zweiten Hälfte des 20. Jahrhunderts bis zur Gegenwart – einem Zeitraum, in dem sich die Geschichte der Figur deutlich verkomplizierte.

1

Der im Vergleich zur Technik fehlerhafte Mensch

Lesarten menschlicher und maschineller Unvollkommenheiten

Die Überlegenheit der Technik

Die Vorstellung, Maschinen seien in allen denkbaren Angelegenheiten besser als Menschen, und die damit einhergehende Überzeugung, mit Technik ließen sich fast alle Probleme lösen, stellt keineswegs ein Phänomen der Gegenwart dar, auch wenn es derzeit im Kontext der KI besonders laut kolportiert wird. Entsprechend existieren bereits verschiedene Konzepte, die diese Denkweise mit einem Namen versahen.

Mitte der 1960er Jahre hatte der US-amerikanische Physiker Alvin Weinberg den Begriff des technological fix geprägt.[1] Er war überzeugt, dass soziale, politische und ökonomische Probleme technisch zu «reparieren» und zu lösen seien. Weinberg knüpfte an die Technokratiebewegung der 1920er und 1930er Jahre an und entwarf teils bizarre Szenarien. So behauptete er, sogenannte Rassenunruhen ließen sich vermeiden, wenn die Bevölkerung in ärmeren Stadtteilen mit Klimaanlagen und Fernsehern versorgt werde. Der Kern der Idee eines technological fix bestand darin, gesellschaftliche oder politische Probleme als technologische zu beschreiben. Weinberg sinnierte gar darüber, ob die Sozialwissenschaften überflüssig seien. Wenn man Probleme in technologische Kategorien überführe und entsprechend behandele, ermögliche dies schnelle und preiswerte Lösungen, während sozialwissenschaftliche Ansätze lediglich langwierig nach Ursachen suchten.[2]

Die Kritik an diesen Vorstellungen ließ nicht lange auf sich warten. Wie die Historikerin Lisa Rosner betonte, wurde der Terminus technologcial fix schnell von einem positiven besetzten und Lösungen versprechenden Konzept zu einem Begriff, der vor allem kritisch verwendet wurde, um einen technologischen Reduktionismus anzuprangern.[3] Gleichwohl wurde die Auffassung, Probleme aller Art seien vor allem technologisch zu lösen, zum Mainstream moderner Gesellschaften – wenn auch nicht in der radikalen Form, wie sie Weinberg propagierte. Die Idee, Probleme des Klimawandels technologisch zu lösen, beispielsweise mit der Speicherung von CO2, entsprechen der Logik eines technological fix.

Seit etwa einer Dekade ist vom Solutionismus, oder genauer vom technological solutionism die Rede. Der Begriff wurde von Evgeny Morozov in kritischer Absicht geprägt. Morozov beschrieb «solutionism» als «Bestreben, alle komplexen Zusammenhänge so umzudeuten, dass sie entweder als genau umrissene Probleme mit berechenbaren Lösungen oder als transparente, selbstevidente Prozesse erscheinen, die sich – mit dem richtigen Algorithmus! – leicht optimieren lassen».[4] Die Ähnlichkeiten zum technological fix sind offenkundig. Der Technikhistoriker Sean Johnston nannte den Solutionismus einen Erben des technological fix.[5] Morozov verortete diesen allerdings im Silicon Valley und prangerte eine internetzentrierte, datengläubige Kultur der Gegenwart an, die alles technologisch lösen und optimieren wolle.[6]

In jüngster Zeit nutzte die Informatikerin und Publizistin Meredith Broussard den Begriff technochauvinism.[7] Technikchauvinisten glaubten, so betont sie, Technik sei die Lösung für alle Probleme; sie seien der Überzeugung, je mehr Computer man nutze, desto besser werde die Welt.[8]

Bemerkenswert ist, dass diese Konzepte jeweils unabhängig voneinander entwickelt und ausgerufen wurden. Sie überlappen sich, aber sie unterscheiden sich auch in einigen Punkten. Die Begriffe technological fix und Solutionismus betonen die Transformation gesellschaftlicher Probleme in technologische. Morozov geht allerdings noch einen Schritt weiter, indem er behauptet, viele der Probleme, die von Solutionisten «gelöst» würden, seien gar keine Probleme. «Neuerdings» würden, wie er 2013 schrieb, «Ineffizienz, Mehrdeutigkeit und Undurchsichtigkeit» als Problem interpretiert, obgleich es doch «verkleidete Tugenden» seien.[9] Morozov geht es auch darum, das, was sich dem Technischen entzieht, aufzuwerten und zu bewahren.

Das Konzept des Technikchauvinismus markiert dagegen einen zentralen Punkt, den andere Ansätze vernachlässigen: eben den Chauvinismus. Technikchauvinismus beschreibt eine Abwertung der Menschen im Vergleich zu Maschinen, deren Überlegenheit betont wird und die eine «bessere» Welt versprechen, bis hin zur maschinellen fehlerlosen Welt, weshalb dieses Konzept für das Buch von besonderer Bedeutung ist. Wie Broussard schreibt, behaupten Technikchauvinisten in allgemeiner Weise, dass Computer besser seien als Menschen, weshalb sie auch dazu neigen, Computer für alles einzusetzen.[10] Dies gehe stets mit der Annahme einher, Algorithmen seien neutral und Computer träfen objektive Entscheidungen, weil es sich um mathematische und demnach scheinbar wertneutrale Maschinen handele.[11] Die Technikchauvinisten übersähen jedoch, dass eine mathematische Logik nicht in alle Bereiche der «Offline-Welt» transferierbar sei.[12] Sie seien, so Broussard, blind gegenüber den Fehlern und Grenzen des Computers.

Der Begriff Technikchauvinismus stellt nicht in Frage, dass Maschinen bestimmte Dinge besser können als Menschen. Er fordert jedoch zu einem kritischen Blick auf, der die Erwartungen an technische Lösungen und die Vorstellung, dass Technik gleichsam alles könne, reflektiert. Vor allem aber unterstreicht der Begriff des Chauvinismus die Herabwürdigung menschlicher Fähigkeiten und die Überhöhung von Maschinen. Anders als die viel breiter gefassten Termini technological fix und technological solutionism fokussiert die Rede vom Technikchauvinismus auf das Verhältnis zwischen Menschen und Maschinen. Sie macht deutlich, dass die Überhöhung der Maschinen in Relation zu den teils verächtlich beschriebenen Menschen steht und umgekehrt, ja dass die Menschen sich in ihrer Abwertung gegenüber der Maschine selbst verächtlich machen.

Die Figur des fehlerhaften Menschen ist Ausdruck eines technikchauvinistischen Denkens. Das Wissen um ihre Geschichte versetzt uns in die Lage, den bislang vor allem für die Gegenwart thematisierten Technikchauvinismus sowie den Solutionismus in ihrem langen und bis heute prägenden Einfluss zu erkennen. Denn sowohl Evgeny Morozov als auch Meredeth Broussard verorten das Phänomen in den letzten Dekaden und beschränken es auf Computer, Daten, Internet und KI – teils sogar auf die Kultur des Silicon Valley.[13]

Zwar werden im Silicon Valley zweifellos besonders markante Formen dieses Denkens ausgebrütet, was sich beispielsweise in einem «Manifest des Technikoptimismus» beobachten lässt, in dem sehr offensiv und einseitig verkündet wird, dass es keine Probleme gebe, «die nicht mit mehr Technologie zu lösen seien».[14] Gleichwohl ist die Annahme, dass es sich um ein rein gegenwärtiges Phänomen handelt, das im Silicon Valley entstanden ist, eine enorme historische und geographische Verkürzung.

Die historische Forschung hat gezeigt, dass sich bereits Ende des 19. Jahrhunderts «das Vertrauen darauf, auch soziale und politische Problemlagen technisch lösen zu können (…), zu einem common sense (verdichtete). Technischer Wandel barg fortan ein sozialutopisches Element, das Versprechen einer besseren Zukunft, und erfuhr nachgerade eine ‹heilsgeschichtliche› Bedeutungszuweisung.»[15]

Eine technikchauvinistische Mentalität lässt sich sogar noch früher verorten. Seit ca. 200 Jahren werden Menschen in einer Weise mit Maschinen verglichen, die sie als fehlerhaft, defizitär, problematisch, als mangelhaft und beschränkt erscheinen lässt. Die Geschichte dieser Abwertung von Menschen im Vergleich zu Maschinen ist untrennbar verbunden mit einer erstaunlichen Überhöhung der Maschine, der Eigenschaften wie Neutralität, Objektivität und Wertfreiheit, aber auch Regelhaftigkeit, Berechenbarkeit und Zuverlässigkeit zugeschrieben werden – Eigenschaften, die ihre angebliche Perfektion ausmachen.

Es dürfte bereits deutlich geworden sein, dass diese Geschichte in diesem Buch nicht um ihrer selbst willen erzählt wird. Sie ist zugleich eine Geschichte des sich seit dem frühen 19. Jahrhundert neu etablierenden Mensch-Maschinen-Verhältnisses sowie eine Geschichte der Erwartungen an Menschen und Maschinen. Vor allem lässt sich mit ihr auch eine Geschichte der modernen Ideen einer guten, einer besseren Gesellschaft erzählen. Das «Bessersein» von Maschinen verweist auf Vorstellungen darüber, wie eine gute Gesellschaft aussehen soll. Darin besteht ja das Versprechen der Maschinen: Sie sollen die Welt perfektionieren und möglichst gar eine fehlerlose Welt schaffen. Daher gilt es zu fragen: Welche Vorstellungen einer guten Gesellschaft gehen also mit dem Bestreben einher, menschliche Fehler mittels Maschinen auszuräumen? Und schließlich: Ist es diese Art des «Besserseins», die anzustreben ist?

Kritik und Widerstand

Die Figur fehlerhafter Menschen blieb allerdings keineswegs ohne Widerspruch. Dies zeigt sich nicht nur in Begriffen wie Solutionismus oder Technikchauvinismus, die Auffassung von der Überlegenheit von Maschinen kritisieren. Ähnlich wunderte sich der Psychologe Gerd Gigerenzer kürzlich über das «AI-beats-human-Argument» und das damit verbundene, übermäßige Vertrauen in Algorithmen und ihre Fähigkeiten, Probleme zu lösen, insbesondere bei tech companies.[16]

Judith Butler nannte diese Erwartungen an KI eine Wiederkehr des menschlichen Narzissmus, der sich in den Maschinen spiegele, die menschliche Tätigkeiten nachahmen und gar besser ausführen. Außerdem bezeichnete sie die Vorstellung, dass KI ein Mittel zur menschlichen Perfektion sei und sich das Menschliche überhaupt erst mit KI voll entfalte, als faschistisch.[17] Kritisiert Butler mithin eine menschliche Hybris und Totalität, die sich im Maschinellen auslebt, so verteidigen andere die Menschen mit humanistischem Gestus gegen das Maschinelle.

In diesen Kritiken wird häufig betont, was Maschinen im Unterschied zu Menschen nicht können. Solche Stimmen konstatieren, dass den Maschinen wichtige menschliche Fähigkeiten fehlten, beispielsweise Intuition, Bewusstsein, Reflexionsfähigkeit oder Flexibilität, was sie wiederum begrenze. Prominent hatten in den 1970er und 1980er Jahren Philosophen wie Hubert Dreyfus oder John Searle die Grenzen von Computern dargelegt, was Dreyfus schon im Titel seines Buches What Computers Can’t Do anzeigte.[18] Auch Joseph Weizenbaum reihte sich in die Reihe dieser Kritiker ein.[19]

Bemerkenswerterweise wurde bereits im frühen 19. Jahrhundert – und zwar im Kontext der Entwicklung von Rechenautomaten – bezweifelt, ob das Rechnen ohne menschliche Sorgfalt und ohne eine «weise», mithin menschliche Beurteilung der Ergebnisse überhaupt funktionieren könne. Ob es also nicht doch menschlicher Fähigkeiten bedürfe, um zu rechnen.[20] Während dieses Argument auf die Überlegenheit der Menschen im urteilenden Denken abhebt, wird in aktuellen Debatten das Fehlen menschlicher Eigenschaften wie etwa «wahre Emotionen» oder Kreativität betont, was Folgen für die Art und Weise habe, wie Maschinen Dinge tun. In dieser Argumentation wird die Figur fehlerhafter Menschen und perfekter Maschinen gewissermaßen umgedreht, indem auf genuin menschliche Fähigkeiten verwiesen wird, die den Maschinen verwehrt bleiben.

Die Verteidigung der Menschen gegen die Maschinen war nicht zuletzt in der konservativen Kulturkritik des 20. Jahrhunderts prominent. Lewis Mumford sprach von der «Megamaschine», die weit mehr als ein Artefakt sei, nämlich eine Metapher für die moderne mechanisierte Lebensweise.[21] Sigfried Giedion wiederum beschrieb in Herrschaft der Mechanisierung, wie das Maschinelle vom Organischen Besitz ergreife. Sein Thema waren «Eingriffe in die organische Substanz» – oft verwendete er auch die Begriffe «Angriff» oder «Übergriff».[22] So beschrieb er beispielsweise ausführlich das industrielle Töten im Schlachthaus, mit dem «das lebende Tier in verkaufsfertiges Fleisch» verwandelt werde, oder er monierte, mechanisiert hergestelltes Brot nehme die Elastizität eines Gummischwamms an. Georg Friedrich Jünger wiederum malte ein Schreckensbild der «Perfektion der Technik»[23] – um nur einige kulturkritische Stimmen zu nennen. Sie fokussierten zwar nicht auf die Figur fehlerhafter Menschen, formulierten aber eine grundsätzliche Kritik am Maschinellen, das das Organische gefährde. Es handelte sich um einen Widerstand gegen die Maschine und ihre angebliche Autonomie, gegen ihre gnadenlose Perfektion und die damit verbundene menschliche Ohnmacht.

Diese Verteidigungen des Humanum basieren allerdings auf einer rigiden Gegenüberstellung von Menschen und Maschinen. Zudem fokussieren sie häufig in anthropozentrischer Manier auf die Menschen und die Gefährdung ihrer vermeintlich einzigartigen Position.

Alan Turing hatte Mitte des 20. Jahrhunderts etwas spöttisch beobachtet, dass es unter Menschen, auch unter Intellektuellen, einen «Unwillen» gebe, «sich die Möglichkeit einzugestehen, dass es für die Menschheit Rivalen im Bereich der Intelligenz geben könnte».[24] Ein Beispiel dafür ist das «Duell» des Schachweltmeisters Garri Kasparov gegen den IBM-Computer Deep Blue im Jahr 1997. Nachdem Kasparov verloren hatte, beklagten viele Zeitgenossen den Verlust der Ehre der Menschheit.[25]

Derzeit sind Warnungen zu hören, was es bedeuten könnte, wenn Maschinen «übernehmen»: Wenn sie also nicht mehr als einzelne Maschinen mit je spezialisierten Fähigkeiten die Menschen überbieten, sondern als eine Art Superintelligenz oder Universalmaschine, die einer Superspezies gliche, nahezu alles besser als Menschen könnten. Publikationen, die den «Take-over» durch Maschinen im Titel führen, überschwemmen in jüngster Zeit den Buchmarkt und zeichnen teils apokalyptische Bilder der menschlichen Zukunft, die es dann eben nicht mehr gäbe.[26] Yuval Noah Harari schrieb eine Geschichte der Menschheit, die mit ihrem Überflüssigwerden enden könnte, wie er es in seinem umstrittenen Buch Homo Deus ausmalte.[27] Dass die Menschen «sich nicht klein machen» sollen und die analoge Welt für das Menschsein unverzichtbar sei, betonte dagegen Armin Grunwald in einem Buch zur «Zukunft der Menschheit».[28]

Kurz: Die Doppelfigur fehlerhafter Menschen und perfekter Maschinen war und ist nicht allen eine Verheißung. Sie wurde nicht durchweg mit Freude auf eine bessere Welt begrüßt, und Maschinen wurden nicht stets als Lösung für alle denkbaren Probleme gesehen. Vielmehr irritieren und beängstigen die (angeblich) überlegenen Maschinen auch. Sie rufen Widerstand hervor. Diese Gegenpositionen kritisieren entweder die gegenwärtige Technikgläubigkeit und deren Gefahren, sie warnen vor der Macht der Technik oder sie verweisen im Sinne einer Verteidigungsstrategie auf die Grenzen der Maschine und heben jene Fähigkeiten der Menschen hervor, die nicht formalisierbar und deshalb auch nicht auf Maschinen übertragbar seien. Oder sie insistieren in dichotomer Denkweise auf einer Humanität, die es gegen das Maschinelle zu verteidigen und zu bewahren gelte. Schließlich wird auch ethisch argumentiert. Joseph Weizenbaum plädierte bereits in den 1970er Jahren dafür, genau hinzuschauen, was man an Maschinen delegiere.[29]

Angesichts jüngster KI-Entwicklungen sind die Fragen, wozu Maschinen in der Lage sind und was man an sie delegieren kann und sollte, zweifellos von hoher Bedeutung. Gleichwohl werden diese Stimmen im Folgenden nicht im Zentrum stehen. Hier geht es um eine andere Frage: Wie kam es eigentlich dazu, dass die Figur fehlerhafter Menschen so wirkmächtig werden konnte? Wenn also ihre Geschichte rekonstruiert wird, bedeutet das nicht, dass der Gegenstand dieses Buches nicht kritisch betrachtet würde. Die Kritik setzt jedoch anders an. Sie erfolgt auf immanente Weise, indem die Versprechen, die Folgen sowie die Dilemmata, die mit jener Denkweise einhergehen, im Zentrum stehen. Die Kritik erfolgt nicht gegen die Figur, sondern gleichsam mit ihr und aus ihrem Inneren heraus, denn die Historisierung und Hinterfragung der Figur selbst impliziert schon, sich zu ihr mit Distanz zu positionieren, um ihre Voraussetzungen, Konsequenzen und Widersprüche zu verstehen.

Zweideutigkeiten

Die Figur fehlerhafter Menschen erfuhr nicht nur mannigfach Ablehnung, sie enthält zudem einige überraschende Ambiguitäten.

Eine ihrer Merkwürdigkeiten liegt darin, dass hier Menschen über Menschen sprechen und sich damit selbst als fehlerhaft, mangelhaft und defizitär denunzieren, während sie Maschinen als überlegen beschreiben. Menschen tun das allerdings häufig in einem Duktus, als seien sie selbst keine Menschen, als sprächen sie gleichsam von außen als Beobachter, obgleich sie doch über sich selbst urteilen und sich im Vergleich zu Maschinen bewerten.

Die Rede von fehlerhaften Menschen geschieht nämlich zumeist im Duktus der Generalisierung, der von Differenzierungen weitgehend absieht. Nur selten spielen Genderaspekte eine Rolle; Alter, soziale Schicht oder ethnische Unterschiede tauchen in diesem Diskurs kaum auf. Diese Denkweise bezieht sich somit auf ein Gattungswesen: Sie transportiert ein universelles Menschenbild, so als ob alle Menschen im Vergleich zur Maschine gleich seien. Das mag stimmig sein, wenn es z.B. darum geht, dass sich kein Mensch finden wird, der einen Computer in der Korrektheit und Schnelligkeit des Rechnens schlagen kann. Gleichwohl sprechen doch die einen Menschen über die anderen, so etwa wenn Ingenieure im 19. und 20. Jahrhundert über die Ausschaltung fehlerhafter Menschen in der Fabrik urteilten, aber die Arbeiter meinten.

Gelegentlich zeigten sich spannungsreiche Momente, wie etwa bei der Einführung des Computer Aided Design (CAD), als Ingenieure von anderen Ingenieuren zu fehlerhaften und begrenzten Wesen erklärt wurden. Die nun plötzlich als mangelhaft eingestuften Konstruktionsingenieure wollten allerdings ihre Fehlerhaftigkeit und Begrenztheit, die ihnen von Kollegen attestiert wurde, nicht einsehen. Die Entwickler des CAD kritisierten daher die Konstruktionsingenieure: Sie müssten doch verstehen, dass sie längst an ihre Grenzen gelangt seien, dass sie die für die Konstruktion notwendige Fülle der Informationen gar nicht mehr überblicken könnten. Für die Entwickler blieb unverständlich, dass die Betroffenen nicht akzeptieren wollten, dass sie mit Computern besser und schneller und genauer zeichneten.[30] Fast seufzend beklagte man sich in der VDI-Zeitschrift über die störrischen Konstrukteure, die sich noch immer als «Mittelpunkt» sähen.[31]

Dies ist eine der unreflektierten Paradoxien der Figur fehlerhafter Menschen: dass diejenigen, die die Fehlerhaftigkeit definieren, selbst unter ihre Beschreibung fallen. Menschen entscheiden sich, sich an Maschinen zu messen und als fehlerhaft zu interpretieren. Sie glauben dann aber lange, es handele sich um die anderen.

Die Figur fehlerhafter Menschen stellt mithin keine Selbstverständlichkeit dar, sondern sie wird in spezifischen Kontexten hergestellt. Dennoch hat sie sich verselbständigt: Niemand scheint diese Auffassung hervorgebracht zu haben, sie kursiert in unterschiedlichen Kontexten, sie scheint universell gültig und Widerspruch sinnlos – nur die Uneinsichtigen, so wurde vielfach insinuiert, sehen nicht ein, dass es die Maschinen besser können.