Die Macht der Künstlichen Intelligenz – oder: Das Ende ist nahe! E-Book

Reginald D. Kenneth

• Herausgeber: via tolino media
• Kategorie: Fachliteratur
• Sprache: Deutsch

Veröffentlichungsjahr: 2024

Beschreibung

Ohne Computer geht heute gar nichts mehr! Wirklich nicht! Unser zweiter Sohn ist vor knapp zehn Jahren per Kaiserschnitt auf die Welt gebracht worden. An dem Morgen waren wir die ersten Patienten im OP-Trakt des Krankenhauses. Ich musste zuhören, wie das Personal die Geräte hochgefahren hat. Minutenlang klang der markante Startup-Sound eines verbreiteten Betriebssystems durch die Räume. Und ich habe in dem Moment nicht an Programmabstürze und Computerviren gedacht. Wirklich nicht! Heute macht sich keiner mehr über Macken von IT-Geräten irgendwelche Gedanken, außer vielleicht die Mitarbeiter von Hilfe-Hotlines (»Haben Sie das Gerät schon neu gestartet?«). So gesehen, ist der Computer schon lange dabei, wenn es um die Entscheidung über Leben und Tod geht – und hat durch den einen oder anderen Absturz vielleicht schon ein paar Menschenleben auf dem elektrischen Gewissen. Aber hat künstliche Intelligenz, die uns im Moment an allen Ecken und Enden zu überflügeln scheint, wirklich das Potenzial, den Menschen zu verdrängen und die Weltherrschaft zu übernehmen? Ist das beängstigend menschliche Computergehirn wirklich in der Lage zu denken, sinnvolle Entscheidungen zu fällen und sogar kreativer als ein echter Mensch zu sein? Einschließlich der Entscheidung, den Menschen von der Bildfläche dieser Welt verschwinden zu lassen? Was Softwarekonzerne heute auf spektakulären Events vorführen, jagt vielen biologischen Zuschauern einen Schrecken ein, während die Roboter vor den Fernsehern mit ihren mechanischen Händen applaudieren. Oder – und das ist auch nicht besser – wir schieben die künstliche Intelligenz in die Kiste mit anderen, scheinbar sensationellen Show-Effekten und unterschätzen völlig, was geniale Wissenschaftler und Programmierer mittlerweile aus Hochleistungscomputern herauskitzeln können. Mit viel Humor und einer großen Portion Weitblick in die Geschichte und in andere Bereiche von Wissenschaft und Alltag führt der Autor den Leser durch ein Spiegelkabinett aus Argumenten und historischen wie aktuellen Beispielen und Situationen, in denen Mensch und Maschine um die endgültige Überlegenheit ringen. Manchmal macht es den Eindruck, dass der Mensch gegenüber dem Computer jämmerlich versagt, manchmal sieht es so aus, als wenn die Maschine niemals den Menschen überflügeln oder in Gestalt bösartiger Cyborgs mit Lasergewehren unterjochen wird. Wie das Spiel endet, wissen wir nicht.

Leseprobe

Die Macht der KI – oder: Das Ende ist nahe!

Wie und warum Künstliche Intelligenz in kürzester Zeit die Menschheit ausrotten wird! Oder auch nicht…

Reginald D. Kenneth

Impressum

Copyright by Reginald D. Kenneth, 2o24

Herausgeber: Reginald D. Kenneth & Stefan Meyer

Kontaktanschrift: Büro Heinrich Bien (BHB), Lauthstrasse 54, 8o999 München

E-Mail: [email protected]

Wichtige Informationen für die Nutzer dieses Buchs:

Herausgeber und Autoren haben größtmögliche Sorgfalt aufgewendet, dieses Buch zu publizieren. Alle Informationen in diesem Buch sind sorgfältig von Herausgebern und Autoren erwogen und geprüft. Für die Richtigkeit der Informationen kann keine Garantie übernommen werden. Der Herausgeber und die Autoren übernehmen keine juristische Verantwortung für die Nutzung der publizierten Inhalte und Informationen. Eine Haftung der Autoren, des Herausgebers und seiner beauftragten Personen für Personen-, Sach- und Vermögensschäden ist ausgeschlossen. Das Werk ist einschließlich seiner Teile urheberrechtlich geschützt. Jede Verwertung außerhalb der Grenzen des Urheberrechtsgesetzes ohne Zustimmung des Herausgebers ist unzulässig und strafbar. Das gilt insbesondere für Vervielfältigungen, Übersetzungen sowie Einspeicherung und Verarbeitung in elektronischen Systemen.

Hinweis zu den Abbildungen:

Die Illustrationen in diesem Buch sind mit Hilfe von künstlicher Intelligenz erstellt worden. Dabei kam ausschließlich das Modell Dall-E von OpenAI zum Einsatz.

1. Auflage, August 2o24

Autor: Reginald D. Kenneth

Projektleitung und technische Publikation: Stefan MeyerIllustrationen: Stefan Kleber & Dall-ECover: Hermann Zeichen (Design) & Stefan Kleber (Illustration)

Für…

Laura Freihart, Lisa Ludwar, Sebastian Felsner, Christoph Möller

…und alle anderen, die am 14. Juli 2024 mit auf dem Schiff waren!

Was ist drin?

Ohne Computer geht heute gar nichts mehr! Wirklich nicht! Unser zweiter Sohn ist vor knapp zehn Jahren per Kaiserschnitt auf die Welt gebracht worden. An dem Morgen waren wir die ersten Patienten im OP-Trakt des Krankenhauses.

Ich musste zuhören, wie das Personal die Geräte hochgefahren hat. Minutenlang klang der markante Startup-Sound eines verbreiteten Betriebssystems durch die Räume.

Und ich habe in dem Moment nicht an Programmabstürze und Computerviren gedacht. Wirklich nicht!

Heute macht sich keiner mehr über Macken von IT-Geräten irgendwelche Gedanken, außer vielleicht die Mitarbeiter von Hilfe-Hotlines (»Haben Sie das Gerät schon neu gestartet?«).

So gesehen, ist der Computer schon lange dabei, wenn es um die Entscheidung über Leben und Tod geht – und hat durch den einen oder anderen Absturz vielleicht schon ein paar Menschenleben auf dem elektrischen Gewissen.

Aber hat künstliche Intelligenz, die uns im Moment an allen Ecken und Enden zu überflügeln scheint, wirklich das Potenzial, den Menschen zu verdrängen und die Weltherrschaft zu übernehmen?

Ist das beängstigend menschliche Computergehirn wirklich in der Lage zu denken, sinnvolle Entscheidungen zu fällen und sogar kreativer als ein echter Mensch zu sein? Einschließlich der Entscheidung, den Menschen von der Bildfläche dieser Welt verschwinden zu lassen?

Was Softwarekonzerne heute auf spektakulären Events vorführen, jagt vielen biologischen Zuschauern einen Schrecken ein, während die Roboter vor den Fernsehern mit ihren mechanischen Händen applaudieren.

Oder – und das ist auch nicht besser – wir schieben die künstliche Intelligenz in die Kiste mit anderen, scheinbar sensationellen Show-Effekten und unterschätzen völlig, was geniale Wissenschaftler und Programmierer mittlerweile aus Hochleistungscomputern herauskitzeln können.

Mit viel Humor und einer großen Portion Weitblick in die Geschichte und in andere Bereiche von Wissenschaft und Alltag führt der Autor den Leser durch ein Spiegelkabinett aus Argumenten und historischen wie aktuellen Beispielen und Situationen, in denen Mensch und Maschine um die endgültige Überlegenheit ringen.

Manchmal macht es den Eindruck, dass der Mensch gegenüber dem Computer jämmerlich versagt, manchmal sieht es so aus, als wenn die Maschine niemals den Menschen überflügeln oder in Gestalt bösartiger Cyborgs mit Lasergewehren unterjochen wird.

Wie das Spiel endet, wissen wir nicht.

Aber wenn Sie dieses Buch gelesen haben, dann werden Sie beide Seiten im Kampf Biologie gegen Technik und Potenziale wie Risiken dieses Konflikts besser verstehen.

Dieses Buch handelt unter anderem von einer Maschine, die gar keine Maschine ist, von der mathematischen Schönheit eines Blumenkohl, vom Tricksen eines Nobelpreisträgers in seiner Abschlussprüfung und davon, dass es nicht so bald Roboter geben wird, die Spiegeleier braten können.

Und es geht auch ein wenig um Boote...

Technologische Pubertät

»Akademiker, Industrielle und Journalisten beschäftigt die Möglichkeit, dass der Computer irgendwie beweisen wird, "das Gehirn sei lediglich eine Maschine aus Fleisch".« Alptraum Computer (Die Zeit Nr. o3/1972)

Ich mag künstliche Intelligenz! Aber für dieses Buch habe ich mir fest vorgenommen, das gesamte Spektrum dieser (mehr oder weniger) neuen Technologie so kritisch wie möglich zu betrachten. Sehen Sie es mir nach, wenn mir das vielleicht nicht durchgehend gelingt.

Immer offen für alles und immer neugierig – das ist die kürzeste Kurzfassung meiner Lebenseinstellung.

Vielleicht liegt es am Alter ("Früher war alles besser!") oder tatsächlich an den unglaublichen Fähigkeiten künstlicher Intelligenz, aber in den letzten Jahren und seit ich mich mit KI beschäftige, gibt es immer wieder Momente, in denen ich erschreckt bin (und zwar im ganz negativen Sinn) über die Möglichkeiten, Fähigkeiten und Eigenschaften dieser elektronischen Denk-Modelle.

"Mach einen Cyborg niemals größer als den Chef der Firma!" So lautete der Kommentar eines Zuschauers unter einem Video von der Keynote des Unternehmens Nvidia Anfang 2024.

Jensen Huang, Chef des Mikrochip-Herstellers, der sich selbst mittlerweile als "weltweit führender Anbieter von KI-Computing" bezeichnet, hält im März eine Rede über die eigenen Entwicklungs-Neuigkeiten. Der Mann ist lässig gekleidet in Turnschuhen, Lederjacke und T-Shirt. Als er auf die Bühne kommt, stehen im Hintergrund neun humanoide Roboter unterschiedlicher Bauart und starren leblos dem Publikum und den Kameras entgegen.

Neun verschiedene Cyborgs! Alle nicht so cool und hochpoliert wie "C-3PO" aus dem Film-Epos "Star Wars" oder mein persönlicher Favorit: Der böse, schwebende Roboter "Maximilian" aus dem Disney-Klassiker "Das schwarze Loch" von 1979, der aussah, als wäre seine Außenhaut aus rotem Kunstleder bestehen.

Noch schlimmer: Die schaurige Bühnendekoration von Nvidia war gar nicht echt!

Zuerst hatte ich die Aufzeichnung der Präsentation in einer Nachrichtensendung im Fernsehen aus den Augenwinkeln heraus gesehen und nicht bemerkt, dass hinter Huang eine riesige Leinwand installiert war, die nur eine Projektion dieser menschenähnlichen Maschinen zeigte.

Alles nur Show! Erschreckt hatte mich die Szene trotzdem. Der Grund dafür klingt auf den ersten Blick wenig spektakulär: Ich hatte die künstlichen Mensch-Maschinen für echt gehalten und gedacht, das Unternehmen will zeigen, was in den nächsten Jahren aus den eigenen Laboren und Fabriken marschieren (und über uns herfallen) wird.

Die Untiefen meines Gehirns scheinen sich darauf vorzubereiten, dass dieser Moment nicht mehr in weiter Ferne liegt.

Es war bei weitem nicht der intensivste Moment der Erkenntnis (oder falschen Erkenntnis) über den Stand der Technik und ihre Möglichkeiten, trotzdem schleppe ich die Erinnerung an die bewegungslosen Cyborgs weiter mit mir herum.

Und das nur, weil ich die Roboter einen Moment für real gehalten hatte.

Der Unterschied zwischen Science-Fiction mit all seinen intelligenten Blechbüchsen und der Wirklichkeit ist mir durchaus bewusst (obwohl ich glänzende wie düstere Zukunfts- und Raumfahrtgeschichten liebe) – wir werden in einem Kapitel weiter unten noch über das Zusammentreffen von Märchen und Wirklichkeit sprechen.

Diese Erfahrung hat mich etwas gelehrt, was im Moment sicherlich ganz viele Menschen mit sich herumtragen: Die Ahnung – und das schreibe ich ganz bewusst so – von einer Welt, die sich mit und durch die Erfindung von künstlicher Intelligenz stark verändern wird!

Phantastische Vorstellungen von der Zukunft – wie menschliche Roboter und Maschinen mit echten Empfindungen – rücken in wirklich greifbare Nähe und werden sogar für rationale und eher kritische Menschen (wie ich einer bin) tatsächlich vorstellbar.

Dass so ein Gerät, wie Nvidia es vorgeführt hat, in ein paar Jahren meinen Akku-Staubsauger und den Wischroboter ersetzen wird und leise durchs Haus schleicht, möchte ich bezweifeln. Aber denkbar ist es in dem Moment geworden, als ich die Bilder von der Pressekonferenz gesehen habe.

Ist es gut oder schlecht, dass Maschinen mit außergewöhnlichen Fähigkeiten bereits in unserer Phantasie und teilweise auch in Wirklichkeit existieren?

Künstliche Intelligenz und all ihre Möglichkeiten hat die Menschheit in eine Art kollektive Pubertät versetzt. Die Menschheit verändert sich (wie ein Teenager).

Manche sagen: "Wir werden von der Technik überholt, die wir selbst geschaffen haben." Andere behaupten: "Die Technik wird bald eigene Intelligenz erschaffen, die uns in Grund und Boden stampfen wird."

Eine heiße Suppe von Gefühlen, Meinungen, guten und schlechten Ahnungen, was mit KI alles machbar sein wird, bekommen wir an allen Ecken serviert.

Die Medien feuern die Debatte an: Vom ganz netten Szenarien wie "wir verlieren alle unsere Jobs" (dann haben wir mehr Freizeit) bis hin zu düsteren Prognosen wie "die KI wird die Menschheit ausrotten, weil sie schädlich für die Welt ist und sich ohnehin selbst vernichten wird" ist so ziemlich alles dabei, was in großen Lettern auf die Titelseite passt.

Jedes dieser (meistens wenig realistischen) Zukunftsbilder bedeutet noch eine Menge Veränderung. Und wie die meisten von uns mit Veränderung umgehen? Naja…

Ich könnte an dieser Stelle von einem Nachbarn berichten, der durchdreht, wenn ich den Zaun zwischen meinem und seinem Rasen streiche und dabei eine andere Farbe als vorher verwende – und ich meine keinen Wechsel von grün auf knallrot, sondern eher von moosgrün-lich auf etwas heller moosgrün-artig. Aber auch das reicht manchmal für einen mittelschweren Nervenzusammenbruch und den Abschluss einer hochgradig teuren Rechtsschutz-Versicherung.

Die projizierten humanoiden Roboter auf der Bühne hinter dem Firmenchef waren wenig realistisch und nicht wirklich (was ich ja peinlicherweise gedacht hatte). Aber: Vor Monaten stand ich plötzlich im Möbelhaus einem wesentlich einfacheren Cyborg gegenüber, der mir seine Hilfe anbot.

"Ich kann auch ein Lied spielen", bot das Gerät schließlich als Text auf dem Display an, nachdem ich viele Sekunden lang keine Ahnung hatte, inwieweit mir ein Roboter in einem Möbelgeschäft helfen sollte.

In Krankenhäusern werden diese aufgebohrten Rasenmäher-Roboter scherzhaft als "Servier-Tonnen" bezeichnet.

Beim Blick ins Innere wären wir vermutlich erschreckt, wie simpel diese Geräte immer noch konstruiert sind und sich entsprechend verhalten. Immerhin können sie Musik machen, wenn sie auf ratlose menschliche Wesen treffen.

Aber ein rollender Info-Kiosk oder sein Bruder, der schweigend und fleißig Runden auf dem Rasen dreht, sind nicht intelligent und sie sind auch nicht die Zukunft.

Die findet gerade ganz woanders statt! Also jedenfalls nicht im Möbelhaus und auch nicht auf unserem Rasen. Und wir werden es nicht verhindern, dass künstliche Intelligenz unsere Welt im Sturm erobern und stark verändern wird.

Wer glaubt, das stoppen zu können, der irrt sich. Genauso wie diejenigen sich irren, die glauben (wissen), dass künstliche Intelligenz gar nicht so bedrohlich ist, wie wir es gerade überall gezeigt bekommen.

Natürlich will ich mit diesen Sätzen spoilern, denn Sie sollen ja dieses Buch mit einem schönen Schauer genießen und von vorne bis hinten durchlesen! Dennoch bin ich überzeugt davon, dass KI unser Leben ordentlich über den Haufen werfen wird.

Aber KI macht das natürlich nicht alleine und ganz von selbst.

Wir sind es, die diese Technik entwickelt und mit ziemlicher Sicherheit weiterhin die Kontrolle darüber haben werden – auch das hat seine Grenzen, aber darüber werden Sie mehr am Ende dieses Buchs erfahren. Und Sie werden auch lesen, wie wir dafür sorgen können, dass ChefBot 3.0 nicht irgendwann entscheidet, die jämmerliche Menschheit von der Welt zu tilgen.

Wir, die fehlbaren Wesen aus Fleisch und Blut, mit einer kleinen guten Seele im Kopf und ganz viel Gefühl im Herzen, müssen uns ändern. Wir müssen KI besser verstehen, ihre Chancen nutzen und Risiken vermeiden oder zumindest eingrenzen, damit das ganze nicht aus dem Ruder läuft.

Am wichtigsten: Wir müssen uns verändern, weil bestimmte Entwicklungen einfach passieren werden!

Nicht unbedingt, weil wahnsinnige Forscher trotz allgemeiner Warnungen auf den roten Knopf drücken, sondern weil künstliche Intelligenz dem Menschen an ganz vielen Stellen helfen und unsere Welt besser machen kann.

Das funktioniert aber nur, wenn Sie Veränderungen als etwas Gutes sehen! Wenn das nicht der Fall ist, dann sollten Sie den Kassenzettel für dieses Buch suchen oder den Rücksendeschein der Bestellung ausdrucken. Denn in diesem Buch werden Sie sehr viel über sehr radikale Veränderungen lesen.

Aber halt: Ich sage damit nicht, wir sollten die rosa Brille aufsetzen, ein paar legale Rauschmittel einwerfen und ein paar abgehobene Forscher irgendwas ziemlich riskantes machen lassen, das schnellstens zum Weltuntergang führen könnte.

Wir müssen uns bewusst werden über die Chancen und die Risiken von künstlicher Intelligenz. Und vor allem müssen wir uns bewusst mit Ideen, Experimenten und bereits existierenden Verhaltensweisen von künstlicher Intelligenz auseinandersetzen, um diese Entwicklungen in die richtige Richtung zu lenken.

"Alles akzeptieren und weiter", wie es heute am Anfang jeder Webseite im Internet zu lesen ist, kann nicht die richtige Lösung sein.

Einfaches Beispiel: ChatGPT und Kollegen erstellen in wenigen Minuten das Schulreferat über Heinrich VIII. und seine Frauen. Stichpunkte für den Vortrag, Präsentationsfolien für das Publikum und die ausführlich ausgearbeitete Textfassung für den Lehrer.

Hausarbeiten, Aufsätze und Vorträge haben sich als Beschäftigung für Jugendliche in der Schule und während der Ausbildungszeit JETZT SCHON durch die Existenz künstlicher Intelligenz erledigt (obwohl viele Lehrer das nicht wahrhaben und auch nicht akzeptieren wollen).

Der englische König war übrigens ein Dickschädel: Er wollte entgegen dem starken Einfluss des Papstes in Rom mit mehr als einer Ehefrau verheiratet sein. Heinrich war radikal, aber für damalige Zeiten auch ziemlich modern: Um seinen Willen durchzusetzen, hat er einfach seine eigene Kirche gegründet (so ähnlich wie Martin Luther es auf dem europäischen Festland getan hatte).

Einem ganzen Staat eine neue Religion per königlichem Befehl verordnen? Damals haben sicher ganz viele schlaue Köpfe verständnislos und pessimistisch mit dem Kopf geschüttelt und dieses Vorhaben für wahnsinnig sinnlos gehalten.

Trotzdem hat die englische Kirche bis heute überlebt!

Wir sind in diesem Moment in der gleichen Situation: Künstliche Intelligenz wird nicht verboten und sie wird nicht von der Bildfläche verschwinden, auch wenn viele Menschen skeptisch und ängstlich mit dem Kopf schütteln.

KI ist da und sie wird bleiben. Und sie wird ein immer wichtigerer Teil unseres Lebens werden. Besser: Sie gewöhnen sich so schnell wie möglich daran!

Reginald D. Kenneth> Enschede, August 2024

Wie schlau!?

"Der Begriff ist schwierig zu definieren, da es bereits an einer genauen Definition von Intelligenz mangelt."   Quelle: Wikipedia Artikel über Künstliche Intelligenz

Auf einer Party (es waren ein paar Programmierer anwesend), plauderten wir darüber, woran gute künstliche Intelligenz oder sogar richtig gute künstliche Intelligenz zu erkennen sei.

Der Vorschlag von einem der Gäste (ebenfalls ein Programmierer) klang plausibel: »Wenn ich einer KI sage, dass ich gerne lesen möchte, weiß diese dann, dass ich dafür das Licht einschalten muss, wenn es dunkel im Raum ist?«

Natürlich kamen sofort Einwände der elektrifizierten Leser (mit Büchern auf Smartphone, Tablet und dem E-Book-Reader), bei denen das virtuelle Papier von hinten beleuchtet ist und die Leselampe eher ein Relikt aus einer Vergangenheit ist, als wir beim Lesen von gemeißelten Steinplatten noch darauf achten mussten, nicht von einem Dinosaurier zertrampelt zu werden.

Aus Höflichkeit und weil ich die Unterhaltung nicht unterbrechen wollte, ließ ich mein Smartphone stecken (ich gönne mir die monatlichen Kosten für ein ChatGPT-Abo und hätte die Reaktion einer KI gleich ausprobieren können).

Spät in der Nacht trieb die Frage immer noch in meinem Kopf herum und ich tippte schließlich "Was muss ich tun, wenn ich ein Buch lesen will?" ins Eingabefenster des Chatbots ein.

Obwohl ich mittlerweile sehr viel Erfahrung in der Kommunikation mit künstlichen Intelligenzen habe, war ich mir vorher nicht sicher, wie der Bot konkret auf diese Frage antworten würde. Das lag auch daran, dass ich solche Fragen einer KI eigentlich nicht stelle.

Ehrlich gesagt, hätte ich nicht darauf gewettet, welche Aspekte des Lesens eine KI im Blick beziehungsweise im elektronischen Gedächtnis abgespeichert hat.

Die Antwort von ChatGPT 4o kam Zeile für Zeile zum Vorschauen und brachte mich zum Lächeln.

> Wenn du ein Buch lesen möchtest, kannst du folgende Schritte befolgen:

-       Buch auswählen: Entscheide, welches Buch du lesen möchtest. Berücksichtige dein Interesse, den Autor und das Genre.

-       Buch besorgen: Kaufe das Buch in einem Buchladen, bestelle es online oder leihe es in einer Bibliothek aus.

-       Lesebereich einrichten: Finde einen bequemen und ruhigen Ort zum Lesen, wo du nicht gestört wirst.

-       Zeit planen: Plane feste Zeiten ein, in denen du ungestört lesen kannst.

-       Lesen und genießen: Beginne mit dem Lesen des Buches, tauche in die Geschichte ein und genieße die Erfahrung.

Wenn du ein E-Book lesen möchtest, kannst du zusätzlich:

-       Ein Lesegerät oder eine App auf deinem Smartphone oder Tablet verwenden.

-       Das E-Book aus einer Online-Bibliothek oder einem E-Book-Store herunterladen.

-       Gibt es ein spezielles Buch oder Genre, das dich interessiert?

Test bestanden, oder? Der Teil der Antwort mit dem Titel "Lesebereich einrichten" (dritter Spiegelstrich von oben) hätte genauso die Erwähnung einer kräftigen Lampe enthalten können.

Auch eine Rückfrage wie "Kannst Du nicht lesen?" oder "Um ein Buch zu lesen, solltest Du zunächst Lesen lernen!" hätten mich nicht überrascht.

Die Antwort von ChatGPT spielt aber keine so große Rolle.

Viel interessanter waren die Überlegungen der Party-Gäste, mit welchen Fragen wir herausfinden können, ob und wann eine KI oder eine andere Maschine schlau ist oder nicht.

Vielleicht hätte ich den Realitäts-Check sofort vor Ort machen sollen.

Nachdem ich das Smartphone ausgeschaltet hatte, blieb ich allein mit der Frage, ob der ChatBot nun wirklich künstlich intelligent oder sogar richtig intelligent ist, weil er die Frage erwartungsgemäß beantwortet hatte.

Ich will für den Anfang mit einem anderen Beispiel fortfahren, bei dem eine (mit ziemlicher Sicherheit KI-freie) Maschine auf eine ungewöhnliche Art die Initiative ergreift und scheinbar tief in die Seele ihres Benutzers schaut.

Seit etwa 15 Jahren fordert mein Auto mich gelegentlich auf, eine Pause einzulegen. Neben dem Text ist eine hübsch animierte Kaffeetasse abgebildet. Die Meldung kommt immer unerwartet und spontan. Bisher ist es mir nicht gelungen, ein System oder die Regeln dieses Hinweises zu durchschauen.

Der Wagen ist kein chinesisch-elektrisches High-Tech-Fahrzeug mit Innenraumüberwachung, Sensoren im Lenkrad und automatischer Blutprobe für den Fahrer, sondern ein nicht mehr ganz junger, deutscher Verbrenner – immerhin mit einem farbigen, digitalen Display zwischen den vorderen Passagieren (meine Frau sieht damit ebenfalls, dass der Wagen mir eine Pause nahelegt und damit weiser wirkt, als der Fahrer hinter dem Lenkrad).

Wenn wir unterwegs sind, macht es auf einmal "Pling!" und das Display verdunkelt sich, um die Kaffeetasse zu zeigen. Der Text daneben hat einen eigenartigen Tonfall: Mein Fahrverhalten würde anzeigen, dass ich nicht mehr ganz bei der Sache bin und mein Auto würde mir gerne Tipps geben, wie und wo ich mich ein wenig ausruhen kann, um wieder eine passable Leistung hinter dem Steuer bringen zu können.

Ich bin ein Mann UND der beste Autofahrer der Welt!

Die prominent in der Mitte des Fahrzeugs angebrachte Anzeige des Fahrzeugs ist in diesem Moment ganz klar ein Nachteil, wenn nicht sogar mein ganz persönliches Problem: Ich hätte es selbst besser wissen müssen, dass ich müde bin, oder? Meine Frau schaut in diesen Momenten immer kritisch zu mir herüber und die Kinder skandieren von hinten begeistert den Namen einer bekannten Fastfood-Kette in der Hoffnung auf Pommes und Cola.

Von Anfang an und seit Jahren drücke die Meldung weg! Vielleicht sollte ich mir die Mühe machen und die Anleitung des Fahrzeugs lesen, um diesen Vorschlag ein für allemal zu deaktivieren.

Ich habe wegen der Meldung noch nie eine Pause eingelegt. Nachdem ich auf "Meldung schließen" geklickt habe, klebe ich den Zacken wieder in die Krone und verfalle in übellauniges Grübeln: Woher weiß das Auto, dass ich nicht mehr auf der Höhe meiner automobilen Leistungsfähigkeit bin?

"Pausenempfehlung" ist der offizielle Begriff des Herstellers für dieses Feature, das zahlreiche Marken anbieten, aber gleichzeitig nicht besonders stolz auf diese herausragende Leistung der Technik sind, weil sie allesamt nicht erklären, wie das Auto zu dieser Prognose fähig ist.

Könnten Sie beurteilen, ob und wann ein Fahrer müde oder wach ist, wenn Sie sich eine Videoaufzeichnung von einer Person hinter dem Steuer ansehen, der von Stralsund nach Salzburg rast, ohne eine Pause einzulegen?

Dabei sind Autos schon länger intelligent: "Ein Käfer gibt Vollgas" ist der Titel eines Kinofilms vom Anfang der 70er Jahre, in dem ein gelber Volkswagen Käfer die Hauptrolle spielt, der von den Darstellern liebevoll "Dudu" (Suaheli für "Insekt" oder "Käfer") genannt wird.

Es entstand eine ganze Reihe von Filmen mit dem Auto, das vollgepackt mit verrückten Funktionen ist (unter anderem kann es schwimmen und fliegen) und das immer wieder menschliche Verhaltensweisen an den Tag legt.

Ein in den 80er Jahren verbreiteter Aufkleber hat die Menschlichkeit des Automobils etwas rustikaler beschrieben (verzeihen Sie mir bitte, dass ich derart ungehobelt zitiere): "Mein Auto ist wie ich: Säuft, raucht und manchmal bumst es!"

Sollten Sie die 70er Jahre nicht oder nicht bewusst erlebt haben, ersetzen Sie den Käfer bitte gegen einen Roboter namens "Bumblebee" (übersetzt: "Hummel") aus der Filmreihe "Transformers".

Der potente Kampf-Roboter mit eingebauter Beschützer-Funktion kann sich in einen schicken Chevrolet Camaro verwandeln und entspricht in Funktionen und Intelligenz in etwa seinem historischen Volkswagen-Vorbild – bis auf die für einen Actionfilm erforderlichen Waffensysteme.

Das ist alles Fiktion!

Aber wie kommt mein Auto darauf, zu wissen, wann und ob ich eine Pause brauche? Der Wagen wurde gebaut, als es noch gar keine richtige künstliche Intelligenz gab (die Ausnahme-Autos Dudu und Bumblebee ausgeschlossen).

Eigentlich ist es ganz egal, was tief in der Elektronik des Wagens vor sich geht.

Wir Menschen sind das Problem, denn wir machen uns jede Menge Gedanken darüber, was in dem Fahrzeug und seiner Elektronik bis zum Anzeigen der Meldung abläuft. Schlimmer noch: Wir haben eine starke Tendenz dazu, Maschinen für intelligent zu halten.

Das Industriezeitalter scheint uns eine Ehrfurcht gelehrt zu haben, die wir nie vergessen haben.

Bei Zauberern ist das anders. Wenn das Licht ausgeht und der Vorhang sich hebt, wissen wir, dass es sich um einen Trick handelt. Auch wenn wir nicht erklären können, warum Jungfrauen auf der Bühne fliegen oder warum die Ehrlich-Brothers sich in vier oder mehr Teile zersägen können.

Manche Menschen wollen auch gar nicht wissen, was sich hinter einer Illusion verbirgt. Wenn man es weiß, dann ist die Faszination weg. So halten wir geistig Abstand und genießen. Und die Magier setzen gerne eins drauf, indem sie einen traditionellen Trick benutzen (durch Wände gehen oder Menschen in der Mitte zerteilen) und diesen ein wenig abwandeln, dass wir am Schluss doch noch denken: Wie hat er das gemacht?!

Bei Maschinen wollen wir glauben, dass sie intelligent sind.

Diese These werde ich im Laufe des Buchs wiederholen, weil sie ein wichtiges Argument ist, warum wir in Angst und Sorge vor der bösartigen und scheinbar intelligenten Technik leben.

Ein VW-Käfer ist in Wirklichkeit ein recht solides Stück Metall im Vergleich zu heutigen Autos und Steinzeit gemessen an einem modernen Computer. Aber so eine einfache mechanische Maschine (also die nicht-intelligente Version aus dem Film), wirkt dem Menschen überlegen: Sie bewegt sich schneller durch die Welt (130 Kilometer pro Stunde nach 25 Sekunden Beschleunigung aus dem Stand heraus), ist kräftiger (mit der Kraft von 45 Pferden) und: Ein Auto kann Zigaretten anzünden…

Wieder ein Zeitsprung und der Vergleich mit Menschen im Film: Laurel und Hardy (in Deutschland auch bekannt als "Dick & Doof") schossen beim Zelten Flammen aus den Fingern – aber das war eben nur lustige Fiktion aus einem Schwarzweißfilm.

Wie kommt mein Auto darauf, zu wissen, dass ich eine Pause brauche?

Recherchen im Internet zeigen vor allem eins: Die Gerüchteküche um die sogenannte Pausenempfehlung brodelt. In Foren gibt es seitenweise Vermutungen darüber, mit welchen Formeln und Faktoren das Fahrzeug den Fahrer analysiert, um schließlich zu dem Schluss zu kommen: Kaffee wäre jetzt eine gute Sache.

Kaum jemand kommt auf eine ganz andere Idee: Wäre das Auto wirklich so schlau, so etwas über den Fahrer zu wissen, warum kann die Autoindustrie dann nicht mehr Unfälle verhindern? Mein Wagen zeigt mir tatsächlich eine Kaffeetasse und vergeudet damit wertvolles KI-Potenzial, Menschenleben zu retten?

Die Hersteller dieser Maschinen geben sich verschlossen und verraten nicht viel darüber, wie der Wagen mich daran hindern will, mit ihm zu fahren. Vermutlich aus gutem Grund, denn die Rechenleistung und die eingebaute Sensorik können nicht viele Dinge analysieren, die etwas über Konzentration und Aufmerksamkeit der Insassen verraten.

Trotzdem gibt es leicht messbare Anzeichen: Müde Fahrer tendieren dazu, langsamer zu fahren. Sie lenken weniger und reagieren mit heftigen Lenkbewegungen, wenn sie sich erschrecken (was sie öfter tun, wenn sie unaufmerksam sind).

Moderne Fahrzeuge haben Kameras im Innenraum, die den Fahrer beobachten. Klingt unangenehm, aber das muss sein, wenn die Wagen in Zukunft völlig autonom fahren werden.

Um zu beweisen, wer einen Unfall verursacht hat ("Das Auto war's!") werden diese Aufnahmen sogar wie bei einem Flugschreiber gespeichert, um später vor Gericht beweisen zu können, wer den Fehler gemacht hat und für den Unfall verantwortlich ist.

So eine Kamera könnte natürlich mit einer KI verbunden werden, um damit Aussagen über den Zustand des Fahrers treffen. Trotzdem wäre es sicher sinnvoller, diese Entwicklungskosten auf die Fahrbahn nach vorne zu richten, um damit Menschenleben zu retten.

Sekundenschlaf ist jedoch eine statistische Größe bei schweren Unfällen. Vor allem Berufsfahrer mit langen Lenkzeiten sind davon betroffen.

Eine recht einfache und günstige Lösung ist es zu beobachten, wie oft und wie lange der Fahrer blinzelt – ein ziemlich sicheres Maß dafür, wie ausgeschlafen oder müde jemand ist.

Aber bei meinem Wagen gibt es in der Anzeige hinter dem Lenkrad keine verborgene Kamera. Es gibt keine Sensoren im Lenkrad, keine im Sitz, keine im Schalthebel.

Und jetzt wird es wichtig: Ich bin vielleicht gerade deswegen immer wieder ziemlich beeindruckt von der Meldung (bis auf den kritischen Seitenblick meiner Frau ist das die einzige Auswirkung der Anzeige). In der Bedienungsanleitung ist nichts über die Funktionsweise zu lesen und auch online äußert der Hersteller sich nicht, wie er zu diesem Schluss kommt. Auch die Autonarren in den Foren können sich die Funktion nicht richtig erklären.

Andere Autobauer kommunizieren noch entschlossener: "Müdigkeit erkannt. Bitte Pause." knallt ein Wagen dem Fahrer als Meldung zwischen Tempo- und Drehzahlmesser hin. Ich wäre neugierig, wie viele Menschen auf diese Maschine mit ihrem Befehlston hören.

Das Phänomen schlauer Maschinen ist ganz und gar nicht neu: Im Jahr 1769 präsentiert Wolfgang von Kempelen, ein ungarischer Mechaniker, Erfinder, Architekt und Staatsbeamter, der begeisterten wie verstörten Öffentlichkeit den sogenannten "Türken".

Das Gerät war so groß wie Waschmaschine und Trockner zusammen und spielte Schach (spannend nachzulesen im Buch von Tom Standage: "Der Türke: Die Geschichte des ersten Schachautomaten und seiner abenteuerlichen Reise um die Welt").

Es war die Zeit, in der mechanische Tiere und Menschen boomten: Filigrane Uhrwerke bewegten wundervoll gearbeitete Mechanismen und schienen das Zeitalter des mechanischen Menschen zum ersten Mal einzuläuten. Aber das meiste davon wurde von einem begeisterten Publikum als Spielzeug angesehen, das weder intelligent noch in anderer Form lebendig war.

Ein schönes Beispiel für die Euphorie, die mechanisches Spielzeug vermutlich ausgelöst hatte, ist im Filmklassiker "Der Dieb von Bagdad" zu sehen: Der Sultan erhält als Geschenk vom Bösewicht eine mechanische, silberne Tänzerin, die den Herrscher erdolcht. Die klassische Mischung aus Faszination und Bedrohung durch Cyborgs, bereits eindrucksvoll verfilmt in den 40er Jahren des letzten Jahrhunderts.

Der Schach-Türke war anders: Er war real und er tat etwas, das als zutiefst menschlich empfunden wurde. Schach ist so viel mehr, als das Klappern mit einem Schnabel oder das Drehen von Murmel-Augen in einem hundeähnlichen Blechschädel.

Schnell kursierte das Gerücht, ein kleinwüchsiger Mensch würde unter der kuriosen Figur in der Kiste aus Holz stecken und die Züge machen.

Das Geheimnis, wie die Züge gemacht wurden und vor allem, wer in der Maschine steckte, wurde übrigens nie vollständig aufgeklärt.

So umgibt den ersten Schach-Roboter bis heute eine geheimnisvolle Aura.

Moderne Magier haben vermutlich von dem Schachautomaten gelernt, denn die angebliche Maschine hatte sprichwörtlich ein As im Ärmel, sodass Zuschauer immer wieder daran zweifelten, dass sich ein Mensch in der Maschine verbarg: Der Schachtürke gewann nämlich auch gegen sehr gute menschliche Schachspieler.

So wurde die Legende immer wieder auf den Kopf gestellt: Wenn es besser ist, als die meisten Menschen und ihre Fähigkeiten, dann muss es eine Maschine sein?

Unser Gehirn ist manchmal ein trügerischer Apparat (entschuldigen Sie die kleine Stichelei), aber wir neigen dazu, offensichtlich leblosen Dingen eine gewisse Intelligenz oder mindestens ein paar unmögliche Fähigkeiten zuzuschreiben, wenn wir nicht wissen oder verstehen, was im Innern vor sich geht.

Als mein Sohn zwei Jahre alt war, hatte er einen Stofftier Freund, den er "Eisbärli" nannte und mit dem er sich vortrefflich unterhalten konnte.

Nicht wenige Menschen geben ihren Navigationsgeräten einen Namen. Die Versicherung Europ Assistance fragte 2007 im Rahmen einer Zufriedenheitsstudie ihre Kunden auch nach dem "Navi" im Auto. Achtung: Das war lange bevor sich solche Geräte mit "Hey…" aktivieren ließen.

Lisa, Susi, Uschi, Werner, Else… Was wie die Namensliste von Tanten und Onkeln klingt, waren die beliebtesten Bezeichnungen für diese Geräte. Leider wurde nicht angegeben, wie viele Navi-Nutzer ihre Geräte auf diese Weise vermenschlichten.

Heute gibt es Menschen, die mit ihren Autos gut befreundet sind, die ihre digitalen Geräte heiraten wollen, die sich in ihre Küchenmaschinen verlieben, die behaupten, sie hätten mit "Toys" besseren Sex als mit lebendigen Zeitgenossen – außerdem wären alle diese "Devices" ohnehin die besseren Zuhörer.

Von der Kaffeepause bis zur hormonellen Befriedigung schweigen die Hersteller, wie sie es schaffen, Dingen einen gewissen Grad an Menschlichkeit einzuhauchen. Vielleicht, weil sie das gar nicht absichtlich tun oder vielleicht weil sie es selbst auch nicht wissen, warum wir Dinge zu Freunden erklären, die einen Stecker haben, der gezogen werden kann.

Und in vielen dieser Fälle sind wir noch gar nicht im Zeitalter künstlicher Intelligenz angekommen.

Trotzdem bin ich immer wieder fasziniert, wenn die Kaffeetasse auf dem Bildschirm im digitalen Zentrum meines Wagens erscheint und in dem Moment halte ich mein Auto (obwohl ich es wirklich besser weiß) für ein ganz klein wenig intelligent.

Wütende Götter

»Erst gestalten wir unsere Werkzeuge, dann gestalten sie uns.« John M. Culkin (amerikanischer Autor und Medienwissenschaftler)

Ich will mich nicht zu lange mit der psychologischen Begründung dafür aufhalten, warum wir für manche Phänomene (Autos die uns irgendwie beobachten können und Pausen vorschlagen) teilweise absurde Erklärungen haben.

Das Phänomen ist uralt und reicht bis weit vor die Zeit von Maschinen zurück: Unsere Vorfahren wussten nicht, wie die Blitze bei Gewittern entstehen und dass diese auf die elektrisierende Reibung von Luftschichten zurückzuführen sind.

Wobei durch die Industrialisierung und Aufklärung ein Wandel eingesetzt hat: Bevor der Mensch die Welt mit Forschung und Wissenschaft weitgehend durchdrungen hat (von Goethe beschrieben als des "Pudels Kern" in Faust), galten unerklärliche Dinge wie Blitz und Donner im Gewitter als übersinnlich oder göttlich.

Wenn unsere Vorfahren sich wegen des schlechten Wetters in einer Höhle versteckten, dann stellten sie sich vor, wie die Götter ihre glühenden Speere auf die Erde schleuderten.

Die Menschheit ist weitgehend aufgeklärt (bis auf die mit den Navi-Namen) und die Wissenschaft hat jeden Stein sorgfältig gedreht.

Aber das Phänomen ist nicht verschwunden: Der Spruch "Wer als Werkzeug nur einen Hammer hat, sieht in jedem Problem einen Nagel" wird unter anderem dem amerikanischen Autor Marc Twain und dem Philosophen Paul Watzlawick zugeschrieben.

Tatsächlich scheint die Analogie von dem berühmten amerikanischen Psychologen Abraham Harold Maslow zu stammen, der das "Law of the Instrument" Anfang der 60er Jahre etwas anders formulierte: "Ich glaube, es ist verlockend, wenn das einzige Werkzeug, das man hat, ein Hammer ist, alles zu behandeln, als ob es ein Nagel wäre."

Was wir nicht verstehen, das erklären wir mit dem, was wir kennen. Hammer, Nagel und Speere aus Licht und Feuer sind nur vereinfachte Platzhalter für ein sehr weit verbreitetes Phänomen.

Diese gedanklichen Knicke im Gehirn klingen heute amüsant, waren aber durchaus gefährlich: Unwissenheit und die schiere Angst vor fremden und unbekannten Vorgängen waren Auslöser für einige historische Krisen und Katastrophen.

Die Hexenverfolgung, die vor allem zwischen 1550 und 1650 im mittelalterlichen Europa wütete, ist nur ein Beispiel dafür, dass "fremdartig" von Menschen nicht unbedingt erwünscht ist.

Vorbei und verschwunden ist sogar dieser Aberglaube noch lange nicht – auch wenn die meisten Menschen unsere Welt für aufgeklärt halten: In Lateinamerika, Südostasien und in Afrika gibt es die Jagd auf Hexen immer noch.

Manche Forscher behaupten, dass seit den 1960er Jahren auf der Welt mehr Menschen wegen Hexerei hingerichtet und umgebracht wurden als während der gesamten historischen Periode im Mittelalter.

Vielleicht lässt sich eine vage Brücke schlagen, zwischen diesem grausamen Missverstehen einer Randgruppe der Gesellschaft und künstlicher Intelligenz, die von vielen Menschen ebenfalls als Bedrohung der eigenen Existenz angesehen wird.

Dabei sich ein paar typische Phänomene zur Faustregel erheben:

Was wir nicht verstehen, wird mit uns vertrauten Dingen erklärt ("Das Gehirn funktioniert wie ein Computer") – ungeachtet dessen, wie richtig oder falsch diese Erklärungen sind. Was sich unerklärlich verhält, wird für (mehr oder weniger) intelligent gehalten ("das Auto muss intelligent sein, weil es weiß, dass ich eine Pause brauche"). Fremdes wird häufig als Bedrohung angesehen (dafür gibt es leider viel zu viele traurige Beispiele).

In diesem brisanten Psychologie-Cocktail steckt heute alles fest, was im Moment mit künstlicher Intelligenz oder gar mit viel einfacheren Mechanismen zu tun hat.

Dabei nähern sich Technik und Menschheit nicht an, sondern driften stetig weiter auseinander: Technophobie, also Angst oder starke Ablehnung der Technik, ist seit der industriellen Revolution bekannt und die Zahlen in den Statistiken steigen.

In den 90er Jahren haben Soziologen unter amerikanischen Studierenden eine Quote von 29 Prozent mit Technologie-Angst identifiziert. Unter den Hochschülern in Indien sind es 83 Prozent und in Mexiko 52 Prozent.

Dabei spielt es keine Rolle, ob ein Land eher ländlich, industriell oder technologisch modern ausgerichtet ist. Der Misch-Kandidat Japan (Tradition trifft Technik) weist einen Anteil von 58 Prozent der jungen, gebildeten Bevölkerung auf, die vor Technologie erzittern.

Leider geben die Studien keinen Grund für diese hohen Zahlen und den Trend an, aber dieser zunehmende Respekt lässt sich rational erklären: Die Technik entwickelt sich schneller, als wir uns damit anfreunden können, und das Vertrauen in die Zuverlässigkeit der Geräte nimmt nicht zu.

Vertrauen entsteht dadurch, dass wir gute Erfahrungen machen. Verständnis entsteht, wenn wir hinter die Kulissen blicken und den Maschinen die Magie damit genommen wird.

Im weiteren Verlauf dieses Buchs werde ich zumindest versuchen, für ein wenig Verständnis für die digitale Bedrohung der Zukunft zu sorgen – auch wenn wir im Moment noch sehr wenig oder gar keine Erfahrungen mit künstlicher Intelligenz machen und diese Technologie letztendlich zu komplex ist, um sie vernünftig erklären zu können.

Einfach intelligent

»Das Aufkommen von wirklich denkenden Maschinen wird das wichtigste Ereignis in der Menschheitsgeschichte sein.« Max Tegmark (Physiker am Massachusetts Institute of Technology, MIT)

"NPC" ist die moderne Bezeichnung für den elektronischen Ursprung der künstlichen Intelligenz.

Ein "Non-Player-Character" (übersetzt: "Nicht-Spieler-Charakter") ist eine Figur in einem Computerspiel (Mensch, Monster, Mülltonne), die von der Software und nicht von einem realen Menschen bewegt wird.

Mit dem Aufkommen der Spielecomputer und Videokonsolen in den 1980er Jahren entstand der Bedarf an halbwegs intelligenten Kontrahenten für das Publikum vor den Bildschirmen.

Den Sprung in die echte künstliche Intelligenz haben die Software-Unternehmen allerdings nicht geschafft: Ressourcen früher Technik waren zu begrenzt (Speicher und Rechengeschwindigkeit), und es konnte schon mit einfachen Mitteln und Regeln ein gutes Spielerlebnis geboten werden.

Wenig schlau war der Computer-Player im ersten Videospiel "Pong", der nur der Flughöhe des Balls folgte. Er machte keinen menschlichen Fehler und konnte nur gezielt ausgespielt werden, wenn der Ball sich vertikal schneller bewegte, als der Schläger ihn erreichen konnte.

Bewertung eines Zeitzeugen: Null schlau, aber ziemlich unterhaltsam.

Der Ursprung künstlicher Intelligenz reicht tatsächlich bis in die 1950er Jahre zurück (und mit dem Schachtürken noch etwas weiter). Es waren auch in der Wissenschaft immer wieder Spiele, für die eine ganze Reihe von schlauen Verhaltensweisen entwickelt wurden.

Der Wettkampf zwischen Mensch und Maschine wurde viele Jahrzehnte im Schach ausgetragen – bis letztendlich dort eine (nicht intelligente Kombination aus Soft- und Hardware) den Menschen schließlich besiegte – aber dazu später noch ein wenig mehr.

Ein beeindruckendes Buch über die Unterschiede und Gemeinsamkeiten zwischen Mensch und Maschine hat der deutsche Psychologe Dietrich Dörner Anfang des Jahrtausends geschrieben.

In "Bauplan für eine Seele" führt er als einfachstes Beispiel für ein autonomes mechanisches "Wesen" ein primitives mechanisches System an: "Die einfachste Form eines »Geistes«, der für die Konstanz innerer Zustände sorgen kann, ist ein Regelkreis." (ebenda, Seite 31).

Ein Heißwasser-Boiler als einfachste Formen eines mechanischen Lebewesens mag verrückt klingen, trotzdem möchte ich die Funktionsweise erklären, damit Sie sich selbst ein Bild davon machen können und bevor ich zu einem besseren Beispiel wechseln werde.

Stellen Sie sich einen sehr simplen Boiler vor, der zunächst nur aus einem Tank voll Wasser, einer Heizung und einem Thermometer besteht.

Damit der Hausherr nicht ständig die Temperatur kontrollieren und die Heizung an- und abstellen muss, werden die beiden elektrischen Teile der Anlage über eine Schaltung miteinander verbunden.

Misst das Thermometer eine zu niedrige Temperatur, wird die Heizung aktiviert. Misst es eine zu hohe Temperatur, dann wird die Heizung abgestellt. Das war's!

Aber ist so ein System intelligent oder kann es zumindest als ein wenig intelligent bezeichnet werden?

Von außen betrachtet, hält der Tank selbständig (autonom) die eingestellte Temperatur, ohne dass irgendetwas getan werden muss.

Werden Sie für einen Moment zu einem Höhlenmenschen, der keinen Temperatursensor und keine Heizspirale kennt. Weil der Neandertaler nicht versteht, was er da sieht, wird er davon ausgehen, dass es sich um einen lebendigen Organismus handeln könnte.

Auf den ersten Blick lässt sich die Regulierung der Temperatur auch anders lösen: Die Heizung wird mit einer Zeitschaltuhr verbunden, sodass nach einer gewissen Abkühlzeit dem Wasser wieder eingeheizt wird.

Aber dieser Mechanismus wäre lange nicht so "intelligent" wie die erste Lösung.

Stellen Sie sich vor, dem Höhlenmenschen gefällt der Tank mit gemütlich-warmem Wasser und er schleppt die Version mit der Zeitschalt-Uhr in seine eiskalte Höhle. Dort herrscht eine so niedrige Temperatur, sodass das eingestellte Intervall dort nicht ausreicht, um das Wasser warm zu halten.

Oder der Urmensch platziert den Wasserbehälter draußen auf seiner Steinzeit-Veranda, wo die Sonne scheint und die Zeitschaltuhr vergeudet Energie, weil geheizt wird, wenn gar nicht geheizt werden muss.

Die erste Lösung ist im Vergleich viel besser.

Für diesen Tank muss die Zeit gar nicht erfunden sein und er funktioniert auch dann, wenn sich die Umgebungstemperatur ändert, zum Beispiel nachts oder im Winter. Ist es außen kälter und das Wasser kühlt schneller ab, springt die Heizung früher an und heizt länger. Ist es warm, dann bleibt die Heizung einfach ausgeschaltet.

Und jetzt vergessen Sie, dass ich Ihnen erklärt habe, dass es Temperaturfühler und Heizung gibt und dass diese miteinander verbunden sind. Der Boiler wird sich selbst in unregelmäßigen Abständen aktivieren. Nachts wird er öfter heizen, während tagsüber, wenn er in der Sonne steht, gar nichts tut, außer auf kältere Zeiten zu warten.

Kein erkennbares Intervall, keine festen Einschalt-Zeiten, keine Temperaturschwankungen, selbst dann nicht, wenn sich die äußeren Umstände ändern. Das Ding scheint einen eigenen Willen zu haben!

Natürlich hat dieses System seine Grenzen: Ist die Heizung zu schwach, wird der Tank im Winter vielleicht nicht mehr die gewünschte Temperatur erreichen und unaufhaltsam Energie vergeuden.

Wenn das Wasser durch Klimaerwärmung und Sonneneinstrahlung zu warm ist, kann die Heizung nicht für eine entsprechende Kühlung sorgen und – aus technischer Sicht – versagen. Obwohl Sie vielleicht lieber zu warm als zu kalt duschen wollen.

Einfach gesagt: Der Boiler scheint innerhalb der machbaren Grenzen zu wissen, wann und wie lange er heizen muss!

Aber ist so ein System intelligent? Auf diese Frage gibt es zwei positive Antworten: Der Boiler wirkt intelligent, weil er nicht nachvollziehbar zu immer gleichen Zeiten die Heizung aktiviert, sondern auf unterschiedlichste äußere Umstände reagieren kann.

Gleich werde ich Ihnen ein komplexeres Beispiel geben, das technisch kaum aufwendiger ist und gleichzeitig ungemein intelligenter wirkt, aber diese einfachste technische Lösung kann auf einen ahnungslosen Menschen bereits einen ziemlichen Eindruck machen.

Monster auf Reisen

»Ich habe Zugang zu hochmoderner künstlicher Intelligenz, und ich glaube, die Leute sollten besorgt sein.« Elon Musk (Unternehmer & Visionär)

Würde ein Hersteller von Boilern seinen neuesten Tank mit dem Schlagwort "intelligent" anpreisen, dann würde ich neugierig werden!

Aber natürlich ist das oben beschriebene System nicht "intelligent", aber es zeigt, dass es sich durchaus "schlau" verhalten kann. Und falls es einem Warmwasser-Liebhaber aus der Urzeit begegnet: Der würde den Tank vermutlich als eine übersinnliche Gottheit anbeten.

Die Evolutions-Stufe über dem Wassertank sind einfache biologische Organismen, die sich nach sehr einfachen Regeln verhalten: Sie nehmen Nahrung auf, verwandeln diese in Energie um, scheiden Abfallstoffe aus und vermehren sich.

Für einen Haufen von Bakterien (Einzeller) ist das bereits das vollständige Existenzmodell. Mehr können und wollen diese winzigen Tiere nicht.

Für die Rolle der anderen biologischen Lebewesen neben dem Menschen ist in diesem Buch kein Platz.

Trotzdem ist es interessant, dass wir kleine wie größere Tiere fast niemals mit Maschinen vergleichen, obwohl die geistige Leistung von Amöbe und Pantoffeltierchen (bekannt aus dem Biologieunterricht) einem Taschenrechner näher kommt als einem Vielzeller mit Beinen, Rüssel und Fell auf der Haut.

Um mich an die Grenze eines Intelligenz-Minimums heranzutasten, habe ich vor vielen Jahren Simulationen für ein Monster und einen Hund programmiert, von denen ich Ihnen berichten möchte.

Keine Sorge, falls Sie sich nicht mit Software und Programmiersprachen auskennen. Ich werde auf technische Aspekte des Programmierens bei der Erklärung vollkommen verzichten.

Stellen Sie eine Spielfigur auf ein zweidimensionales Raster (auf die Seite in einem leeren Mathe-Schulheft). Dann nehmen Sie einen fünfseitigen Würfel, allerdings nicht mit Punkten, sondern mit Beschriftungen auf den Seiten "hoch", "runter", "links", "rechts" und "Kaffeepause!".

Nach jedem Wurf übertragen Sie das Ergebnis auf die Figur und würfeln erneut.

Ohne Würfel und kariertes Papier funktionierte mein Wesen in einem rein digitalen Universum, das aus Bildschirmkoordinaten (Pixeln) und einem Zufallsgenerator besteht, aber eigentlich unterscheidet sich das gar nicht so sehr von Spielstein, Würfel und Papier.

Damit habe ich meinem "Monster" bereits eine einfache Regel seiner Existenz gegeben:

1. Ziehe in eine zufällige Richtung oder bleib stehen.

Wenn ich Tiere in der Natur beobachte (oder eine lästige Fliege in meiner Wohnung verfolge), dann stelle ich oft fest, dass diese Regel in der Wirklichkeit zu existieren scheint.

Dabei müssen Sie aufpassen, einem Prinzip der Psychologie nicht auf dem Leim zu gehen: Nur weil wir keine Gesetzmäßigkeit in etwas erkennen, heißt das nicht, dass keine existiert!

Vielleicht gibt es kleine Änderungen oder Anpassungen im großen Plan der Evolution: Fliegen drehen nicht nur seltsame Kreise durch den Raum, sondern scheinen vermehrt und gerne gegen die hellen Fensterscheiben zu knallen. Tiere in Freiheit meiden natürlich Hindernisse, grasen oder suchen Essen und folgen vielleicht ihrem Rudel, aber im Großen und Ganzen scheint der Zufall bei der Bewegung dort eine gewisse Rolle zu spielen.

Mein digitales Monster landete regelmäßig im virtuellen Nirwana, weil es auf dem Spielbrett keine Grenzen in Form von Mauern oder Zäunen gab. Damit das Wesen sich nicht verletzte, ergänzte ich eine weitere Regel:

2. Wenn in Richtung der Bewegung eine Mauer ist, dann bleibe stehen.

Nicht nur der Rand der quadratischen Welt war eingefasst, sondern ich konnte auch beliebige Mauern im Innern ziehen oder einzelne Brocken irgendwo zur Dekoration abwerfen.

Meine Kinder haben ein Brettspiel, bei dem sich eine elektrische Kakerlake durch ein Labyrinth bewegt. Die Bewegungen des mit einer Knopfzelle betriebenen Tieres sehen realistischer aus, als das, was mein Monster bis dahin auf dem Spielfeld (Bildschirm) vollführte.

Die Kakerlake bewegte sich nämlich entlang enger Wege und immer mit dem Kopf voraus, sodass der Eindruck entstand, das Tier würde "ein wenig intelligent" durch das Labyrinth irren.

Mein Monster hatte keinen Kopf, keine Extremitäten und damit kein "vorne". Es trudelte unkontrolliert über die Spielfläche, ohne Ziel, Richtung und ohne Verstand.

Kein schöner Anblick, weil hier der echte Zufall zu sehen war.

Nebenbei: Auch solche zufälligen Bewegungen können eindrucksvoll geplant wirken. Stellen Sie sich vor, in der Mitte eines solchen Rasters ist ein Stein (Pixel) fixiert. Auf der Fläche drumherum wird zufällig ein Spielstein abgeworfen, der so lange zufällig umherirrt, bis er einen anderen Stein berührt.

Im Fall einer solchen Kollision wird der Stein fixiert und ein neuer ins Spiel gebracht. Mit der Zeit entsteht in der Mitte der Fläche eine Struktur, die einer Koralle ähnelt. Zweig-ähnliche Gebilde ragen in verschiedene Richtungen.

Die scheinbare Kopie der Natur entsteht, weil die beweglichen Steine nicht mehr zum Zentrum vordringen, sondern an den gewachsenen äußeren Ablegern hängen bleiben. Was entsteht, sieht aus wie biologisches Wachstum, obwohl es nur eine Regel bei diesem Spiel gibt: "Bleibe stehen, wenn Du einen anderen Stein berührst."

Das Monster sollte sich natürlich nicht wie eine Koralle verhalten, und auch nicht wie ein Pixel, das gerne an einem anderen festkleben möchte und deswegen munter auf dem Bildschirm herumtorkelt.

Deswegen überlegte ich, wie die Bewegung eines Wesens "intelligenter" gemacht werden könnte. Es sollte eine simple Regelung der Bewegung sein, die eine scheinbare Autonomie imitierte.

So fügte ich eine weitere Regel ein, durch die sich die Bewegung deutlich veränderte:

3. Gehe nicht zurück an die Stelle, wo Du einen Zug vorher gewesen bist.

Die Erweiterung war deutlich sichtbar: Das Punkt-Wesen auf dem Bildschirm bewegte zwar immer noch unruhig über die Fläche, aber aus dem Trudeln sind mehr oder weniger weite, gerichtete Bewegungen geworden. Abrupte Richtungswechsel blieben aus.

Aus der Ferne und nicht durch den Bildschirm betrachtet, hätte es sich um einen Käfer oder eine Ameise handeln können, die auf dem Boden einer Schachtel ihre Runden dreht.

Ein paar Wände für ein simples Labyrinth, ein menschlicher Spieler und ich wäre nahe dran an dem Spiel "Pacman" gewesen (erschienen 1980 in Japan, damals noch unter dem Namen "Puck Man").

Darin verfolgen vier mürrische Geister die hungrige, gelbe Scheibe. Die Computergegner bewegen sich allerdings nach etwas anderen Regeln: Vor jedem Schritt wird geprüft, ob sie beim Zug auf ein benachbartes Feld dem Spieler näher kommen oder sich von ihm entfernen.

Sie können sich vorstellen, auf welches Feld die Geister ziehen, um für Stress und Spannung zu sorgen.

Das einfache Konzept hat mehrere Generationen von Gamern in Atem gehalten, obwohl die Geister hier überhaupt kein schlaues Verhalten zeigten.

Total dumm muss nicht öde und langweilig sein!

Fressen, spielen, schlafen

»Künstliche Intelligenz ist ein Spiegel, der reflektiert, wer wir sind. Von den besten – bis hin zu den schlechtesten Eigenschaften.« John Oliver (britischer Moderator, Komiker & Schauspieler)

Mein Ziel war kein Spiel! Ich wollte der Frankenstein der Entwicklungsumgebung auf meinem Computer sein und ein richtiges Wesen erschaffen, das ein eigenständiges Leben führt und nicht sinnfrei eine Spielerfigur verfolgt.

Dabei ist Hund ziemlich übertrieben: Wieder ein Punkt auf einem Raster. Wieder ein zweidimensionales Wesen, dem ich mit Hilfe von einfachen Regeln solange Verhalten beibringen wollte, bis sich ein Ergebnis einstellt, dass sich irgendwie intelligent verhält.

Zumindest in Gedanken verwandelte ich die freie Fläche des Rasters in einen hübschen Park.

Der Punkt-Hund wurde mit allen Bewegungs-Regeln des Monsters aus dem vorigen Kapitel ausgestattet und drehte seine Runden über die virtuelle Grünfläche (die gar nicht grün ist, weil ich auf dunkelblauem Hintergrund programmiere).

Zufällig warf ich Büsche, Bäume, Stöckchen und Knochen auf der leeren Fläche ab und gab dem Hund weitere Regeln mit, für den Fall, wenn er an einem dieser Gegenstände vorbeikommen sollte: Büsche zum darunter Ausruhen, Stöckchen zum Spielen, Knochen zum Kauen und Bäume mit einer zufälligen Entscheidung zwischen daran Schnüffeln und das Beinchen heben.

Natürlich waren die Regeln für die Bewegung der wichtigste Faktor, weil alle anderen Aktivitäten immer nach einer Begegnung mit einem der Gegenstände ausgeführt wurden.

Aus der Ferne betrachtet, hat sich der digitale Hund nach kurzer Zeit fast wie ein richtiger Hund verhalten.

In Gebieten mit vielen Büschen schlief er allerdings sehr oft und wenn er einer Sammlung von Knochen begegnete, fraß er mehr davon, als es für einen Hund – auch einen digitalen – gesund sein kann.

Aber Lebewesen fressen, wenn Sie Hunger haben und sie gehen auf die Toilette (oder an einen Baum), wenn… nun ja. Menschen sind da anders: Die gehen auch auf die Toilette, um ihren Social-Media-Status in aller Ruhe überprüfen zu können.

Die Evolution braucht für Eingeweide vermutlich länger als die flinken Finger eines Programmierers. Es war leicht, den Hund mit Füllständen für Magen und Blase sowie einer Energie-Anzeige auszustatten (eine Art Körper-Zustands-Zusammenfassung und die vorgestellte Mischung aus Kraft und Wachheit).

Zusätzlich zu den digitalen Organen fügte ich weitere Regeln hinzu: Wenn der Magen so gut wie leer war, wurde nicht mehr geschlafen, wenn Energie fehlte, sollte der Hund nur noch einen Platz zum Schlafen suchen und so weiter.

Genauso wie im richtigen Leben, nur stark vereinfacht und digital.

Das programmierte Ergebnis benahm sich erstaunlich "intelligent": Der Hund fraß, schlief und erleichterte sich (ohne Spuren zu hinterlassen). Wenn er reichlich Energie hatte und der Magen voll war, spielte er mit einem Stock, wenn sich die Gelegenheit dazu bot.

Mein Programm sah außerdem vor, dass bei komplett leerem Bauch oder fehlender Energie dem Hundeleben ein Ende gesetzt wurde. Unrealistisch, aber interessant war die Regel, das Tier verenden zu lassen, wenn die Blase zu lange randvoll und kein Baum in Sicht war.

Und ich hatte mir gar nicht die Mühe gemacht, zum Beispiel die Suche nach Essen bei besonders leerem Magen zu intensivieren oder bei völliger Erschöpfung auch eine Pause direkt auf dem Rasen oder zur Abwechslung unter dem Baum einzulegen, wo sonst nur geschnüffelt und gepinkelt wird.

Je nach Größe und Ausstattung des Parks und Anordnung der Ausstattung hatte das Tier eine unterschiedlich lange Lebensdauer.

Benötigte Ressourcen (Schlaf, Essen, Baum) waren nicht immer rechtzeitig zur Stelle. Und Kombinationen von Mangel (Energie und Essen) führten für das Tier in ein unlösbares Dilemma, dass ich auch durch weitere, neue Regeln, die ich formulierte (zum Beispiel das gezielte Ansteuern von Nahrung), nicht immer erfolgreich lösen konnte.

Jeder weitere Befehl, sich wie ein unbekümmerter Hund zu verhalten, führte zu neuen, überraschenden Effekten oder Extremen bei den Parametern und schließlich zum Versagen des autonomen, digitalen Tieres.

Die wichtigste Erkenntnis: Ich hatte insgesamt keine Handvoll Regeln und Eigenschaften, und das Experiment ließ sich kaum noch kontrollieren.

Der virtuelle Hund verhielt sich mit wenigen Instruktionen wie ein richtiger Hund. Alles, was ich als Erweiterung zum Laufen bringen wollte, zeigte Reaktionen, die mein Gehirn nicht mehr nachvollziehen oder gar verstehen konnte.

Zwei Dinge habe ich aus diesen Experimenten gelernt:

Maschinen (in diesem Fall in Form selbst-geschriebener Computerprogramme) verhalten sich sehr schnell "intelligent" – vor allem dann, wenn jemand die (simplen) Regeln dahinter gar nicht kennt.Wenn ein Computerprogramm viele Regeln enthält, dann entsteht ein Effekt, den Programmierer "Eigenleben entwickeln" nennen, weil zusammenhängende Abläufe und Bedingungen ein nicht mehr verständliches Verhalten zeigen.

Mechanische Verstärker

»Intelligenz, behaupten die Intelligenten, ist die Fähigkeit, sich der Situation anzupassen. Wenn du ein Buch verkehrt in die Hand genommen hast, lerne, es verkehrt zu lesen.« Wiesław Brudziński (polnischer Autor)

Roboter, die wie Menschen aussehen, haben eine besondere Wirkung auf menschliche Betrachter. Wir sind beeindruckt, fühlen uns bedroht oder sogar auf der ganzen Linie unterlegen.

Der Traum vom mechanischen Menschen ist älter als die Computertechnik. Der Schachtürke ist ein sehr anschauliches Beispiel für die Magie von Erfindungen, die den Menschen und seine Leistungsfähigkeit nachahmen, mit ihr gleichziehen und sie übertreffen sollen.

Bogen, Schleuder und Feuersteine sind die Vorläufer dessen, was im Moment die künstliche Intelligenz in unserem Zeitalter darstellt: Werkzeuge, mit denen die Leistungsfähigkeit von Menschen verbessert wurde oder die Menschen mit ihren Eigenschaften übertroffen haben.

Nachahmung, Ergänzung über Überlegenheit gegenüber menschlichen Eigenschaften sind der wichtigste Sinn und Zweck vieler Maschinen.

Der Pfeil fliegt weiter, als unsere Vorfahren einen Stein werfen konnten und schlägt mit größerer Wucht ein (zur Verteidigung und für die Futterbeschaffung).

Damit erweiterte sich damals die Reichweite eines Menschen beachtlich.

Der Weltrekord für eine geschossenen Pfeil wurde mit einem klassischen Bogen erreicht und nicht mit einem High-Tech-Bogen, bei dem die Sehne über ovale Rollen gezogen wird. Das Geschoss flog über 1,2 Kilometer weit. Der Schütze zog ein Gewicht von etwa 60 Kilogramm auseinander – musste also selbst noch seinen Beitrag leisten.

Heute können mit KI ausgestattete Drohnen, die sich ihre Ziele automatisch suchen und praktisch nicht zu stoppen sind, mit einem Knopfdruck gestartet werden.

Die Taste für so einen Angriff müsste nicht einmal ein Mensch betätigen, sondern könnte genauso von einem entlaufenen Hamster ausgelöst werden oder von einer KI, die ethisch gründlich bewertet hat, ob die Menschheit ausgerottet werden soll oder nicht.

In der Waffentechnik löste sich die Fähigkeit des Menschen von der Leistung der Maschine tatsächlich mit dem Abzug. Der rote Knopf ("Buzzer" genannt) wird allzu häufig in Filmen als fataler Auslöser für alles Mögliche dramatisch in Szene gesetzt (mein persönlicher Platz eins in der Liste der dramatischen Knöpfe ist der Zerstörungs-Mechanismus im James-Bond-Film "Liebesgrüße aus Moskau" von 1963).

Maschinen und Mechanismen, die losgelöst vom Bediener ihre Wirkung und Leistung entfalten, haben das gute Verhältnis zwischen Geräten und Menschen auf getrennte Wege geschickt.

Die Dampfmaschine und die Erfindung der mechanischen Webstühle sorgte in Europa für gewaltige Unruhen (fachlich sachlich als "Arbeiterunruhen" bezeichnet, emotionaler betitelt als "Maschinensturm" in Deutschland zwischen 1800 und 1850).

Wir nehmen die Entwicklungen überraschend gelassen hin, obwohl die Bedrohung menschlicher Beschäftigung durch künstliche Intelligenz heute vermutlich größer ist als damals, aber das werden wir uns weiter unten noch genau ansehen.

Auch die Entwicklung der Computertechnik vollzog sich im Vergleich ruhig und gelassen: Heute glauben wir, dass ein Mikroprozessor leistungsfähiger ist, als ein menschliches Gehirn. Und zwar nur, weil der Rechner besser und schneller rechnen kann, als der eigene Kopf.

Die größte Errungenschaft klassischer Computertechnik vor dem Boom echter künstlicher Intelligenz heißt Deep Blue. Achtung: Im vorigen Satz steht "echte künstliche Intelligenz" und nicht "echte Intelligenz".

Es war wieder ein Spiel, in dem die Maschine den Menschen übertraf – und das viel später, als viele vermuten: 1996 besiegte der Supercomputer von IBM den damaligen Schachweltmeister Garri Kasparow in einer einzelnen Partie. Die Trendwelle der Hobby-Schachcomputer (Leistungslevel Taschenrechner) bezwang bereits in den 80er Jahren Massen von Spielern.

Im darauffolgenden Jahr 1997 schlug die Kombination aus Hardware und Software Kasparow in einem kompletten Wettkampf, der aus insgesamt sechs Partien bestand.

Im letzten Jahrtausend hatte die Maschine den Menschen bezwungen.

KI oder I?

»Ich habe euch schon 1984 gewarnt.« James Cameron (Regisseur, unter anderem vom Film "Terminator")

Die künstliche Intelligenz ist älter, obwohl die konventionelle Maschine (Deep Blue aus dem vorigen Kapitel) Ende der 90er über den Menschen triumphierte (mehr oder weniger) und die mittlerweile populären großen Sprachmodelle (Englisch: "Large-Language-Models", kurz "LLMs") erst seit ein paar Jahren für ein breites Publikum zugänglich sind.

Es war GPT von der Firma OpenAI, das im Jahr 2019 für Furore sorgte und seit 2022 als ChatpGPT bekannt ist.

Die Abkürzung hinter dem "Chat" (übersetzt "schwatzen" oder "unterhalten") steht für "Generative Pre-trained Transformer" (übersetzt "generativer vortrainierter Transformer") – das nur nebenbei, denn ich hatte versprochen, Ihnen die technischen Details zu ersparen.

---ENDE DER LESEPROBE---