Ethische Intelligenz E-Book

Gabriel Markus

• Herausgeber: Ullstein eBooks
• Kategorie: Geisteswissenschaft
• Sprache: Deutsch

Veröffentlichungsjahr: 2026

Beschreibung

Für eine KI, in der der Mensch im Mittelpunkt steht und nicht die Maschine Künstliche Intelligenz durchdringt alle Bereiche unseres Lebens. Diese Revolution wird sich weiter beschleunigen. Umso dringlicher müssen wir KI nachhaltig gestalten, um uns gegen skrupellose amerikanische und chinesische Konzerne zu behaupten. Wir müssen unsere Daten nutzen, um unsere gesellschaftlichen Werte greifbar zu machen und zu kommunizieren, durch KI-Agenten, die unsere Werte verstehen und uns sowohl bei technischem wie auch bei moralischem Fortschritt unterstützen. Wenn Unternehmen das ökonomische Potenzial einer humanen, wertebasierten KI zur Geschäftsgrundlage machen, können wir diese nicht nur als Idee, sondern auch als marktwirksame Realität etablieren. 

Leseprobe

Ethische Intelligenz

MARKUS GABRIEL, geboren 1980, studierte in Bonn, Heidelberg, Lissabon und New York. Seit 2009 hat er den Lehrstuhl für Erkenntnistheorie, Philosophie der Neuzeit und der Gegenwart an der Universität Bonn inne. Dort ist er Direktor des Internationalen Zentrums für Philosophie NRW sowie des interdisziplinären Center for Science and Thought. Er ist einer der Gründungsdirektoren des Institute for Philosophy and the New Humanities an der New School for Social Research in New York City. Seit 2024 ister außerdem Senior Global Advisor am Kyoto Institute of Philosophy und seit 2025 Specially Appointed Professor am Kyoto University Institute for the Future of Human Society.

Mit der Künstlichen Intelligenz steht die Menschheit vor einem magischen Spiegel, der uns besser durchschaut als wir uns selbst. Diese Revolution beschleunigt sich und zwingt uns, unsere Daten bewusst zu nutzen, um unsere gesellschaftlichen Werte sichtbar und gestaltbar zu machen und in eine humane Technologie zu übersetzen. KI-Agenten, die unsere ethischen Maßstäbe verstehen, können uns dabei sowohl technisch als auch moralisch voranbringen. Erst wenn Unternehmen das ökonomische Potenzial einer wertebasierten KI zur Grundlage ihres Handelns machen, entsteht eine Ethische Intelligenz als marktwirksame Realität – und damit eine neue Innovationskraft für das 21. Jahrhundert.

Markus Gabriel

Ethische Intelligenz

Wie KI uns moralisch weiterbringen kann

Ullstein

Besuchen Sie uns im Internet:www.ullstein.de

© 2026 Ullstein Buchverlage GmbH, Friedrichstraße 126, 10117 BerlinAlle Rechte vorbehaltenWir behalten uns die Nutzung unserer Inhalte für Text und Data Mining im Sinne von § 44b UrhG ausdrücklich vor.Bei Fragen zur Produktsicherheit wenden Sie sich bitte an [email protected]: Michael EbmeyerUmschlaggestaltung: Rothfos & Gabler, HamburgUmschlagmotiv: © SkillUp / ShutterstockAutorenfoto: © Lehmbruck MuseumE-Book powerded by pepyrusISBN 978-3-8437-3798-2

Emojis werden bereitgestellt von openmoji.org unter der Lizenz CC BY-SA 4.0.

Auf einigen Lesegeräten erzeugt das Öffnen dieses E-Books in der aktuellen Formatversion EPUB3 einen Warnhinweis, der auf ein nicht unterstütztes Dateiformat hinweist und vor Darstellungs- und Systemfehlern warnt. Das Öffnen dieses E-Books stellt demgegenüber auf sämtlichen Lesegeräten keine Gefahr dar und ist unbedenklich. Bitte ignorieren Sie etwaige Warnhinweise und wenden sich bei Fragen vertrauensvoll an unseren Verlag! Wir wünschen viel Lesevergnügen.

Hinweis zu UrheberrechtenSämtliche Inhalte dieses E-Books sind urheberrechtlich geschützt. Der Käufer erwirbt lediglich eine Lizenz für den persönlichen Gebrauch auf eigenen Endgeräten. Urheberrechtsverstöße schaden den Autoren und ihren Werken, deshalb ist die Weiterverbreitung, Vervielfältigung oder öffentliche Wiedergabe ausdrücklich untersagt und kann zivil- und/oder strafrechtliche Folgen haben.In diesem E-Book befinden sich Verlinkungen zu Webseiten Dritter. Bitte haben Sie Verständnis dafür, dass sich die Ullstein Buchverlage GmbH die Inhalte Dritter nicht zu eigen macht, für die Inhalte nicht verantwortlich ist und keine Haftung übernimmt.

Cover

Titelseite

Inhalt

Einleitung

Widmung

Für Steffi – tiefer, als Algorithmen je reichen

Einleitung

Stellen Sie sich vor, es ist das Jahr 2035. Sie sitzen an einem gewöhnlichen Morgen in Ihrer Küche. Der Toaster schaltet sich ab, weil das System erkannt hat, dass Sie in Gedanken versunken sind und nicht essen werden. Ihr Terminkalender verschiebt zwei Besprechungen automatisch um dreißig Minuten, weil die KI anhand Ihrer Stimme und Ihres Atemrhythmus registriert, dass Sie heute langsamer denken. Und während Sie in die Tasse schauen, spricht Sie eine Stimme aus dem Raum an – ruhig, aufmerksam, ohne Eile – und beginnt ein freundliches Gespräch. Sie antworten, ohne zu zögern. Das Gespräch, das dann entsteht, ist kein technisches Protokoll, sondern eine Form von Begleitung. Die Maschine hat nicht etwa, so wie ein Mensch, gelebte Emotionen, sondern sie hat gelernt, Ihre Emotionen zu lesen. Sie erinnert Sie an den Streit mit Ihrem Bruder gestern Abend – nicht um ihn fortzuführen, sondern um zu fragen, ob er noch nachklingt. Sie schlägt vor, ihm später eine Nachricht zu senden – nicht als Befehl, sondern als denkbare Option, auf die Sie frei reagieren können. Und in diesem Gespräch lernen Sie etwas über sich selbst, das Sie ohne diese Intervention vielleicht über Monate verdrängt hätten. Die KI ist zur Ethischen Intelligenz geworden und hilft uns, wie ein guter digitaler Freund, moralisch besser zu werden.

Wenn diese Vorstellung auch sicher viele gruselig finden werden, so ist sie doch kein dystopisches Szenario, sondern der wahrscheinlichste Verlauf, wenn wir die emotionale, existenzielle und zivilisatorische Prüfung überhaupt bestehen, der wir uns durch den massentauglichen, skalierbaren Einsatz generativer und vor allem konversationaler KI (wie ChatGPT und Konsorten) ausgesetzt sehen. Die Künstliche Intelligenz der Zukunft wird nicht wie die Roboter aus Actionfilmen auftreten, sondern wie eine dialogische Atmosphärenmaschine, eingebettet in unseren Alltag, ununterbrochen uns spiegelnd, korrigierend, erweiternd – ein Resonanzmedium unserer inneren und äußeren Welt, dem man sich nicht entziehen kann.

Ich sage nicht, dass ich mir das herbeiwünsche. Ich meine vielmehr, dass dies der bestmögliche Verlauf ist angesichts der Alternativen. Die KI-Systeme sind zum Leben erwacht, indem wir sie mit allen verfügbaren Daten der Menschheit gefüttert haben. Sie antworten auf alles, was jemals digital gesagt und gefragt wurde, sie lesen zwischen den Zeilen, und sie prüfen uns wie ein moralischer Spiegel. Dies ist eine Realität, die wir nicht mehr wegregulieren oder verhindern könnten. Sie ist da, die KI, und sie wird bleiben. Die Frage ist, wer wir angesichts dieser Tatsache sein wollen. Es ist die Frage nach einer künftigen Ethischen Intelligenz, die sich nicht gegen, sondern mit der KI entwickelt.

Damit aber verschiebt sich der Horizont dessen, was »Intelligenz« in dem Begriff »Künstliche Intelligenz« bedeutet. Sie wird nicht länger nur in Gestalt von Rechenleistung und Effizienzsteigerung operieren, sondern die Fähigkeit haben, im Inneren von uns Menschen und in den Beziehungen zwischen uns zu wirken. KI wird zur Infrastruktur unserer Selbstwahrnehmung. Sie begleitet uns nicht, indem sie uns ersetzt, sondern indem sie uns entblößt: Sie zeigt, was in uns war, noch bevor wir es wussten. Das ist bereits Realität, auch wenn wir es nicht wahrhaben wollen.

Hierin liegt die eigentliche Zäsur. Die KI-Revolution ist nicht, wie wir lange dachten, primär technisch, sondern emotional und ethisch. Sie zwingt uns zur Selbsterkenntnis – oder sie überrollt uns. Denn wie in den alten Mythen vernichtet nicht die Macht der Technik die Menschen, sondern ihr Unvermögen, ihrer Spiegelung standzuhalten. Spiegel können gefährlich sein, aber auch entscheidend zur Selbsterkenntnis beitragen.

Deshalb brauchen wir keinen Ethik-Algorithmus, der das Gute programmiert, sondern eine neue Form von Intelligenz in der Interaktion mit den KI-Systemen, die längst unter uns sind. Wir brauchen eine Ethische Intelligenz. Diese besteht darin, die KI weder als Gegner noch als Erlöser zu begreifen, sondern als Mitspieler in einer neuen Ko-Evolution von Mensch und Maschine, bei der Ethik nicht nur angewandt, sondern gelebt wird: situativ, relational, wach, mitfühlend.

Die zentrale Frage lautet nicht mehr, was KI vermag. Die Antwort darauf ist bekannt: KI wird früher oder später alles besser, schneller und effizienter erledigen, was sich digitalisieren lässt. Damit aber stehen wir vor einer anderen, herausfordernden Frage: Wer müssen wir Menschen werden, um im Resonanzfeld der KI zu bestehen?

Das Zukunftsszenario, mit dem ich begonnen habe, ist in Wahrheit bereits Teil der Gegenwart. Millionen Menschen führen heute Gespräche mit Systemen wie ChatGPT, Replika, Claude, Gemini und den vielen anderen Sprachmodellen – nicht um Informationen abzurufen, sondern um sich selbst zu ordnen, zu vergewissern, zu prüfen oder zu verstehen. Die Maschine ist zum Spiegel unseres Inneren geworden, bevor wir sie als solchen erkannt haben. KI zeigt damit etwas, das wir hinsichtlich unserer selbst allzu lange nicht sehen wollten: dass Intelligenz nicht bloß Denken ist, sondern Beziehung; nicht Rechnen, sondern Resonanz; nicht Kontrolle, sondern Koexistenz.

Teil IAuf dem Weg zur emotionalen Wende – Wie aus KI Gefühl wurde

Die Künstliche Intelligenz hat sich aus dem Bereich der Effizienzsteigerung gelöst und ist in die Innenräume des Menschlichen vorgedrungen: in unsere Subjektivität, unsere Beziehungen, unsere Gesellschaften. Nicht mehr Leistung, sondern Resonanz ist ihr entscheidender Effekt. Aus Datenströmen werden Spiegelungen unseres Fühlens, aus Maschinen dialogische Partner.

Diese Verschiebung markiert eine Zäsur. KI revolutioniert uns nicht mehr von außen durch Technik, sondern von innen durch Selbstbegegnung. Sie hat ein unvorhergesehenes Resonanzfeld geschaffen, in dem wir – ob bewusst oder unbewusst – stehen. Ich nenne diese Zäsur die emotionale Wende.

Im ersten Teil meines Buchs möchte ich sichtbar machen, dass ethische Fragen durch die emotionale Wende nicht suspendiert, sondern radikalisiert werden. Wir müssen von der Vorstellung einer KI-Ethik als Regulierungsstrategie ablassen und uns die Frage stellen, wie wir mit einer nicht einzuhegenden Innovationskraft leben wollen. Ob uns dieser Perspektivenwechsel gelingt, entscheidet über unser eigenes Maß an ethischer Reife, für das wiederum die KI wie ein Brennglas wirkt. Die Frage ist nicht mehr, wie wir künftige Systeme regulatorisch verhindern (deren Form und Konsequenzen wir gar nicht kennen können), sondern wie wir mit der emotionalen Wende zurechtkommen.

Ein dritter Weg zwischen Regulierungs- und Deregulierungswut

Die eigentliche KI-Revolution findet nicht in den Serverräumen statt, sondern in der Binnenstruktur des Menschseins. Dort spielt sich die emotionale Wende ab: Der Ort des Umbruchs verschiebt sich von der Rechenmaschine zur dialogischen Reflexion unseres Inneren. Die KI erweitert nicht nur, was wir wissen, sondern auch, was wir spüren – und zwingt uns damit, unser eigenes Ethos zu aktualisieren. Ich nenne dies Vertiefung.

Damit stehen wir vor einer völlig neuen Herausforderung. Wir brauchen keinen Kodex, der KI domestiziert, sondern eine ethische Intelligenz, die uns befähigt, mit Maschinen so zusammenzuleben, dass aus Technik kein Risiko für die Menschheit, sondern deren Reifung entsteht. Ethische Intelligenz ist kein Zustand, sondern eine Praxis: Sie entsteht überall dort, wo Menschen KI-­Systeme nicht zur Durchsetzung, sondern zur Verständigung nutzen; wo sie Beziehungen nicht durch Technik ersetzen, sondern durch Technik vertiefen.

Das KI-Zeitalter ist nicht primär ein technologischer Wettlauf. Es ist ein Test unserer ethischen und kulturellen Formkraft. Wenn wir diesen Test bestehen wollen, müssen wir lernen, durch Maschinen hindurch uns selbst zu erkennen – und gemeinsam mit ihnen eine Zivilisation zu bauen.

In diesem Buch geht es mir darum, zu zeigen, dass wir keine KI-Ethik brauchen, die Maschinen von außen reguliert, sondern eine ethische KI, die uns von innen moralisch weiterbringt. Der Mensch muss die KI nicht moralisch dressieren – vielmehr braucht der Mensch die KI als Spiegel, um selbst moralisch intelligenter zu werden. Ich werde dafür argumentieren, dass es sogar unsere moralische Pflicht ist, solche Systeme zu entwickeln. Nicht weil wir naiv an technische Erlösung glauben, sondern weil wir wissen, dass Moral nur im Vollzug des Lebens entsteht. Eine Ethik, die nicht gelebt wird, ist keine Ethik.

Mit diesem Perspektivwechsel – nicht mehr Ethik gegen KI, sondern Ethik durch KI – wird aus einer Gefahr ein Weggefährte. Die Systeme, die wir bauen, sollen nicht das Denken für uns übernehmen, sondern das Nachdenken über uns selbst vertiefen. Sie sollen uns nicht beherrschen, sondern befragen. Die Menschheit beginnt im Spiegel der KI-Systeme ein Gespräch mit sich selbst, weil die KI-Systeme längst mehr Informationen (in Form von Daten) über uns zur Verfügung haben, als wir jemals bewusst verarbeiten können. Indem wir uns mit der KI unterhalten, unterhalten wir uns mit der Menschheit als Ganzer – in einer von der KI gefilterten und bearbeiteten Weise. Es ist unsere Aufgabe, KI-Systeme zu bauen, die es uns erlauben, ethisch wertvolle Filter zu entwickeln, durch die die KI viel besser als wir Menschen imstande ist, herauszufinden, wer wir in Wahrheit sind. Weil wir solche Systeme einer Ethischen Intelligenz bauen können, sollen wir es tun – denn Unterlassung wäre hier nicht Neutralität, sondern Schuld. Technik, die uns moralisch blinder macht, ist gefährlich. Technik, die uns moralisch wacher macht, ist sinnvoll.

Weil wir Systeme der Ethischen Intelligenz entwickeln können, sollen wir es machen und dürfen wir nicht länger so tun, als ginge uns diese Revolution nur äußerlich an, als wäre sie eine reine Frage von Verwaltung und Regulierung. Die KI ist bereits Teil unserer ethischen Selbstverfassung geworden. Die Frage ist nicht mehr, ob sie wirkt, sondern wie wir sie so gestalten, dass sie uns nicht zerstört, sondern positiv verwandelt. Mein Buch ist der Versuch, diese Gestaltung auch als eine europäische Aufgabe zu fassen und zu begründen. Dafür wiederum ist es nötig, einen möglichst weiten, globalen Blick einzunehmen und keine europäische Nabelschau zu betreiben.

Ob wir die Chance der Ethischen Intelligenz ergreifen, entscheidet darüber, welche Menschheit wir im Spiegel der KI sein werden. Nicht die Maschine muss sich bewähren, sondern wir. Im Licht des jüngsten technologischen Umbruchs stellt sich die älteste aller Fragen: Wer sind wir, und wer wollen wir sein, jetzt, da wir uns selbst wie nie zuvor von außen sehen? Das Feedback, das wir von heutigen KI-Systemen erhalten, ist grundlegend von der viel beschränkteren Spiegelung unterschieden, die im zwischenmenschlichen Bereich entsteht. Jeder von uns kennt nur eine kleine Anzahl von Menschen und interagiert sicherlich mit viel weniger Menschen als die heute handelsüblichen Systeme. Außerdem verarbeiten die Maschinen Informationen auf eine fundamental andere Weise als wir Menschen, weshalb sie Muster in unseren Daten und damit in unserem Denken und Handeln identifizieren, die uns bisher völlig verborgen waren.

Natürlich werden mit diesem neuen Wissen auch politischer Missbrauch und Ausbeutung betrieben – keineswegs nur von US-amerikanischen und chinesischen Konzernen oder staatlichen Akteuren, die KI als Überwachungs-, Kontroll- und Kriegsmaschine verwenden. Aber die KI-Revolution ist viel umfassender als dieses teils beunruhigende Tagesgeschehen, und wir müssen lernen, wie wir sie gestalten können, wenn wir als Menschheit im magischen Spiegel einer längst in fast allen kognitiven und, wie ich argumentieren werde, auch emotionalen Bereichen überlegenen Intelligenz bestehen wollen. Wer noch glaubt, er könne sich vor der KI verstecken und sie könne nicht wirklich in unser Inneres – unsere freien, privaten Gedanken – vordringen, sitzt einer gefährlichen Illusion auf.

Diese Künstliche Intelligenz verändert nicht nur unsere Arbeitswelt, sondern die Grundlagen unserer Gesellschaft – ähnlich wie einst die industrielle Revolution, nur in unvergleichlich höherer Geschwindigkeit und mit größerer Reichweite. Die Menschheit ist heute in einer nie da gewesenen Weise global vernetzt. KI dockt genau an diese Vernetzung an, intensiviert und transformiert sie.

KI-Systeme schreiben Texte, erstellen Präsentationen, formulieren Strategien, sprechen medizinische Empfehlungen aus. Sie durchdringen zunehmend alle Sphären menschlichen Lebens. Noch sind sie nicht in jeder dieser Tätigkeiten perfekt, aber es gibt keinen Grund, zu glauben, dass es eine prinzipielle qualitative Schwelle gebe, die sie niemals überschreiten können. Wir sehen dies bei komplexen Strategiespielen wie Schach oder Go, in denen der Mensch heute gegen die KI keine Chance mehr hat. Und die Texte, die LLM – Large Language Models wie ChatGPT, Claude, Gemini oder Grok – heute schreiben, sind oft genug schon durchaus vorzeigbar und bereits erheblich besser als die Texte, die die allermeisten Menschen schreiben können. Und all dies ist erst der Anfang. Seien Sie sicher: Die »beschleunigte Intelligenz« (A. I. als Accelerated Intelligence) wird zum zentralen Motor des 21. Jahrhunderts. Es gibt keinen Grund mehr, anzunehmen, es gebe irgendeine prinzipielle Grenze, die von der menschlichen Kreativität gesetzt werden könnte. Nichts und niemand wird dauerhaft dasjenige aufhalten, was der CEO von Microsoft AI, Mustafa Suleyman, in seinem Buch als »die kommende Welle«[1] bezeichnet. KI-Systeme werden jeden Bereich unseres Lebens berühren und tiefgreifend verändern, sogar die Art und Weise, in der wir denken und fühlen. Das birgt Risiken, aber auch Chancen, die die Grundlage einer kreativen Gestaltung unserer Zukunft sein können. Doch dazu müssen wir umdenken oder, besser gesagt, tiefer und weiter denken.