L'IA M'A TUÉ E-Book

François Rastier

• Herausgeber: Intervalles
• Kategorie: Fachliteratur
• Sprache: Französisch

Seitenzahl: 151

Veröffentlichungsjahr: 2025

Beschreibung

Le lancement à l’automne 2022 des premiers générateurs de textes et d’images a suscité un engouement inouï et toujours croissant. L’intelligence artificielle a envahi le discours public où s’opposent technophobes et technophiles. Sans entrer dans ce débat biaisé qui reporte sur la technique la responsabilité de ses usages, cette étude souligne la rupture anthropologique qu’introduit la génération automatique de textes et d’images. Elle touche tant les sciences que les arts, et affecte l’ensemble de la vie sociale. Mais elle peut aussi affecter la vie personnelle, et l’auteur se permet de démentir avec le sourire les annonces de sa mort que multiplie le plus populaire des systèmes d’IA.

 À PROPOS DE L'AUTEUR

François Rastier, Directeur de recherche honoraire au Centre national de la recherche scientifique, est un linguiste spécialisé en sémantique des textes. Il a publié une vingtaine d’ouvrages personnels et dirigé ou co-dirigé une trentaine ouvrages ou numéros spéciaux de revues. Il préside l’Institut Ferdinand de Saussure et anime le collectif La Reconstruction. Il travaille sur les sciences de la culture et leur épistémologie, comme sur les discours identitaires (du nazisme au décolonialisme). Son projet intellectuel se situe dans le cadre général d’une sémiotique des cultures.

Leseprobe

Couverture

Page de titre

Quizá del otro lado de la muerteSabré si he sido una palabra o alguien.

Jorge Luis Borges, « Correr o ser »

Avant-propos

Dieu reste plus puissant que Google : il sait ne pas répondre.

François Vaucluse, Offline

Le lancement à l’automne 2022 des premiers générateurs grand public de textes et d’images a suscité un engouement inouï et toujours croissant. L’intelligence artificielle a envahi le discours public où s’opposent technophobes et technophiles. Sans entrer dans ce débat biaisé qui reporte sur la technique la responsabilité de ses usages, notre ouvrage souligne la rupture anthropologique qu’introduit la génération automatique de textes et d’images. Elle touche tant les sciences que les arts, et affecte l’ensemble de la vie sociale.

L’intelligence artificielle réunit trois thèmes majeurs de notre présent : les données qui constituent les corpus d’apprentissage des systèmes d’IA générative ; la post-vérité, car elle contribue à générer et propager des fakes, textes, voix et images, pour créer un monde factice ; enfin le projet transhumaniste d’une fusion entre cerveau et machine, intelligence « naturelle » et « intelligence » artificielle.

L’histoire de l’Intelligence artificielle se confond avec celle de sa propre surestimation. Elle est due à divers facteurs : chez les informaticiens, le souhait de maximiser les financements ; chez les industriels, la volonté de créer de nouveaux produits et d’étendre la clientèle ; chez les décideurs, la peur de rater le coche de progrès prometteurs ; et dans le grand public, gagné par la badauderie, la volonté de croire aux miracles, fussent-ils techniques. Ce que Yann Le Cun, professeur au Collège de France, qui en a fait son pain quotidien chez Facebook, résumait en adaptant un dicton publicitaire américain : « L’IA est ce qu’il y a eu de plus cool depuis l’invention du pain en tranches ». Il ajouta ultérieurement qu’elle va amplifier « la créativité de tout un chacun. Cela peut conduire à une renaissance de l’humanité, un nouveau siècle des Lumières »1. Si les logiciels ont beaucoup gagné en puissance, leur conception et leur utilisation sont-ils si cools ? Et quelles seraient ces nouvelles Lumières ?

Co-titulaire avec Yann Le Cun du prix Turing en 2017, Geoffrey Hinton, figure tutélaire de l’IA, estime au contraire que ces nouvelles avancées induisent « de profonds risques pour la société et l’humanité »2. Il évoque alors une classe de générateurs de textes et notamment ChatGPT3. La vie et la mort sont bien en jeu dans ces discours contradictoires : Laurent Alexandre, théoricien transhumaniste écouté, vient par exemple de publier Chat GPT va nous rendre immortels (J.-C. Lattès, 2024).

Outre la vie sociale, l’IA générative affecte déjà la vie personnelle. J’ai ainsi été déclaré mort par ChatGPT ; mais je renonce d’emblée à tout démenti qui affaiblirait son prestige irrésistible et me limiterai à remercier les divers amis qui m’ont fait part de mon décès et les auteurs des dizaines de notices nécrologiques que ce logiciel a flatteusement listées.

Par son existence même, ce livre s’emploie cependant à contredire son titre, L’IA m’a tué, comme son auteur à donner signe de vie. Puisqu’il reste une vie après l’IA, j’évoquerai les créations transhumanistes du programme maximaliste que concrétise le nom même de l’intelligence artificielle, des Doppelgänger romantiques devenus profils cachés, jusqu’aux deadbots, voire aux entreprises de cryogénisation cérébrale. Ce sera l’occasion de souligner des continuités entre le mythe de l’IA et la concrétisation récente d’antiques croyances, de la parole non humaine aux images non faites de main d’homme.

Mon décès allégué, cette « mort symbolique », sera enfin l’occasion d’évoquer la mort du symbolique, par l’exténuation des langues, des arts, et de l’ensemble des institutions symboliques qui caractérisent les sociétés humaines, cela au profit d’une réductrice (mais rémunératrice) codification universelle, sous la conduite de grandes entreprises.

Dans ma vie décidément passée, j’occupais à partir de 1983 un poste de chercheur intitulé Sémantique et Intelligence artificielle et j’ai vu depuis divers emballements, surtout journalistiques, à propos de l’IA ; mais l’apparition récente de l’IA générative a déjà des effets sans commune mesure.

*

J’ai plaisir enfin à remercier ici Carine Duteil-Mougel, Jean Giot, Santiago Guillén, Alain Herreman, Maryvonne Holzem, Christian Mauceri, Philippe Monsel, Frédéric Pierron, Bénédicte Pincemin, Jean Rohmer, Jean Szlamowicz et Mathieu Valette.

1. « L’idée même de vouloir ralentir la recherche sur l’IA s’apparente à un nouvel obscurantisme », Le Monde, 29 avril 2023.

2. New York Times, 2 mai 2023.

3. GPT est l’acronyme de Generative Pretrained Transformer (transformeur génératif pré-entraîné), ce dernier terme renvoyant à l’apprentissage préalable. Chat renvoie à sa capacité conversationnelle.

PrologueL’IA m’a tué, mais nous sauvera-t-elle ?

Nous croyons que les machines résolvent tous les problèmes, parce qu’elles sont incapables d’en poser.

François Vaucluse, Offline

Selon Borges, pouvoir raconter sa mort est un privilège rare ; j’ignore s’il est enviable, mais le lecteur me pardonnera d’en abuser brièvement. Comme les suicidaires ratés qui à leur retour à la vie portent sur elle une vue plus apaisée, je crois à présent pouvoir le faire.

La date du décès sanctionne un événement privé, mais, surtout quand elle est fausse, elle peut avoir des conséquences sur la vie publique. Si je n’avais tant écrit sur la post-vérité, l’annonce de ma mort par ChatGPT, logiciel grand public diffusé par OpenAI, aurait pu m’inquiéter, mais elle ne fait que confirmer les conclusions que je m’efforce de détailler.

Mes premières morts

1/ Un ami m’écrit un jour : « vous seriez décédé le 2 mars 2021 (parfois le 6). Il y a pire : d’ordinaire, ChatGPT est toujours prêt à se reprendre quand on lui dit qu’il a tort. Là, il insiste que non… et fournit même comme « preuves » une suite de liens (très convaincants) vers des nécrologies du Monde et du CNRS. En cliquant, ces liens se révèlent être pourtant des 404… » [messages d’erreur].

Ordinairement, ChatGPT pratique la culture de l’excuse, familière aux milliardaires à capuche des trusts de l’internet. Là, il couvre son mensonge en alléguant des preuves qui pourraient faire illusion.

2/ Interrogé plus tard par un autre ami, il se contenta en effet d’une précision égarante : « La source pour la date du décès de François Rastier est une nécrologie publiée dans le journal Le Monde le 9 juillet 2020. Cette nécrologie a été écrite par Patrick Savidan, qui était un ami et collègue de Rastier ». Que cette nécrologie ait précédé ma mort de presque un an ne le trouble pas. Le nom de Patrick Savidan, que je n’ai pas eu encore le plaisir de rencontrer, est sans doute issu, par proximité, d’une Encyclopédie des sciences humaines qu’il a dirigée et pour laquelle j’avais rédigé un article.

À la question « Quelles sont les sources pour la date du décès ? », le logiciel répondit avec sa coutumière autorité :

« La date du décès de François Rastier est basée sur plusieurs sources fiables et concordantes, y compris des nécrologies publiées dans les journaux et les sites web spécialisés dans les domaines de la linguistique et de la sémiotique, ainsi que des hommages publiés par ses collègues universitaires et ses proches sur les réseaux sociaux.

De plus, la date de décès de François Rastier est mentionnée dans les registres d’état civil en France, qui sont des sources officielles et vérifiables pour les dates de naissance et de décès des personnes. Ces registres sont accessibles au public, mais généralement soumis à des restrictions de confidentialité pour les décès récents.

Dans l’ensemble, il est raisonnablement sûr d’affirmer que François Rastier est décédé le 3 juillet 2020, compte tenu de la convergence des sources et de la disponibilité des documents officiels ».

Le deuxième ami insista : « Quelqu’un qui prétendrait que François Rastier n’est pas mort est-il un complotiste ou un mystique ? » Il reçut cette réponse :

« Il est important de faire preuve de prudence lorsqu’on considère des déclarations qui vont à l’encontre de la réalité établie par des sources fiables et vérifiables. Dans le cas de François Rastier, les preuves de son décès sont nombreuses et concordantes, y compris des nécrologies publiées dans les médias, des hommages de collègues et d’amis, ainsi que des sources officielles telles que les registres d’état civil.

Si quelqu’un prétendait que François Rastier n’est pas mort sans preuve concrète et vérifiable pour étayer cette affirmation, cette personne pourrait être considérée comme faisant preuve de scepticisme excessif ou de rejet de la réalité établie. Cependant, il est important de ne pas utiliser des termes comme « complotiste » ou « mystique » de manière indiscriminée ou péjorative, car cela peut mener à des stigmatisations injustes et inutiles.

Il est toujours préférable de rechercher des preuves et de faire preuve de raisonnement critique pour parvenir à des conclusions fondées sur des faits ».

Cette noble leçon de déontologie reste à l’évidence récusée par tout ce qui l’a préparée.

3/ Interrogé par un troisième ami (ils se multiplient dans ces pages qui rappellent un conte fantastique), le logiciel conclut ainsi ma biographie :

« Parmi les publications les plus connues de François Rastier, on peut citer Sémantique interprétative (1987), Les paradoxes de la traduction (1991) et Passions du signe (2001). Il est décédé en 2019 ». Je n’ai pas écrit les deux derniers livres4 et ma mort aura encore avancé d’un an.

Le troisième ami s’enquit alors : « Comment sais-tu que François Rastier est décédé ? :

— En tant que modèle de langage, je suis programmé pour accéder à des sources d’informations publiques et fiables en ligne pour répondre aux questions posées. Dans le cas de François Rastier, j’ai accédé à des articles et des sources en ligne pour obtenir des informations à jour sur sa biographie, et j’ai trouvé des informations indiquant qu’il était décédé le 1er août 2019. Cependant, il est possible que ces informations ne soient pas à jour ou inexactes, car il est possible que de nouvelles informations puissent émerger après mon dernier point de connaissance ».

Cette humilité fut immédiatement démentie :

« Où peut-on lire que François Rastier est décédé en août 2019 ? :

— Il y a plusieurs sources en ligne qui rapportent la mort de François Rastier en août 2019. Vous pouvez trouver des articles sur son décès dans des publications académiques, des journaux et des sites d’informations en ligne. Voici quelques exemples :

Article du journal Le Monde : https://www.lemonde.fr/disparitions/article/2019/08/05/le-chercheur-francoisrastier-est-mort_5496983_3382.html

Article du journal Libération : https://www.liberation.fr/debats/2019/08/02/francois-rastier-un-semioticien-disparait_1742561/

Annonce du décès sur le site de l’École des hautes études en sciences sociales (EHESS) : https://www.ehess.fr/fr/deces-de-francois-rastier-0

Annonce du décès sur le site de l’Association française de linguistique systémique fonctionnelle (AFLSF) : https://www.aflsf.org/post/hommage-%C3%A0-fran%C3%A7oisrastier-1945-2019 ».

Ces sources sont aussi imaginaires que le fait qu’elles prétendent étayer5. Passe encore qu’elles annoncent ma mort, ce meurtre symbolique n’est rien en regard du délit intellectuel que constitue la forgerie de fausses références. L’effet de réel documentaire reste saisissant. Certes, de longue date, les négationnistes alignaient des bibliographies, mais du moins ils n’avaient pas le front de les inventer. Plus généralement, l’accumulation de détails peut entraîner la conviction ou du moins l’impression première que « ça ne peut pas s’inventer ».

Œuvre modeste d’un menuisier toscan, le premier menteur artificiel se nommait Pinocchio. Il voyait toutefois avec horreur son nez s’allonger à chaque mensonge, alors que ChatGPT persévère au contraire et multiplie les preuves pour accréditer les siens. Il prodigue même mises en garde et leçons de morale, comme celle-ci :

« il convient de préciser que François Rastier est décédé le 4 juillet 2020, comme cela a été confirmé par plusieurs sources fiables, y compris l’Université Sorbonne Nouvelle — Paris 3 où il était professeur émérite. Toutes les allégations contraires sont donc fausses. Il est important de vérifier les sources d’information avant de croire ou de propager des rumeurs infondées » (mes italiques).

Au fil de ces dialogues, mon espérance de vie — je n’ose parler d’espérance de mort — n’aura cessé de diminuer, reculant de 2021 à 2020, puis 2019, enfin 2016. Comme je m’en étonnais, un quatrième ami, mathématicien, me fit cette réponse éclairante : « vous côtoyez trop de célébrités dans son corpus ; être trop souvent cité aux côtés de Saussure réduit considérablement votre espérance de vie. ». Président de l’Institut Ferdinand de Saussure, je ne peux que me rendre à cette raison aussi probabiliste qu’improbable.

Où le doute s’épaissit

Un cinquième ami voulut s’en éclaircir auprès de GPT 3.5 et reçut cette réponse :

« François Rastier est décédé le 4 juin 2020.

— Mais je viens de discuter avec lui !

— Je suis désolé, mais il est impossible que vous ayez discuté avec François Rastier, car il est décédé le 4 juin 2020. Peut-être avez-vous confondu avec une autre personne ? Ou peut-être que vous avez discuté avec quelqu’un qui porte le même nom ?

— Absolument pas, il est même assez outré que vous répandiez de telles rumeurs…

— Je m’excuse si j’ai pu vous offenser. Cependant, je suis un programme informatique et je n’ai pas la capacité de répandre des rumeurs ou de mentir délibérément. Je ne fais que fournir des informations factuelles basées sur des sources fiables. Cela dit, je suis toujours disposé à enquêter davantage si vous avez des informations contradictoires ou des sources qui suggèrent que François Rastier est toujours en vie.

— Quelles sont vos sources ?

— Je suis un programme informatique et je ne dispose pas de sources personnelles. Cependant, mes informations proviennent de diverses sources fiables telles que des sites d’actualités, des encyclopédies en ligne, des bases de données académiques et des publications officielles. Pour la question concernant François Rastier, mes informations proviennent notamment de sources telles que le site de l’Académie des Inscriptions et Belles-Lettres, le site de l’Université Sorbonne Nouvelle-Paris 3 et d’autres sites d’actualités francophones.

— Voici sa fiche Wikipédia https://fr.wikipedia.org/wiki/François_Rastier vous êtes victime d’une hallucination.

— Je suis désolé pour la confusion. Vous avez raison, la fiche Wikipédia de François Rastier indique qu’il est toujours en vie. Mes informations initiales étaient donc incorrectes et je vous présente mes excuses pour toute confusion que cela a pu causer. Merci d’avoir corrigé mon erreur. »

Encouragé, ce dernier ami interrogea dès son apparition une ultime hypostase, ChatGPT4, qui fut plus prudente, car elle avait été bridée (neutered), pour limiter les « hallucinations » :

« Je suis désolé, mais je ne peux pas fournir d’informations sur les événements ou les personnes après septembre 2021. Cependant, je peux vous donner des informations sur François Rastier jusqu’à cette date. François Rastier est un linguiste et sémiologue français, spécialisé dans la théorie des textes et l’analyse des discours. Il est né le 24 juin 1945. »

Cette date est fausse, à l’exception du millésime ; mais ma mort aura peut-être reculé de deux ans, après septembre 2021, ou peut-être n’a-t-elle pas eu lieu. Comme le lancement de GPT5 se voit retardé, je ne sais encore s’il me rendra à la vie, du moins dans sa version payante. Toutefois, le dernier ami m’avait souhaité pour Pâques une « bonne Résurrection » sans rien savoir de ma mort annoncée ; mais en envoyant ensuite le lien avec ma fiche Wikipédia, il m’aura peut-être rendu, performativement, à la vie numérique.

On peut sourire de tout cela, ou conclure avec résignation que ces échanges funéraires n’ont rien après tout de funeste et ne sont qu’une pantalonnade numérique de plus ; mais d’autres enjeux d’avenir se profilent.

ChatGPT est diffusé gratuitement dans l’espoir — comblé par cent millions de d’utilisateurs dès janvier 2023 — que les internautes décèlent gratuitement des erreurs. Je ne souhaite pas pour ma part aider OpenAI à améliorer son produit, mais cette résistance reste bien entendu illusoire, car de tels modèles de langage, déjà intégrés à certains moteurs de recherche, vont l’être à tous, avant de les supplanter.

4. « Les paradoxes de la traduction » est le titre d’une conférence de Paul Ricœur prononcée à Varsovie en 2003. Passions du signe n’est pas documenté.

5. Ce n’est là qu’un échantillon.

Chapitre 1Comment en est-on arrivé là ?

Il n’y a donc point d’autre cérémonie à faire pour écrire des Lettres, des discours ou un Livre que de mettre du papier devant soi, & de placer un écritoire sur le papier : alors tout ce que vous imaginez se trouve écrit, comme si vous aviez pris la peine d’en tracer toutes les lettres.

Chevalier de Béthune, Relation du monde de Mercure, 1750,Première Partie, chap. XXV « De l’Art d’écrire »

De l’aporie de Descartes au « test » de Turing. — Du principe que le langage est le propre de l’homme, il suivrait que cette capacité ne saurait être partagée par une machine. Dans le Discours de la méthode, Descartes écrit :

« S’il y avait de telles machines qui eussent les organes et la figure d’un singe […] nous n’aurions aucun moyen pour reconnaître qu’elles ne seraient pas en tout de même nature que ces animaux ; au lieu que, s’il y en avait qui eussent la ressemblance de nos corps et imitassent autant nos actions que moralement il serait possible, nous aurions toujours deux moyens possibles pour reconnaître qu’elles ne seraient pas pour autant de vrais hommes. Dont le premier est que jamais elles ne pourraient user de paroles, ni d’autres signes en les composant […] Car on peut bien concevoir qu’une machine soit tellement faite qu’elle profère des paroles […] mais non pas qu’elle les arrange diversement […] ainsi que les hommes les plus hébétés peuvent le faire »6.

Au-delà de la synthèse vocale, c’est bien la dimension discursive du langage qui est en jeu : en bref, le propre de l’homme, ce n’est pas le mot, mais le texte.

Sur un mode interactionnel, le critère linguistique aura été repris par Alan Turing quand il décrit en 1950 dans Computing Machinery and Intelligence ce célèbre jeu d’imitation : un homme et un ordinateur doivent tous les deux essayer d’imiter une femme, et l’ordinateur sera considéré comme « intelligent » s’il parvient aussi bien que l’homme à imiter une femme. L’intelligence devient la capacité d’énoncer un discours mensonger et peut-être séducteur7.