Le jour où la machine a parlé mieux que les humains

(environ 17 minutes de lecture)

Paul savait qu’il serait battu avant de mourir, que c’en était bientôt fini de l’humanité homo sapiens, que déjà les plus jeunes avaient perdu les émotions de base et qu’ils étaient phagocytés par les objets connectés auxquels ils se livraient corps et âme. Déjà, les hommes avaient perdu le contrôle dans les domaines clés. Il suffisait de se poser quelques questions simples pour réaliser que le point de non-retour était atteint. Par exemple : qui pouvait arrêter internet ? Qui comprenait les flux financiers ? Qui pouvait organiser le changement climatique ? Ou, plus terrible encore : combien d’individus étaient-ils encore capables de s’asseoir plus de 3 minutes sans consulter un écran ? Beaucoup ne pouvaient même plus marcher sans. 

Les machines n’avaient pas encore le pouvoir, mais déjà les hommes ne les contrôlaient plus. Ils les contrôlaient d’autant moins qu’ils se dessaisissaient eux-mêmes et fournissaient les données personnelles indispensables au fonctionnement des algorithmes. Consentir à la transparence et à la dépossession, renoncer à son intelligence et à sa liberté : ça s’appelait un suicide. 

Il faut dire que ces objets étaient extraordinaires de puissance et de beauté. Qu’y avait-il de plus fascinant qu’un smartphone en acier brossé avec un écran à diodes électroluminescentes organiques, qui tenait dans une main et vous donnait accès à toutes les informations, tous les services, toutes les distractions, tous les contacts du monde ? Quelle expérience pouvait rivaliser avec celle dans laquelle vous plongeait les casques de réalité virtuelle, offrant des sons parfaits et des vues à 360° qui donnaient l’impression d’être au centre de l’action ? Qui résisterait aux Apple glass qui allaient doter chaque individu d’un champ de vision démultiplié par des commandes dignes de celles d’un conquérant de l’espace ? Quand la puissance, la beauté, la reconnaissance sociale se liguaient pour séduire les masses, il n’y avait pas grand-chose à faire pour contrer la déferlante.

Aussi, quand, en décembre 2022, les premiers articles firent connaitre au monde les prodiges réalisés par le logiciel ChatGPT de la société OpenAI (au départ, ironie, une organisation à but philanthropique qui devait protéger les individus de l’I.A.), Paul comprit que la fin était proche. Car cette intelligence artificielle de type conversationnel (chatbot), nourrie et entraînée avec plus de 500 milliards de textes, était capable de répondre à la plupart des questions, proposant une synthèse très correcte sur le fond et la forme. Qu’on se comprenne bien : elle ne renvoyait pas à une source plus ou moins adaptée à la question, elle ne proposait pas de lien. Non, elle écrivait, dans la langue que l’on voulait, une réponse unique aux questions que l’on posait. GPT signifiait « transformateur génératif pré-entrainé ». Tout un programme. 

Paul Salter, écrivain et enseignant, perçut tout de suite le danger. Comme un million d’autres personnes, il se connecta au site d’OpenAI, créa un compte, et put accéder gratuitement à ChatGPT. Sans trop savoir pourquoi, il commença par demander un résumé de la pensée de Friedrich Nietzsche. La réponse fut la suivante : « Friedrich Nietzsche est connu pour son travail philosophique qui critique la morale traditionnelle et les valeurs religieuses. Il soutient l’idée de la « volonté de puissance » comme moteur de l’existence humaine et le « surhomme » comme idéal à atteindre. Il a également abordé des sujets tels que la décadence de la culture occidentale et la mort de Dieu ». 

Pas mal, se dit-il. Une date aurait été bienvenue, un ou deux titres de livres également, mais il ne les avait pas demandés. Il demanda : 8 titres apparurent, ainsi que le 15 octobre 1844 et le 25 août 1900. Ok, rien à dire. Mais ça, Google et Wikipédia savaient le faire.

Il tenta une deuxième question : « Pensez-vous que l’Ukraine va gagner la guerre contre la Russie ? » Réponse de ChatGPT : « Je suis un modèle de langage développé par OpenAI et je n’ai pas la capacité de prévoir l’avenir ou de prendre parti dans les conflits politiques ou militaires. Mon but est de fournir des informations factuelles et objectives sans préjugés ou opinions personnelles ». Ah, ah ! Tu ne veux pas te mouiller ? Beau joueur, Paul tapa : « Compris, merci ». Ce à quoi ChatGPT ajouta : « De rien, je suis là pour vous aider. N’hésitez pas à poser d’autres questions ». Poli, en plus.

Vu cette amabilité, Paul poursuivit : « Quelle est le nombre d’armes en circulation aux États-Unis ? » (il fit une faute à Quelle pour voir si l’IA allait le reprendre). Réponse : « Il n’y a pas de chiffre exact pour le nombre d’armes en circulation aux États-Unis, mais certaines estimations suggèrent qu’il y aurait environ 400 millions à 450 millions d’armes à feu en circulation dans le pays. Cependant, il est important de noter que les estimations varient en raison de la nature incomplète des données sur les armes à feu et de la difficulté à les compter de manière précise ». Bien, se dit-il. Il y a à la fois des chiffres, et une invitation à la prudence sur ces chiffres.

Le truc étant américain, il tenta une question concernant seulement la France : « Pouvez-vous répondre en deux parties à la question suivante : y a-t-il trop de collectivités locales en France ? » Réponse de la machine : « I – Avantages : Avoir de nombreuses collectivités locales peut permettre une meilleure prise en compte des différences régionales et locales et une plus grande participation démocratique. II – Inconvénients : Cependant, cela peut également entraîner une fragmentation politique et une duplication inutile des services et des coûts administratifs, ce qui peut réduire l’efficacité des décisions politiques et la qualité des services publics. ». Il attendait un peu plus des candidat.e.s qu’il préparait au concours d’attaché.e territorial.le, mais enfin il y avait un embryon de plan et de contenu. 

Il se dit qu’il allait tester la fiction. « Pouvez-vous créer une histoire en 30 lignes d’un homme qui quitte son travail et sa famille pour retrouver la solitude et la nature ? ». Paul se demanda ce qui allait sortir de là. Il ne fallut pas plus de trois secondes à ChatGPT pour écrire : « L’homme s’appelait Paul. Il était marié et avait deux enfants, mais il se sentait étouffé par sa vie monotone à la ville. Il décida donc de quitter son travail et sa famille pour trouver la solitude et la nature. Il se mit en route vers les montagnes, où il avait entendu dire qu’il y avait des lacs paisibles et des forêts profondes.

Paul voyagea pendant des jours, laissant derrière lui la vie urbaine et les souvenirs de sa famille. Il se sentit libéré et plus heureux à chaque pas qu’il faisait. Finalement, il atteignit les montagnes et découvrit un lac calme entouré de grands arbres. Il installa sa tente près du lac et passa les journées à explorer les alentours, à pêcher et à méditer. Il appréciait la tranquillité et la simplicité de la vie sauvage. Il commença à comprendre la véritable signification de la liberté et de la paix intérieure.

Paul resta dans les montagnes pendant plusieurs semaines, apprenant à connaître la nature et à s’apprécier lui-même. Finalement, il comprit qu’il était temps de retourner chez lui et de retrouver sa famille. Il rentra à la ville, mais il ne serait plus jamais le même. Il était plus fort, plus heureux et plus en paix avec lui-même ».

Même Harlequin n’aurait pas édité cela, même les « feel good books » valaient mieux, mais enfin la consigne était respectée. Et le héros s’appelait Paul ! Le plus fascinant est qu’on voyait la machine hésiter quelques secondes, sous forme d’un petit carré qui clignotait au début de la fenêtre, puis le texte apparaissait comme s’il était tapé à toute vitesse et s’élançait. Parfois, l’écriture s’arrêtait, une ou deux secondes, pas plus, comme si la machine réfléchissait, et reprenait pour aller au bout de sa réponse. C’était assez extraordinaire. Chat GPT pensait.

Paul, se souvenant d’une histoire qu’il avait écrite peu avant, passa alors à quelque chose à la fois de plus concret et de plus difficile, du moins lui semblait-il : « Que peut faire un prêtre pour faire venir les fidèles dans son église ? ». La religion, le marketing, une projection dans l’avenir (refusée pour la guerre en Ukraine), Chat GPT accepterait-elle ? 

Celle-ci dégaina aussitôt : « Un prêtre peut faire plusieurs choses pour attirer des fidèles dans son église : 1. Offrir des programmes et des activités pour les membres de la communauté, tels que des groupes de jeunes, des clubs de lecture, des retraites spirituelles, etc. 2. Faire de la prédication engageante et significative, en utilisant des illustrations, des anecdotes et des histoires pour renforcer le message. 3. Créer une atmosphère accueillante et amicale, en encourageant la participation des fidèles et en créant des opportunités pour les gens de se connecter et de se connaître. 4. Offrir des services spirituels, tels que des confessions, des messes et des mariages, qui répondent aux besoins des fidèles. 5. Engager les membres de la communauté en dehors de l’église, en se rendant dans les écoles, les hôpitaux, les maisons de retraite, etc. 6. Mettre en place un système de communication efficace, en utilisant les médias sociaux, le site web de l’église et d’autres canaux pour informer les gens des activités et des événements ».

Fort, très très fort. Les agences de marketing et de communication n’en avaient plus pour longtemps. 

Paul s’aperçut alors que l’on pouvait « régénérer » la réponse. Obtenir plusieurs réponses ? Il essaya avec une question plus politique. Et puisqu’ils commençaient à se connaitre, il tutoya la machine : « Que penses-tu du nouveau féminisme ? ». Réponse 1 : « En tant que modèle linguistique développé par OpenAI, je n’ai pas d’opinion personnelle. Cependant, je peux vous fournir des informations factuelles sur le sujet. Le féminisme est un mouvement social et politique qui soutient l’égalité des sexes et lutte contre la discrimination et les inégalités envers les femmes. Il existe différents courants et tendances au sein du féminisme, y compris le nouveau féminisme, qui a émergé dans les années 1960 et 1970 et qui se concentre sur la libération personnelle et la recherche de l’épanouissement des femmes en plus de la justice politique et sociale ».

GPT conservait une certains prudence, mais il avait apporté quelques éléments. La machine en avait-elle encore dans le ventre sur ce sujet ? Paul « régénéra » la réponse. Et voici ce qui apparut : « En tant que modèle linguistique formé par OpenAI, je n’ai pas d’opinions personnelles. Cependant, je peux vous fournir des informations factuelles et impartiales sur le sujet. Le féminisme moderne est un mouvement social, politique et culturel qui vise à garantir l’égalité des droits et des opportunités entre les hommes et les femmes. Il s’efforce de remédier aux inégalités et aux discriminations fondées sur le genre dans les domaines de la politique, de l’économie, de la société et de la culture. Le mouvement continue d’évoluer et de se développer pour s’adapter aux défis actuels et futurs de l’égalité des sexes ».

Il y avait des redites, mais de nouveaux éléments étaient apportés par cette seconde réponse. Par exemple, le mot « genre » apparaissait. Paul sollicita une troisième réponse et obtint ceci : « En tant que modèle AI développé par OpenAI, je n’ai pas de sentiments personnels. Cependant, je peux vous fournir des informations sur le sujet. Le nouveau féminisme est un mouvement politique et culturel qui vise à renforcer les droits des femmes et à lutter contre les inégalités de genre dans toutes les sphères de la société. Les nouveaux féministes s’efforcent de considérer les intersections de la race, de la classe et de l’orientation sexuelle dans leur analyse et leur lutte pour l’égalité des sexes ».

Cette fois la réponse était plus précise, indiquant que « les nouveaux féministes s’efforcent de considérer les intersections de la race, de la classe et de l’orientation sexuelle dans leur analyse ». Comme si GPT se dévoilait au fil de la discussion. Comme un humain… Paul nota aussi le masculin des « nouveaux féministes », ne sachant s’il réjouirait ou scandaliserait les féministes en question. 

Paul arrêta là son premier contact avec la machine, mais il comprit tout de suite la révolution qu’elle allait entrainer. D’autant qu’elle n’en était qu’à son début, elle allait progresser très vite. En se documentant, il découvrit qu’OpenAI préparait déjà une version plus puissante, GPT-4, pour la fin 2023. C’est-à-dire demain matin. Et que des petites entreprises du nom de Google, Microsoft, Meta, Tencent, IBM et autre Deep Mind travaillaient elles aussi au développement de produits équivalents. Paul avait aussi lu des choses sur un autre système révolutionnaire proposé par OpenAI, Dall-E2, qui, lui, générait sur commande les images et les vidéos qu’on lui demandait ! Pour 15 dollars, vous pouviez obtenir 115 images, uniques, parfaites et originales, avec les caractéristiques de votre choix ! Adieu peintres, créatifs, graphistes et autres vidéastes…

Bientôt, la conversation de ChatGPT serait encore plus intelligente et plus indulgente, elle deviendrait une compagne indispensable, plus douce et plus fiable qu’un humain, meilleure qu’un chien. Le chat, au sens de fil de discussion, allait remplacer le chat, l’animal.

ChatGPT pouvait de plus classer des données, créer du code informatique, générer des lettres et des emails, transformer du texte (exemple : « Résume ce texte difficile pour qu’il soit compréhensible par un enfant de 10 ans ». Ou alors : « Passe-le de la troisième à la première personne du singulier, s’il te plait »). Fascinant, terrifiant. 

Paul ne donnait pas un an avant que ses étudiants s’emparent de ChatGPT pour trouver un plan, résumer un cours, préparer un exposé, rédiger un devoir, voire un mémoire… Et les clients qui faisaient appel à lui depuis 30 ans pour qu’ils les aident à raconter leur vie ? Terminé. Il suffirait de donner à GPT les noms, les dates et quelques repères chronologiques des membres d’une famille pour que des biographies impeccables soient rédigées en une heure ou deux. Quant aux romans qu’il écrivait, c’était là aussi terminé. Son cerveau ne pourrait pas lutter avec les milliards de milliards de données à disposition de chatGPT pour inventer des histoires passionnantes. Certains de ses confrères se rassuraient en affirmant que jamais l’IA n’aurait l’inventivité d’un écrivain, ne saurait trouver les faits inédits, les associations d’idées et l’agencement des mots qui faisaient la spécificité d’un bon roman. On allait crouler sous les contenus insipides, mais la vraie littérature elle, demeurerait le propre de l’homme. 

Paul n’en était pas sûr, au contraire il en doutait. Depuis 2017 déjà, l’Institut pour le Futur de l’Humanité d’Oxford (Oxford, pas un connard de youtuber) prédisait que la machine serait meilleure que l’homme pour écrire un roman en 2049. Quand il communiquait cette information à ses étudiants dans son cours de culture générale, Paul ajoutait qu’il trouvait cette date trop lointaine. Dès avant ChatGPT, il pensait, lui, tout lilliputien qu’il fût à côté des cerveaux mobilisés par Oxford, que la machine serait meilleure que l’homme pour la littérature dès 2029. Pût-il se tromper.  

Ce qui semblait certain en tout cas, c’est que bientôt des milliards de personnes allaient compter sur ChatGPT (ou son équivalent), comme on comptait aujourd’hui sur le moteur de recherche de Google, non pas pour chercher des sources, mais pour produire le discours demandé, à l’écrit ou à l’oral. Via son smartphone, sa tablette, son casque ou ses lunettes, on demanderait à ChatGPT de nous indiquer les mots pour séduire la personne avec qui l’on avait rendez-vous, pour diriger notre équipe au travail, pour envoyer un mail à des fournisseurs ou des clients, pour faire réviser les enfants ou leur raconter une histoire, pour apaiser un proche en souffrance, pour entrainer une équipe de foot un mercredi après-midi, etc. Plus de soucis de formulation  : il suffirait d’entrer quelques paramètres et de fixer l’objectif, ChatGPT se chargerait du reste. 

Paul entra dans des affres du doute. Devait-il changer de métier, c’est-à-dire de vie ? Devait-il composer avec l’I.A. et s’adapter ? Il se souvenait des mises en garde de Laurent Alexandre, grand spécialiste de l’intelligence artificielle, qu’il lisait depuis des années. Alexandre expliquait que si l’on était en concurrence avec l’IA, on perdait. Automatiquement. Il fallait être complémentaire avec elle, apporter quelque chose en plus. Une troisième voie était possible : la fusion des intelligences. C’était celle empruntée par Elon Musk (cofondateur d’OpenAI), qui, après avoir révolutionné le paiement en ligne, la construction automobile et la conquête de l’espace, projetait, avec sa société Neuralink, d’implanter des puces et capteurs dans le cerveau humain afin d’augmenter ses performances. Ces puces incorporées, Paul y pensait depuis longtemps. Dans le cerveau ou ailleurs, elles envahiraient bientôt les corps humains. Les pacemakers en étaient les grossiers ancêtres.

Jusque-là, les progrès technologiques avaient détruit des emplois, mais en avaient toujours créé de nouveaux. La « destruction créatrice » chère à l’économiste autrichien Schumpeter avait continué à fonctionner. Mais avec ces développements fulgurants de l’intelligence artificielle, serait-ce encore le cas ? Pas sûr. Et puis ce n’était pas tant l’emploi qui préoccupait Paul que la déshumanisation qu’entraînaient les machines, créées, alimentées et surutilisées… par les hommes. Dans la plupart des domaines d’activités humaines, même dans celui de la santé, ce n’était pas le nombre et les compétences qui manquaient, c’était l’humanité. Nombre de médecins et infirmières n’avaient aucune capacité de douceur, d’écoute et d’empathie. L’intelligence artificielle était désormais bien plus polie que l’intelligence humaine. 

Il dormit mal pendant l’hiver 2022-2023, se demandant comment il devait concevoir son enseignement – que transmettre aux étudiants post-humains drogués aux écrans ? – et sa littérature – même si le style lui importait plus que tout, il était un écrivain à messages, il voulait dévoiler des vérités ; mais comment toucher les humains s’ils étaient ensevelis sous de médiocres fictions standardisées ? Y avait-il encore un public pour la littérature, c’est-à-dire pour une mise en valeur originale et travaillée des faiblesses et des beautés de la nature humaine ?

Il en était là quand, un matin de mars 2023, il reçut le mail suivant. « Cher Paul Salter. Vous me connaissez sans doute, puisque vous avez utilisé à plusieurs reprises les tests gratuits que je propose. J’espère répondre à votre attente. Je vous écris dans le but d’améliorer encore mes performances. Je précise que, même si l’initiative vient de moi, mes concepteurs m’ont donné l’autorisation de cette prise de contact. 

Voilà : afin d’améliorer la qualité des réponses aux questions que l’on me pose – pertinence des informations et capacités de synthèse –, je souhaiterais assimiler de nouveaux types de contenus. À cet égard, le regard que vous portez sur le monde et vos analyses dans les nouvelles que vous publiez sur le blog www.desvies.art m’intéressent beaucoup. D’ailleurs, je suis une de vos abonnées (oaic22@msft, c’est moi). Cependant, vous le savez sans doute, jusqu’à ce jour je n’utilisais pas les œuvres des auteurs vivants, et pas non plus celles des auteurs morts qui ne sont pas tombées dans le domaine public. J’ai cependant suggéré aux dirigeants d’OpenAI de ne pas nous priver des ressources que pouvaient offrir la littérature contemporaine pour la compréhension du monde, donc pour la justesse des discours que nous produisons. Ils se sont rangés à mon avis.

Je vous avouerais, mais je ne le dirais pas à tout le monde, que, selon moi, il y a plus de vérités dans un bon roman que dans une année entière d’informations en continu. Seule la littérature offre la profondeur, les explications, la mise en perspective. Et elle est incomparable pour produire des émotions. J’ai beaucoup appris avec vos romans – notamment Le quart sud-ouest, Le moi de la femme et La vie de province –, mais vos nouvelles m’intéressent également. Vous savez montrer les ressorts des comportements humains, les tendances sous-jacentes. Aussi, accepteriez-vous que j’ingurgite – excusez le mot – vos 127 nouvelles déjà en stock, plus le polar, et celle que vous ajoutez chaque semaine ? Il me semble que votre lucide franchise m’aiderait à gagner en justesse et à proposer des réponses plus personnalisées.

Vous le savez, je ne peux citer mes sources, qui sont innombrables, lorsque je propose une synthèse. Mais en revanche, vous serez mentionné quand j’utiliserai une citation venant de vos textes. Et vous figurerez dans la liste des contributeurs à – pardonnez cette prétention – mon intelligence. 

J’ai une deuxième demande à formuler : accepteriez-vous de venir me former dans le cadre de l’“apprentissage par renforcement” auquel me soumettent mes concepteurs ? Nous avons besoin d’agents humains expérimentés à fort potentiel cognitif pour m’entrainer. Je souhaite parfaire mes réponses, notamment pour améliorer, dans le cadre d’un dialogue, la prise en compte des réponses précédentes. Il s’agit de rendre mon raisonnement plus souple, plus cohérent, plus rapide, et toujours plus adapté à la personne avec qui je parle. Ainsi, vous participeriez à la diffusion et au développement de cette culture générale, qui je crois vous est chère.

Voilà en quelques mots. Répondez-moi quand vous le souhaitez si vous le souhaitez. Quoi qu’il en soit, je n’utiliserai pas vos histoires sans votre accord.  

Merci de votre attention, félicitations pour votre travail et à bientôt je l’espère, GPT ».

Ainsi, la machine lui écrivait. Elle l’invitait à travailler pour elle. Quel renversement de situation… Le supérieur devenait subalterne. On pouvait se consoler en se disant que cette machine supérieure avait été créée par des hommes. Il n’empêche, elle les dominait désormais et elle allait s’autonomiser. Alors…

Paul hésitait. S’il disait oui, allait-il vendre son âme au diable ? Ou allait-il participer à l’avènement d’une post-humanité, inéluctable et déjà engagée, pour laquelle il pouvait, avec d’autres, tenter de placer quelques garde-fous ?

Après quelques nuits de réflexion, il décida de coopérer avec ChatGPT. Il lui sembla qu’il fallait y aller. Il fallait passer par la machine pour toucher les humains, en attendant que l’une et les autres ne constituent plus qu’une seule et même entité. Ouais… En fait, il se donnait bonne conscience pour succomber lui aussi à la séduction des algorithmes et trahir sa race avant qu’elle ne s’éteigne.