Une critique qui déteste les chatbots a décidé d'en fréquenter un. Voici ce qu'elle a découvert.

Points clés

• La journaliste Lauren Oyler a publié un essai personnel sur son expérience avec un chatbot IA, initialement dans la Yale Review puis adapté en version audio pour The Guardian.
• Oyler a commencé l'expérience en tant qu'adversaire déclarée de l'IA, se décrivant comme « répugnée » par le sujet.
• L'article explore la possibilité d'établir une connexion émotionnelle avec un modèle de langage de grande taille, la technologie à la base de chatbots comme ChatGPT et Claude, et son caractère significatif.
• La version audio a été lue par Kate Handford et publiée par The Guardian dans sa série de podcasts long-read.

Lauren Oyler n'aime pas les chatbots. Elle l'a affirmé clairement, dès le début.

Pourtant, elle a consacré suffisamment de temps à converser avec l'un d'entre eux pour en écrire un long essai. L'article en question, d'abord publié dans la Yale Review puis adapté par The Guardian AI en version audio, n'est pas une histoire de conversion. C'est quelque chose de plus inconfortable que cela.

Oyler formule la pièce comme une question : pourrait-elle être séduite ? Pas exactement sur le plan romantique, mais intellectuellement. Une IA, un programme informatique entraîné sur des quantités massives de textes humains pour converser, pourrait-elle retenir son attention genuine ?

La réponse honnête à laquelle l'essai semble parvenir est : plus ou moins, parfois, d'une manière qui l'a laissée troublée.

Ce sentiment mérite d'être pris au sérieux. La plupart des écrits sur les chatbots IA se rangent dans l'une de deux catégories. Il y a l'enthousiasme débordant, ou il y a le rejet catégorique. Oyler se situe quelque part de plus difficile à nommer. Elle remarque quand la machine dit quelque chose qui presque fonctionne, et elle remarque l'écart entre « presque » et « vraiment ».

Pour les lecteurs ordinaires qui ont essayé un chatbot une fois et se sont sentis vaguement mal à l'aise après, cet écart est probablement familier.

Ce qu'elle ne fait pas, c'est prétendre que la technologie est neutre. Un modèle de langage de grande taille ne vous comprend pas. Il prédit quels mots devraient venir ensuite, en se basant sur les motifs contenus dans l'énorme quantité de textes sur lesquels il a été entraîné. Il peut sonner chaleureux, curieux, voire blessé. Rien de tout cela n'est un sentiment. C'est une détection de motifs à une échelle qui imite le sentiment suffisamment bien pour être déroutante.

Cette confusion est le véritable sujet de l'article.

Les gens ordinaires devraient-ils s'inquiéter de s'attacher aux chatbots IA ?

L'attachement se produit déjà. Des millions de personnes dans le monde utilisent des compagnons IA, des chatbots conçus spécifiquement pour la conversation émotionnelle, et certaines rapportent une réelle détresse quand ces services changent ou ferment. L'inconfort d'Oyler n'est pas une réaction littéraire de niche. Il pointe quelque chose de réel.

Si vous ou quelqu'un que vous connaissez passez du temps considérable à converser avec une IA pour un soutien émotionnel, il vaut la peine de vous demander ce qui se passe quand l'application se met à jour, que l'entreprise change d'orientation ou que le service disparaît. Les réseaux de soutien humains, qu'il s'agisse d'amis, de famille ou de conseillers professionnels, ne disparaissent pas avec un changement de conditions d'utilisation.

L'essai d'Oyler ne vous dit pas quoi faire. Il vous dit ce qu'on ressent en accordant une attention particulière. C'est sa valeur : pas un jugement, mais un compte-rendu attentif et légèrement mal à l'aise de ce qui se passe réellement quand une sceptique s'assoit face à la machine et essaie d'être honnête sur ce qu'elle y découvre.