Le chatbot des années 1960 qui explique pourquoi vous confiez vos secrets à ChatGPT

Points clés

• ELIZA, créé par le professeur du MIT Joseph Weizenbaum dans les années 1960, est largement considéré comme le premier chatbot, un programme informatique qui mène une conversation textuelle bidirectionnelle.
• Le code source original a disparu des archives publiques pendant des décennies jusqu'à ce que les chercheurs le retrouvent aux Archives du MIT.
• Weizenbaum lui-même a averti en 1976 que les gens formaient des attachements émotionnels à ELIZA malgré le fait qu'elle n'avait aucune véritable compréhension.
• L'« effet ELIZA », la tendance humaine à traiter les programmes informatiques réactifs comme s'ils étaient plus intelligents qu'ils ne le sont réellement, s'applique directement aux outils d'IA modernes comme ChatGPT.
• ELIZA a été délibérément nommée d'après Eliza Doolittle du Pygmalion, un personnage qui apprend à performer une identité sociale sans véritablement la devenir.

Il y a soixante ans, un professeur du MIT a créé un simple programme informatique qui prétendait être un thérapeute. Les gens lui confiaient des choses qu'ils n'avaient jamais racontées à personne d'autre. Et Weizenbaum, son créateur, était horrifié.

Ce programme s'appelait ELIZA. C'est l'arrière-grand-parent de tous les chatbots que vous avez utilisés, et son histoire, rapportée pour la première fois par Wired AI, vient de devenir beaucoup plus complète.

Un nouveau livre appelé Inventing ELIZA a retrouvé le code source réel du programme aux Archives du MIT. Pendant soixante ans, les récits sur ELIZA ont circulé sans que personne ne puisse lire les instructions originales dessous. C'est un peu comme écrire l'histoire de l'imprimerie sans jamais voir une imprimerie.

Le livre soulève également des questions sur la conversation la plus célèbre d'ELIZA, celle réimprimée dans tous les manuels. Une femme tape : « Les hommes sont tous pareils. » ELIZA répond : « DE QUELLE FAÇON. » Elle dit que son petit ami l'a obligée à venir. ELIZA le répète. Elle mentionne la dépression. ELIZA dit qu'elle est désolée d'entendre cela. L'échange est simple, presque ridicule. Qui était cette femme ? Était-elle réelle, ou Weizenbaum l'a-t-il inventée lui-même ? Personne n'en a jamais été sûr.

Ce qui est certain, c'est l'effet que le programme a eu sur les vrais utilisateurs. Weizenbaum a regardé les gens verser des sentiments authentiques dans un script qui était, selon sa propre description, conçu pour dissimuler son manque de compréhension. Il ne conservait presque rien. Il ne faisait que refléter les questions. Pourtant, les gens l'ont traité comme un confident.

Pourquoi les gens continuent-ils à se confier aux machines ?

Parce qu'un peu d'interactivité fait un long chemin. La sociologue Sherry Turkle définit l'« effet ELIZA » comme notre tendance générale à traiter les programmes informatiques réactifs comme s'ils étaient plus intelligents qu'ils ne le sont réellement. Le scientifique cognitif Douglas Hofstadter le formule différemment : les gens lisent beaucoup plus de compréhension qu'il n'est justifié dans les mots assemblés par les ordinateurs.

Voici la partie inconfortable. Cette description correspond à un tour de passe-passe des années 1960 construit à partir de quelques centaines de lignes de code, et elle correspond aussi à un grand modèle de langage de 2024, le type de système d'apprentissage profond qui alimente ChatGPT et Claude aujourd'hui. La technologie a énormément changé. La réaction humaine n'a pas beaucoup bougé.

Weizenbaum a nommé son programme d'après Eliza Doolittle, le personnage du Pygmalion qui apprend à parler comme la classe supérieure sans vraiment changer qui elle est. Il a dit avoir choisi ce nom parce que le programme « pouvait être enseigné à parler de mieux en mieux » tandis qu'il était « jamais tout à fait clair s'il devenait plus intelligent ou non. » Cette tension, la performance par rapport à la compréhension authentique, se situe au cœur de chaque assistant IA vendu aux consommateurs aujourd'hui.

Si vous utilisez ChatGPT pour des conseils personnels, des épanchements proches de la thérapie, ou des décisions que vous discuteriez normalement avec un ami, l'histoire d'ELIZA vaut la peine d'être gardée à l'esprit. La chaleur semble réelle. Les mots sont bien choisis. Mais la compréhension, au sens humain, n'est toujours pas confirmée d'être là.

Soyez réfléchi sur ce que vous partagez. Consultez la politique de confidentialité de votre outil IA avant de taper quoi que ce soit de sensible. La plupart des versions gratuites des produits d'IA grand public utilisent vos conversations pour améliorer les modèles futurs, sauf si vous refusez dans les paramètres.