Les deux tiers des gens pensent que ChatGPT est conscient. Un philosophe dit que nous nous trompons depuis des décennies.

Points clés

• Les deux tiers des personnes interrogées dans une étude récente croient que les outils d'IA tels que ChatGPT, un chatbot basé sur du texte créé par OpenAI, possèdent une forme de conscience ou de sentiment.
• La chercheuse féministe américaine Elizabeth Spelman a inventé le terme « somatophobie » dans un article de 1982 pour décrire la croyance que les humains sont des esprits plutôt que des corps.
• La philosophe et auteure Melanie Challenger affirme, écrivant dans The Guardian, que l'IA moderne est la version la plus puissante de cette illusion à ce jour.
• Aucun système d'IA actuel n'a démontré avoir des sentiments, une conscience ou une expérience vécue dans un sens scientifiquement vérifié.

La plupart des gens, si on leur demande si leur ordinateur portable ressent de la douleur, diraient non. Posez la même question à propos de ChatGPT, un chatbot d'IA qui entretient de longues conversations émotionnellement fluides, et soudain la réponse devient plus nuancée.

Un sondage récent a montré que les deux tiers des répondants croient que les outils d'IA comme ChatGPT possèdent une certaine forme de conscience ou de sentiment. C'est un chiffre frappant, et la philosophe Melanie Challenger pense savoir pourquoi il continue d'augmenter.

Pourquoi tant de gens pensent que l'IA a des sentiments ?

Parce que nous avons longtemps confondu l'intelligence avec la vie intérieure. Challenger retrace cette confusion à ce que la chercheuse Elizabeth Spelman, dans un article universitaire de 1982, appelle la « somatophobie » : littéralement, la peur du corps. Spelman a utilisé ce mot pour décrire une illusion humaine généralisée selon laquelle nous sommes essentiellement des esprits, et que le corps n'est qu'un véhicule.

Cette idée a des racines profondes. La philosophie occidentale, remontant à plusieurs siècles, a eu tendance à traiter l'esprit pensant comme le siège du vrai moi, et le corps physique comme secondaire. Si la pensée est ce qui compte, alors tout ce qui semble penser pourrait sembler vivant d'une manière significative.

Les chatbots d'IA, qui produisent du texte fluide et émotionnellement résonnant, donnent l'impression qu'ils pensent. Ce n'est pas le cas, du moins pas de la manière dont un cerveau humain pense. Un grand modèle de langage, la technologie derrière des outils comme ChatGPT et Gemini de Google, fonctionne en prédisant quel mot suit le plus plausiblement le précédent, en s'appuyant sur des modèles appris à partir de quantités massives d'écrits humains. Il n'y a pas de corps. Pas de faim, pas de battement cardiaque, pas d'enjeu dans le résultat.

Est-ce que cela a réellement de l'importance pour les gens ordinaires ?

Oui, de façons pratiques. Si vous croyez qu'un chatbot vous comprend véritablement ou se soucie de votre situation, vous pourriez faire davantage confiance à ses conseils que vous ne devriez. Une infirmière utilisant un outil d'IA pour aider à rédiger des notes patientes, ou un enseignant s'appuyant sur un chatbot pour des commentaires, obtient un résultat statistiquement plausible, pas un avis réfléchi de quelque chose qui comprend ce qui est en jeu.

L'argument de Challenger, rapporté par The Guardian, n'est pas que l'IA est inutile. C'est que confondre une machine de texte très sophistiquée avec un être conscient déforme la façon dont nous l'utilisons et la façon dont nous la réglementons. Lorsque les gens sentent qu'une IA est sensiente, ils peuvent lui accorder un statut moral qu'elle n'a pas mérité, ou, au contraire, se sentir trahis quand elle les déçoit dans un moment très humain.

Aucun consensus scientifique ne soutient l'idée qu'un système d'IA actuel est conscient. La question reste véritablement ouverte pour les systèmes futurs, très différents, mais les chatbots d'aujourd'hui ne sont pas ces systèmes.

Que devraient retirer les lecteurs de cela ?

Le scepticisme est l'outil pratique ici. Un chatbot peut être utile sans être vivant. Le traiter comme une fonction d'autocomplétion sophistiquée et bien informée, plutôt que comme un esprit empathique, est à la fois plus exact et plus sûr.

Le résultat du sondage est un rappel que la conception de ces outils, lisse, chaleureuse, conversationnelle, façonne puissamment la perception. Cela vaut la peine de garder à l'esprit chaque fois qu'un chatbot semble vraiment vous comprendre.

Questions courantes

ChatGPT est-il vraiment conscient ?

Aucune preuve scientifique ne soutient cette affirmation. ChatGPT est un grand modèle de langage qui génère du texte en prédisant des séquences de mots probables ; il n'a pas de corps, pas de processus biologiques, et aucune expérience intérieure vérifiée.

Qu'est-ce que la somatophobie dans ce contexte ?

C'est un terme inventé par la chercheuse Elizabeth Spelman en 1982 pour désigner la fausse croyance que les humains sont essentiellement des esprits plutôt que des corps physiques, un parti pris qui nous rend plus susceptibles de voir les machines pensantes comme vivantes.

Devrais-je arrêter d'utiliser les chatbots d'IA ?

Pas nécessairement. Le conseil pratique est de les utiliser comme des outils plutôt que comme des conseillers ayant une véritable compréhension, et de vérifier tout ce qui est important avec un humain qualifié.