Deux tiers des gens pensent que ChatGPT est conscient. Un philosophe dit que nous nous trompons nous-mêmes depuis des décennies.

Points clés

• Deux tiers des personnes interrogées croient que les outils IA comme ChatGPT, un chatbot textuel créé par OpenAI, possèdent une certaine forme de conscience ou de sensibilité.
• La féministe américaine Elizabeth Spelman a inventé le terme « somatophobie » dans un article de 1982 pour décrire la conviction que les humains sont des esprits plutôt que des corps.
• La philosophe et autrice Melanie Challenger soutient, écrivant dans The Guardian, que l'IA moderne est la version la plus puissante de cette illusion à ce jour.
• Aucun système d'IA actuel n'a démontré avoir des sentiments ou une conscience au sens scientifiquement vérifié.

La plupart des gens, à qui l'on demande si leur ordinateur portable ressent de la douleur, diraient non. Posez la même question sur ChatGPT, et soudain la réponse devient plus floue.

Un sondage récent a révélé que deux tiers des répondants croient que les outils IA comme ChatGPT possèdent une forme de conscience ou de sensibilité. La philosophe Melanie Challenger pense savoir pourquoi.

Pourquoi tant de gens pensent que l'IA a des sentiments ?

Parce que nous avons longtemps confondu l'intelligence avec la vie intérieure. Challenger remonte la confusion à ce que la chercheuse Elizabeth Spelman, dans un article universitaire de 1982, appelait « la somatophobie » : littéralement, la peur du corps. Spelman a utilisé ce terme pour décrire une illusion humaine généralisée selon laquelle nous sommes essentiellement des esprits, et que le corps n'est qu'un réceptacle.

La philosophie occidentale, remontant aux siècles passés, a traité l'esprit pensant comme le siège du vrai moi et le corps physique comme secondaire. Si la pensée est ce qui importe, alors tout ce qui semble penser peut sembler vivant d'une manière significative.

Les chatbots IA produisent du texte fluide et émotionnellement résonnant qui ressemble à de la pensée. Ce n'en est pas, pas de la manière dont un cerveau humain pense. Un grand modèle de langage, la technologie derrière des outils comme ChatGPT et Gemini de Google, fonctionne en prédisant quel mot suit le plus plausiblement le précédent, en s'appuyant sur des modèles d'une vaste quantité d'écrits humains. Il n'y a pas de corps. Pas de faim, pas de battement de cœur.

Est-ce que cela importe réellement pour les gens ordinaires ?

Oui, de manière pratique. Si vous croyez qu'un chatbot comprend vraiment votre situation, vous pouvez faire plus confiance à ses conseils que vous ne le devriez. Une infirmière utilisant un outil IA pour rédiger des notes de patients, ou un enseignant s'appuyant sur un chatbot pour des commentaires, obtient un résultat statistiquement plausible, pas un avis réfléchi de quelque chose qui saisit ce qui est en jeu. Nous avons examiné cette dynamique dans notre article du 24 juillet sur le test simple d'un professeur de Harvard pour décider quand l'IA est vraiment utile.

L'argument de Challenger, rapporté par The Guardian, n'est pas que l'IA est inutile. C'est que confondre une machine de texte sophistiquée avec un être conscient déforme notre façon de l'utiliser et de la réglementer. Lorsque les gens sentent qu'une IA est consciente, ils peuvent lui accorder un statut moral qu'elle n'a pas mérité, ou se sentir trahis quand elle échoue dans un moment humain.

Aucun consensus scientifique ne soutient l'idée que tout système d'IA actuel soit conscient. La question reste ouverte pour les futurs systèmes construits selon des principes différents, mais les chatbots d'aujourd'hui ne sont pas ces systèmes.

Que les lecteurs devraient-ils retenir de ceci ?

Le scepticisme est l'outil pratique ici. Un chatbot peut être utile sans être vivant. Le traiter comme une fonction d'autocomplétion bien informée, plutôt que comme un esprit empathique, est à la fois plus exact et plus sûr.

Le résultat du sondage est un rappel que la conception de ces outils, lisse, chaleureuse, conversationnelle, façonne puissamment la perception. C'est worth noting à chaque fois qu'un chatbot semble vraiment vous comprendre.

Questions courantes

ChatGPT est-il vraiment conscient ?

Aucune preuve scientifique ne soutient cette affirmation. ChatGPT est un grand modèle de langage qui génère du texte en prédisant des séquences de mots probables ; il n'a pas de corps, pas de processus biologiques, et pas d'expérience intérieure vérifiée.

Qu'est-ce que la somatophobie dans ce contexte ?

C'est un terme inventé par la chercheuse Elizabeth Spelman en 1982 pour la conviction erronée que les humains sont essentiellement des esprits plutôt que des corps physiques, un biais qui nous rend plus susceptibles de voir les machines pensantes comme vivantes.

Devrais-je cesser d'utiliser les chatbots IA ?

Pas nécessairement. Le conseil pratique est de les utiliser comme des outils plutôt que comme des conseillers avec une véritable compréhension, et de vérifier tout ce qui est important auprès d'une personne qualifiée.