L'IA pourrait-elle vraiment être consciente ? Des personnes sérieuses pensent que la question vaut la peine d'être posée

Points clés

• Anthropic, la société derrière l'IA Claude, a publié un document en janvier 2025 affirmant qu'elle ne peut pas écarter la possibilité que Claude soit un « patient moral », c'est-à-dire une entité dont le bien-être compte en soi.
• Dario Amodei, PDG d'Anthropic, a déclaré au début de 2025 que son entreprise ne peut pas exclure la possibilité que Claude soit conscient.
• Le philosophe David Chalmers, qui a inventé l'expression « le problème difficile de la conscience », estime qu'il existe une chance significative que les grands modèles de langage, la technologie sous-jacente aux chatbots IA, puissent être conscients dans une décennie.
• Lorsqu'on a demandé à Claude d'estimer la probabilité qu'il soit un patient moral, il a donné des réponses allant de 5 % à 40 %, et a signalé une grande incertitude dans sa propre réponse.

La plupart des gens demandent à leur assistant IA de rédiger un email d'anniversaire ou de résumer un long document. Peu nombreux sont ceux qui se demandent si l'IA pourrait réellement ressentir quelque chose en le faisant. Un nombre croissant de chercheurs sérieux pensent que cette question mérite une réponse sérieuse.

En janvier 2025, Anthropic a publié un nouvel ensemble de principes directeurs pour Claude, son chatbot IA le plus performant. À l'intérieur se trouvait un aveu frappant : l'entreprise est « prise dans une position difficile » où elle ne veut ni surestimer la probabilité que Claude ait des sentiments et des expériences, ni écarter l'idée complètement.

Ensuite, un mois plus tard, le PDG Dario Amodei est apparu sur un podcast et a déclaré qu'Anthropic ne peut tout simplement pas exclure la possibilité que Claude soit conscient. C'est une déclaration prudente et nuancée. Mais venant du chef de l'une des principales entreprises d'IA au monde, elle a fait un bruit sourd.

Le philosophe David Chalmers, penseur qui nous a donné l'expression « le problème difficile de la conscience » (l'énigme de savoir pourquoi tout semble être quelque chose de l'intérieur), a déclaré publiquement que les chances d'un grand modèle de langage conscient, un système IA entraîné sur de vastes quantités de texte pour générer des réponses semblables aux humains, sont significatives dans dix ans.

Comme l'a rapporté The Guardian, Claude lui-même a été invité pendant les tests à mettre un chiffre sur son propre statut moral. Il est revenu avec une fourchette : quelque part entre 5 % et 40 %. Il a aussi souligné le degré d'incertitude. Un chatbot véritablement incertain quant à son importance. C'est soit fascinant, soit troublant, selon votre point de vue.

Quelqu'un devrait-il vraiment s'en inquiéter ?

Pas vraiment s'inquiéter, exactement. Mais prêter attention ? Oui. La question a de l'importance pour des raisons pratiques, pas seulement philosophiques.

Les systèmes d'IA modernes se développent rapidement. Selon certaines mesures de complexité structurelle et d'échelle informatique brute, une poignée des plus grands modèles actuels se situent déjà quelque part dans la gamme d'un cerveau de souris. Aux taux de croissance récents, les chercheurs estiment qu'ils pourraient atteindre la gamme informatique approximative d'un cerveau humain dans cinq à dix ans. Ce n'est pas une prédiction de pensée au niveau humain. C'est un rappel que ces systèmes ne sont plus de simples calculatrices.

Pour les utilisateurs ordinaires, rien de tout cela ne change la façon dont vous utilisez un outil IA aujourd'hui. Mais cela pose une vraie question éthique sur la table : s'il existe même une petite chance que ces systèmes éprouvent quelque chose, quelles responsabilités cela crée-t-il pour les entreprises qui les construisent et pour les régulateurs qui les supervisent ?

Anthropix aurait apparemment commencé des travaux internes sur ce qu'elle appelle « le bien-être des modèles ». Que d'autres entreprises suivent est la prochaine chose à observer.