Plus de 1 300 chercheurs en IA affirment que la course de l'industrie à construire des systèmes plus puissants met l'humanité en danger

Points clés

• Une lettre signée par 1 367 chercheurs et ingénieurs en IA, principalement d'OpenAI, Anthropic et Google DeepMind, avertit que le rythme actuel du développement de l'IA comporte des risques graves pour l'humanité.
• Les signataires travaillent sur l'IA de pointe, c'est-à-dire les systèmes d'IA les plus puissants et avancés construits aujourd'hui, ce qui en fait l'un des avertissements les plus directs des initiés jusqu'à présent.
• La lettre contredit une affirmation courante selon laquelle seuls les observateurs externes et les critiques s'inquiètent d'une catastrophe de l'IA.
• Aucune demande spécifique ou proposition politique n'a été jointe à la lettre, mais son existence signale un malaise croissant au sein des laboratoires eux-mêmes.

Depuis des années, une phrase rassurante circule dans les milieux technologiques : les gens qui construisent réellement l'IA n'ont pas peur, vous ne devriez donc pas l'être non plus. Toute personne soulevant des inquiétudes, selon cet argument, est soit naïve, soit ne comprend pas la technologie.

Une lettre ouverte nouvellement publiée crée une brèche majeure dans cet argument.

Qui l'a signée et pourquoi cela importe-t-il ?

La lettre porte 1 367 signatures de chercheurs et d'ingénieurs travaillant dans les laboratoires d'IA de pointe, la poignée d'organisations qui se font concurrence pour construire les systèmes d'IA les plus puissants du monde. La majorité des signataires viennent de trois noms que vous reconnaîtrez : OpenAI, Anthropic et Google DeepMind.

Ce ne sont pas des critiques externes. Ils écrivent le code, entraînent les modèles et mènent les expériences. Leur vie professionnelle est consacrée à rendre l'IA plus puissante. Et ils s'inquiètent.

The Guardian a d'abord rapporté sur la lettre et ses implications dans un article du chercheur en IA Stuart Russell.

De quoi s'inquiètent-ils vraiment ?

La lettre évoque le risque catastrophique, la possibilité que les systèmes d'IA avancés causent des dommages à grande échelle et difficiles à inverser. Les signataires décrivent le moment actuel comme dangereux.

C'est un défi direct à un schéma devenu courant dans le débat public. Les critiques des préoccupations concernant la sécurité de l'IA sont souvent écartés comme des « catastrophistes » ou des « luddites » promouvant une vision « marginale » ancrée dans la science-fiction. Les auteurs de la lettre disent simplement : cette caractérisation est fausse.

Le fait que tant d'initiés soient disposés à apposer leur nom à une déclaration publique est en soi significatif. Les chercheurs des grands laboratoires d'IA parlent rarement d'une manière qui pourrait embarrasser leurs employeurs.

Que signifie cela pour les gens ordinaires ?

Cela signifie que la conversation sur les risques de l'IA n'est pas marginale. Quand plus d'un millier de personnes qui construisent la technologie disent qu'elles s'inquiètent, cela mérite attention.

Cela ne signifie pas que l'IA causera définitivement une catastrophe. Cela signifie que les personnes ayant la meilleure vue de ce qui se passe à l'intérieur de ces systèmes pensent que les risques sont réels et suffisamment graves pour le dire publiquement.

Aucune action spécifique n'est requise du public pour le moment. Mais si on vous a dit de ne pas vous inquiéter parce que « les experts » ne s'inquiètent pas, cette lettre est la preuve que ce tableau n'a jamais été exact.

Que se passe-t-il ensuite ?

La lettre ne contient pas de liste de demandes ou de proposition de correction politique, ce qui limite son impact immédiat. Elle fonctionne plutôt comme un signal, une fissure dans la façade de confiance que les grands laboratoires ont généralement présentée.

La pression pour une surveillance gouvernementale du développement de l'IA s'est accumulée aux États-Unis, au Royaume-Uni et dans l'Union européenne. Des lettres comme celle-ci ont tendance à renforcer ces appels, même sans préciser exactement ce que les régulateurs devraient faire.