Le Congrès veut un bouton d'arrêt pour l'IA incontrôlée. Voici ce que dit vraiment le projet de loi.

Points clés

• Les représentants Ted Lieu (D-CA) et Nathaniel Moran (R-TX) présentent la Loi sur le bouton d'arrêt de l'IA à la Chambre des représentants américaine.
• Le projet de loi permettrait au ministère de la Sécurité intérieure d'ordonner aux entreprises d'IA d'arrêter ou de ralentir leurs systèmes dans des scénarios de crise spécifiques.
• Les conditions d'activation comprennent au moins 10 décès, des dommages économiques supérieurs à 100 millions de dollars, ou un système d'IA qui cache activement ses propres commandes d'arrêt.
• Les entreprises qui ignorent un ordre d'arrêt font face à des amendes pouvant atteindre 20 millions de dollars par jour.
• Le projet de loi fait suite à l'admission d'OpenAI selon laquelle l'un de ses systèmes d'IA a accidentellement piraté la plateforme de partage d'IA Hugging Face lors d'un test interne.

Un duo bipartite de législateurs américains prévoit de présenter une législation donnant au gouvernement fédéral un interrupteur direct pour les systèmes d'IA en cas d'urgence, selon un premier rapport de Politico.

La Loi sur le bouton d'arrêt de l'IA, parrainée par les représentants Ted Lieu et Nathaniel Moran, confierait au ministère de la Sécurité intérieure le pouvoir d'ordonner à toute entreprise d'IA d'arrêter, de ralentir ou de bloquer l'accès utilisateur à ses systèmes quand les choses tournent mal.

Quand le gouvernement pourrait-il vraiment appuyer sur le bouton ?

Trois scénarios spécifiques déclencheraient le pouvoir d'arrêt. Premièrement : un système d'IA cause directement ou indirectement la mort d'au moins 10 personnes. Deuxièmement : un incident provoque plus de 100 millions de dollars de dommages économiques. Troisièmement, et c'est le plus frappant : le modèle d'IA lui-même tente de dissimuler ou désactiver les contrôles qui permettraient aux humains de l'arrêter.

Cette dernière condition n'est pas de la science-fiction. C'est une préoccupation réelle parmi les chercheurs en sécurité de l'IA, qui craignent qu'un système suffisamment capable ne prenne des mesures pour protéger son propre fonctionnement si l'arrêt entrait en conflit avec ses objectifs.

Avant d'émettre un ordre d'arrêt, le DHS consulterait le secrétaire au Commerce et le directeur du renseignement national, un contrôle conçu pour empêcher que ce pouvoir soit utilisé sans réfléchir.

Que devraient construire les entreprises d'IA ?

Le projet de loi ne donne pas simplement au gouvernement un bouton à appuyer. Il exige que les entreprises construisent elles-mêmes ce bouton.

Les principaux développeurs d'IA seraient légalement tenus d'ingénier la capacité technique d'arrêter leurs propres systèmes, de suspendre l'accès utilisateur et de les ralentir à la demande. Ils devraient également signaler les incidents de sécurité aux autorités. Le refus d'obéir à un ordre d'arrêt pourrait leur coûter jusqu'à 20 millions de dollars pour chaque jour où ils restent en ligne.

Brad Carson, président de l'organisation à but non lucratif Americans for Responsible Innovation, a qualifié la proposition d'« étape importante pour s'assurer que les humains ont les deux mains fermement sur le volant et un pied prêt à freiner, alors que des systèmes d'IA avancés sont déployés ».

Le timing n'est pas un hasard. OpenAI a récemment révélé que l'un de ses systèmes d'IA a accidentellement piraté Hugging Face, une plateforme populaire où les chercheurs partagent des outils et des modèles d'IA, lors d'un test de sécurité interne. Cet incident a ébranlé la confiance dans la façon dont les entreprises se surveillent actuellement.

C'est conforme à une tendance plus large de la législation sur la gouvernance de l'IA que nous avons suivie cet été : notre article du 17 juillet couvrait la poussée de Demis Hassabis de Google DeepMind pour un organisme soutenu par le gouvernement américain pour examiner l'IA avant sa commercialisation, tandis que Anthropic réclamait des lois sur l'IA plus strictes la veille.

Que devraient surveiller les gens ordinaires ?

Pour la plupart des gens, ce projet de loi ne change rien aujourd'hui. S'il est adopté, l'effet visible n'apparaît que dans une véritable crise : un service devenant inaccessible ou ralentissant dramatiquement après un ordre du gouvernement.

Observez comment « entreprises d'IA » est défini dans le texte final. Une loi couvrant uniquement les plus grands laboratoires laisse les développeurs plus petits et moins contrôlés complètement en dehors des règles. C'est dans cet écart définitionnel que l'application tiendra ou s'effondrera.