Le patron de Google DeepMind veut un organisme de contrôle du gouvernement américain pour examiner l'IA avant sa mise en circulation

Points clés

• Le PDG de Google DeepMind, Demis Hassabis, a publié mardi une proposition appelant à la création d'un organisme fédéral américain pour examiner les modèles d'IA avant leur lancement public.
• Hassabis a mis en garde contre le fait que les modèles d'IA de pointe, les systèmes les plus puissants disponibles aujourd'hui, posent déjà des risques de cybersécurité et pourraient bientôt permettre des menaces nucléaires ou biologiques.
• L'organisme proposé exigerait que les entreprises d'IA soumettent les nouveaux modèles pour examen jusqu'à 30 jours avant le lancement, d'abord de façon volontaire, puis obligatoire.
• Le PDG d'Anthropic, Dario Amodei, et le PDG d'OpenAI, Sam Altman, ont chacun fait des appels similaires en faveur d'un organisme de surveillance de l'IA au cours des dernières semaines.
• Le financement de l'organisme de surveillance proviendrait « probablement » de l'industrie de l'IA elle-même, selon Hassabis.

Demis Hassabis, PDG de Google DeepMind et lauréat du prix Nobel de chimie 2024, a publié cette semaine une proposition détaillée pour une nouvelle institution américaine : un organisme de normalisation, essentiellement une agence de surveillance, qui testerait et approuverait les puissants modèles d'IA avant qu'ils ne deviennent accessibles au public.

Pensez-y comme à la Food and Drug Administration, mais pour les logiciels d'IA.

Hassabis a déclaré que l'organisme devrait être calqué sur la FINRA, l'Autorité de régulation du secteur financier, qui est l'organisation qui délivre les licences et contrôle les courtiers et les sociétés de courtage aux États-Unis. La FINRA est sous supervision fédérale mais fonctionnée en tant que partenariat public-privé, ce qui signifie que le gouvernement et l'industrie partagent la table.

Pourquoi Hassabis le veut maintenant : il croit que les enjeux augmentent rapidement. « Nous avons déjà observé les défis que posent les modèles de pointe pour la cybersécurité, et d'autres menaces, notamment les risques nucléaires et biologiques, pourraient bientôt émerger », a-t-il écrit.

Sa proposition indique que les entreprises d'IA soumettraient volontairement les nouveaux modèles à l'organisme pour examen jusqu'à 30 jours avant le lancement. Une fois que l'organisme aura prouvé son efficacité, cette soumission deviendrait obligatoire pour tout modèle vendu sur le marché américain.

Les tests examineraient si un modèle peut être trompé pour contourner ses propres règles de sécurité, s'il montre des signes de tromperie, et si ses résultats peuvent être retracés jusqu'à une source d'IA. Ce dernier point importe pour les utilisateurs ordinaires : c'est comment votre banque, votre cabinet médical, ou votre employeur pourraient un jour vérifier si un document a été rédigé par une personne ou généré par un logiciel.

L'argent est la question évidente. Hassabis a déclaré que l'organisme aurait besoin d'un financement « substantiel » pour embaucher le meilleur personnel technique et gérer l'infrastructure informatique nécessaire aux tests à grande échelle. Il s'attend à ce que l'industrie de l'IA paie la majorité de celui-ci.

Ce n'est pas une voix isolée. Comme l'a d'abord signalé CNBC Tech, Hassabis et le PDG d'Anthropic, Dario Amodei, ont soulevé l'idée lors d'une réunion du G7 qui comprenait le président Donald Trump le mois dernier. Le PDG d'OpenAI, Sam Altman, a publié un argument similaire dans le Financial Times plus tôt ce mois-ci.

Pourtant, le chemin politique est semé d'embûches. L'administration Trump a récemment imposé des contrôles temporaires à l'exportation sur un modèle avancé d'Anthropic, puis a demandé à OpenAI de ralentir le déploiement d'un nouveau modèle. Hassabis demande essentiellement au même gouvernement qui restreint déjà l'IA de construire maintenant une institution formelle, financée et dotée en personnel autour de celle-ci.

Que signifie cela pour les personnes qui utilisent l'IA au travail ?

Si cet organisme est jamais créé, les modèles que vous utilisez via un logiciel professionnel ou des applications grand public devraient passer un examen de sécurité avant le lancement. Cela pourrait signifier des calendriers de lancement légèrement plus lents, mais cela signifie également qu'un ensemble d'yeux indépendant a vérifié si l'outil peut être manipulé pour produire un résultat dangereux. Pour la plupart des utilisateurs, l'effet pratique serait invisible, à moins qu'il empêche silencieusement le prochain incident de sécurité majeur impliquant un produit d'IA.

La dimension sino-américaine ajoute de la pression. Les modèles d'IA chinois d'entreprises comme DeepSeek gagnent des clients parmi les entreprises américaines, en partie grâce au coût. Les législateurs américains envisagent maintenant des restrictions sur leur adoption. Un organisme de normalisation national s'appliquerait presque certainement également aux modèles étrangers vendus sur le marché américain.

Honnête conclusion : Un organisme de surveillance de l'IA n'est pas encore une loi, et cette proposition fait face à de véritables obstacles politiques. Observez si le Congrès s'en empare, non si les PDG de technologie continuent de l'approuver.