Le PDG de Google DeepMind réclame un organisme de surveillance inspiré de la FINRA pour les modèles d'IA les plus puissants

Points clés

• Le PDG de Google DeepMind, Demis Hassabis, a publié le 14 juillet 2026 une proposition appelant à la création d'un organe indépendant pour examiner les modèles d'IA les plus puissants avant leur mise en circulation.
• L'organe proposé s'inspire de la FINRA, l'Autorité de régulation du secteur financier, un organisme indépendant autofinancé qui supervise les courtiers financiers américains sans relever du gouvernement.
• Selon le plan, les laboratoires d'IA partageraient volontairement les nouveaux modèles avec l'organe jusqu'à 30 jours avant leur lancement, la conformité obligatoire pouvant suivre une fois le processus éprouvé.
• Les examens antérieurs menés par le gouvernement américain sur le modèle Mythos d'Anthropic et le modèle Sol d'OpenAI ont été critiqués pour manque d'expertise technique et absence de règles claires en matière de prise de décision.
• Le conseiller à l'IA de la Maison-Blanche, Sriram Krishnan, a déclaré en 2026 que l'administration ne créerait pas « une FDA pour l'IA », rendant une structure d'autorégulation plus viable sur le plan politique.

Demis Hassabis, PDG de Google DeepMind, a publié mardi une proposition détaillée appelant à la création d'une nouvelle organisation servant de gardien des systèmes d'IA les plus puissants au monde. Il les appelle des « modèles de pointe », c'est-à-dire les systèmes d'IA les plus avancés qui repousent les limites de ce que la technologie peut actuellement faire.

L'idée est simple. Avant qu'un modèle de pointe ne soit rendu public, ses développeurs le confieraient à un organisme normatif indépendant pour jusqu'à 30 jours de tests de sécurité. Si les vérifications sont satisfaisantes, on lance le produit. Si elles échouent, on règle d'abord les problèmes.

Hassabis souhaite que l'organe soit structuré comme la FINRA, l'Autorité de régulation du secteur financier. La FINRA n'est pas une agence gouvernementale. Elle est financée par le secteur financier lui-même et fonctionne indépendamment, établissant et appliquant les règles de conduite des courtiers en valeurs mobilières. La version IA fonctionnerait de la même manière : financée par les grands laboratoires d'IA, composée d'experts techniques et de chercheurs en open source, et libre de confier des évaluations spécialisées à des groupes indépendants de sécurité de l'IA.

La proposition comble une lacune qui est devenue terriblement évidente. Le gouvernement américain a déjà mené des examens de sécurité ponctuels sur deux modèles très médiatisés : Mythos d'Anthropic et Sol d'OpenAI, respectivement un grand modèle de langage et un système d'IA multimodal. Les deux font partie des outils d'IA les plus performants construits à ce jour. Ces examens ont été largement critiqués, selon TechCrunch AI qui l'a rapporté en premier, pour leur faible expertise technique et leurs règles floues concernant ce qui déclencherait réellement un refus de mise en circulation.

Un organe permanent doté de spécialistes à temps plein résoudrait ces deux problèmes.

L'angle politique est épineux. L'administration Trump a montré peu d'appétit pour de nouveaux régulateurs de l'IA. Sriram Krishnan, conseiller à l'IA de la Maison-Blanche et associé au cabinet de capital-risque Andreessen Horowitz, a catégoriquement déclaré qu'il n'y aurait pas « de FDA pour l'IA ». Le modèle d'autorégulation de Hassabis répond directement à cette objection : pas de nouvel organisme gouvernemental, pas nouvelle bureaucratie, simplement l'industrie s'autorégulant avec le soutien du gouvernement.

Cela devrait-il préoccuper les utilisateurs ordinaires ?

Oui, d'un point de vue pratique. Actuellement, les outils d'IA les plus puissants arrivent sans aucune vérification de sécurité cohérente. Un organe normatif signifierait que la prochaine vague de produits d'IA que vous utilisez, qu'il s'agisse d'outils de rédaction, de santé ou de conseils financiers, aurait franchi au moins une revue technique indépendante avant d'atteindre votre téléphone ou navigateur.

Hassabis envisage le système comme étant conçu pour évoluer avec la technologie, resserrant ses exigences si les risques deviennent plus graves. C'est une structure raisonnable. Le détail qui importe le plus sera qui siégera réellement à l'organe et si les laboratoires acceptent ses conclusions lorsque celles-ci sont gênantes.