O CEO do Google DeepMind quer um órgão regulador como a FINRA para os modelos de IA mais poderosos

Pontos principais

• O CEO do Google DeepMind, Demis Hassabis, publicou uma proposta em 14 de julho de 2026 pedindo um organismo independente para analisar os modelos de IA mais poderosos antes do lançamento.
• O organismo proposto é modelado na FINRA, a Financial Industry Regulatory Authority, um órgão regulador independente e auto-financiado que supervisiona corretoras de valores nos EUA sem estar dentro do governo.
• Sob o plano, os laboratórios de IA partilhariam voluntariamente novos modelos com o organismo até 30 dias antes do lançamento, com conformidade obrigatória potencialmente seguindo após o processo ser comprovado.
• As análises anteriores do governo dos EUA aos modelos Mythos da Anthropic e Sol da OpenAI enfrentaram críticas por falta de expertise técnica e regras claras de tomada de decisão.
• O conselheiro de IA da Casa Branca, Sriram Krishnan, disse em 2026 que a administração não criaria "uma FDA para a IA", tornando uma estrutura de auto-regulação o caminho mais viável politicamente.

Demis Hassabis, CEO do Google DeepMind, publicou uma proposta detalhada na terça-feira pedindo uma nova organização para atuar como vigilante dos sistemas de IA mais poderosos do mundo. Chama-lhes "modelos de fronteira", significando os sistemas de IA de ponta que ultrapassam os limites do que a tecnologia pode atualmente fazer.

A ideia é suficientemente simples. Antes de um modelo de fronteira ir para o público, os seus programadores entregá-lo-iam a um organismo independente de normas para até 30 dias de testes de segurança. Passar nos testes, lançar o produto. Falhar, corrigir os problemas primeiro.

Hassabis quer o organismo estruturado como a FINRA, a Financial Industry Regulatory Authority. A FINRA não é uma agência governamental. É financiada pela própria indústria financeira e opera de forma independente, estabelecendo e aplicando regras de conduta para corretoras de valores. A versão de IA funcionaria da mesma forma: apoiada por fundos dos grandes laboratórios de IA, equipa de especialistas técnicos e investigadores de código aberto, e livre para subcontratar avaliações especializadas a grupos independentes de segurança em IA.

A proposta preenche uma lacuna que se tornou constrangedoramente óbvia. O governo dos EUA já realizou análises de segurança ad hoc de dois modelos de alto perfil, o Mythos da Anthropic e o Sol da OpenAI, um modelo de linguagem grande e um sistema de IA multimodal respetivamente. Ambos estão entre as ferramentas de IA mais capazes construídas até à data. Essas análises foram amplamente criticadas, primeiro reportadas pela TechCrunch AI, por expertise técnica fraca e regras turvas sobre o que realmente desencadearia um bloqueio no lançamento.

Um organismo permanente com especialistas a tempo inteiro corrigiria ambos os problemas.

O ângulo político é complicado. A administração Trump mostrou pouco apetite por novos reguladores de IA. Sriram Krishnan, o conselheiro de IA da Casa Branca e parceiro na empresa de capital de risco Andreessen Horowitz, disse claramente que não haveria "uma FDA para a IA". O modelo de auto-regulação de Hassabis é uma resposta direta a essa objeção: nenhuma nova agência governamental, nenhuma nova burocracia, apenas a indústria a policiar-se com apoio do governo.

Devem os utilizadores comuns importar-se com isto?

Sim, num sentido prático. Neste momento, as ferramentas de IA mais poderosas chegam sem qualquer verificação de segurança consistente. Um organismo de normas significaria que a próxima onda de produtos de IA que utiliza, seja para escrita, cuidados de saúde ou aconselhamento financeiro, teria sido submetida a pelo menos uma análise técnica independente antes de chegar ao seu telefone ou navegador.

Hassabis enquadra o sistema como concebido para evoluir com a tecnologia, apertando os seus requisitos se os riscos se tornarem mais graves. É uma estrutura razoável. O detalhe que importará mais é quem realmente se senta no organismo e se os laboratórios aceitam as suas conclusões quando essas conclusões são inconvenientes.