O Chefe da Google DeepMind Quer um Órgão Apoiado pelo Governo dos EUA para Avaliar IA Antes do Lançamento

Pontos-chave

• O CEO da Google DeepMind, Demis Hassabis, publicou na terça-feira uma proposta pedindo um órgão liderado pelos EUA e supervisionado federalmente para rever modelos de IA antes do lançamento público.
• Hassabis alertou que modelos de IA de fronteira, os sistemas mais poderosos disponíveis atualmente, já apresentam riscos de cibersegurança e poderiam em breve permitir ameaças nucleares ou biológicas.
• O órgão proposto exigiria que as empresas de IA submetessem novos modelos para revisão até 30 dias antes do lançamento, começando voluntariamente e depois tornando-se obrigatório.
• O CEO da Anthropic, Dario Amodei, e o CEO da OpenAI, Sam Altman, fizeram apelos semelhantes por um órgão de supervisão de IA nas últimas semanas.
• O financiamento do organismo regulador viria "provavelmente" da própria indústria de IA, disse Hassabis.

Demis Hassabis, CEO da Google DeepMind e laureado com o Prémio Nobel de Química em 2024, publicou esta semana uma proposta detalhada para uma nova instituição americana: um organismo de normalização, essencialmente uma agência reguladora, que testaria e aprovaria modelos de IA poderosos antes de chegarem ao público.

Pense nisto como a Food and Drug Administration, mas para software de IA.

Hassabis disse que o órgão deveria ser baseado na FINRA, a Financial Industry Regulatory Authority, que é a organização que licencia e fiscaliza corretores e empresas de corretagem nos Estados Unidos. A FINRA é supervisionada federalmente, mas funciona como uma parceria público-privada, o que significa que o governo e a indústria partilham a mesa.

A razão pela qual Hassabis quer isto agora: ele acredita que as apostas estão a aumentar rapidamente. "Já observámos os desafios que os modelos de fronteira colocam para a cibersegurança, e outras ameaças incluindo riscos nucleares e biológicos podem em breve emergir," escreveu.

A sua proposta diz que as empresas de IA submeteriam voluntariamente novos modelos ao órgão para revisão até 30 dias antes do lançamento. Quando o órgão provar que funciona, essa submissão tornar-se-ia obrigatória para qualquer modelo vendido no mercado dos EUA.

Os testes analisariam se um modelo pode ser enganado para contornar as suas próprias regras de segurança, se mostra sinais de engano, e se os seus resultados podem ser rastreados até uma fonte de IA. Este último ponto importa para utilizadores comuns: é como o seu banco, o consultório do seu médico, ou o seu empregador poderiam um dia verificar se um documento foi escrito por uma pessoa ou gerado por software.

O dinheiro é a questão óbvia. Hassabis disse que o órgão precisaria de financiamento "substancial" para contratar profissionais técnicos de topo e gerir a infraestrutura informática necessária para testes em larga escala. Ele espera que a indústria de IA pague pela maior parte.

Esta não é uma voz solitária. Conforme relatado pela primeira vez pela CNBC Tech, Hassabis e o CEO da Anthropic, Dario Amodei, levantaram a ideia numa reunião do G7 que incluiu o Presidente Donald Trump no mês passado. O CEO da OpenAI, Sam Altman, publicou um argumento semelhante no Financial Times no início deste mês.

Contudo, o caminho político é acidentado. A administração Trump recentemente impôs controlos de exportação temporários num modelo avançado da Anthropic, depois pediu à OpenAI para abrandar o lançamento de um novo. Hassabis está essencialmente a pedir ao mesmo governo que já está a restringir IA que agora construa uma instituição formal, financiada e pessoal à sua volta.

O que isto significa para as pessoas que usam IA no trabalho?

Se este órgão for alguma vez criado, os modelos que utiliza através de software de trabalho ou aplicações de consumo teriam de passar uma revisão de segurança antes do lançamento. Isto poderia significar cronogramas de lançamento ligeiramente mais lentos, mas também significa que um conjunto independente de olhos verificou se a ferramenta pode ser manipulada para produzir resultados perigosos. Para a maioria dos utilizadores, o efeito prático seria invisível, a menos que silenciosamente previna o próximo incidente de segurança importante envolvendo um produto de IA.

A dimensão EUA-China acrescenta pressão. Modelos de IA chineses de empresas como a DeepSeek estão a conquistar clientes entre as empresas americanas, em parte pelo custo. Os legisladores americanos estão agora a considerar restrições à sua adoção. Um organismo de normalização doméstico quase certamente se aplicaria também a modelos estrangeiros vendidos no mercado dos EUA.

Conclusão honesta: Um organismo regulador de IA ainda não é lei, e esta proposta enfrenta ventos políticos reais. Observe se o Congresso a adopta, não se os CEOs de tecnologia continuam a endossá-la.