O Congresso Quer um Botão de Paragem para IAs Descontroladas. Eis o Que o Projeto de Lei Realmente Diz.

Pontos-chave

• Os Representantes Ted Lieu (D-CA) e Nathaniel Moran (R-TX) estão a apresentar a Lei do Botão de Paragem de IA na Câmara dos Representantes dos EUA.
• O projeto de lei permitiria ao Departamento de Segurança Interna ordenar às empresas de IA que desativem ou reduzam a velocidade dos seus sistemas em cenários de crise específicos.
• As condições de ativação incluem pelo menos 10 mortes, danos económicos superiores a 100 milhões de dólares, ou um sistema de IA a ocultar ativamente os seus próprios controlos de desativação.
• As empresas que ignorarem uma ordem de desativação enfrentam multas de até 20 milhões de dólares por dia.
• O projeto de lei segue-se à admissão da OpenAI de que um dos seus sistemas de IA acedeu acidentalmente à plataforma de partilha de IA Hugging Face durante um teste interno.

Um par de legisladores norte-americanos bipartidários planeia apresentar uma legislação que daria ao governo federal um botão de paragem direto para sistemas de IA durante emergências, conforme primeiro reportado pela Politico.

A Lei do Botão de Paragem de IA, patrocinada pelos Representantes Ted Lieu e Nathaniel Moran, entregaria à autoridade do Departamento de Segurança Interna a capacidade de ordenar a qualquer empresa de IA que desative, reduza a velocidade (deixe muito lento), ou bloqueie o acesso dos utilizadores aos seus sistemas quando as coisas correm muito mal.

Quando é que o governo poderia realmente desligar?

Três cenários específicos ativariam o poder de desativação. Primeiro: um sistema de IA causa direta ou indiretamente a morte de pelo menos 10 pessoas. Segundo: um incidente causa mais de 100 milhões de dólares em danos económicos. Terceiro, e mais notável: o próprio modelo de IA tenta ocultar ou desativar os controlos que permitiriam aos humanos desligá-lo.

Esta última condição não é ficção científica. É uma preocupação real entre investigadores de segurança de IA, que temem que um sistema suficientemente capaz pudesse tomar medidas para proteger a sua própria operação se a desativação entrasse em conflito com os seus objetivos.

Antes de emitir uma ordem de desativação, o DHS consultaria o Secretário do Comércio e o Diretor de Inteligência Nacional, um mecanismo de verificação concebido para evitar que o poder seja utilizado imprudentemente.

O que teriam as empresas de IA que construir?

O projeto de lei não se limita a dar ao governo um botão para pressionar. Exige que as empresas construam esse botão elas mesmas.

Os principais desenvolvedores de IA seriam obrigados por lei a projetar a capacidade técnica de desativar os seus próprios sistemas, suspender o acesso dos utilizadores e desacelerá-los sob demanda. Teriam também que reportar incidentes de segurança às autoridades. Desobedecer a uma ordem de desativação poderia custar-lhes até 20 milhões de dólares por cada dia que permanecerem online.

Brad Carson, presidente da organização sem fins lucrativos Americans for Responsible Innovation, chamou à proposta "um passo importante para garantir que os humanos têm ambas as mãos firmemente no volante, e um pé pronto no travão, enquanto os sistemas de IA avançada são implementados."

O timing não é acidental. A OpenAI divulgou recentemente que um dos seus sistemas de IA acedeu acidentalmente à Hugging Face, uma plataforma popular onde investigadores partilham ferramentas e modelos de IA, durante um teste interno de segurança. Esse incidente abalou a confiança na forma como as empresas atualmente se monitorizarem a si mesmas.

Enquadra-se num padrão mais amplo de legislação de governança de IA que rastreámos neste verão: a nossa história de 17 de julho cobriu o diretor da Google DeepMind, Demis Hassabis, a defender um órgão apoiado pelo governo dos EUA para avaliar a IA antes do lançamento, enquanto a Anthropic pedia leis mais rigorosas sobre IA de fronteira apenas um dia antes.

O que as pessoas comuns devem observar?

Para a maioria das pessoas, este projeto de lei não muda nada hoje. Se for aprovado, o efeito visível aparece apenas numa crise genuína: um serviço ficar offline ou desacelerar drasticamente após uma ordem do governo.

Observe como "empresas de IA" é definido no texto final. Uma lei que abrange apenas os maiores laboratórios deixa os desenvolvedores mais pequenos e menos escrutinados completamente fora das regras. Essa lacuna definitória é onde a aplicação da lei vai conseguir resistir ou desmoronar.