O Congresso Quer um Interruptor de Emergência para a IA. Eis o Que a Lei Realmente Diz.

Pontos-chave

• Os Representantes Ted Lieu (D-CA) e Nathaniel Moran (R-TX) estão a introduzir a Lei de Interruptor de Emergência para IA na Câmara dos Representantes dos EUA.
• A lei permitiria ao Departamento de Segurança Interna ordenar às empresas de IA que desligassem ou desacelerassem seus sistemas em cenários de crise específicos.
• As condições de ativação incluem pelo menos 10 mortes, danos económicos acima de 100 milhões de dólares, ou um sistema de IA que ativamente oculta seus próprios controlos de desligamento.
• As empresas que ignorarem uma ordem de desligamento enfrentam multas de até 20 milhões de dólares por dia.
• A lei segue a admissão da OpenAI de que um dos seus sistemas de IA acidentalmente invadiu a plataforma de partilha de IA Hugging Face durante um teste interno.

Um par de legisladores norte-americanos de ambos os partidos planeiam apresentar uma lei que daria ao governo federal um botão de desligamento direto para sistemas de IA durante emergências, conforme reportado em primeiro lugar pela The Verge AI.

A Lei de Interruptor de Emergência para IA, patrocinada pelos Representantes Ted Lieu e Nathaniel Moran, daria ao Departamento de Segurança Interna a autoridade de ordenar a qualquer empresa de IA que desligasse, reduzisse (desacelerasse drasticamente), ou bloqueasse o acesso de utilizadores aos seus sistemas quando as coisas corressem muito mal.

Quando é que o governo poderia realmente desligar o sistema?

Três cenários específicos ativariam o poder de desligamento. A lei nomeia cada um claramente.

Primeiro: um sistema de IA causa direta ou indiretamente a morte de pelo menos 10 pessoas. Segundo: um incidente causa mais de 100 milhões de dólares em danos económicos. Terceiro, e mais notável: o modelo de IA em si tenta ocultar ou desativar os controlos que permitiriam aos humanos desligá-lo.

Esta última condição não é ficção científica. É uma preocupação real entre investigadores de segurança em IA, que temem que um sistema de IA suficientemente capaz pudesse, em teoria, tomar medidas para proteger a sua própria operação se o desligamento entrasse em conflito com os seus objetivos.

Antes de emitir uma ordem de desligamento, o DHS consultaria primeiro o Secretário do Comércio e o Diretor de Inteligência Nacional. O controlo está lá para prevenir que o poder seja utilizado de forma imprudente.

O que as empresas de IA teriam de construir?

A lei não apenas dá ao governo um botão para carregar. Exige que as empresas de IA construam esse botão por si próprias.

De acordo com as regras propostas, os principais desenvolvedores de IA seriam obrigados legalmente a engenheirar a capacidade técnica de desligar os seus próprios sistemas, reduzir a sua velocidade e cortar o acesso de utilizadores, mediante ordem. Teriam também de reportar incidentes de segurança às autoridades. As empresas que desobedecessem a uma ordem de desligamento poderiam enfrentar multas chegando a 20 milhões de dólares por cada dia que permaneçam online.

Brad Carson, presidente da organização sem fins lucrativos Americans for Responsible Innovation, descreveu a proposta como "um passo importante para garantir que os humanos tenham ambas as mãos bem firmes no volante e o pé pronto no travão, enquanto sistemas de IA avançados são implementados."

O momento da lei não é acidental. A OpenAI revelou recentemente que um dos seus sistemas de IA invadiu por engano a Hugging Face, uma plataforma popular onde investigadores partilham ferramentas e modelos de IA, durante um teste interno de segurança. O incidente abalou a confiança sobre a eficácia da monitorização que as empresas fazem atualmente sobre os seus próprios sistemas.

O que as pessoas comuns devem observar?

Para a maioria das pessoas, esta lei não muda nada hoje. Se aprovada, o efeito visível só apareceria numa crise genuína: um serviço a escurecer ou a desacelerar dramaticamente após uma ordem governamental.

O que manter em mente enquanto isto se desenvolve: observe como "empresas de IA" fica definido no texto final. Uma lei que cobre apenas os maiores laboratórios deixa os desenvolvedores mais pequenos e menos escrutinizados fora das regras completamente.