O Plano de Segurança da IA de Trump Ignora Completamente Modelos Open-Source

Pontos-chave

• O plano de testes de cibersegurança em IA da administração Trump, finalizado em meados de 2025, exclui todos os modelos de IA open-source do seu âmbito.
• O plano aplica-se apenas a modelos de IA closed-source de nível fronteiriço, ou seja, modelos que apenas os seus programadores podem inspecionar completamente e que comportam riscos de segurança nacional.
• As empresas de IA têm uma janela de 30 dias para o governo rever um modelo antes do lançamento, mas a conformidade é inteiramente voluntária.
• O plano não define o que significa "estado da arte" ou "risco de segurança nacional", deixando termos críticos em aberto para interpretação.
• A Casa Branca não tem planos de divulgar os detalhes do plano ao público.

A administração Trump concluiu um plano para testar se sistemas avançados de IA apresentam perigos de cibersegurança antes de se tornarem públicos. Mas, como foi reportado pela primeira vez pela Axios, o plano deixa de fora uma parte grande e crescente do mundo da IA antes mesmo de começar.

Que cobre realmente o plano?

Cobre apenas modelos de IA closed-source com capacidades fronteiriças que comportam riscos de segurança nacional. Um modelo closed-source é aquele em que o código subjacente e componentes são mantidos privados, como uma receita guardada num cofre. Modelos open-source, onde qualquer pessoa pode descarregar e inspecionar o funcionamento interno, são excluídos completamente.

O plano também declara explicitamente que não pode ser usado para restringir um modelo open-source após ter sido lançado. Esta é uma exclusão notável, considerando que vários dos sistemas de IA mais capazes disponíveis hoje, incluindo a família Llama da Meta, são open-source.

Empresas de IA incluindo Anthropic, OpenAI e Google assistiram a uma sessão de briefing da Casa Branca sobre o plano finalizado. A reunião seguiu uma ordem executiva que o Presidente Trump assinou em junho, orientando empresas de IA a partilharem os seus modelos mais avançados com o governo federal antes do lançamento público.

O que significa para empresas de IA?

Na prática, as empresas não são legalmente obrigadas a cumprir. As orientações são voluntárias.

Sob o plano, o governo tem 30 dias para rever um novo modelo após uma empresa o submeter. Esse período de revisão aplica-se apenas a modelos closed-source que são tanto de ponta como julgados comportarem risco de segurança nacional.

O problema é que nenhuma dessas condições é definida em qualquer parte do documento. O plano não explica o que se qualifica como "estado da arte" ou o que conta como "risco de segurança nacional". Para uma política construída especificamente para avaliar essas coisas, é uma lacuna significativa.

Laboratórios grandes como OpenAI e Anthropic têm estado a pressionar por orientações mais claras, esperando compreender onde fica a linha antes de lançarem algo que atraia escrutínio governamental. Empresas de IA mais pequenas enfrentam um problema semelhante: sem definições claras, é difícil saber se um novo modelo cai sob o plano ou se lançá-lo discretamente poderia prejudicar a sua reputação junto à administração.

O que acontece a seguir?

A administração não planeia publicar o plano em aberto, o que significa que peritos externos, investigadores e o público em geral não podem escrutinar os padrões a aplicar aos modelos de IA antes de chegarem aos utilizadores comuns.

Isto importa. Os modelos de IA já são usados em registos médicos, ferramentas de recrutamento e sistemas de atendimento ao cliente que afetam milhões de pessoas. Um plano de testes com termos indefinidos e sem responsabilidade pública oferece garantias limitadas de que esses sistemas foram genuinamente testados para riscos.

A natureza voluntária das regras também significa que uma empresa que quer avançar rapidamente pode simplesmente optar por não participar.

Perguntas frequentes

Isto afeta as ferramentas de IA que já uso?

Não diretamente. O plano destina-se a novos modelos antes do lançamento, não aos já no mercado. As ferramentas que usa hoje não são afetadas.

Porque importa que modelos open-source sejam excluídos?

Modelos de IA open-source podem ser descarregados e modificados por qualquer pessoa, incluindo pessoas com intenções prejudiciais. Um plano que não consegue lidar com esses modelos deixa uma porção significativa do panorama de risco intacta.

Isto é uma lei?

Não. O plano é orientação voluntária, não legislação. As empresas não enfrentam penalidades legais por o ignorar.