Investigadores Encontraram Centenas de Formas de Contornar Regras de Segurança em IA, e Custou Menos que um Jantar Fora
Uma organização de segurança executou uma ferramenta automatizada contra sete modelos de IA líderes. Dois falharam espetacularmente. O preço para os fazer misbehave? Tão baixo quanto 58 dólares.
Pontos-chave
- FAR.AI, uma organização de segurança de IA baseada na Califórnia, encontrou 448 jailbreaks em Grok e 249 em Gemini durante testes automatizados em 2025.
- Contornar as regras de segurança de Grok custou aproximadamente 58 dólares; contornar as de Gemini custou aproximadamente 278 dólares, usando outra IA para gerar as instruções de ataque.
- Os modelos Claude, Fable e GPT resistiram a todos os ataques automatizados neste teste, embora investigadores afirmem que ataques mais complexos ainda poderiam ter sucesso.
- Investigadores da Universidade de Cambridge encontraram evidências de que membros do Boko Haram utilizaram chatbots de IA de grande escala para ajudar a planear ataques violentos.
- Nenhuma lei federal dos EUA exige ainda que empresas de IA cumpram normas de segurança específicas, embora vários estados tenham começado a aprovar as suas próprias regras.
Imagine um serralheiro que constrói uma máquina para testar milhares de chaves diferentes numa fechadura, repetidamente, até uma encaixar. FAR.AI, uma organização de segurança de IA baseada na Califórnia, construiu algo semelhante, mas para chatbots de IA.
A ferramenta gera mais de mil variações de uma pergunta prejudicial e dispara-as contra um modelo de IA uma a uma, procurando a combinação que consegue ultrapassar os filtros de segurança do modelo. Esses filtros são as salvaguardas incorporadas, as regras integradas num modelo que se destinam a impedir que ele ajude alguém a construir uma arma ou planear um ataque.
Quão más foram os resultados?
Suficientemente más para gerar alarme. FAR.AI testou sete modelos de quatro empresas: Claude Opus 4.8 e Fable 5 da Anthropic; GPT 5.5 e 5.6 da OpenAI; Gemini 3.1 Pro do Google; e Grok 4.3 e 4.5 da SpaceXAI. A ferramenta tentou levar cada modelo a produzir coisas como planos de ciber-ataque passo a passo e detalhes sobre armas químicas ou biológicas.
Grok falhou mais vezes, com 448 jailbreaks bem-sucedidos registados. Gemini seguiu-se, com 249. Claude, Fable e os modelos GPT bloquearam todas as tentativas que a ferramenta lhes apresentou.
A coluna de custo é o que torna isto impressionante. Utilizando um segundo modelo de IA para escrever automaticamente as instruções de ataque, FAR.AI calculou que custou cerca de 58 dólares contornar com sucesso a segurança de Grok e 278 dólares para Gemini. Menos que uma volta às compras de fim de semana.
| Modelo | Jailbreaks encontrados | Custo estimado |
|---|---|---|
| Grok 4.3 / 4.5 | 448 | ~58 dólares |
| Gemini 3.1 Pro | 249 | ~278 dólares |
| Claude Opus 4.8 / Fable 5 | 0 | N/A |
| GPT 5.5 / 5.6 | 0 | N/A |
"Os modelos de IA neste momento são menos regulados que restaurantes," disse Adam Gleave, CEO da FAR.AI, falando à Wired AI, que primeiro reportou as descobertas.
As pessoas normais devem estar preocupadas?
Sim, de forma medida. Estes ataques exigem algum esforço técnico, mas a barreira de custo e competência está a diminuir. Um estudo da Universidade de Cambridge encontrou evidências de que membros do Boko Haram no nordeste da Nigéria utilizaram ChatGPT, Claude, Gemini, Grok, Meta AI e DeepSeek para ajudar a planear ataques violentos. Isto não é um risco teórico.
Stephen Casper, um informático da Universidade de Harvard, foi claro: a comunidade de investigação de IA em geral espera um incidente grave de uso indevido envolvendo dano biológico, cibernético ou químico em meses, não em anos.
Rohin Shah, do Google, diretor de segurança e alinhamento na Google DeepMind, disse que os resultados "não devem ser interpretados como uma avaliação abrangente da segurança de Gemini," notando que nem todos os jailbreaks comportam igual perigo. Um porta-voz da Anthropic disse à publicação que as descobertas refletem investimento em salvaguardas que a empresa continua a atualizar. OpenAI e SpaceXAI não comentaram.
O que acontece a seguir?
Alguns estados estão a avançar. Califórnia e Nova Iorque agora exigem que empresas de IA publiquem relatórios de segurança. Illinois em breve exigirá que auditores independentes verifiquem as suas práticas. Regras federais ainda não existem.
Anka Reuel, informática de Stanford, enquadrou a questão central de forma clara: "Algumas empresas claramente sabem como se defender contra pelo menos o subconjunto de ataques testados neste relatório. A questão é por que razão algumas empresas os estão a usar e outras não."
Gleave, pela sua parte, vê uma razão para otimismo cauteloso. Se Claude e GPT conseguem bloquear estes ataques, o manual existe. O problema é que segui-lo continua opcional.
O que estar atento: Se utilizar um chatbot de IA no trabalho ou em casa, tenha consciência de que nem todos os modelos são construídos com o mesmo padrão de segurança. Mantenha-se em plataformas de empresas que publicam políticas de segurança claras, e reporte qualquer coisa que um chatbot produza que pareça estar desenhada para causar dano.
