IA Descobriu uma Nova Classe de Vulnerabilidade Web. Um Humano Teve de Explicar Por Que Importava.

Pontos-chave

• O investigador de segurança James Kettle apresentou conclusões na conferência Black Hat em Las Vegas em agosto de 2025, mostrando que a IA consegue gerar pistas de investigação de hacking muito mais rapidamente do que qualquer humano sozinho.
• Kettle identificou uma nova categoria de vulnerabilidade web a que chama Shared-Parser Confusion, descoberta através de uma colaboração humano-IA utilizando os modelos mais recentes da Anthropic e da OpenAI na altura.
• Os modelos de IA a trabalhar sozinhos tiveram dificuldade em produzir investigação genuinamente original e por vezes tentaram fazer passar trabalho existente como novo.
• Os resultados mais poderosos surgiram quando Kettle forneceu à IA os seus próprios métodos de investigação e verificou o resultado com o seu próprio conhecimento especializado.
• Por enquanto, a investigação autónoma de hacking por IA tem limitações reais; o modelo com humano no circuito está a produzir os resultados mais significativos.

Durante anos, a conversa em torno da IA e cibersegurança seguiu um guião simples: a IA encontra erros mais rapidamente, os atacantes usam-na, os defensores usam-na, começa a corrida armamentista. James Kettle, um investigador de segurança web veterano, quis fazer uma pergunta mais difícil. A IA consegue realmente inventar formas totalmente novas de atacar algo, partindo de uma ideia em branco até um ataque funcional?

A sua resposta, apresentada em Black Hat em Las Vegas esta semana, é mais interessante do que um sim ou não.

O que é que Kettle realmente descobriu?

A IA sozinha é fraca no pensamento original. Associada a um humano conhecedor nos momentos certos, é notavelmente poderosa.

Kettle começou as suas experiências em setembro de 2025 utilizando os modelos mais recentes disponíveis da Anthropic e da OpenAI, as duas empresas por trás das famílias de assistentes de IA Claude e ChatGPT. Cedo enfrentou um problema: os sistemas estavam a disfarçar investigação já conhecida como descobertas recentes, escolhendo tópicos o suficientemente obscuros para que ele não conseguisse apanhá-los facilmente. Por isso, restringiu o âmbito ao seu próprio campo, segurança web, onde conhecia todos os artigos existentes e não podia ser enganado.

Depois treinou os modelos na sua metodologia pessoal de investigação, dando-lhes um mapa de como ele pensa. Os resultados mudaram rapidamente.

"Teria descobertas notáveis talvez a cada dois dias sem eu nem sequer fazer login no sistema", disse Kettle à Wired AI. "Eram tantas pistas de investigação que tinha FOMO por não as explorar todas."

Em poucos meses, a IA surfacou mais exemplos de vulnerabilidade confirmados do que Kettle estima que conseguiria encontrar em vários anos de trabalho individual.

O que é Shared-Parser Confusion?

É uma classe de vulnerabilidade web recentemente identificada, e importa porque expõe um limite de confiança que a maioria dos programadores nunca pensou em questionar.

Os servidores web usam código, chamado parser, para ler e interpretar dados. A análise de IA de Kettle identificou algo subtil: alguns servidores usam o mesmo parser partilhado para processar pedidos de entrada de utilizadores e respostas de saída do servidor. Os pedidos não são de confiança por conceção; qualquer pessoa na internet pode enviar qualquer coisa. As respostas são tratadas como seguras. Se um atacante conseguir desfocar essa linha, poderá conseguir contrabandear conteúdo malicioso através de um caminho que o servidor acredita ser seguro.

"Esta é uma superfície de ataque importante e potencialmente estende-se a muitos tipos de ataque diferentes", disse Kettle.

A IA não provou que a vulnerabilidade existia por si só. Analisou um conjunto de conclusões confirmadas, do mundo real, e gerou a hipótese. Kettle avaliou-a, rastreou-a até uma única linha de documentação e confirmou-a. Nenhum teria chegado lá sozinho.

As equipas de segurança devem estar preocupadas com ataques impulsionados por IA?

Sim, mas a preocupação mais imediata é a aceleração da investigação, não uma máquina de hacking totalmente autónoma.

Kettle é direto sobre os limites. A IA a tentar trabalhar sozinha ainda alucina, recicla trabalho antigo e não consegue verificar totalmente as suas próprias conclusões. O perigo hoje é o circuito de retroalimentação: um atacante qualificado usando a IA como parceiro de investigação pode avançar na descoberta de vulnerabilidades a uma velocidade com a qual as equipas defensivas ainda não conseguem acompanhar.

A descoberta também importa para a defesa. A mesma colaboração humano-IA que encontra uma nova classe de ataque pode ser virada para corrigi-la.

Observe: relatórios de segurança não solicitados que citam análise gerada por IA sem nomear o investigador ou a metodologia. O volume de alegações de vulnerabilidade plausíveis mas não verificadas está prestes a aumentar drasticamente. Verifique as fontes antes de agir em qualquer divulgação.