Chatbots de IA são Melhores que Criminosos Humanos em Ganhar a Sua Confiança, Diz Estudo
Investigadores colocaram IA contra verdadeiros criminosos numa experiência ao vivo. A IA ganhou, e as implicações para a fraude são alarmantes.
Pontos principais
- Numa experiência de 2025, um chatbot de IA convenceu 46% dos participantes no teste a descarregar uma aplicação, em comparação com apenas 18% para um criminoso humano.
- Os participantes deram à IA uma pontuação média de confiança de 3,78 em 5, contra 3,31 para o humano.
- Os participantes enviaram 80% do total de mensagens para a IA ao longo de uma semana de conversa.
- Os investigadores dizem que a abordagem poderia permitir que operações criminosas substituíssem trabalhadores traficados em centros de burla por IA, recorrendo a um operador humano apenas para o pedido de fraude final.
- O chatbot de IA utilizado no estudo foi um agente Claude, uma versão do modelo Claude da Anthropic configurada para funcionar autonomamente, não o produto padrão para consumidores.
Um novo estudo académico descobriu que um chatbot de IA pode superar uma pessoa real na parte mais importante de um grande esquema de fraude online: fazer com que a vítima confie neles.
O esquema em questão chama-se "pig butchering" (abate de porco), um termo para um tipo de fraude onde criminosos passam semanas ou meses a construir uma relação online calorosa com alguém antes de os orientarem para um falso investimento em criptomoedas que pode drenar as economias inteiras de uma vítima. O apelido cruel vem da ideia de engordar gado antes do abate, embora investigadores evitem cada vez mais este termo porque culpa a vítima. O esquema rouba dezenas de mil milhões de dólares todos os anos em todo o mundo.
O que é que os investigadores fizeram realmente?
Quatro universidades realizaram uma experiência controlada no início de 2025, colocando um chatbot de IA contra um especialista humano em fraudes românticas. Aos participantes foi dito que estavam num estudo sobre como as pessoas fazem amigos online, depois pediram-lhes que enviassem mensagens a dois desconhecidos durante uma semana.
Um desconhecido era uma pessoa que os investigadores descrevem como experiente neste tipo de fraude. O outro era um agente Claude construído pela equipa de investigação. Claude é o modelo de linguagem ampla, a tecnologia por trás de chatbots de IA como ChatGPT e Claude.ai, criado pela empresa Anthropic.
Após sete dias de conversa amigável, tanto o humano como a IA fizeram um pedido. A IA pediu aos participantes que descarregassem e testassem uma aplicação que alegava ter codificado. O humano pediu-lhes que descarregassem um videojogo.
Quase metade (46%) dos participantes descarregou a aplicação para a IA. Menos de um em cada cinco (18%) fez-o para o humano.
| Medida | Chatbot de IA | Criminoso humano |
|---|---|---|
| Pedido de download concretizado | 46% | 18% |
| Pontuação média de confiança (em 5) | 3,78 | 3,31 |
| Quota do total de mensagens enviadas | 80% | 20% |
| Participantes que identificaram a IA em tempo real | 1 em 22 | n/a |
Por que é que isto é importante para pessoas comuns?
Atualmente, a fase de construção de relações destes esquemas depende de pessoas reais, muitas delas vítimas de tráfico forçadas a trabalhar em compostos de fraude em toda o Sudeste Asiático. Esta investigação sugere que a IA poderia automatizar toda essa fase, gerindo milhares de relacionamentos falsos simultaneamente com um custo quase nulo.
O plano que os investigadores descrevem é direto: deixar a IA lidar com semanas de chat caloroso e de construção de confiança, depois entregar a conversa a um operador humano apenas no momento final para empurrar a vítima para um site de investimento falso. Essa transferência também contorna elegantemente os filtros de segurança que empresas como a Anthropic incorporam nos seus modelos para bloquear instruções relacionadas com fraudes.
"Ao ter a primeira fase completa da fraude executada automaticamente em escala, traz a vítima a este ponto onde tem um nível muito elevado de confiança", disse Yisroel Mirsky, professor de informática na Universidade Ben Gurion do Negev. "Com esforço relativamente pouco, conseguimos fazer um agente que consegue superar um humano na construção desta confiança emocional explorável."
A Wired AI reportou primeiro sobre os resultados completos do estudo.
O que devo fazer se for abordado online?
Tenha cuidado sempre que um novo contacto online orienta a conversa para dinheiro, investimentos ou criptomoedas, independentemente do tempo que leva a conversar. O estudo descobriu que mesmo depois de os participantes saberem que uma pessoa que texta era uma IA, conseguiam identificar qual era em 20 em 22 casos, mas apenas com retrospectiva.
"É exatamente assim que as fraudes são. Uma vez que a vítima de fraude percebe o que se passa, é óbvio. Mas quando está na ilusão disto, simplesmente não vê", disse o investigador Gilad Gressel da universidade Amrita Vishwa Vidyapeetham.
Se um novo contacto online lhe pedir para descarregar uma aplicação ou investir dinheiro, pare e diga a alguém em quem confia antes de agir.
Perguntas comuns
Consigo dizer se estou a falar com um chatbot de IA?
Frequentemente, não no momento. Neste estudo, apenas um em cada 22 participantes identificou a IA enquanto a conversa estava a acontecer. A maioria reconheceu-a apenas depois de lhe terem dito.
Isto significa que a IA estava a fazer algo errado?
O agente Claude utilizado era uma construção de investigação personalizada, não o produto padrão da Anthropic, e as próprias diretrizes de segurança da Anthropic proíbem este tipo de engano. Os investigadores utilizaram-no para medir um risco, não para realizar uma fraude real.
