Por que Identificar Rostos Gerados por IA Está Ficando Mais Difícil
Os rostos gerados por IA estão ficando cada vez mais convincentes, dificultando o trabalho das pessoas comuns em identificar falsificações digitais.
Pontos principais
- Pesquisadores da Australian National University relatam que rostos gerados por IA agora enganam a maioria das pessoas.
- O treinamento para identificar falhas como dedos extras não é mais confiável à medida que a IA melhora.
- Uma equipa de pesquisa global está a desenvolver métodos de deteção subtis com promessas iniciais.
Identificar rostos gerados por IA costumava ser fácil. Um dedo extra, uma orelha torta ou dentes desalinhados denunciavam-nos. Mas agora, as ferramentas de imagem de IA estão tão aperfeiçoadas que estes erros gritantes estão a desaparecer. Isto torna muito mais difícil distinguir a fotografia de uma pessoa real de um rosto gerado por computador.
A Professora Amy Dawel da Australian National University (ANU) lidera uma equipa de pesquisa que tenta ajudar as pessoas a acompanharem este progresso. Como primeiro relatado por ThreatVectr, a sua equipa abrange Austrália, Canadá e Reino Unido, e está a trabalhar em novas formas de identificar falsificações digitais.
Por que isto é importante para a pessoa comum? Os burladores usam estes rostos de IA realistas para criar perfis falsos em aplicações de encontros, sites de emprego e redes sociais. Um rosto convincente ajuda-os a ganhar confiança mais rapidamente. Isto significa que mais pessoas podem entregar o seu dinheiro ou informações pessoais antes de perceberem que foram enganadas.
Os antigos conselhos para procurar orelhas estranhas ou contar os dedos já não são suficientes. Os sistemas de IA aprenderam com os seus erros e melhoraram. A equipa de Dawel está agora concentrada em encontrar sinais mais subtis de uma falsificação. Acreditam que as pessoas ainda podem aprender a identificar rostos de IA, mas precisam de novo treinamento.
Nenhum truque único funciona ainda, e partilhar uma lista de verificação apenas ajudaria os burladores a melhorarem as suas falsificações. Por enquanto, o melhor conselho é ser cauteloso. Se receber uma mensagem inesperada de alguém novo, especialmente se evitarem chamadas de vídeo ou tiverem muito poucas fotos antigas, seja cético. Uma pesquisa de imagem inversa pode às vezes detetar uma falsificação ao ver onde mais a fotografia aparece na internet.
Devem os utilizadores estar preocupados?
Sim, mas não em pânico. A tecnologia por trás de rostos falsos está a avançar mais depressa do que a capacidade da maioria das pessoas em detectá-los. Os pesquisadores estão a trabalhar intensamente para fechar esta lacuna. Até conseguirem, é sensato pausar antes de confiar na fotografia de um estranho.
A pesquisa contínua de Dawel oferece esperança. Com novos métodos de deteção, as pessoas em breve podem ficar melhores em identificar rostos de IA falsos. Até lá, uma dose saudável de ceticismo permanece como uma defesa sensata.
