Crianças do Reino Unido Reportam Deepfakes Explícitos de Si Próprias em Números Recordes
Um serviço que ajuda jovens a remover imagens íntimas da internet relata que o conteúdo digitalmente falsificado, incluindo nudez gerada por IA, está a aumentar drasticamente. Especialistas alertam que as ferramentas que o tornam possível estão cada vez mais acessíveis.
Pontos-chave
- O serviço Report Remove, que ajuda pessoas a remover imagens íntimas da internet, registou um aumento rápido de imagens deepfake e manipuladas por IA envolvendo crianças no Reino Unido.
- Ferramentas de nudificação por IA, software que remove roupa de fotografias para criar imagens explícitas falsas, estão a tornar-se mais fáceis de aceder e utilizar.
- Um regulador de segurança afirma que a inteligência artificial está a baixar diretamente a barreira para produzir este tipo de conteúdo.
- Report Remove é um serviço de denúncia anónima, o que significa que as crianças podem reportar imagens sem revelar a sua identidade à plataforma.
Um número crescente de crianças no Reino Unido está a descobrir imagens explícitas falsas de si próprias a circular online, e as ferramentas que criam essas imagens tornam-se mais simples de utilizar a cada dia.
Report Remove, um serviço de denúncia anónima gerido pela Internet Watch Foundation e pela organização de caridade Childline, registou um aumento acentuado de casos envolvendo imagens digitalmente manipuladas. Isto inclui fotografias alteradas com IA e as chamadas ferramentas de nudificação, software que pega numa foto comum de uma pessoa real e gera uma versão falsa mostrando-a sem roupa.
O serviço permite que as crianças reportem imagens íntimas sem terem de se identificarem à plataforma que aloja o conteúdo. Uma vez reportadas, as imagens são bloqueadas e impedidas de aparecer online.
O que exatamente está a acontecer a estas crianças?
Alguém tira uma foto real de uma criança, frequentemente de um perfil de redes sociais, e executa-a através de uma ferramenta de IA para produzir uma versão explícita falsa. A criança nunca consentiu. A imagem parece convincente. E espalha-se.
Este tipo de conteúdo é por vezes chamado deepfake, uma foto ou vídeo falso gerado por IA que parece a pessoa real. Criar ou partilhar tais imagens de menores de 18 anos é um crime no Reino Unido, mas isto não impediu o aumento do volume.
The Guardian reportou primeiro os resultados, citando o aviso do regulador de que a IA está a tornar este abuso mais fácil de executar do que nunca.
O que devem fazer os pais e os jovens?
Se uma criança encontrar uma imagem explícita falsa de si própria online, pode reportá-la a Report Remove sem fornecer o seu nome. O serviço contacta a plataforma que aloja o conteúdo e trabalha para que o mesmo seja removido.
Os pais podem ajudar tendo uma conversa honesta sobre o que as crianças partilham publicamente nas redes sociais. Uma foto tirada num dia de desporto escolar ou numa festa de aniversário pode tornar-se material de origem em segundos. Definições de privacidade mais restritas nos perfis de redes sociais reduzem o conjunto de imagens que um abusador pode explorar.
As escolas e equipas de proteção de menores devem também saber que isto já não é raro. Os números estão a aumentar rapidamente, e as ferramentas que produzem estas imagens não são difíceis de encontrar.
Para quem for afetado, a linha de ajuda Childline (0800 1111) oferece apoio confidencial em torno de abuso baseado em imagens.
