Menores en el Reino Unido Denuncian Deepfakes Explícitos de Sí Mismos en Cifras Récord
Un servicio que ayuda a jóvenes a eliminar imágenes íntimas de internet reporta un aumento pronunciado de contenido falsificado digitalmente, incluyendo desnudos generados por IA. Expertos advierten que las herramientas que lo hacen posible son cada vez más fáciles de encontrar.
Puntos clave
- El servicio Report Remove, que ayuda a las personas a retirar imágenes íntimas de internet, ha registrado un aumento rápido en deepfakes e imágenes manipuladas por IA que involucran a menores en el Reino Unido.
- Las herramientas de desnudación por IA, software que elimina la ropa de fotos para crear imágenes explícitas falsas, se están volviendo más fáciles de acceder y utilizar.
- Un organismo de vigilancia de seguridad afirma que la inteligencia artificial está reduciendo directamente la barrera para producir este tipo de contenido.
- Report Remove es un servicio de denuncias anónimas, lo que significa que los menores pueden denunciar imágenes sin revelar su identidad a la plataforma.
Un número creciente de menores en el Reino Unido están descubriendo imágenes falsas explícitas de sí mismos circulando en línea, y las herramientas que crean esas imágenes se vuelven más simples de usar cada día.
Report Remove, un servicio de denuncias anónimas gestionado por la Fundación Internet Watch y la organización benéfica Childline, ha registrado un aumento pronunciado en casos que involucran imágenes manipuladas digitalmente. Esto incluye fotos alteradas con IA y las denominadas herramientas de desnudación, software que toma una foto ordinaria de una persona real y genera una versión falsa mostrándola sin ropa.
El servicio permite que los menores denuncien imágenes íntimas sin tener que identificarse ante la plataforma que aloja el contenido. Una vez denunciadas, las imágenes se bloquean para evitar que aparezcan en línea.
¿Qué exactamente les está sucediendo a estos menores?
Alguien toma una foto real de un menor, a menudo de un perfil en redes sociales, y la ejecuta a través de una herramienta de IA para producir una versión explícita falsa. El menor nunca consintió. La imagen se ve convincente. Y se propaga.
Este tipo de contenido se denomina a veces deepfake, una foto o video falso generado por IA que parece ser la persona real. Crear o compartir tales imágenes de menores de 18 años es un delito en el Reino Unido, pero eso no ha detenido el aumento en volumen.
The Guardian fue el primero en reportar los hallazgos, citando la advertencia del organismo de vigilancia de que la IA está haciendo que este abuso sea más fácil de cometer que nunca antes.
¿Qué deberían hacer los padres y jóvenes?
Si un menor encuentra una imagen explícita falsa de sí mismo en línea, puede denunciarla a Report Remove sin proporcionar su nombre. El servicio se comunica con la plataforma que aloja el contenido y trabaja para que sea eliminado.
Los padres pueden ayudar teniendo una conversación honesta sobre qué comparten los menores públicamente en redes sociales. Una foto tomada en un día de deportes escolares o una fiesta de cumpleaños puede convertirse en material de origen en segundos. Configuraciones de privacidad más estrictas en perfiles sociales reducen el conjunto de imágenes que un abusador puede explotar.
Las escuelas y los equipos de protección también deben saber que esto ya no es raro. Los números están aumentando rápidamente, y las herramientas que producen estas imágenes no son difíciles de encontrar.
Para cualquiera afectado, la línea de ayuda de Childline (0800 1111) ofrece apoyo confidencial en casos de abuso basado en imágenes.
