Les enfants britanniques signalent des deepfakes explicites d'eux-mêmes à des taux record

Points clés

• Le service Report Remove, qui aide les gens à retirer des images intimes du web, a enregistré une augmentation rapide des images deepfake et manipulées par l'IA impliquant des enfants au Royaume-Uni.
• Les outils de nudification par IA, des logiciels qui suppriment les vêtements des photos pour créer des images explicites falsifiées, deviennent plus faciles à accéder et à utiliser.
• Un organisme de surveillance de la sécurité affirme que l'intelligence artificielle réduit directement les obstacles à la production de ce type de contenu.
• Report Remove est un service de signalement anonyme, ce qui signifie que les enfants peuvent signaler des images sans révéler leur identité à la plateforme.

Un nombre croissant d'enfants au Royaume-Uni découvrent des images fausses explicites d'eux-mêmes circulant en ligne, et les outils qui créent ces images deviennent plus simples à utiliser chaque jour.

Report Remove, un service de signalement anonyme géré par la Internet Watch Foundation et l'organisme de bienfaisance Childline, a observé une augmentation nette des cas impliquant des images numériquement manipulées. Cela inclut les photos altérées avec l'IA et les outils dits de nudification, des logiciels qui prennent une photo ordinaire d'une vraie personne et génèrent une fausse version la montrant sans vêtements.

Le service permet aux enfants de signaler des images intimes sans avoir à s'identifier à la plateforme qui héberge le contenu. Une fois signalées, les images sont bloquées pour ne plus apparaître en ligne.

Qu'arrive-t-il exactement à ces enfants ?

Quelqu'un prend une vraie photo d'un enfant, souvent depuis un profil de réseau social, et la passe par un outil d'IA pour produire une fausse version explicite. L'enfant n'a jamais consenti. L'image semble convaincante. Et elle se propage.

Ce type de contenu est parfois appelé un deepfake, une fausse photo ou vidéo générée par l'IA qui ressemble à la vraie personne. Créer ou partager de telles images de toute personne de moins de 18 ans est une infraction pénale au Royaume-Uni, mais cela n'a pas arrêté l'augmentation du volume.

The Guardian a rapporté les conclusions en premier, citant l'avertissement de l'organisme de surveillance selon lequel l'IA rend cet abus plus facile que jamais à mener.

Que devraient faire les parents et les jeunes ?

Si un enfant trouve une image fausse explicite de lui-même en ligne, il peut la signaler à Report Remove sans donner son nom. Le service contacte la plateforme d'hébergement et travaille à retirer le contenu.

Les parents peuvent aider en ayant une conversation honnête sur ce que les enfants partagent publiquement sur les réseaux sociaux. Une photo prise lors d'une journée sportive scolaire ou d'une fête d'anniversaire peut devenir du matériel source en quelques secondes. Des paramètres de confidentialité plus stricts sur les profils sociaux réduisent le pool d'images qu'un agresseur peut exploiter.

Les écoles et les équipes de sauvegarde doivent également savoir que ce n'est plus rare. Les chiffres augmentent rapidement et les outils produisant ces images ne sont pas difficiles à trouver.

Pour toute personne concernée, la ligne d'écoute Childline (0800 1111) offre un soutien confidentiel autour de l'abus basé sur les images.