Meta a approuvé et diffusé des annonces montrant des images de pédopornographie générées par l'IA pendant neuf mois

Points clés

• Des chercheurs du Tech Transparency Project ont trouvé plus de 50 annonces payantes contenant du matériel d'exploitation sexuelle d'enfants dans la propre bibliothèque publicitaire de Meta entre novembre 2024 et août 2025.
• Au moins une annonce a atteint 2 563 comptes dans huit pays européens, dont le Royaume-Uni, la France et l'Allemagne.
• Le système automatisé d'examen des annonces de Meta a approuvé les annonces avant leur diffusion ; certaines ont réapparu après que Meta ait déjà supprimé des versions identiques pour violation de politique.
• Plusieurs annonces renvoyaient à une application appelée MaskAI, qu'Apple a depuis supprimée de l'App Store.
• Meta affirme avoir supprimé plus de 36 millions de contenus d'exploitation sexuelle d'enfants l'année dernière, mais les critiques disent que les approbations répétées révèlent un défaut plus profond du contrôle des annonces payantes.

Pendant neuf mois, les systèmes publicitaires de Meta ont examiné, approuvé et encaissé le paiement d'annonces contenant du matériel d'exploitation sexuelle d'enfants, ou CSAM, des images ou vidéos montrant l'abus sexuel d'enfants. Le Tech Transparency Project (TTP), un groupe de surveillance indépendant, a trouvé plus de 50 annonces de ce type dans la propre bibliothèque publicitaire transparente de Meta, une base de données consultable que Meta a créée pour que chacun puisse voir quelles annonces s'exécutent sur ses plateformes.

WIRED a d'abord rapporté les conclusions.

Que montraient exactement les annonces ?

Le contenu était explicite et délibéré. Une annonce vidéo utilisait une vignette d'un enfant, ajoutait une légende sur les « fantasmes profonds », et lorsqu'on cliquait dessus, elle jouait une vidéo sexuelle pour adultes avant d'y insérer le visage de l'enfant à l'aide de l'IA. Une autre annonce, repostée à plusieurs reprises, montrait une jeune fille dans une position sexuelle avec la légende « Je peux t'en montrer plus ».

Une troisième vidéo commençait par un clip d'une fille appliquant du gloss à lèvres et se transformait en enfant effectuant un acte sexuel. Ce n'étaient pas des cas limites.

« Ces annonces n'ont fait aucun effort pour masquer les images ou cacher ce qu'elles promouvaient », a déclaré Katie Paul, directrice du TTP, à WIRED. Elle a souligné qu'il s'agissait de publicités payantes, du contenu que Meta avait activement examiné et pour lequel elle avait facturé, et non des messages téléchargés par des utilisateurs ordinaires qui avaient échappé aux filtres.

Comment les systèmes de Meta ont-ils manqué cela ?

Meta affirme que toutes les annonces sont examinées avant leur diffusion, principalement à l'aide d'outils automatisés, un logiciel qui vérifie le contenu par rapport aux règles de l'entreprise. Ces règles interdisent explicitement le matériel d'exploitation sexuelle d'enfants et toute imagerie sexuellement suggestive.

Le contrôle automatisé a échoué à plusieurs reprises. Certaines des annonces trouvées dans le deuxième lot, découvertes quelques heures avant la publication, avaient été postées après que WIRED ait d'abord contacté Meta sur le problème. Quelques-unes atteignaient activement les comptes au moment où les chercheurs les ont repérées.

Pire encore, Paul affirme que certaines annonces repostées étaient identiques à celles que Meta avait déjà supprimées pour violation de politique. Si le système pouvait signaler une copie, le fait que les doublons continuent à s'exécuter soulève des questions sérieuses sur la question de savoir si le processus de suppression déclenche un blocage plus large.

La plupart des annonces provenaient de comptes Meta avec peu ou pas de followers. Lorsque des annonceurs payants ont pu être identifiés, ils étaient liés à des sociétés chinoises. Une annonce, montrant une fille allongée, listait l'annonceur comme une entreprise chinoise appelée Meet Social, anciennement l'un des revendeurs publicitaires autorisés de Meta en Chine, où les propres plateformes de Meta sont bloquées. Meet Social n'a pas répondu aux demandes de commentaire.

Plusieurs annonces dirigeaient les utilisateurs vers une application appelée MaskAI, disponible sur l'App Store d'Apple. L'application ne montrait rien d'explicite dans son annonce sur le magasin, mais une fois ouverte, elle contenait de la pornographie générée par l'IA et une fonction d'échange de visage qui permettait aux utilisateurs de déposer n'importe quelle photo téléchargée dans des images sexuelles. Apple a supprimé MaskAI après que WIRED ait contacté l'entreprise.

Que cela signifie-t-il pour les gens ordinaires ?

Si vous ou vos enfants utilisez Facebook, Instagram, Messenger ou Threads, les annonces payantes dans votre flux passent par le même système automatisé qui a approuvé celles-ci. La bibliothèque publicitaire de Meta montrait que les annonces atteignaient des comptes réels en France, en Allemagne, en Irlande, en Italie, aux Pays-Bas, en Espagne, en Suède et au Royaume-Uni. Les chiffres de portée aux États-Unis ne sont pas divulgués dans la bibliothèque, de sorte que l'audience totale est inconnue.

Le TTP a signalé ses conclusions directement au centre de signalement en ligne (CyberTipline) du Centre national pour les enfants disparus et exploités, l'organisme américain qui traite les signalements de matériel d'exploitation sexuelle d'enfants en ligne. Le NCMEC n'a pas commenté les signalements spécifiques.

La réponse de Meta a reconnu l'échec en termes mesurés. « L'exploitation sexuelle est horrible, et nous travaillons agressivement pour la garder en dehors de notre plateforme », a déclaré un porte-parole, notant que l'entreprise a récemment lancé une nouvelle technologie de détection par l'IA pour les annonces et a supprimé plus de 36 millions de contenus d'exploitation d'enfants l'année dernière. L'entreprise a également déclaré que de nombreuses annonces avaient une portée minimale et que certaines avaient été désactivées avant l'enquête de WIRED.

Le contre-argument de Paul est sans ambages : la bibliothèque publicitaire de Meta n'a aucun moyen pour le public de signaler une annonce violant la politique une fois qu'elle a cessé de s'exécuter. Vous pouvez voir la preuve du crime ; vous ne pouvez pas le signaler.

Questions courantes

Puis-je signaler moi-même une annonce Meta suspecte ?

Vous pouvez signaler une annonce tant qu'elle s'exécute activement sur Facebook ou Instagram en appuyant sur les trois points de l'annonce et en sélectionnant « Signaler l'annonce ». La bibliothèque publicitaire publique de Meta, où vous parcourez les annonces historiques, n'a actuellement pas d'outil de signalement intégré pour les annonces qui ne sont plus en direct.

Des accusations ont-elles été portées ?

Aucune accusation criminelle ou action réglementaire n'a été annoncée publiquement suite à ces annonces spécifiques. Le TTP a signalé le matériel au CyberTipline du NCMEC, qui peut renvoyer les dossiers aux forces de l'ordre, mais le NCMEC n'a pas commenté les mesures qu'il prenait.

La suppression de MaskAI par Apple a-t-elle arrêté le préjudice ?

La suppression de l'application de l'App Store arrête les nouveaux téléchargements. Quiconque a déjà installé MaskAI le conserve sur son appareil à moins qu'il ne le supprime manuellement.