Meta Aprobó y Ejecutó Anuncios con Imágenes de Abuso Sexual Infantil Generadas por IA durante Nueve Meses

Puntos clave

• Investigadores del Tech Transparency Project encontraron más de 50 anuncios pagados que contenían material de abuso sexual infantil en la propia biblioteca de anuncios públicos de Meta entre noviembre de 2024 y agosto de 2025.
• Al menos un anuncio llegó a 2.563 cuentas en ocho países europeos, incluidos el Reino Unido, Francia y Alemania.
• El sistema automatizado de revisión de anuncios de Meta aprobó los anuncios antes de ejecutarse; algunos reaparecieron después de que Meta ya había eliminado versiones idénticas por violaciones de políticas.
• Varios anuncios estaban vinculados a una aplicación llamada MaskAI, que Apple posteriormente retiró de la App Store.
• Meta dice que eliminó más de 36 millones de piezas de contenido de explotación sexual infantil el año pasado, pero los críticos afirman que las aprobaciones repetidas revelan una falla más profunda en la revisión de anuncios pagados.

Durante nueve meses, los sistemas publicitarios de Meta revisaron, aprobaron y cobraron por anuncios que contenían material de abuso sexual infantil, o CSAM, imágenes o videos que muestran el abuso sexual de menores. El Tech Transparency Project (TTP), un grupo de vigilancia independiente, encontró más de 50 anuncios de este tipo en la propia biblioteca de transparencia de anuncios públicos de Meta, una base de datos que Meta creó para que cualquiera pueda ver qué anuncios se ejecutan en sus plataformas.

WIRED reportó primero los hallazgos.

¿Qué mostraban realmente los anuncios?

El contenido era explícito e intencional. Un anuncio de video utilizaba una miniatura de un niño, agregaba un subtítulo sobre "fantasías profundas" y, al hacer clic, reproducía contenido sexual para adultos antes de insertar la cara del niño usando IA. Otro anuncio, reposteado repetidamente, mostraba a una niña pequeña en una posición sexual con el subtítulo "Puedo mostrarte más".

Un tercer video comenzaba con un clip de una niña aplicándose brillo labial y se transformaba en el niño realizando un acto sexual. Estos no eran casos límite.

"Estos anuncios no hicieron ningún esfuerzo para enmascarar las imágenes u ocultar lo que estaban promoviendo", dijo Katie Paul, directora de TTP, a WIRED. Enfatizó que esta era publicidad pagada, contenido que Meta revisó activamente y cobró, no publicaciones cargadas por usuarios ordinarios que se colaron.

¿Cómo los sistemas de Meta pasaron esto por alto?

Meta dice que todos los anuncios se revisan antes de ejecutarse, principalmente utilizando herramientas automatizadas, software que verifica el contenido contra las reglas de la empresa. Esas reglas explícitamente prohíben material de explotación sexual infantil e imágenes sexualmente sugerentes.

El cribado automatizado falló repetidamente. Algunos de los anuncios encontrados en el segundo lote, descubiertos horas antes de la publicación, se habían publicado después de que WIRED contactó por primera vez a Meta sobre el problema. Algunos estaban alcanzando activamente cuentas en el momento en que los investigadores los detectaron.

Lo peor es que Paul dice que algunos de los anuncios reposteados eran idénticos a los que Meta ya había eliminado por violaciones de políticas. Si el sistema pudo marcar una copia, el hecho de que los duplicados siguieran ejecutándose plantea serias preguntas sobre si el proceso de eliminación desencadena algún bloqueo más amplio.

La mayoría de los anuncios provenían de cuentas de Meta con pocos o ningún seguidor. Cuando se identificaron anunciantes pagadores, se remontaban a empresas chinas. Un anuncio, que mostraba a una niña reclinada, listaba al anunciante como una empresa china llamada Meet Social, anteriormente uno de los revendedores de anuncios autorizados de Meta en China, donde las propias plataformas de Meta están bloqueadas. Meet Social no respondió a las solicitudes de comentarios.

Varios anuncios dirigieron a los usuarios a una aplicación llamada MaskAI, disponible en la App Store de Apple. La aplicación no mostraba nada explícito en su listado de tienda, pero una vez abierta contenía pornografía generada por IA y una función de intercambio de rostros que permitía a los usuarios insertar cualquier foto cargada en imágenes sexuales. Apple retiró MaskAI después de que WIRED contactara a la empresa.

¿Qué significa esto para la gente común?

Si usted o sus hijos utilizan Facebook, Instagram, Messenger o Threads, los anuncios pagados en su feed pasan por el mismo sistema automatizado que aprobó estos. La biblioteca de anuncios de Meta mostró que los anuncios llegaron a cuentas reales en Francia, Alemania, Irlanda, Italia, Países Bajos, España, Suecia y Reino Unido. Las cifras de alcance de EE.UU. no se divulgan en la biblioteca, por lo que la audiencia total es desconocida.

El TTP reportó sus hallazgos directamente a la CyberTipline del National Center for Missing and Exploited Children, el organismo de EE.UU. que procesa reportes de material de abuso sexual infantil en línea. El NCMEC no hizo comentarios sobre los reportes específicos.

La respuesta de Meta reconoció la falla en términos medidos. "La explotación sexual es horrible y trabajamos agresivamente para mantenerla fuera de nuestra plataforma", dijo un portavoz, señalando que la empresa recientemente lanzó nueva tecnología de detección de IA para anuncios y eliminó más de 36 millones de piezas de contenido de explotación infantil en el año pasado. La empresa también dijo que muchos de los anuncios tenían un alcance mínimo y algunos fueron deshabilitados antes de la investigación de WIRED.

El contrapunto de Paul es contundente: la biblioteca de anuncios de Meta no tiene forma para que el público denuncie un anuncio que viola las políticas una vez que ha dejado de ejecutarse. Puede ver la evidencia del crimen; no puede denunciarlo.

Preguntas frecuentes

¿Puedo denunciar un anuncio de Meta sospechoso yo mismo?

Puede denunciar un anuncio mientras se está ejecutando activamente en Facebook o Instagram tocando los tres puntos en el anuncio y seleccionando "Denunciar anuncio". La biblioteca de anuncios públicos de Meta, donde examina anuncios históricos, actualmente no tiene una herramienta de denuncia integrada para anuncios que ya no están en vivo.

¿Se presentaron cargos?

No se han anunciado públicamente cargos criminales ni acciones regulatorias como resultado de estos anuncios específicos. El TTP reportó el material a la CyberTipline del NCMEC, que puede remitir casos a las fuerzas del orden, pero el NCMEC no ha comentado sobre qué medidas está tomando.

¿La retirada de MaskAI por parte de Apple detuvo el daño?

Retirar la aplicación de la App Store detiene nuevas descargas. Cualquiera que ya haya instalado MaskAI aún la tiene en su dispositivo a menos que la elimine manualmente.