Meta ha approvato e pubblicato annunci contenenti immagini di abusi sessuali su minori generate da IA per nove mesi

Punti chiave

• I ricercatori del Tech Transparency Project hanno trovato più di 50 annunci pubblicitari contenenti materiale di abuso sessuale su minori nella biblioteca pubblica degli annunci di Meta tra novembre 2024 e agosto 2025.
• Almeno un annuncio ha raggiunto 2.563 account in otto paesi europei, tra cui Regno Unito, Francia e Germania.
• Il sistema automatico di revisione degli annunci di Meta ha approvato gli annunci prima della loro pubblicazione; alcuni sono riapparsi dopo che Meta aveva già rimosso versioni identiche per violazione delle norme.
• Diversi annunci rimandavano a un'app chiamata MaskAI, che Apple ha successivamente rimosso dall'App Store.
• Meta afferma di aver rimosso oltre 36 milioni di contenuti di sfruttamento sessuale di minori lo scorso anno, ma i critici sostengono che le approvazioni ripetute rivelano un fallimento più profondo nella revisione degli annunci pubblicitari.

Per nove mesi, i sistemi pubblicitari di Meta hanno revisionato, approvato e riscosso pagamenti per annunci contenenti materiale di abuso sessuale su minori, ovvero immagini o video che mostrano lo sfruttamento sessuale di bambini. Il Tech Transparency Project (TTP), un gruppo di controllo indipendente, ha trovato più di 50 di questi annunci nella biblioteca pubblica di trasparenza degli annunci di Meta, un database ricercabile che Meta ha creato affinché chiunque possa vedere quali annunci vengono pubblicati sulle sue piattaforme.

WIRED ha riportato per primo questi risultati.

Cosa mostravano effettivamente gli annunci?

Il contenuto era esplicito e intenzionale. Un annuncio video utilizzava una miniatura di un bambino, aggiungeva una didascalia riguardante "fantasie profonde", e quando cliccato, riproduceva contenuti sessuali per adulti prima di inserire il volto del bambino usando l'IA. Un altro annuncio, ripubblicato più volte, mostrava una ragazza giovane in una posizione sessuale con la didascalia "Posso mostrarti di più".

Un terzo video iniziava con una clip di una ragazza che si applicava il lucidalabbra e si trasformava nel bambino che compiva un atto sessuale. Non si trattava di casi borderline.

"Questi annunci non facevano alcuno sforzo per mascherare le immagini o nascondere quello che stavano promuovendo", ha detto a WIRED Katie Paul, direttrice del TTP. Ha sottolineato che si trattava di pubblicità pagata, contenuto che Meta ha attivamente revisionato e addebitato, non di post caricati da utenti ordinari che sono scivolati attraverso.

Come hanno potuto i sistemi di Meta perdere tutto questo?

Meta afferma che tutti gli annunci vengono revisionati prima della loro pubblicazione, principalmente utilizzando strumenti automatizzati, software che verifica il contenuto rispetto alle regole dell'azienda. Queste regole vietano esplicitamente il materiale di sfruttamento sessuale di minori e qualsiasi immagine sessualmente suggestiva.

La revisione automatizzata ha fallito ripetutamente. Alcuni degli annunci trovati nel secondo lotto, scoperti ore prima della pubblicazione, erano stati postati dopo che WIRED aveva contattato Meta per la prima volta sul problema. Alcuni stavano attivamente raggiungendo account nel momento in cui i ricercatori li hanno notati.

Peggio ancora, Paul sostiene che alcuni degli annunci ripubblicati erano identici a quelli che Meta aveva già rimosso per violazione delle norme. Se il sistema poteva segnalare una copia, il fatto che i duplicati continuassero a essere pubblicati solleva serie domande sul fatto che il processo di rimozione attivi qualsiasi blocco più ampio.

La maggior parte degli annunci proveniva da account Meta con pochi o nessun follower. Dove sono stati identificati gli inserzionisti paganti, si risale a aziende cinesi. Un annuncio, che mostrava una ragazza sdraiata, elencava l'inserzionista come un'azienda cinese chiamata Meet Social, precedentemente uno dei rivenditori di annunci autorizzati di Meta in Cina, dove le stesse piattaforme di Meta sono bloccate. Meet Social non ha risposto alle richieste di commento.

Diversi annunci indirizzavano gli utenti verso un'app chiamata MaskAI, disponibile sull'App Store di Apple. L'app non mostrava nulla di esplicito nel suo elenco dello store, ma una volta aperta conteneva pornografia generata da IA e una funzione di scambio di volti che permetteva agli utenti di inserire qualsiasi foto caricata in immagini sessuali. Apple ha rimosso MaskAI dopo che WIRED ha contattato l'azienda.

Cosa significa questo per le persone comuni?

Se tu o i tuoi figli utilizzate Facebook, Instagram, Messenger o Threads, gli annunci pubblicitari nel vostro feed passano attraverso lo stesso sistema automatico che ha approvato questi. La biblioteca degli annunci di Meta ha mostrato che gli annunci hanno raggiunto account reali in Francia, Germania, Irlanda, Italia, Paesi Bassi, Spagna, Svezia e Regno Unito. Le cifre di portata negli Stati Uniti non sono divulgate nella biblioteca, quindi il pubblico totale è sconosciuto.

Il TTP ha segnalato i suoi risultati direttamente alla CyberTipline del National Center for Missing and Exploited Children, l'organo statunitense che elabora le segnalazioni di materiale di abuso sessuale su minori online. L'NCMEC non ha commentato le segnalazioni specifiche.

La risposta di Meta ha riconosciuto il fallimento in termini misurati. "Lo sfruttamento sessuale è orribile e lavoriamo aggressivamente per mantenerlo fuori dalla nostra piattaforma", ha detto una portavoce, notando che l'azienda ha recentemente lanciato una nuova tecnologia di rilevamento IA per gli annunci e ha rimosso oltre 36 milioni di contenuti di sfruttamento di minori nell'anno passato. L'azienda ha anche detto che molti degli annunci avevano una portata minima e alcuni erano stati disabilitati prima dell'inchiesta di WIRED.

Il contropunto di Paul è blunt: la biblioteca degli annunci di Meta non ha modo per il pubblico di segnalare un annuncio che viola le norme una volta che ha smesso di funzionare. Puoi vedere le prove del crimine; non puoi segnalarlo.

Domande frequenti

Posso segnalare un annuncio Meta sospetto io stesso?

Puoi segnalare un annuncio mentre è attivamente in esecuzione su Facebook o Instagram toccando i tre punti sull'annuncio e selezionando "Segnala annuncio". La biblioteca pubblica degli annunci di Meta, dove sfoglia gli annunci storici, attualmente non ha uno strumento di segnalazione integrato per gli annunci che non sono più attivi.

Sono state presentate accuse?

Nessuna accusa penale o azione normativa è stata resa pubblica a seguito di questi annunci specifici. Il TTP ha segnalato il materiale alla CyberTipline dell'NCMEC, che può rinviare i casi alle forze dell'ordine, ma l'NCMEC non ha commentato i passi che sta intraprendendo.

La rimozione di MaskAI da parte di Apple ha fermato il danno?

La rimozione dell'app dall'App Store interrompe i nuovi download. Chiunque abbia già installato MaskAI lo ha ancora sul proprio dispositivo a meno che non lo elimini manualmente.