Minori nel Regno Unito segnalano deepfake espliciti di se stessi a ritmi record

Punti principali

• Il servizio Report Remove, che aiuta le persone a rimuovere immagini intime da internet, ha registrato un aumento rapido di contenuti deepfake e manipolati con IA che coinvolgono minori nel Regno Unito.
• Gli strumenti di nudificazione IA, software che rimuove i vestiti dalle foto per creare immagini esplicite contraffatte, stanno diventando sempre più facili da accedere e utilizzare.
• Un organo di controllo sulla sicurezza afferma che l'intelligenza artificiale sta abbassando direttamente la barriera alla produzione di questo tipo di contenuto.
• Report Remove è un servizio di segnalazione anonimo, il che significa che i minori possono segnalare immagini senza rivelare la loro identità alla piattaforma.

Un numero crescente di minori nel Regno Unito sta scoprendo immagini false esplicite di se stessi che circolano online, e gli strumenti che producono queste immagini diventano sempre più semplici da usare ogni giorno.

Report Remove, un servizio di segnalazione anonimo gestito dalla Internet Watch Foundation e dall'ente di beneficenza Childline, ha registrato un aumento netto dei casi che coinvolgono contenuti digitalmente manipolati. Ciò include foto alterate con IA e i cosiddetti strumenti di nudificazione, software che prende una foto ordinaria di una persona reale e genera una versione contraffatta che la mostra senza vestiti.

Il servizio consente ai minori di segnalare immagini intime senza doversi identificare presso la piattaforma che ospita il contenuto. Una volta segnalate, le immagini vengono bloccate da internet.

Cosa esattamente sta succedendo a questi minori?

Qualcuno prende una foto vera di un minore, spesso da un profilo di social media, e la passa attraverso uno strumento IA per produrre una versione esplicita contraffatta. Il minore non ha mai dato il consenso. L'immagine sembra convincente. E si diffonde.

Questo tipo di contenuto è talvolta chiamato deepfake, una foto o un video falso generato da IA che assomiglia alla persona reale. Creare o condividere tali immagini di chiunque abbia meno di 18 anni è un reato nel Regno Unito, ma questo non ha fermato l'aumento del volume.

The Guardian ha per primo riportato i risultati, citando l'avvertimento dell'organo di controllo secondo cui l'IA sta rendendo questo abuso più facile da perpetrare che mai.

Cosa dovrebbero fare i genitori e i giovani?

Se un minore trova un'immagine falsa esplicita di se stesso online, può segnalarla a Report Remove senza fornire il proprio nome. Il servizio contatta la piattaforma host e lavora per rimuovere il contenuto.

I genitori possono aiutare avendo una conversazione onesta su ciò che i minori condividono pubblicamente sui social media. Una foto scattata in una giornata sportiva scolastica o a una festa di compleanno può diventare materiale di base in secondi. Impostazioni di privacy più rigide sui profili social riducono l'insieme di immagini che un abusante può sfruttare.

Anche le scuole e i team di tutela dovrebbero sapere che questo non è più raro. I numeri stanno aumentando rapidamente, e gli strumenti che producono queste immagini non sono difficili da trovare.

Per coloro che sono interessati, la linea di aiuto Childline (0800 1111) offre supporto confidenziale intorno agli abusi basati su immagini.