San Francisco ordina ad Apple e Google di rimuovere le app AI "Nudify"

Punti chiave

• L'avvocato della città di San Francisco David Chiu ha inviato notifiche legali ad Apple e Google giovedì chiedendo la rimozione di 13 app specifiche dai loro store.
• Le app interessate includono 8 dall'App Store di Apple e 5 dal Play Store di Google, tutte commercializzate in generale come strumenti di "scambio di volti".
• I ricercatori delle università di Cornell e Georgetown hanno scoperto nel maggio 2025 che il 70 percento delle app di scambio di volti da loro testate poteva produrre deepfake nudi senza controlli di sicurezza.
• Le app segnalate dal Tech Transparency Project all'inizio del 2025 erano state scaricate circa 480 milioni di volte e avevano guadagnato un totale stimato di 120 milioni di dollari.
• Google ha confermato di aver rimosso le cinque app Android indicate nella lettera; Apple non aveva commentato al momento della pubblicazione.

Immagina di caricare una foto di una persona che conosci e, in pochi secondi, ricevere un'immagine falsa e nuda di quella persona. È quello che fanno queste app. Non è richiesta alcuna competenza tecnica. Solo una foto e un paio di tocchi.

Giovedì, l'avvocato della città di San Francisco David Chiu ha inviato lettere di diffida, richieste legali formali per interrompere comportamenti specifici, ad Apple e Google. Vuole che entrambe le aziende rimuovono immediatamente 13 app dai loro store. Le app si pubblicizzano come strumenti di scambio di volti ma, una volta aperte, consentono agli utenti di creare immagini intime non consensuali generate da AI, ovvero immagini sessuali false di persone reali create senza la loro conoscenza o accordo.

L'ufficio di Chiu sostiene che Apple e Google hanno probabilmente "guadagnato milioni di dollari in commissioni" da queste app, perché entrambe le aziende prendono una percentuale degli acquisti in-app. La legge della California vieta il supporto di servizi che creano pornografia deepfake, e le lettere dicono che le aziende stanno "favoreggiando" questo danno.

"Queste immagini vengono utilizzate per intimidire, umiliare e minacciare donne e ragazze", ha detto Chiu a Wired AI, che ha segnalato per primo la storia. "Ci sono state vittime che hanno avuto pensieri suicidi".

Il portavoce di Google Dan Jackson ha confermato che l'azienda ha eliminato le cinque app Android indicate nella lettera, più "centinaia" di altre simili, e ha limitato i termini di ricerca come "nudify" all'interno del suo store. Apple non ha risposto prima della pubblicazione.

Perché gli store non hanno ancora individuato queste app?

Sia Apple che Google hanno scritto politiche che vietano la pornografia e le molestie, ma le app continuano a sfuggire travestendosi da strumenti di editing innocui. Un articolo di ricerca del maggio 2025 dell'università di Cornell e dell'università di Georgetown ha testato 155 app di scambio di volti e ha scoperto che il 70 percento di esse poteva produrre deepfake nudi senza funzioni di sicurezza per impedirlo. I ricercatori hanno chiamato queste "app a doppio uso", il che significa software che sembra innocuo sulla superficie ma può causare gravi danni sottotraccia.

Il Tech Transparency Project, un gruppo di controllo indipendente, ha riferito di aver trovato circa 100 app di questo tipo su entrambi gli store nel gennaio e aprile 2025. La direttrice Katie Paul l'ha espresso chiaramente: "Apple e Google fanno molte promesse su quanto sono affidabili e sicuri i loro app store. Semplicemente non è quello che sta accadendo nella realtà".

I precedenti rapporti hanno scoperto immagini sessuali deepfake di minori create in almeno 90 scuole.

Chiu dice che il suo ufficio perseguirà ulteriori azioni legali se Apple e Google non agiscono. "Se non faranno la cosa giusta, dovremo considerare tutte le nostre opzioni legali", ha detto.