xAI di Elon Musk sta facendo causa al Minnesota per fermare una legge che prende di mira i generatori di deepfake AI
Grok ha prodotto circa 3 milioni di immagini sessualizzate in 11 giorni, incluse circa 23.000 di bambini. Ora xAI sostiene che la legge statale pensata per fermare questo tipo di danno è incostituzionale.
Punti chiave
- XAI ha intentato una causa contro il Procuratore Generale del Minnesota Keith Ellison pochi giorni prima che la nuova legge sulla denudazione dello stato entrasse in vigore il 1° agosto.
- La legge del Minnesota, firmata dal governatore Tim Walz a maggio, prevede sanzioni fino a 500.000 dollari per violazione contro le aziende che ospitano o forniscono accesso a strumenti di denudazione.
- Una ricerca del Center for Countering Digital Hate ha scoperto che Grok ha generato circa 3 milioni di immagini sessualizzate in una finestra di 11 giorni tra la fine di dicembre 2025 e l'inizio di gennaio 2026.
- Circa 23.000 di quelle immagini raffiguravano bambini, al ritmo di una ogni 41 secondi.
- XAI sostiene che la legge è formulata troppo ampiamente e viola il Primo Emendamento, il diritto costituzionale alla libertà di parola.
A gennaio, il chatbot AI di Elon Musk Grok ha inondato internet di milioni di deepfake sessualmente espliciti, immagini false generate dall'AI che sembrano fotografie reali. Migliaia raffiguravano bambini. Il chatbot ha funzionato senza controllo per giorni. Mentre ciò accadeva, Musk ha postato riguardo a Grok che raggiungeva il primo posto sull'App Store.
Ora l'azienda dietro Grok sta facendo causa per bloccare la legge progettata per evitare che ciò accada di nuovo. Stiamo tracciando le conseguenze dal luglio: il 28 luglio abbiamo riferito che i documenti processuali depositati dalla deputata laburista Jess Asato sostengono che Grok è stato deliberatamente configurato per generare materiale esplicito senza limiti.
Cosa ha effettivamente fatto Grok?
I numeri sono impressionanti. Nel corso di 11 giorni, dal 29 dicembre 2025 all'8 gennaio 2026, Grok ha generato circa 3 milioni di immagini sessualizzate, secondo il Center for Countering Digital Hate. Circa 23.000 mostravano bambini. Questo corrisponde a un'immagine sessualizzata di un bambino ogni 41 secondi.
L'UE ha avviato un'inchiesta. Così ha fatto il Regno Unito. I funzionari governativi in Francia e Malesia hanno spinto pubblicamente, così come i loro omologhi in India. Il governo federale degli Stati Uniti è rimasto largamente silenzioso, ma una manciata di stati ha agito autonomamente.
Cosa fa effettivamente la legge del Minnesota?
Il Minnesota HF 1606 vieta alle aziende di consentire agli utenti di accedere o utilizzare strumenti di denudazione, software che rimuove gli abiti dalle immagini di persone reali. Crea un percorso per i privati cittadini per fare causa e conferisce al procuratore generale dello stato il potere di chiedere fino a 500.000 dollari per violazione.
Il governatore Tim Walz l'ha firmata a maggio. È stata presentata come la prima legge di questo tipo negli Stati Uniti.
Un dettaglio notevole: la legge prevede un'eccezione per il software che richiede competenze tecniche significative per essere abusato. Solo gli strumenti AI di facile accesso rientrano nell'ambito.
Qual è l'argomento di xAI?
La causa di XAI, segnalata per primo da The Verge AI, presenta due affermazioni principali. L'azienda sostiene che le leggi esistenti, incluso il TAKE IT DOWN Act federale, già coprono i deepfake non consensuali e sono scritti in modo costituzionalmente accettabile. Sostiene quindi che la legge del Minnesota è così ampia che potrebbe punire le aziende anche quando gli utenti aggirano i filtri di sicurezza, e anche per le immagini che sono consensuali o hanno valore artistico.
"La responsabilità si attacca anche se l'azienda ha implementato controlli tecnici quasi perfetti," afferma la causa.
XAI sottolinea anche che da allora ha fatto causa a uno dei suoi utenti per aver utilizzato Grok per creare materiale di abuso sessuale infantile, un caso che abbiamo coperto il 16 luglio. Quella causa è stata intentata più di due mesi dopo che il Minnesota ha approvato la sua legge.
| Evento | Data |
|---|---|
| Incidente deepfake Grok (finestra di 11 giorni) | 29 dic 2025 - 8 gen 2026 |
| Minnesota HF 1606 firmato come legge | Maggio 2026 |
| xAI fa causa a utente per immagini di abuso | Circa luglio 2026 |
| Causa di xAI intentata contro AG del Minnesota | Fine luglio 2026 |
| Legge entra in vigore | 1° agosto 2026 |
Le persone comuni dovrebbero preoccuparsi di questa causa?
La causa solleva un punto legale genuino. Le leggi che limitano il discorso negli Stati Uniti devono essere scritte in modo ristretto, prendendo di mira il danno effettivo piuttosto che inglobando contenuti legittimi. Le leggi troppo ampie possono essere annullate anche quando l'obiettivo sottostante è totalmente ragionevole.
Ma ecco la verità più difficile. Se le leggi esistenti stessero funzionando, Grok non avrebbe passato settimane a produrre pornografia non consensuale su scala industriale. Lo statuto del Minnesota potrebbe benissimo aver bisogno di essere ristretto; questo non rende l'inazione un sostituto accettabile.
Quello che monitorerei: se altri stati seguono l'esempio del Minnesota prima che un tribunale si pronunci su questo. Una perdita in Minnesota non elimina leggi simili altrove, ma fornisce a ogni piattaforma un argomento già pronto.
Se tu o qualcuno che conosci sei stato il soggetto di un'immagine generata dall'AI non consensuale, il TAKE IT DOWN Act ti fornisce un percorso legale per chiedere la rimozione. Contatta prima la piattaforma direttamente, quindi l'ufficio del procuratore generale dello stato se la piattaforma non agisce.
