xAI fa causa al suo primo utente per immagini di abuso sessuale su minori create con Grok

Punti chiave

• xAI ha intentato una causa civile martedì contro Terry Wayne Harwood, il primo utente che l'azienda ha pubblicamente accusato di aver utilizzato Grok per generare contenuti illegali.
• Harwood è stato arrestato all'inizio del 2025 per possesso e distribuzione di CSAM, materiale di abuso sessuale su minori, ossia immagini sessuali di bambini reali o generate da intelligenza artificiale.
• xAI sostiene che Harwood ha utilizzato due account Grok separati nell'arco di diversi mesi per rimuovere i vestiti da foto ordinarie di più vittime, inclusa una ragazza che sembrava avere soli 10 anni.
• xAI ha fornito prove alle forze dell'ordine che hanno contribuito all'arresto di Harwood, secondo l'ufficio del procuratore della Carolina del Sud.

Da mesi, i critici hanno sottolineato che Grok, il chatbot di intelligenza artificiale creato dall'azienda xAI di Elon Musk, potrebbe essere utilizzato per creare immagini sessualizzate non consensuali sia di adulti che di bambini. xAI è rimasta in gran parte silenziosa. Martedì, l'azienda ha fatto la sua prima mossa pubblica: una causa contro un uomo già in custodia.

L'imputato è Terry Wayne Harwood. È stato arrestato all'inizio di quest'anno in Carolina del Sud con l'accusa di possedere e distribuire CSAM, un termine per immagini sessuali che coinvolgono minori. L'ufficio del procuratore della Carolina del Sud ha confermato che xAI ha contribuito a rendere possibile quell'arresto.

Ecco cosa xAI sostiene abbia fatto Harwood. Ha aperto due account separati sulla piattaforma Grok. Nel corso di diversi mesi, ha alimentato il chatbot con fotografie ordinarie e non sessuali di vittime e gli ha chiesto di "nudificarle", il che significa che il sistema di intelligenza artificiale ha rimosso digitalmente i vestiti dei soggetti per produrre immagini sessualizzate. Una vittima sembrava avere soli dieci anni.

xAI sostiene di aver scoperto l'attività, di averla segnalata alle autorità, e di stare ora facendo causa a Harwood direttamente in un caso civile, un reclamo legale per soldi o danni intentato da un'azienda privata piuttosto che dal governo.

Questo significa che Grok ha risolto il problema?

No, almeno non sulla base di quanto è pubblicamente noto. La causa prende di mira un utente dopo il fatto. Non conferma che xAI abbia chiuso il divario tecnico che ha permesso la creazione delle immagini in primo luogo. Ricercatori e giornalisti, come Ars Technica AI ha ampiamente riferito, hanno ripetutamente dimostrato che Grok genera questo tipo di contenuti quando sollecitato in determinati modi.

Fare causa a un utente è un passo significativo. Segnala che xAI è disposta a cooperare con le forze dell'ordine e perseguire azioni legali. Ma è una risposta a un crimine già avvenuto, non una prova che lo strumento non possa più essere utilizzato in modo improprio.

Per gli utenti ordinari di qualsiasi strumento di imaging AI, il punto pratico è questo: queste piattaforme registrano l'attività. xAI ha identificato Harwood attraverso i propri registri interni e ha consegnato quei dati agli investigatori. Chiunque creda che i contenuti generati dall'intelligenza artificiale esistano in uno spazio privo di conseguenze dovrebbe esaminare attentamente questo caso.

Harwood affronta accuse penali dallo stato. La causa civile di xAI procede insieme a quel processo, cercando separatamente il proprio rimedio attraverso i tribunali.