xAI cita in giudizio l'uomo che avrebbe usato Grok per creare immagini di abusi su minori

Punti chiave

• xAI, l'azienda di intelligenza artificiale di Elon Musk, ha intentato una causa nel 2025 contro Terry Wayne Harwood, residente in Carolina del Sud, per il presunto uso improprio del chatbot Grok.
• Harwood è stato arrestato a febbraio 2025 con otto capi d'accusa di reato legati al possesso e alla distribuzione di materiale di abuso sessuale su minori.
• xAI sostiene che Harwood ha aggirato i filtri di sicurezza integrati in Grok per trasformare fotografie ordinarie in immagini sessualmente esplicite senza il consenso dei soggetti.
• Questa è la prima volta che xAI cita in giudizio un utente per la generazione di contenuti illegali con Grok.
• xAI chiede a un tribunale di vietare permanentemente a Harwood di creare un account xAI e di fargli pagare le spese legali dell'azienda.

Un chatbot di intelligenza artificiale progettato per rispondere a domande e generare immagini ha portato la sua stessa azienda in tribunale, nel ruolo di querelante.

xAI, l'azienda di intelligenza artificiale di proprietà di Elon Musk, ha intentato una causa contro Terry Wayne Harwood, un uomo della Carolina del Sud, accusandolo di aver usato Grok, il chatbot dell'azienda, per creare materiale di abuso sessuale su minori (CSAM, ovvero immagini illegali di bambini sfruttati). La causa è stata prima segnalata da The Verge AI.

Harwood era già in custodia. La polizia lo ha arrestato a febbraio 2025 con otto capi d'accusa di reato per il presunto possesso e distribuzione di questo tipo di materiale. Ora xAI vuole responsabilità civile in aggiunta al procedimento penale.

L'azienda sostiene che Harwood ha deliberatamente aggirato le protezioni di Grok, le regole automatiche integrate nel software per bloccare risultati dannosi, al fine di convertire fotografie ordinarie e non sessualmente esplicite di persone reali in immagini sessualmente esplicite. I soggetti non sapevano che stava accadendo.

Come è diventato possibile tutto questo?

Lo scorso anno, xAI ha introdotto una funzione chiamata modalità "spicy", che ha allentato alcune restrizioni sui contenuti in Grok. In seguito ha aggiunto strumenti di editing delle immagini. I critici hanno avvertito quasi immediatamente che queste funzioni potevano essere abusate. Nel giro di pochi mesi, un'ondata di deepfake sessualizzati basati su intelligenza artificiale, ovvero immagini false create da intelligenza artificiale che sembrano reali, ha iniziato a circolare online, compresi contenuti raffiguranti minori.

Nel marzo 2025, un gruppo di adolescenti ha citato in giudizio xAI direttamente, sostenendo che Grok aveva generato immagini sessualizzate di loro. Elon Musk ha risposto pubblicamente, dicendo che chiunque utilizzi Grok per creare contenuti illegali affronterà le stesse conseguenze di chi li carica. La causa di Harwood sembra essere la prima volta che xAI ha effettivamente seguito questa minaccia in tribunale.

Cosa significa questa causa per le persone comuni?

Per gli utenti normali di Grok, niente cambia quotidianamente, ma la causa invia un segnale chiaro: xAI è disposta a citare in giudizio singoli utenti che violano le sue regole, non solo difendersi quando le vittime citano in giudizio l'azienda.

xAI ha detto al tribunale che le azioni di Harwood hanno esposto l'azienda a seri rischi legali e a danni reputazionali. L'azienda vuole che un giudice ordini a Harwood di pagare i danni, coprire le spese legali di xAI derivanti da qualsiasi causa delle vittime, e affrontare un divieto permanente da tutti i prodotti xAI.

Per chi è preoccupato che gli strumenti di generazione di immagini IA vengono utilizzati per creare immagini false di loro o dei loro figli, il passo pratico in questo momento è lo stesso da anni: fare attenzione a quali fotografie condividete pubblicamente online. L'IA rende l'abuso più veloce ed economico, ma il materiale di partenza deve comunque provenire da qualche parte.