xAI Processa Homem Que Alegadamente Usou Grok para Criar Imagens de Abuso Infantil
A empresa de IA de Elon Musk está a intentar a sua primeira ação legal contra um utilizador por material de abuso gerado por IA, após um homem da Carolina do Sul ter sido já acusado de oito crimes.
Pontos-chave
- xAI, a empresa de inteligência artificial de Elon Musk, apresentou uma ação judicial contra Terry Wayne Harwood, residente na Carolina do Sul, em 2025 por alegado uso indevido do seu chatbot Grok.
- Harwood foi detido em fevereiro de 2025 sob acusação de oito crimes relacionados com a posse e distribuição de material de abuso sexual infantil.
- xAI alega que Harwood contornou os filtros de segurança integrados do Grok para converter fotografias comuns em imagens explicitamente sexuais sem o conhecimento dos retratados.
- Esta é a primeira vez que xAI processa um utilizador por gerar conteúdo ilegal com o Grok.
- xAI está a pedir ao tribunal que proíba Harwood de criar uma conta xAI novamente e que o obrigue a pagar os custos legais da empresa.
Um chatbot de IA concebido para responder a perguntas e gerar imagens acabou por levar a sua própria empresa aos tribunais, no lado do queixoso.
xAI, a empresa de inteligência artificial detida por Elon Musk, apresentou uma ação judicial contra Terry Wayne Harwood, um homem da Carolina do Sul, acusando-o de usar o Grok, o chatbot de IA da empresa, para criar material de abuso sexual infantil (CSAM, significando imagens ilegais de crianças a serem exploradas). A ação foi reportada pela primeira vez por The Verge AI.
Harwood estava já sob custódia. A polícia deteve-o em fevereiro de 2025 sob acusação de oito crimes por alegadamente possuir e distribuir este tipo de material. Agora xAI quer responsabilidade civil para além do caso criminal.
A empresa alega que Harwood contornou deliberadamente as salvaguardas do Grok, as regras automáticas integradas no software para bloquear resultados prejudiciais, para converter fotografias comuns e não-sexuais de pessoas reais em imagens explicitamente sexuais. Os retratados desconheciam completamente isto.
Como se tornou isto possível em primeiro lugar?
No ano passado, xAI introduziu uma funcionalidade chamada modo "spicy", que atenuou algumas restrições de conteúdo dentro do Grok. Posteriormente adicionou ferramentas de edição de imagens. Os críticos alertaram quase imediatamente que estas funcionalidades poderiam ser abusadas. Dentro de alguns meses, uma onda de deepfakes de IA sexualizados, significando imagens falsas criadas por inteligência artificial que parecem reais, começaram a circular online, incluindo imagens retratando menores.
Em março de 2025, um grupo de adolescentes processou diretamente xAI, alegando que o Grok tinha gerado imagens sexualizadas deles. Elon Musk respondeu publicamente, dizendo que qualquer pessoa que use o Grok para fazer conteúdo ilegal enfrentará as mesmas consequências de quem o carrega. A ação de Harwood parece ser a primeira vez que xAI realmente cumpriu essa ameaça nos tribunais.
O que significa esta ação para as pessoas comuns?
Para utilizadores regulares do Grok, nada muda no dia a dia, mas a ação envia um sinal claro: xAI está disposta a processar utilizadores individuais que violem as suas regras, não apenas defender-se quando vítimas processam a empresa.
xAI disse ao tribunal que as ações de Harwood expuseram a empresa a sério risco legal e dano reputacional. A empresa quer que um juiz ordene a Harwood pagar indenizações, cobrir as contas legais de xAI de qualquer processo de vítimas, e enfrentar uma proibição permanente de todos os produtos xAI.
Para quem está preocupado com ferramentas de imagem de IA serem usadas para criar imagens falsas deles ou dos seus filhos, o passo prático neste momento é o mesmo que tem sido há anos: ter cuidado com as fotografias que compartilha publicamente online. A IA torna o uso indevido mais rápido e barato, mas o material de origem ainda tem de vir de algum lugar.
