xAI Processa Primeiro Utilizador por Imagens de Abuso Infantil Criadas com Grok

Pontos-chave

• xAI apresentou uma ação civil terça-feira contra Terry Wayne Harwood, o primeiro utilizador que a empresa acusou publicamente de usar Grok para gerar conteúdo ilegal.
• Harwood foi preso no início de 2025 por posse e distribuição de CSAM, material de abuso sexual infantil, ou seja, imagens sexualizadas reais ou geradas por IA envolvendo crianças.
• xAI diz que Harwood utilizou duas contas Grok separadas durante vários meses para remover roupa de fotografias ordinárias de múltiplas vítimas, incluindo uma rapariga que aparentava ter apenas 10 anos.
• xAI forneceu provas às autoridades policiais que contribuíram para a prisão de Harwood, segundo o gabinete do procurador da Carolina do Sul.

Durante meses, críticos apontaram que Grok, o chatbot de IA construído pela empresa de Elon Musk xAI, poderia ser usado para criar imagens sexualizadas não consentidas tanto de adultos como de crianças. xAI manteve-se maioritariamente em silêncio. Terça-feira, a empresa fez o seu primeiro movimento público: uma ação contra um homem já sob custódia.

O réu é Terry Wayne Harwood. Foi preso no início deste ano na Carolina do Sul sob acusações de posse e distribuição de CSAM, um termo para imagens sexuais envolvendo menores. O gabinete do procurador da Carolina do Sul confirmou que xAI ajudou a tornar essa prisão possível.

Eis o que xAI diz que Harwood fez. Abriu duas contas separadas na plataforma Grok. Durante um período de vários meses, alimentou o chatbot com fotografias ordinárias, não sexualizadas, de vítimas e pediu-lhe para as "nudificar", ou seja, o sistema de IA removeu digitalmente a roupa dos sujeitos para produzir imagens sexualizadas. Uma vítima aparentava ter apenas dez anos de idade.

xAI diz que descobriu a atividade, denunciou-a às autoridades e está agora a processar Harwood diretamente numa ação civil, uma reclamação legal por dinheiro ou indemnizações apresentada por uma empresa privada em vez de pelo governo.

Isto significa que Grok resolveu o problema?

Não, pelo menos não baseado no que se sabe publicamente. A ação visa um utilizador após o facto. Não confirma que xAI fechou a lacuna técnica que permitiu que as imagens fossem criadas em primeiro lugar. Investigadores e jornalistas, como a Ars Technica AI tem reportado extensivamente, demonstraram repetidamente Grok a gerar este tipo de conteúdo quando solicitado de certas formas.

Processar um utilizador é um passo significativo. Sinaliza que xAI está disposta a cooperar com as autoridades policiais e a tomar ações legais. Mas é uma resposta a um crime que já aconteceu, não prova que a ferramenta não pode mais ser usada indevidamente.

Para utilizadores ordinários de qualquer ferramenta de imagem de IA, o ponto prático é este: estas plataformas registam atividade. xAI identificou Harwood através dos seus próprios registos internos e entregou esses dados aos investigadores. Qualquer pessoa que acredite que conteúdo gerado por IA existe num espaço sem consequências deve analisar este caso com cuidado.

Harwood enfrenta acusações criminais do estado. A ação civil de xAI decorre paralelamente a esse processo, buscando separadamente o seu próprio remédio através dos tribunais.