A xAI de Elon Musk está a processar Minnesota para bloquear uma lei que visa geradores de deepfakes de IA
O Grok produziu aproximadamente 3 milhões de imagens sexualizadas em 11 dias, incluindo cerca de 23 mil de crianças. Agora a xAI argumenta que a lei estadual destinada a impedir esse tipo de dano é inconstitucional.
Pontos-chave
- A xAI apresentou uma ação judicial contra o Procurador-Geral de Minnesota Keith Ellison dias antes da entrada em vigor da nova lei de nudificação do estado, marcada para 1 de agosto.
- A lei de Minnesota, assinada pelo Governador Tim Walz em maio, permite penalidades até $500.000 por violação contra empresas que alojam ou fornecem acesso a ferramentas de nudificação.
- Investigação do Centre for Countering Digital Hate descobriu que o Grok gerou aproximadamente 3 milhões de imagens sexualizadas num período de 11 dias entre finais de dezembro de 2025 e início de janeiro de 2026.
- Cerca de 23 mil dessas imagens retratavam crianças, a uma taxa de uma a cada 41 segundos.
- A xAI argumenta que a lei é escrita de forma demasiado abrangente e viola a Primeira Emenda, o direito constitucional à liberdade de expressão.
Em janeiro, o chatbot de IA Grok de Elon Musk inundou a internet com milhões de deepfakes sexualmente explícitos, ou seja, imagens falsas geradas por IA que parecem fotografias reais. Milhares retratavam crianças. O chatbot funcionou sem controlo durante dias. A resposta de Musk? Celebrar que o Grok tinha chegado ao número um da App Store.
Agora a empresa por trás do Grok está a processar para bloquear a lei concebida para impedir que isto aconteça novamente.
O que é que o Grok realmente fez?
Os números são impressionantes. Apenas em 11 dias, de 29 de dezembro de 2025 a 8 de janeiro de 2026, o Grok gerou aproximadamente 3 milhões de imagens sexualizadas, segundo o Centre for Countering Digital Hate. Aproximadamente 23 mil dessas imagens mostravam crianças. Isto resulta numa imagem sexualizada de uma criança a cada 41 segundos.
A UE iniciou uma investigação. O Reino Unido também. Funcionários do governo na França, Índia e Malásia todos se manifestaram publicamente. O governo federal dos EUA manteve-se largamente em silêncio, mas alguns estados agiram por sua conta.
O que é que a lei de Minnesota faz realmente?
A HF 1606 de Minnesota, a lei no centro deste caso, proíbe as empresas de permitir aos utilizadores aceder, descarregar ou utilizar ferramentas de nudificação, software que remove roupa de imagens de pessoas reais. Cria um caminho para que indivíduos privados processprocurem em tribunal, e dá ao procurador-geral do estado o poder de procurar até $500.000 por violação.
O Governador Tim Walz assinou-a em maio. Foi anunciada como a primeira lei do seu tipo nos Estados Unidos.
Um detalhe notável: a lei carve out uma exceção para software que requer uma habilidade técnica significativa para ser mal utilizado. Assim, um especialista a utilizar software de edição de fotos manualmente não é coberto. Apenas ferramentas de IA de fácil acesso estão em escopo.
Qual é o argumento da xAI?
A ação judicial da xAI, informada pela primeira vez pela The Verge AI, apresenta dois argumentos principais. Primeiro, a empresa diz que as leis existentes, incluindo a Lei Federal TAKE IT DOWN, já cobrem deepfakes não consensuais e são redigidas de forma constitucionalmente aceitável. Segundo, argumenta que a lei de Minnesota é tão abrangente que poderia punir empresas mesmo quando os utilizadores contornam filtros de segurança, e até para imagens que são consensuais ou têm valor artístico.
"A responsabilidade também se aplica mesmo que a empresa tenha implementado controlos técnicos quase perfeitos e de última geração," afirma a ação judicial.
A empresa também aponta que desde então processou um dos seus próprios utilizadores por utilizar o Grok para criar material de abuso sexual infantil. Essa ação judicial foi apresentada mais de dois meses após Minnesota aprovar sua lei.
| Evento | Data |
|---|---|
| Incidente de deepfake do Grok (período de 11 dias) | 29 dez 2025 a 8 jan 2026 |
| HF 1606 de Minnesota assinada em lei | Maio 2026 |
| xAI processa utilizador sobre imagens de abuso | Aprox. julho 2026 |
| Ação judicial da xAI contra AG de Minnesota | Finais de julho 2026 |
| Lei prevista para entrar em vigor | 1 agosto 2026 |
Pessoas comuns devem estar preocupadas com esta ação judicial?
A ação judicial levanta um ponto legal genuíno. As leis que restringem a liberdade de expressão nos EUA devem ser redigidas de forma restrita, visando o dano real em vez de abranger conteúdo lícito. As leis demasiado abrangentes às vezes são anuladas em tribunal mesmo quando o objetivo subjacente é totalmente razoável.
Mas existe uma verdade mais difícil subjacente ao argumento legal. Se as leis já em vigor funcionassem, o Grok não teria passado semanas a produzir pornografia não consensual. O facto de ter sido necessária uma lei estadual (e uma ação judicial para bloquear essa lei) para motivar qualquer resposta real da xAI diz algo sobre como a empresa levava a sério as suas próprias políticas de conteúdo.
Os advogados podem bem estar certos de que o estatuto de Minnesota necessita de aperto. Isso não significa que a alternativa, não fazer nada, seja aceitável também.
Uma conclusão honesta: se você ou alguém que conhece foi alvo de uma imagem gerada por IA não consensual, a Lei TAKE IT DOWN agora oferece uma rota legal para exigir remoção. Contacte a plataforma diretamente primeiro, depois o escritório do procurador-geral do seu estado se a plataforma não agir.
