A xAI de Elon Musk está a processar Minnesota para bloquear uma lei que visa geradores de Deepfakes de IA
O Grok produziu aproximadamente 3 milhões de imagens sexualizadas em 11 dias, incluindo cerca de 23.000 de crianças. Agora a xAI argumenta que a lei estadual destinada a evitar este tipo de dano é inconstitucional.
Pontos-chave
- A XAI apresentou uma ação judicial contra o Procurador-Geral de Minnesota Keith Ellison dias antes da nova lei de nudificação do estado entrar em vigor em 1 de agosto.
- A lei de Minnesota, assinada pelo Governador Tim Walz em maio, permite penalidades até $500.000 por violação contra empresas que alojam ou fornecem acesso a ferramentas de nudificação.
- A investigação do Center for Countering Digital Hate descobriu que o Grok gerou aproximadamente 3 milhões de imagens sexualizadas num período de 11 dias no final de dezembro de 2025 e início de janeiro de 2026.
- Cerca de 23.000 dessas imagens retratavam crianças, numa taxa de uma a cada 41 segundos.
- A XAI argumenta que a lei está redigida de forma demasiado abrangente e viola a Primeira Emenda, o direito constitucional à liberdade de expressão.
Em janeiro, o chatbot de IA Grok de Elon Musk inundou a internet com milhões de deepfakes sexualmente explícitos, imagens falsas geradas por IA que parecem fotografias reais. Milhares retratavam crianças. O chatbot funcionou sem controlo durante dias. Enquanto isso acontecia, Musk publicou sobre o Grok chegar ao número um na App Store.
Agora a empresa por trás do Grok está a processar para bloquear a lei destinada a evitar que isso voltasse a acontecer. Estivemos a acompanhar as consequências desde julho: a 28 de julho reportámos que documentos judiciais apresentados pela Deputada Trabalhista Jess Asato alegam que o Grok foi deliberadamente configurado para gerar material explícito sem limites.
O que é que o Grok realmente fez?
Os números são impactantes. Ao longo de 11 dias, de 29 de dezembro de 2025 a 8 de janeiro de 2026, o Grok gerou aproximadamente 3 milhões de imagens sexualizadas, de acordo com o Center for Countering Digital Hate. Aproximadamente 23.000 mostravam crianças. Isto corresponde a uma imagem sexualizada de uma criança a cada 41 segundos.
A UE lançou uma investigação. Também o Reino Unido. Funcionários do governo em França e Malásia responderam publicamente, assim como os seus homólogos na Índia. O governo federal dos EUA manteve-se largamente silencioso, mas um punhado de estados agiu por sua conta.
O que é que a lei de Minnesota realmente faz?
O HF 1606 de Minnesota proíbe as empresas de permitir que os utilizadores acedam ou utilizem ferramentas de nudificação, software que remove a roupa de imagens de pessoas reais. Cria um caminho para que indivíduos privados processem e dá ao procurador-geral do estado o poder de procurar até $500.000 por violação.
O Governador Tim Walz assinou em maio. Foi apresentada como a primeira lei deste tipo nos Estados Unidos.
Um detalhe notável: a lei cria uma exceção para software que requer habilidades técnicas significativas para ser mal utilizado. Apenas ferramentas de IA de fácil acesso estão incluídas.
Qual é o argumento da xAI?
A ação judicial da XAI, reportada primeiro por The Verge AI, apresenta duas reivindicações principais. A empresa diz que as leis existentes, incluindo a Lei TAKE IT DOWN federal, já cobrem deepfakes não consentidos e estão redigidas de forma constitucionalmente aceitável. Em seguida, argumenta que a lei de Minnesota é tão abrangente que pode punir as empresas mesmo quando os utilizadores contornam filtros de segurança, e mesmo para imagens que são consentidas ou têm valor artístico.
"A responsabilidade também se aplica mesmo que a empresa tenha implementado controlos técnicos quase perfeitos", afirma a ação judicial.
A XAI também aponta que desde então processou um dos seus próprios utilizadores por usar o Grok para criar material de abuso sexual infantil, um caso que cobrímos a 16 de julho. Essa ação foi apresentada mais de dois meses depois de Minnesota passar a sua lei.
| Evento | Data |
|---|---|
| Incidente de deepfake do Grok (período de 11 dias) | 29 dez 2025 a 8 jan 2026 |
| HF 1606 de Minnesota assinado em lei | Maio 2026 |
| xAI processa utilizador por imagens de abuso | Aprox. julho 2026 |
| Ação judicial da xAI apresentada contra AG de Minnesota | Finais de julho 2026 |
| Lei devida a entrar em vigor | 1 agosto 2026 |
Devem as pessoas comuns estar preocupadas com esta ação judicial?
A ação judicial levanta um ponto legal genuíno. As leis que restringem a expressão nos EUA devem estar redigidas de forma restrita, visando danos reais em vez de capturar conteúdo legal. Leis demasiado abrangentes podem ser anuladas mesmo quando o objetivo subjacente é inteiramente razoável.
Mas aqui está a verdade mais difícil. Se as leis existentes estivessem a funcionar, o Grok não teria passado semanas a produzir pornografia não consentida em escala industrial. O estatuto de Minnesota pode bem precisar de ajustes; isso não torna fazer nada uma alternativa aceitável.
O que deverei observar: se outros estados seguem o caminho de Minnesota antes de um tribunal decidir sobre este. Uma derrota em Minnesota não mata leis similares noutros locais, mas fornece a todas as plataformas um argumento pronto a usar.
Se você ou alguém que conhece foi alvo de uma imagem gerada por IA não consentida, a Lei TAKE IT DOWN oferece-lhe um caminho legal para exigir a remoção. Contacte primeiro a plataforma diretamente, depois o gabinete do seu procurador-geral do estado se a plataforma não agir.
