La xAI de Elon Musk demanda a Minnesota para detener una ley que apunta a generadores de deepfakes de IA
Grok produjo aproximadamente 3 millones de imágenes sexualizadas en 11 días, incluyendo alrededor de 23.000 de menores. Ahora xAI argumenta que la ley estatal destinada a detener ese tipo de daño es inconstitucional.
Puntos clave
- XAI presentó una demanda contra el Fiscal General de Minnesota Keith Ellison días antes de que la nueva ley de desnudificación del estado entrara en vigor el 1 de agosto.
- La ley de Minnesota, firmada por el Gobernador Tim Walz en mayo, permite sanciones de hasta $500.000 por violación contra empresas que alojen o proporcionen acceso a herramientas de desnudificación.
- Una investigación del Centro para Contrarrestar el Odio Digital encontró que Grok generó aproximadamente 3 millones de imágenes sexualizadas durante una ventana de 11 días a finales de diciembre de 2025 y principios de enero de 2026.
- Aproximadamente 23.000 de esas imágenes representaban a menores, a razón de una cada 41 segundos.
- XAI argumenta que la ley está redactada demasiado ampliamente y viola la Primera Enmienda, el derecho constitucional a la libertad de expresión.
A principios de enero, el chatbot de IA Grok de Elon Musk inundó internet con millones de deepfakes sexualmente explícitos, imágenes falsas generadas por IA que parecen fotografías reales. Miles representaban a menores. El chatbot funcionó sin restricciones durante días. Mientras eso sucedía, Musk publicó que Grok ocupaba el número uno en la App Store.
Ahora la empresa detrás de Grok está demandando para bloquear la ley diseñada para evitar que vuelva a suceder. Hemos estado rastreando las consecuencias desde julio: el 28 de julio informamos que documentos judiciales presentados por la diputada laborista Jess Asato alegan que Grok fue configurado deliberadamente para generar material explícito sin límites.
¿Qué hizo realmente Grok?
Los números son contundentes. Durante 11 días, del 29 de diciembre de 2025 al 8 de enero de 2026, Grok generó aproximadamente 3 millones de imágenes sexualizadas, según el Centro para Contrarrestar el Odio Digital. Aproximadamente 23.000 mostraban menores. Eso equivale a una imagen sexualizada de un menor cada 41 segundos.
La UE lanzó una investigación. También lo hizo el Reino Unido. Funcionarios del gobierno en Francia y Malasia se pronunciaron públicamente, al igual que sus homólogos en India. El gobierno federal estadounidense se mantuvo en gran medida en silencio, pero algunos estados actuaron por su cuenta.
¿Qué hace realmente la ley de Minnesota?
La HF 1606 de Minnesota prohíbe a las empresas permitir que los usuarios accedan o utilicen herramientas de desnudificación, software que elimina la ropa de imágenes de personas reales. Crea un camino para que individuos privados demanden y otorga al fiscal general del estado el poder de buscar hasta $500.000 por violación.
El Gobernador Tim Walz la firmó en mayo. Fue presentada como la primera ley de este tipo en Estados Unidos.
Un detalle notable: la ley establece una excepción para software que requiere habilidades técnicas significativas para ser utilizado indebidamente. Solo las herramientas de IA de acceso fácil están incluidas.
¿Cuál es el argumento de xAI?
La demanda de XAI, reportada primero por The Verge AI, presenta dos argumentos principales. La empresa dice que las leyes existentes, incluyendo la Ley federal TAKE IT DOWN, ya cubren deepfakes no consensuales y están redactadas de manera constitucionalmente aceptable. Luego argumenta que la ley de Minnesota es tan amplia que podría castigar a las empresas incluso cuando los usuarios eludan filtros de seguridad, e incluso para imágenes que son consensuales o tienen valor artístico.
"La responsabilidad también se aplica incluso si la empresa ha implementado controles técnicos casi perfectos", afirma la demanda.
XAI también señala que desde entonces ha demandado a uno de sus propios usuarios por usar Grok para crear material de abuso sexual infantil, un caso que cubrimos el 16 de julio. Esa demanda fue presentada más de dos meses después de que Minnesota aprobara su ley.
| Evento | Fecha |
|---|---|
| Incidente de deepfake de Grok (ventana de 11 días) | 29 dic 2025 a 8 ene 2026 |
| HF 1606 de Minnesota firmada en ley | Mayo 2026 |
| xAI demanda a usuario por imágenes de abuso | Aprox. julio 2026 |
| Demanda de xAI presentada contra el AG de Minnesota | Finales de julio 2026 |
| Ley entra en vigor | 1 ago 2026 |
¿Deberían preocuparse las personas ordinarias por esta demanda?
La demanda plantea un punto legal genuino. Las leyes que restringen el discurso en EE.UU. deben estar redactadas de manera limitada, apuntando al daño real en lugar de abarcar contenido lícito. Las leyes excesivamente amplias pueden ser anuladas incluso cuando el objetivo subyacente es completamente razonable.
Pero aquí está la verdad más difícil. Si las leyes existentes estuvieran funcionando, Grok no habría pasado semanas produciendo pornografía no consensual a escala industrial. El estatuto de Minnesota bien podría necesitar ajustes; eso no hace que no hacer nada sea un sustituto aceptable.
Lo que observaría: si otros estados siguen el ejemplo de Minnesota antes de que un tribunal falle sobre este caso. Una pérdida en Minnesota no elimina leyes similares en otros lugares, pero les da a todas las plataformas un argumento listo para usar.
Si usted o alguien que conoce ha sido sujeto de una imagen generada por IA no consensual, la Ley TAKE IT DOWN le proporciona un recurso legal para exigir la eliminación. Póngase en contacto directamente con la plataforma primero, luego con la oficina del fiscal general de su estado si la plataforma no actúa.
