xAI demanda a un hombre que supuestamente utilizó Grok para crear imágenes de abuso infantil
La empresa de IA de Elon Musk está tomando su primera acción legal contra un usuario por material de abuso generado por IA, después de que un hombre de Carolina del Sur ya fue arrestado por ocho cargos por delitos graves.
Puntos clave
- XAI, la empresa de inteligencia artificial de Elon Musk, presentó una demanda contra Terry Wayne Harwood, residente de Carolina del Sur, en 2025 por supuesto uso indebido de su chatbot Grok.
- Harwood fue arrestado en febrero de 2025 por ocho cargos por delitos graves relacionados con la posesión y distribución de material de abuso sexual infantil.
- XAI afirma que Harwood eludió los filtros de seguridad integrados de Grok para convertir fotografías ordinarias en imágenes sexualmente explícitas sin el conocimiento de los sujetos.
- Esta es la primera vez que xAI demanda a un usuario por generar contenido ilegal con Grok.
- XAI está pidiendo a un tribunal que prohíba a Harwood acceder a todos los productos de xAI y que pague los costos legales de la empresa.
Un chatbot de IA diseñado para responder preguntas y generar imágenes ha llevado a su propia empresa a los tribunales, en calidad de demandante.
XAI, la empresa de inteligencia artificial propiedad de Elon Musk, presentó una demanda contra Terry Wayne Harwood, residente de Carolina del Sur, acusándolo de utilizar Grok para crear material de abuso sexual infantil (CSAM, que significa imágenes ilegales de menores siendo explotados). Reuters informó primero sobre la demanda.
Harwood ya estaba bajo arresto. La policía lo detuvo en febrero de 2025 por ocho cargos por delitos graves por posesión y distribución presuntas de este material. XAI ahora busca responsabilidad civil además del caso penal.
Según la demanda, Harwood deliberadamente eludió las salvaguardas de Grok, las reglas automáticas integradas en el software para bloquear resultados dañinos, convirtiendo fotografías ordinarias y no sexuales de personas reales en imágenes sexualmente explícitas sin su consentimiento. La demanda establece que "al menos algunas" de las imágenes relacionadas con sus cargos penales fueron generadas o alteradas usando Grok.
¿Por qué Grok pudo producir este material?
El año pasado, xAI introdujo un modo "picante", que relajó algunas restricciones de contenido dentro de Grok, y luego agregó herramientas de edición de imágenes. Los críticos advirtieron casi inmediatamente que estas características podrían ser abusadas. Una ola de deepfakes de IA sexualizados, imágenes falsas creadas por inteligencia artificial que se ven reales, siguió, incluyendo imágenes que representaban a menores.
En marzo de 2025, un grupo de adolescentes demandó directamente a xAI, alegando que Grok había generado imágenes sexualizadas de ellos. Musk respondió públicamente: "Cualquiera que use Grok para crear contenido ilegal sufrirá las mismas consecuencias que si cargara contenido ilegal". La demanda de Harwood parece ser la primera vez que xAI ha actuado sobre esa declaración en los tribunales. Hemos estado rastreando la creciente exposición legal de xAI en nuestra cobertura legal de IA desde el 13 de julio de 2026, y este caso es la prueba más tajante hasta ahora de si la empresa puede responsabilizar a usuarios individuales antes de que las víctimas demanden primero.
¿Qué significa esta demanda para la gente ordinaria?
Para los usuarios regulares de Grok, nada cambia en el día a día. Pero xAI está señalando que perseguirá a usuarios individuales que rompan sus reglas, no solo se defenderá cuando las víctimas demanden a la empresa.
XAI le dijo al tribunal que las acciones presuntas de Harwood lo expusieron a "riesgo legal significativo y daño reputacional". Quiere que un juez ordene pagarle daños y perjuicios, cubrir los costos de xAI de cualquier demanda de víctimas, y enfrentar una prohibición permanente de todos los productos de xAI.
Para cualquiera preocupado por que las herramientas de imágenes de IA se usen en su contra o en la de sus hijos: el material de origen tiene que venir de algún lugar. Limitar qué fotografías comparte públicamente sigue siendo el paso más práctico disponible en este momento. La IA hace que el uso indebido sea más rápido y económico, pero no crea imágenes de la nada.
