xAI demanda a hombre que supuestamente usó Grok para crear imágenes de abuso infantil

Puntos clave

• xAI, la empresa de inteligencia artificial de Elon Musk, presentó una demanda contra Terry Wayne Harwood, residente de Carolina del Sur, en 2025 por presunto mal uso de su chatbot Grok.
• Harwood fue arrestado en febrero de 2025 bajo ocho cargos graves relacionados con la posesión y distribución de material de abuso sexual infantil.
• xAI asegura que Harwood eludió los filtros de seguridad integrados de Grok para convertir fotografías ordinarias en imágenes sexualmente explícitas sin el conocimiento de las personas retratadas.
• Esta es la primera vez que xAI demanda a un usuario por generar contenido ilegal con Grok.
• xAI pide a un tribunal que prohiba permanentemente a Harwood crear una cuenta de xAI y que le ordene pagar los costos legales de la empresa.

Un chatbot de IA diseñado para responder preguntas y generar imágenes ha llevado a su propia empresa a los tribunales, en el lado de la demandante.

xAI, la empresa de inteligencia artificial propiedad de Elon Musk, presentó una demanda contra Terry Wayne Harwood, un hombre de Carolina del Sur, acusándolo de utilizar Grok, el chatbot de IA de la empresa, para crear material de abuso sexual infantil (CSAM, que significa imágenes ilegales de menores siendo explotados). La demanda fue reportada por primera vez por The Verge AI.

Harwood ya estaba bajo arresto. La policía lo detuvo en febrero de 2025 bajo ocho cargos graves por presunta posesión y distribución de este tipo de material. Ahora xAI quiere responsabilidad civil además del caso penal.

La empresa asegura que Harwood deliberadamente eludió las salvaguardas de Grok, las reglas automáticas incorporadas en el software para bloquear salidas dañinas, para convertir fotografías ordinarias no sexuales de personas reales en imágenes sexualmente explícitas. Los sujetos no tenían idea de que esto estaba sucediendo.

¿Cómo fue esto posible en primer lugar?

El año pasado, xAI introdujo una función llamada modo "spicy", que aflojó algunas restricciones de contenido dentro de Grok. Posteriormente añadió herramientas de edición de imágenes. Los críticos advirtieron casi inmediatamente que estas funciones podrían ser abusadas. En cuestión de meses, una ola de deepfakes sexualizados de IA, es decir, imágenes falsas creadas por inteligencia artificial que se ven reales, comenzaron a circular en línea, incluyendo imágenes que representan menores.

En marzo de 2025, un grupo de adolescentes demandó directamente a xAI, alegando que Grok había generado imágenes sexualizadas de ellos. Elon Musk respondió públicamente, diciendo que cualquiera que use Grok para hacer contenido ilegal enfrentará las mismas consecuencias que alguien que lo carga. La demanda de Harwood parece ser la primera vez que xAI ha seguido adelante con esa amenaza ante los tribunales.

¿Qué significa esta demanda para las personas ordinarias?

Para los usuarios regulares de Grok, nada cambia día a día, pero la demanda envía una señal clara: xAI está dispuesta a perseguir a usuarios individuales que violen sus reglas, no solo defenderse cuando las víctimas demandan a la empresa.

xAI le dijo al tribunal que las acciones de Harwood expusieron a la empresa a riesgos legales graves y daño reputacional. La empresa quiere que un juez ordene a Harwood que pague daños y perjuicios, cubra las facturas legales de xAI de cualquier demanda de víctimas, y enfrente una prohibición permanente de todos los productos de xAI.

Para cualquiera que esté preocupado por que las herramientas de imagen de IA se usen para crear imágenes falsas de ellos o sus hijos, el paso práctico ahora es el mismo que ha sido durante años: tenga cuidado con las fotografías que comparte públicamente en línea. La IA hace que el mal uso sea más rápido y económico, pero el material de origen aún tiene que provenir de algún lugar.