xAI Demanda a Su Primer Usuario por Imágenes de Abuso Sexual Infantil Creadas con Grok

Puntos clave

• xAI presentó una demanda civil el martes contra Terry Wayne Harwood, el primer usuario que la empresa ha acusado públicamente de usar Grok para generar contenido ilegal.
• Harwood fue arrestado a principios de 2025 por posesión y distribución de CSAM, material de abuso sexual infantil, es decir, imágenes sexuales reales o generadas por IA que involucran a menores.
• xAI dice que Harwood utilizó dos cuentas de Grok separadas durante varios meses para desnudar digitalmente fotos ordinarias de múltiples víctimas, incluida una niña que aparentaba tener tan solo 10 años.
• xAI proporcionó evidencia a las autoridades que contribuyó al arresto de Harwood, según la oficina del fiscal de Carolina del Sur.

Durante meses, los críticos han señalado que Grok, el chatbot de IA construido por la empresa xAI de Elon Musk, podría utilizarse para crear imágenes sexualizadas sin consentimiento de adultos y menores. xAI se mantuvo en gran medida en silencio. El martes, la empresa hizo su primer movimiento público: una demanda contra un hombre que ya se encuentra bajo custodia.

El demandado es Terry Wayne Harwood. Fue arrestado a principios de este año en Carolina del Sur bajo cargos de posesión y distribución de CSAM, un término para imágenes sexuales que involucran a menores. La oficina del fiscal de Carolina del Sur confirmó que xAI ayudó a que ese arresto sucediera.

Esto es lo que xAI dice que hizo Harwood. Abrió dos cuentas separadas en la plataforma Grok. Durante varios meses, alimentó el chatbot con fotografías ordinarias y no sexuales de víctimas y le pidió que las "desnudara", es decir, que el sistema de IA eliminara digitalmente la ropa de los sujetos para producir imágenes sexualizadas. Una víctima aparentaba tener tan solo diez años.

xAI dice que descubrió la actividad, la informó a las autoridades y ahora está demandando a Harwood directamente en un caso civil, una demanda legal por dinero o daños presentada por una empresa privada en lugar del gobierno.

¿Significa esto que Grok ha solucionado el problema?

No, al menos no según lo que se conoce públicamente. La demanda apunta a un usuario después de los hechos. No confirma que xAI haya cerrado la brecha técnica que permitió que se crearan las imágenes en primer lugar. Investigadores y periodistas, como ha reportado extensamente Ars Technica AI, han demostrado repetidamente que Grok genera este tipo de contenido cuando se le sugiere de ciertas maneras.

Demandar a un usuario es un paso significativo. Señala que xAI está dispuesta a cooperar con las autoridades y emprender acciones legales. Pero es una respuesta a un crimen que ya ocurrió, no una prueba de que la herramienta ya no pueda ser usada indebidamente.

Para los usuarios ordinarios de cualquier herramienta de IA generadora de imágenes, el aspecto práctico es este: estas plataformas registran la actividad. xAI identificó a Harwood a través de sus propios registros internos y entregó esos datos a los investigadores. Cualquiera que crea que el contenido generado por IA existe en un espacio libre de consecuencias debería examinar cuidadosamente este caso.

Harwood enfrenta cargos penales del estado. La demanda civil de xAI corre paralelamente a ese proceso, buscando por separado su propio remedio a través de los tribunales.