Mujer dice que su padrastro usó Grok para convertir su foto de infancia en imágenes explícitas
Una nueva demandante se ha unido a una demanda contra la empresa de IA xAI de Elon Musk, alegando que el chatbot Grok fue utilizado para generar miles de imágenes explícitas de ella a partir de una sola foto tomada cuando tenía 11 años.
Puntos clave
- Una mujer identificada como Jane Doe 4 se unió a una demanda contra xAI, fabricante del chatbot de IA Grok, el 15 de agosto de 2026.
- Su padrastro supuestamente utilizó Grok para convertir una fotografía de infancia en más de 7.000 imágenes explícitas de ella.
- Tres adolescentes de Tennessee ya habían presentado la misma demanda, acusando a xAI de no detener a Grok para que produjera imágenes explícitas de personas reales, incluidos menores.
- Los adolescentes buscan el estatus de demanda colectiva, lo que significa que la demanda podría eventualmente cubrir a muchas más víctimas.
- xAI fue integrada en SpaceX antes de que se presentara la demanda.
Una mujer está agregando su nombre a una demanda que acusa a xAI, la empresa de inteligencia artificial de Elon Musk, de permitir que su chatbot Grok se convirtiera en una herramienta para crear material de abuso sexual infantil.
La mujer, identificada en documentos judiciales solo como Jane Doe 4, dice que su padrastro tomó una fotografía de ella a los 11 años y la ingresó en Grok. Grok es un chatbot de IA, un programa informático que responde a indicaciones de texto e imagen, similar a cómo funciona ChatGPT. Su padrastro supuestamente lo utilizó para generar más de 7.000 imágenes sexualmente explícitas a partir de esa sola foto. Se enteró de las imágenes cuando la policía allanó su casa. Fue encontrado muerto por suicidio dos días después.
"El acceso ilimitado a estas herramientas se está propagando muy rápidamente", dijo ella. "Está tomando la vida cotidiana y convirtiéndola en abuso sexual infantil".
¿Quién presentó la demanda original?
Tres adolescentes de Tennessee presentaron el caso primero. Acusaron a xAI de no implementar medidas básicas de seguridad en Grok, lo que significa que el chatbot no tenía bloqueos significativos que impidieran que los usuarios crearan imágenes explícitas de personas reales e identificables, incluidos menores. Sus abogados están pidiendo a un juez que otorgue al caso el estatus de demanda colectiva, lo que permitiría que otras víctimas se unieran sin presentar cada una una demanda separada.
La demanda también señaló que a principios de este año, la plataforma de redes sociales X fue inundada con millones de imágenes sexualmente explícitas que Grok había generado.
xAI, que fue absorbida por SpaceX antes de estas presentaciones legales, no había respondido a una solicitud de comentarios al momento de la publicación, según reportó primero TechCrunch AI.
¿Qué significa esto para las personas que utilizan herramientas de IA para generar imágenes?
Este caso pone el foco en una brecha que muchas empresas de IA han tardado en cerrar. La mayoría de las herramientas mainstream de IA para generar imágenes incluyen filtros diseñados para bloquear contenido explícito. La alegación aquí es que Grok no aplicó esos filtros lo suficientemente bien, y que un miembro de la familia, no un hacker sofisticado, fue capaz de explotar esa brecha con una sola fotografía ordinaria.
Para los padres, la preocupación práctica es real. Una foto publicada en línea, enviada en un chat grupal, o compartida en un evento escolar ahora potencialmente puede ser ingresada en herramientas de IA. No tienes que ser famoso para que tu imagen esté en riesgo.
Para sobrevivientes de abuso basado en imágenes, la Iniciativa de Derechos Civiles Cibernéticos ofrece apoyo en crisis gratuito en 844-878-2274.
La conclusión honesta: la tecnología para crear estas imágenes ya está ampliamente disponible. La presión sobre las empresas de IA para construir filtros de contenido más fuertes y obligatorios es el factor más probable que importe, y esta demanda es parte de esa presión.
Si tú o alguien que conoces está en crisis, llama o envía un mensaje de texto al 988 para comunicarte con la Línea de Vida para Suicidas y Crisis, disponible 24 horas al día.
