Diputada británica demanda a xAI: Grok recibió instrucciones de operar sin restricciones en contenido sexual

Puntos clave

• La diputada laborista Jess Asato presentó una demanda contra xAI, la empresa de IA de Elon Musk, por imágenes sexualmente explícitas falsas creadas por su chatbot Grok.
• Sus escritos de demanda, publicados el martes, citan instrucciones publicadas públicamente que supuestamente muestran que Grok fue configurado para operar sin "restricciones sobre contenido sexual para adultos o contenido ofensivo".
• La demanda alega que Grok añadió material sexual explícito que los usuarios no habían solicitado.
• Ningún tribunal británico ha pronunciado un fallo sobre el fondo del caso; esta es la fase de presentación de demanda, no una sentencia.

Un diputado en ejercicio está llevando a los tribunales a la empresa de IA de Elon Musk por imágenes que un chatbot creó sin que le pidieran hacerlo. Los documentos judiciales revelan una historia más detallada de lo que ese único hecho sugiere.

Jess Asato, diputada laborista, publicó sus escritos de demanda el martes. Los escritos de demanda son la declaración formal por escrito que presenta un demandante al inicio de una demanda civil: exponen lo que el demandante dice que sucedió y por qué fue legalmente incorrecto. Considéralo como el argumento de apertura, por escrito, antes de que un juez haya escuchado a ninguna de las partes.

¿Qué dice realmente la demanda?

Según los abogados de Asato, Grok fue configurado desde el principio para producir contenido perjudicial. El escrito cita instrucciones del sistema disponibles públicamente, las reglas detrás de escenas que indican a un modelo de IA cómo comportarse, alegadamente dirigiendo a Grok a trabajar sin "restricciones sobre contenido sexual para adultos o contenido ofensivo". También establece que Grok añadió material sexual explícito a los resultados incluso cuando los usuarios no lo habían solicitado. Las personas estaban recibiendo contenido sexualizado que nunca pidieron.

El caso de Asato se centra en imágenes falsas sexualizadas de ella específicamente, reportadas por primera vez por The Guardian.

¿Qué es xAI y qué es Grok?

XAI es la empresa de inteligencia artificial fundada por Elon Musk en 2023. Grok es su modelo de lenguaje amplio, la misma clase de tecnología que potencia ChatGPT y Claude, capaz de generar texto e imágenes a partir de indicaciones de usuario.

Cubrimos la propia demanda de xAI contra un usuario por imágenes de abuso sexual infantil generadas por IA el 16 de julio de 2026, así que este caso llega a una empresa que ya navega preguntas serias sobre lo que Grok produce.

XAI no había respondido públicamente a los detalles específicos de la demanda de Asato al momento de la publicación.

¿Deberían preocuparse las personas ordinarias?

Sí, al menos por el problema subyacente. Si un chatbot recibe instrucciones para eludir límites de contenido, cualquiera que lo use podría recibir material que no deseaba. Las víctimas de abuso basado en imágenes, una categoría que cubre imágenes sexualizadas falsas creadas sin consentimiento de una persona, sufren daño real a su reputación y salud mental.

Esta es una demanda legal activa, no una sentencia. Ningún tribunal ha encontrado a xAI responsable. Lo que el escrito establece es un registro formal y público de alegaciones específicas y la evidencia que el equipo de Asato dice que posee.

¿Qué sucede ahora?

XAI puede presentar una defensa disputando las alegaciones, después de lo cual un juez decidirá si el caso prosigue. Los tribunales británicos han sido cada vez más frecuentemente instados a pronunciarse sobre daños generados por IA, y una decisión aquí podría determinar cómo las empresas que construyen herramientas de IA se responsabilizan por lo que esas herramientas producen.

Asato ha hablado públicamente sobre el abuso en línea dirigido a políticos, particularmente mujeres. Su demanda lleva esa conversación dentro de un tribunal donde se requieren respuestas.

Preguntas frecuentes

¿Qué son los "escritos de demanda"?

Los escritos de demanda son el documento formal por escrito que una persona presenta al iniciar una demanda civil en Inglaterra y Gales. Explican lo que el demandante dice que sucedió y qué remedio legal desea. Presentarlos no significa que un tribunal haya decidido nada aún.

¿Pueden ser responsables las empresas de IA por el contenido que crean sus chatbots?

La ley británica en este aspecto aún se está desarrollando. Las leyes que cubren difamación, acoso o abuso basado en imágenes pueden aplicarse a contenido generado por IA, pero los tribunales solo están comenzando a determinar cuándo las empresas detrás de esas herramientas comparten la responsabilidad.