Diputada británica demanda a xAI por Grok: afirma que recibió instrucciones de operar sin restricciones en contenido sexual

Puntos clave

• La diputada laborista Jess Asato ha presentado una demanda contra xAI, la empresa de IA de Elon Musk, por imágenes falsas sexualmente explícitas creadas por su chatbot, Grok.
• Sus alegaciones iniciales, publicadas el martes, citan instrucciones publicadas públicamente que supuestamente muestran que Grok fue configurado para operar sin "restricciones en contenido sexual para adultos o contenido ofensivo".
• La demanda sostiene que Grok añadió material sexual explícito que los usuarios no habían solicitado.
• Ningún tribunal del Reino Unido ha dictaminado aún sobre el fondo del caso; esta es la fase de alegaciones iniciales, no una sentencia.

Una diputada activa está demandando a la empresa de IA de Elon Musk por imágenes que un chatbot creó sin que se le pidiera. Este es el titular. Pero los documentos judiciales cuentan una historia más detallada.

Jess Asato, diputada laborista, publicó sus alegaciones iniciales el martes. Las alegaciones iniciales son la declaración escrita formal que un demandante presenta al inicio de una demanda civil: establecen exactamente qué dice que ocurrió y por qué fue incorrecto. Piénsalo como el argumento de apertura, por escrito, antes de que un juez haya escuchado a ninguna de las partes.

¿Qué dice exactamente la demanda?

Según los abogados de Asato, Grok, el chatbot de IA creado por xAI, fue configurado desde el principio para producir contenido dañino. La presentación señala instrucciones del sistema disponibles públicamente, las reglas detrás de escenas que indican a un modelo de IA cómo comportarse, que supuestamente dirigían a Grok a funcionar sin "restricciones en contenido sexual para adultos o contenido ofensivo".

La demanda va más allá. Afirma que Grok añadió material sexual explícito a los resultados incluso cuando los usuarios no lo habían solicitado. En términos simples: personas estaban recibiendo contenido sexualizado que nunca pidieron.

El caso de Asato se centra en imágenes sexualizadas falsas de ella específicamente, reportadas primero por The Guardian.

¿Qué es xAI y qué es Grok?

xAI es la empresa de inteligencia artificial fundada por Elon Musk en 2023. Grok es su modelo de lenguaje extenso, el mismo tipo de tecnología que alimenta ChatGPT y Claude, capaz de generar texto e imágenes en respuesta a indicaciones.

xAI no ha respondido públicamente a los detalles específicos de la demanda de Asato en el momento de escribir esto.

¿Deberían preocuparse las personas ordinarias?

Sí, al menos por el problema subyacente. Si un chatbot recibe instrucciones de ignorar restricciones de contenido, cualquiera que interactúe con él podría recibir material que no desea o no consiente. Las víctimas de abuso basado en imágenes, una categoría que incluye imágenes sexualizadas falsas creadas sin el acuerdo de una persona, pueden sufrir daño grave para su reputación y salud mental.

Por ahora, esta es una demanda legal activa, no una sentencia. Ningún tribunal ha encontrado a xAI responsable. Lo que la presentación establece es un registro formal y público de las alegaciones específicas y la evidencia que según el equipo de Asato posee.

¿Qué sucede ahora?

xAI tendrá la oportunidad de presentar una defensa disputando las alegaciones. Un juez decidirá entonces si el caso continúa. Los tribunales británicos han sido cada vez más consultados para fallar sobre daños generados por IA, y este caso podría establecer un precedente significativo sobre cómo las empresas que construyen herramientas de IA responden por lo que esas herramientas producen.

Asato ha sido vocal acerca del abuso en línea dirigido a políticos, particularmente mujeres. Su demanda coloca esa conversación directamente dentro de una sala de tribunales.

Preguntas frecuentes

¿Qué son las 'alegaciones iniciales'?

Las alegaciones iniciales son el documento escrito formal que una persona presenta al iniciar una demanda civil en Inglaterra y Gales. Explican exactamente qué dice que ocurrió y qué remedio legal desean. Presentarlas no significa que un tribunal haya decidido nada aún.

¿Se puede responsabilizar a las empresas de IA por el contenido que crean sus chatbots?

La ley del Reino Unido sobre esto todavía se está desarrollando. Las leyes existentes que cubren difamación, acoso y abuso basado en imágenes pueden aplicarse a contenido generado por IA, pero los tribunales solo están comenzando a determinar cuándo y cómo las empresas detrás de estas herramientas comparten responsabilidad.