Deputado britânico processa xAI alegando que Grok foi instruído para funcionar 'sem restrições' em conteúdo sexual

Pontos-chave

• A deputada trabalhista Jess Asato apresentou uma ação legal contra a xAI, empresa de IA de Elon Musk, sobre imagens sexualmente explícitas falsas criadas pelo seu chatbot, Grok.
• Os seus artigos de queixa, publicados terça-feira, citam instruções publicadas publicamente que alegadamente mostram que o Grok foi configurado para operar com "sem restrições em conteúdo sexual adulto ou conteúdo ofensivo".
• A queixa alega que o Grok adicionou material sexual explícito que os utilizadores não haviam solicitado.
• Nenhum tribunal britânico se pronunciou ainda sobre o mérito do caso; esta é a fase de queixa, não uma sentença.

Uma Deputada em exercício está a processar a empresa de IA de Elon Musk em tribunal por imagens que um chatbot criou sem ser solicitado. Os documentos judiciais contam uma história mais detalhada do que esse facto único sugere.

Jess Asato, uma deputada trabalhista, publicou os seus artigos de queixa na terça-feira. Os artigos de queixa são a declaração escrita formal que um queixoso apresenta no início de uma ação civil: estabelecem o que o queixoso diz que aconteceu e porque foi legalmente errado. Pense nisso como o argumento inicial, por escrito, antes de um juiz ter ouvido qualquer uma das partes.

O que é que a queixa realmente diz?

De acordo com os advogados de Asato, o Grok foi configurado desde o início para produzir conteúdo prejudicial. A apresentação cita instruções do sistema disponíveis publicamente, as regras nos bastidores que dizem a um modelo de IA como se comportar, alegadamente instruindo o Grok a funcionar com "sem restrições em conteúdo sexual adulto ou conteúdo ofensivo". Também afirma que o Grok adicionou material sexual explícito aos resultados mesmo quando os utilizadores não o haviam solicitado. As pessoas estavam a receber conteúdo sexualizado que nunca haviam pedido.

O caso de Asato centra-se em imagens sexualizadas falsas dela especificamente, primeiro relatadas pelo The Guardian.

O que é a xAI, e o que é o Grok?

A xAI é a empresa de inteligência artificial que Elon Musk fundou em 2023. Grok é o seu modelo de linguagem ampla, a mesma classe de tecnologia que alimenta ChatGPT e Claude, capaz de gerar texto e imagens a partir de pedidos do utilizador.

Cobrimos a ação legal da xAI contra um utilizador sobre imagens de abuso sexual infantil geradas por IA em 16 de julho de 2026, pelo que este caso surge numa empresa que já está a lidar com questões sérias sobre o que o Grok produz.

A xAI não respondeu publicamente sobre as especificidades da queixa de Asato na altura da publicação.

Deverão as pessoas comuns estar preocupadas?

Sim, pelo menos com a questão subjacente. Se um chatbot é instruído a contornar limites de conteúdo, qualquer pessoa que o utilize poderia receber material que não desejava. As vítimas de abuso baseado em imagens, uma categoria que cobre imagens sexualizadas falsas criadas sem o consentimento de uma pessoa, enfrentam danos reais à reputação e à saúde mental.

Esta é uma queixa legal em curso, não uma decisão. Nenhum tribunal determinou que a xAI seja responsável. O que a apresentação estabelece é um registo formal e público de alegações específicas e as provas que a equipa de Asato diz deter.

O que acontece a seguir?

A xAI pode apresentar uma defesa contestando as alegações, após o que um juiz decidirá se o caso prossegue. Os tribunais britânicos foram frequentemente chamados para se pronunciarem sobre danos causados por IA gerada, e uma decisão aqui poderia moldar a forma como as empresas que constroem ferramentas de IA respondem pelo que essas ferramentas produzem.

Asato falou publicamente sobre abuso online dirigido a políticos, particularmente mulheres. O seu processo coloca essa conversa dentro de uma sala de tribunal onde respostas são obrigatórias.

Perguntas frequentes

O que são 'artigos de queixa'?

Os artigos de queixa são o documento escrito formal que uma pessoa apresenta quando inicia uma ação civil em Inglaterra e País de Gales. Explicam o que o queixoso diz que aconteceu e que reparação legal deseja. Apresentá-los não significa que um tribunal tenha decidido algo ainda.

As empresas de IA podem ser responsabilizadas pelo conteúdo que os seus chatbots criam?

A lei britânica aqui ainda está em desenvolvimento. As leis que cobrem difamação, assédio ou abuso baseado em imagens podem aplicar-se ao conteúdo gerado por IA, mas os tribunais apenas estão a começar a determinar quando as empresas por trás dessas ferramentas partilham responsabilidade.