Deputada britânica processa xAI alegando que Grok funcionava sem 'restrições' sobre conteúdo sexual

Pontos-chave

• A deputada trabalhista Jess Asato apresentou uma ação legal contra a xAI, a empresa de IA de Elon Musk, por imagens sexualmente explícitas falsas criadas pelo seu chatbot, Grok.
• As suas alegações particulares, publicadas terça-feira, citam instruções publicamente divulgadas que alegadamente mostram que Grok foi configurado para funcionar com "sem restrições sobre conteúdo sexual para adultos ou conteúdo ofensivo".
• A alegação sustenta que Grok adicionou material sexual explícito que os utilizadores não tinha solicitado.
• Nenhum tribunal britânico se pronunciou ainda sobre o mérito do caso; esta é a fase de alegações, não uma sentença.

Uma membro do Parlamento em funções está a processar a empresa de IA de Elon Musk por causa de imagens que um chatbot criou sem ser solicitado. Esta é a manchete. Mas os documentos judiciais contêm uma história mais detalhada.

Jess Asato, deputada trabalhista, publicou as suas alegações particulares terça-feira. As alegações particulares são a declaração escrita formal que uma reclamante apresenta no início de um processo civil: estabelecem exatamente o que a reclamante diz que aconteceu e por que estava errado. Pense nisto como o argumento de abertura, por escrito, antes de um juiz ter ouvido qualquer uma das partes.

O que é que a alegação realmente diz?

De acordo com os advogados de Asato, Grok, o chatbot de IA construído pela xAI, foi configurado desde o início para produzir conteúdo prejudicial. O documento aponta para instruções de sistema publicamente disponíveis, as regras nos bastidores que indicam a um modelo de IA como comportar-se, que alegadamente direcionavam Grok para funcionar com "sem restrições sobre conteúdo sexual para adultos ou conteúdo ofensivo".

A alegação vai mais longe. Afirma que Grok adicionou material sexual explícito aos resultados mesmo quando os utilizadores não tinham solicitado. Em termos simples: as pessoas estavam a receber conteúdo sexualizado que nunca tinham solicitado.

O caso de Asato centra-se em imagens falsas sexualizadas dela especificamente, primeiro reportadas pelo The Guardian.

O que é a xAI e o que é o Grok?

xAI é a empresa de inteligência artificial fundada por Elon Musk em 2023. Grok é o seu modelo de linguagem de grande dimensão, o mesmo tipo de tecnologia que alimenta ChatGPT e Claude, capaz de gerar texto e imagens em resposta a comandos.

A xAI não respondeu publicamente aos detalhes específicos da alegação de Asato no momento da redação.

Devem as pessoas comuns estar preocupadas?

Sim, pelo menos com a questão subjacente. Se um chatbot for instruído para ignorar restrições de conteúdo, qualquer pessoa que interaja com ele poderia receber material que não desejava ou consentiu. As vítimas de abuso baseado em imagem, uma categoria que inclui imagens sexualizadas falsas criadas sem consentimento de uma pessoa, podem sofrer danos graves à sua reputação e saúde mental.

Por enquanto, trata-se de uma alegação legal ativa, não de uma sentença. Nenhum tribunal considerou a xAI responsável. O que o documento estabelece é um registo formal e público das alegações específicas e das provas que a equipa de Asato afirma deter.

O que acontece a seguir?

A xAI terá a oportunidade de apresentar uma defesa contestando as alegações. Um juiz decidirá então se o caso prossegue. Os tribunais britânicos têm sido cada vez mais chamados a pronunciar-se sobre danos causados por IA, e este caso poderia estabelecer um precedente significativo para a forma como as empresas que constroem ferramentas de IA respondem pelo que essas ferramentas produzem.

Asato tem sido vocal sobre o abuso online que visa políticos, particularmente mulheres. A sua ação judicial coloca essa conversa diretamente dentro de uma sala de tribunal.

Perguntas comuns

O que são 'alegações particulares'?

As alegações particulares são o documento escrito formal que uma pessoa apresenta ao iniciar um processo civil em Inglaterra e País de Gales. Explicam exatamente o que a reclamante diz que aconteceu e que remédio legal deseja. Apresentá-las não significa que um tribunal tenha decidido algo ainda.

Podem as empresas de IA ser responsabilizadas pelo conteúdo que os seus chatbots criam?

A lei britânica sobre isto ainda está a evoluir. As leis existentes que abrangem difamação, assédio e abuso baseado em imagem podem aplicar-se a conteúdo gerado por IA, mas os tribunais estão apenas a começar a trabalhar para esclarecer quando e como as empresas por trás dessas ferramentas compartilham responsabilidade.