Adolescente de Massachusetts acusado de duplo homicídio utilizou ChatGPT para pesquisar fantasias de morte familiar, dizem procuradores

Pontos-chave

• Arjun Aravind, 17, de Massachusetts, foi presente em tribunal quinta-feira sob acusações de homicídio relacionadas com as mortes de sua mãe e irmão mais jovem.
• Procuradores afirmam que investigadores descobriram que Aravind utilizou ChatGPT, um chatbot alimentado por IA, para pesquisar histórias ficcionais envolvendo o homicídio de membros da família antes dos alegados crimes.
• Aravind declarou-se inocente no tribunal de distrito de Concord e foi mantido sem fiança.
• As autoridades não disseram publicamente que ChatGPT forneceu instruções para violência, apenas que as pesquisas fazem parte da sua investigação.

Um adolescente de 17 anos de Massachusetts acusado de matar a sua mãe e irmão mais jovem compareceu em tribunal quinta-feira de manhã, e procuradores afirmam que parte do seu caso envolve a sua utilização de ChatGPT, o chatbot de IA amplamente utilizado criado pela OpenAI.

Arjun Aravind foi apresentado no tribunal de distrito de Concord. Uma declaração de inocência foi apresentada em seu nome. O juiz ordenou que fosse mantido sem fiança.

De acordo com o procurador do distrito, tal como relatado pela The Guardian, investigadores descobriram que Aravind havia utilizado a internet e ChatGPT para pesquisar histórias de fantasia envolvendo o homicídio de membros da família. Procuradores não alegaram que ChatGPT lhe forneceu instruções ou um plano. As pesquisas parecem ser citadas como prova de intenção em vez de como causa.

O que tem ChatGPT a ver com este caso?

ChatGPT é uma ferramenta de IA baseada em texto que pode responder a perguntas, escrever histórias e manter conversas. Procuradores afirmam que Aravind o utilizou para encontrar ou gerar conteúdo ficcional sobre violência familiar, e estão a tratar essa atividade como relevante para estabelecer motivação.

Esta não é uma alegação de que o chatbot causou um crime. É mais próximo de como investigadores em casos antigos poderiam notar que um suspeito pesquisou tópicos relacionados no Google. A distinção é importante: um histórico de pesquisa mostra aquilo sobre que alguém estava a pensar, não aquilo que uma ferramenta lhe disse para fazer.

A OpenAI, a empresa por trás de ChatGPT, tem políticas de conteúdo destinadas a bloquear a geração de material violento ou prejudicial. Se esses filtros foram acionados ou contornados neste caso ainda não foi confirmado publicamente.

O que acontece agora?

Aravind permanece sob custódia. O caso segue para um tribunal superior para procedimentos formais dada a gravidade das acusações. Porque ele tem 17 anos, questões sobre se será julgado como um adulto também podem surgir, embora procuradores não tenham abordado isso publicamente ainda.

A investigação está em curso.

Perguntas frequentes

Pode ChatGPT instruir alguém a cometer violência?

A OpenAI constrói filtros no ChatGPT especificamente para recusar pedidos de conteúdo prejudicial. Nenhuma evidência emergiu neste caso de que o chatbot fornecesse instruções. Procuradores dizem que as pesquisas eram para histórias ficcionais, não para orientação operacional.

Devem os pais estar preocupados com o que os seus filhos perguntam aos chatbots de IA?

Os chatbots de IA mantêm registos de conversas, e esses registos podem ser subpoenaados em investigações criminais, como este caso ilustra. Pais que desejam supervisão da utilização de IA de uma criança podem verificar se as configurações de segurança familiar estão disponíveis nas plataformas que os seus filhos utilizam.