Un adolescente del Massachusetts accusato di omicidio doppio aveva usato ChatGPT per cercare fantasie di uccisione familiare, secondo i pubblici ministeri

Punti principali

• Arjun Aravind, 17 anni, del Massachusetts, è comparso in tribunale giovedì con accuse di omicidio in relazione alle morti di sua madre e suo fratello minore.
• I pubblici ministeri affermano che gli investigatori hanno scoperto che Aravind ha usato ChatGPT, un chatbot alimentato da intelligenza artificiale, per cercare storie di fantasia che coinvolgono l'uccisione di membri della famiglia prima dei presunti crimini.
• Aravind ha dichiarato non colpevole presso la corte distrettuale di Concord ed è stato trattenuto senza cauzione.
• Le autorità non hanno pubblicamente dichiarato che ChatGPT ha fornito istruzioni per la violenza, solo che le ricerche fanno parte della loro indagine.

Un ragazzo di 17 anni del Massachusetts accusato di aver ucciso sua madre e suo fratello minore si è presentato in tribunale giovedì mattina, e i pubblici ministeri affermano che parte del loro caso riguarda l'uso di ChatGPT, il chatbot AI ampiamente utilizzato creato da OpenAI.

Arjun Aravind è comparso presso la corte distrettuale di Concord. Una dichiarazione di non colpevolezza è stata presentata in suo nome. Il giudice ha ordinato che fosse trattenuto senza cauzione.

Secondo il procuratore distrettuale, come riportato per primo da The Guardian, gli investigatori hanno scoperto che Aravind aveva usato internet e ChatGPT per cercare storie di fantasia che coinvolgono l'uccisione di membri della famiglia. I pubblici ministeri non hanno sostenuto che ChatGPT gli ha fornito istruzioni o un piano. Le ricerche sembrano essere citate come prova dell'intento piuttosto che come causa.

Che ruolo ha ChatGPT in questo caso?

ChatGPT è uno strumento di intelligenza artificiale basato su testo che può rispondere a domande, scrivere storie e avere conversazioni. I pubblici ministeri affermano che Aravind lo ha usato per trovare o generare contenuti di fantasia sulla violenza familiare, e stanno trattando tale attività come rilevante per stabilire il movente.

Non si tratta dell'affermazione che il chatbot ha causato un crimine. È più simile a come gli investigatori in casi più vecchi potrebbero notare che un sospetto ha cercato argomenti correlati su Google. La distinzione è importante: una cronologia di ricerca mostra a cosa stava pensando qualcuno, non cosa uno strumento gli ha detto di fare.

OpenAI, l'azienda dietro ChatGPT, ha politiche di contenuto destinate a bloccare la generazione di materiale violento o dannoso. Se tali filtri siano stati attivati o aggirati in questo caso non è stato confermato pubblicamente.

Cosa accadrà dopo?

Aravind rimane in custodia. Il caso passa a un tribunale di livello superiore per procedimenti formali data la gravità delle accuse. Poiché ha 17 anni, potrebbero sorgere anche domande sul fatto che sarà processato come adulto, sebbene i pubblici ministeri non l'abbiano ancora affrontato pubblicamente.

L'indagine è in corso.

Domande comuni

ChatGPT può istruire qualcuno a commettere violenza?

OpenAI integra filtri in ChatGPT specificamente per rifiutare richieste di contenuto dannoso. Nessuna prova è emersa in questo caso che il chatbot abbia fornito istruzioni. I pubblici ministeri affermano che le ricerche erano per storie di fantasia, non per una guida operativa.

I genitori dovrebbero preoccuparsi di ciò che i loro figli chiedono ai chatbot di intelligenza artificiale?

I chatbot di intelligenza artificiale mantengono registri delle conversazioni e questi registri possono essere citati in giudizio nelle indagini penali, come illustra questo caso. I genitori che desiderano controllare l'uso dell'intelligenza artificiale di un bambino possono verificare se le impostazioni di sicurezza della famiglia sono disponibili sulle piattaforme che i loro figli utilizzano.