Un adolescent du Massachusetts accusé de double meurtre aurait utilisé ChatGPT pour rechercher des fantasmes de tuerie familiale, selon les procureurs

Principaux points

• Arjun Aravind, 17 ans, du Massachusetts, a comparu jeudi pour répondre d'accusations de meurtre dans la mort de sa mère et de son jeune frère.
• Les procureurs affirment que les enquêteurs ont découvert qu'Aravind avait utilisé ChatGPT, un chatbot alimenté par l'IA, pour rechercher des histoires fictives impliquant le meurtre de membres de la famille avant les crimes présumés.
• Aravind a plaidé non coupable au tribunal de district de Concord et a été maintenu en détention sans cautionnement.
• Les autorités n'ont pas publiquement déclaré que ChatGPT avait fourni des instructions pour commettre des actes de violence, mais seulement que les recherches font partie de l'enquête.

Un adolescent du Massachusetts de 17 ans accusé d'avoir tué sa mère et son jeune frère a comparu au tribunal jeudi matin, et les procureurs affirment qu'une partie de leur dossier implique son utilisation de ChatGPT, le chatbot IA largement utilisé créé par OpenAI.

Arjun Aravind a comparu au tribunal de district de Concord. Un plaidoyer de non-culpabilité a été enregistré en son nom. Le juge a ordonné sa détention sans cautionnement.

Selon le procureur du district, tel que rapporté en premier par The Guardian, les enquêteurs ont découvert qu'Aravind avait utilisé Internet et ChatGPT pour rechercher des histoires de fantasy impliquant le meurtre de membres de la famille. Les procureurs n'ont pas allégué que ChatGPT lui avait donné des instructions ou un plan. Les recherches semblent être citées comme preuve d'intention plutôt que comme cause.

Quel est le lien entre ChatGPT et cette affaire ?

ChatGPT est un outil IA textuel qui peut répondre à des questions, rédiger des histoires et tenir des conversations. Les procureurs affirment qu'Aravind l'a utilisé pour trouver ou générer du contenu fictif sur la violence familiale, et ils considèrent cette activité comme pertinente pour établir le mobile.

Ce n'est pas une affirmation que le chatbot a causé un crime. C'est plus proche de la façon dont les enquêteurs dans les anciennes affaires pourraient noter qu'un suspect a effectué des recherches sur des sujets connexes sur Google. La distinction est importante : un historique de recherche montre à quoi quelqu'un pensait, non ce qu'un outil lui a dit de faire.

OpenAI, la société derrière ChatGPT, a des politiques de contenu destinées à bloquer la génération de matériel violent ou nuisible. Le fait que ces filtres ont été déclenchés ou contournés dans cette affaire n'a pas été confirmé publiquement.

Que se passe-t-il ensuite ?

Aravind reste en détention. L'affaire est renvoyée à une cour supérieure pour les procédures formelles en raison de la gravité des accusations. Parce qu'il a 17 ans, des questions sur la possibilité qu'il soit jugé en tant qu'adulte pourraient également se poser, bien que les procureurs n'aient pas publiquement abordé la question jusqu'à présent.

L'enquête est en cours.

Questions fréquemment posées

ChatGPT peut-il instruire quelqu'un de commettre un acte de violence ?

OpenAI intègre des filtres dans ChatGPT spécifiquement pour refuser les demandes de contenu nuisible. Aucune preuve n'a émergé dans cette affaire que le chatbot avait fourni des instructions. Les procureurs affirment que les recherches concernaient des histoires fictives, non des conseils opérationnels.

Les parents devraient-ils craindre ce que leurs enfants demandent aux chatbots IA ?

Les chatbots IA conservent des enregistrements des conversations, et ces journaux peuvent être cités à comparaître dans les enquêtes criminelles, comme l'illustre cette affaire. Les parents qui souhaitent superviser l'utilisation de l'IA par un enfant peuvent vérifier si des paramètres de sécurité familiale sont disponibles sur les plateformes que leurs enfants utilisent.