Подросток из Массачусетса обвиняется в двойном убийстве. Прокуроры говорят, что он использовал ChatGPT для поиска фантазий об убийстве в семье

Ключевые моменты

• Арджун Арвинд, 17 лет, из Массачусетса, предстал перед судом в четверг по обвинению в убийстве своей матери и младшего брата.
• Прокуроры заявляют, что следователи обнаружили, что Арвинд использовал ChatGPT, чат-бот на базе искусственного интеллекта, для поиска вымышленных историй об убийстве членов семьи до предполагаемых преступлений.
• Арвинд заявил о своей невиновности в суде района Конкорд и был арестован без внесения залога.
• Власти публично не заявляли, что ChatGPT предоставлял инструкции для насилия, а только то, что эти поиски являются частью их расследования.

Семнадцатилетний подросток из Массачусетса, обвиняемый в убийстве своей матери и младшего брата, предстал перед судом в четверг утром. По словам прокуроров, часть их обвинения связана с его использованием ChatGPT, широко используемого чат-бота на основе искусственного интеллекта, созданного компанией OpenAI.

Арджун Арвинд предстал перед судом района Конкорд. От его имени была подана оплата о невиновности. Судья постановил держать его под стражей без внесения залога.

По словам окружного прокурора, как впервые сообщила газета The Guardian, следователи обнаружили, что Арвинд использовал интернет и ChatGPT для поиска фантастических историй об убийстве членов семьи. Прокуроры не утверждали, что ChatGPT предоставил ему инструкции или план. Эти поиски приводятся в качестве доказательства намерения, а не причины.

Какое отношение ChatGPT имеет к этому делу?

ChatGPT — это текстовый инструмент искусственного интеллекта, который может отвечать на вопросы, писать истории и вести беседы. По словам прокуроров, Арвинд использовал его для поиска или создания вымышленного контента о насилии в семье, и они рассматривают эту деятельность как релевантную для установления мотива.

Это не утверждение о том, что чат-бот вызвал преступление. Это скорее похоже на то, как следователи в старых делах могли отметить, что подозреваемый искал похожие темы в Google. Различие важно: история поиска показывает, о чём думал человек, а не то, что инструмент ему приказал делать.

OpenAI, компания, стоящая за ChatGPT, имеет политику контента, предназначенную для блокировки генерации насильственного или вредного материала. Были ли эти фильтры активированы или обойдены в данном случае, публично не подтверждено.

Что дальше?

Арвинд остаётся в заключении. Дело направляется в более высокий суд для проведения формального разбирательства с учётом серьёзности обвинений. Поскольку ему 17 лет, могут возникнуть вопросы о том, будет ли он судиться как взрослый, однако прокуроры публично это ещё не рассматривали.

Расследование продолжается.

Часто задаваемые вопросы

Может ли ChatGPT инструктировать человека совершить насилие?

OpenAI встраивает фильтры в ChatGPT специально для отказа от запросов вредного контента. В этом деле не появилось никаких доказательств того, что чат-бот предоставлял инструкции. Прокуроры говорят, что поиски были вымышленных историй, а не операционного руководства.

Должны ли родители беспокоиться о том, о чём их дети спрашивают чат-боты искусственного интеллекта?

Чат-боты искусственного интеллекта хранят записи бесед, и эти логи могут быть запрошены в уголовных расследованиях, как показывает это дело. Родители, которые хотят контролировать использование ребёнком искусственного интеллекта, могут проверить, доступны ли параметры безопасности семьи на платформах, которые используют их дети.