xAI подает в суд на мужчину, который якобы использовал Grok для создания материалов с детьми
Компания AI компании Элона Маска подала первый иск против пользователя из-за материалов сексуального характера, созданных искусственным интеллектом, после того как житель Южной Каролины уже был арестован по восьми уголовным обвинениям.
Ключевые моменты
- xAI, компания искусственного интеллекта Элона Маска, подала иск против жителя Южной Каролины Терри Уэйна Харвуда в 2025 году за предполагаемое неправомерное использование чатбота Grok.
- Харвуд был арестован в феврале 2025 года по восьми уголовным обвинениям, связанным с хранением и распространением материалов с сексуальной эксплуатацией детей.
- xAI утверждает, что Харвуд обошел встроенные фильтры безопасности Grok, чтобы превратить обычные фотографии в сексуально откровенные изображения без ведома людей на них.
- Это первый случай, когда xAI подает в суд на пользователя за создание незаконного контента с помощью Grok.
- xAI просит суд запретить Харвуду создавать аккаунты xAI и возместить судебные издержки компании.
Чатбот искусственного интеллекта, предназначенный для ответов на вопросы и создания изображений, привел собственную компанию в суд в качестве истца.
xAI, компания искусственного интеллекта, принадлежащая Элону Маску, подала иск против Терри Уэйна Харвуда, жителя Южной Каролины, обвиняя его в использовании Grok, чатбота компании, для создания материалов с сексуальной эксплуатацией детей. Об этом иске первым сообщил The Verge AI.
Харвуд уже был арестован. Полиция задержала его в феврале 2025 года по восьми уголовным обвинениям за предполагаемое хранение и распространение таких материалов. Теперь xAI требует гражданской ответственности в дополнение к уголовному процессу.
Компания утверждает, что Харвуд целенаправленно обошел защиту Grok — автоматические правила, встроенные в программное обеспечение для блокировки вредоносных выходных данных, — чтобы превратить обычные, несексуальные фотографии реальных людей в сексуально откровенные изображения. Люди на фотографиях об этом не знали.
Как это вообще стало возможным?
В прошлом году xAI представила функцию "spicy" режим, которая ослабила некоторые ограничения на контент в Grok. Позже компания добавила инструменты редактирования изображений. Критики почти сразу же предупредили, что эти функции могут быть использованы в неправомерных целях. В течение нескольких месяцев в интернете стали распространяться волны сексуализированных глубоких поддельных изображений, созданных искусственным интеллектом и выглядящих реально, включая изображения с изображением несовершеннолетних.
В марте 2025 года группа подростков подала иск непосредственно против xAI, утверждая, что Grok создал сексуализированные изображения их лиц. Элон Маск публично ответил, сказав, что любой, кто использует Grok для создания незаконного контента, будет иметь те же последствия, что и тот, кто его загружает. Иск против Харвуда кажется первым случаем, когда xAI действительно выполнила эту угрозу в суде.
Что означает этот иск для обычных людей?
Для обычных пользователей Grok ничего не меняется в повседневной жизни, но иск посылает четкий сигнал: xAI готова преследовать отдельных пользователей, нарушающих ее правила, а не только защищать себя, когда жертвы подают иск против компании.
xAI сообщила суду, что действия Харвуда подвергли компанию серьезному судебному риску и причинили ущерб ее репутации. Компания хочет, чтобы судья обязал Харвуда выплатить убытки, покрыть судебные расходы xAI из исков жертв и наложил постоянный запрет на все продукты xAI.
Для тех, кто беспокоится о том, что инструменты искусственного интеллекта могут быть использованы для создания поддельных изображений их или их детей, практический шаг в настоящее время остается таким же, как и многие годы назад: будьте осторожны с фотографиями, которые вы публикуете в интернете. Искусственный интеллект делает злоупотребление быстрее и дешевле, но исходный материал все равно должен откуда-то взяться.
