xAI судит первого пользователя за изображения детского сексуального насилия, созданные с помощью Grok

Ключевые моменты

• xAI подала гражданский иск во вторник против Терри Уэйна Харвуда — первого пользователя, которого компания публично обвинила в использовании Grok для создания запрещённого контента.
• Харвуд был арестован ранее в 2025 году за хранение и распространение CSAM (материалы о сексуальном насилии над детьми) — реальных или созданных ИИ сексуальных изображений с участием детей.
• xAI утверждает, что Харвуд использовал два отдельных аккаунта Grok в течение нескольких месяцев, чтобы удалять одежду с обычных фотографий нескольких жертв, включая девочку, которой, похоже, было не более 10 лет.
• xAI предоставила правоохранительным органам улики, способствовавшие аресту Харвуда, согласно заявлению прокуратуры Южной Каролины.

На протяжении нескольких месяцев критики указывали на то, что Grok — чат-бот ИИ, созданный компанией Elon Musk's xAI, может использоваться для создания несогласованных сексуализированных изображений как взрослых, так и детей. xAI в основном хранила молчание. Во вторник компания сделала свой первый публичный шаг: иск против человека, уже находящегося в заключении.

Ответчик — Терри Уэйн Харвуд. Он был арестован ранее в этом году в Южной Каролине по обвинениям в хранении и распространении CSAM — материалов о сексуальном насилии над несовершеннолетними. Прокуратура Южной Каролины подтвердила, что xAI помогла осуществить этот арест.

Вот что, по словам xAI, сделал Харвуд. Он открыл два отдельных аккаунта на платформе Grok. В течение нескольких месяцев он скармливал чат-боту обычные, не сексуальные фотографии жертв и просил его «раздеть» их, то есть система ИИ цифровым путём удаляла одежду с изображений, создавая сексуализированные изображения. На одной фотографии жертве, похоже, было около десяти лет.

xAI говорит, что обнаружила эту деятельность, сообщила об этом властям и теперь подаёт на Харвуда в гражданском иске — юридическом иске на возмещение убытков, поданном частной компанией, а не государством.

Означает ли это, что Grok решил эту проблему?

Нет, по крайней мере на основании общедоступной информации. Иск направлен против одного пользователя задним числом. Он не подтверждает, что xAI закрыла техническую лазейку, которая позволила создавать такие изображения. Исследователи и журналисты, как подробно сообщает Ars Technica AI, неоднократно демонстрировали, что Grok генерирует контент такого рода при определённых способах побуждения.

Подача иска на пользователя — это значимый шаг. Он сигнализирует о том, что xAI готова сотрудничать с правоохранительными органами и прибегать к судебному преследованию. Но это ответ на преступление, которое уже произошло, а не доказательство того, что инструмент больше нельзя использовать неправомерно.

Для обычных пользователей любого инструмента генерирования изображений ИИ практический смысл в следующем: эти платформы ведут логи деятельности. xAI идентифицировала Харвуда через собственные внутренние записи и передала эти данные следователям. Всякий, кто верит, что контент, созданный ИИ, существует безнаказанно, должен внимательно изучить это дело.

Харвуд столкнулся с уголовным преследованием со стороны штата. Гражданский иск xAI параллельно этому процессу отдельно ищет своего судебного средства защиты.