xAI судиться з чоловіком, який, ймовірно, використовував Grok для створення зображень дитячих образ
Компанія AI Елона Маска подає позов проти користувача через матеріали, згенеровані штучним інтелектом, після того як чоловік з Південної Кароліни вже був заарештований за вісім тяжких злочинів.
Ключові моменти
- xAI, компанія зі штучного інтелекту Елона Маска, подала позов проти жителя Південної Кароліни Террі Вейна Харвуда у 2025 році через його недозволене використання чат-бота Grok.
- Харвуда заарештували в лютому 2025 року за вісім тяжких звинувачень, пов'язаних з володінням та розповсюдженням матеріалів сексуального насилля над дітьми.
- xAI стверджує, що Харвуд обійшов вбудовані фільтри безпеки Grok, щоб перетворити звичайні фотографії на сексуально явні зображення без відома осіб, зображених на них.
- Це перший раз, коли xAI подає позов проти користувача за створення незаконного контенту за допомогою Grok.
- xAI просить суд заборонити Харвуду коли-небудь створювати рахунок xAI і зобов'язати його оплатити судові видатки компанії.
Чат-бот зі штучного інтелекту, розроблений для відповідей на питання та створення зображень, привів свою компанію до суду — як позивача.
xAI, компанія зі штучного інтелекту, власником якої є Елон Маск, подала позов проти Террі Вейна Харвуда, чоловіка з Південної Кароліни, звинувачуючи його у використанні Grok, чат-бота компанії, для створення матеріалів сексуального насилля над дітьми (CSAM, що означає незаконні зображення дітей, які зазнають експлуатації). Про позов першим повідомив The Verge AI.
Харвуд уже був під вартою. Поліція затримала його в лютому 2025 року за вісім тяжких звинувачень за володіння та розповсюдження такого матеріалу. Тепер xAI вимагає цивільної відповідальності крім кримінальної справи.
Компанія стверджує, що Харвуд навмисне обійшов гарантії безпеки Grok — автоматичні правила, вбудовані в програмне забезпечення для блокування шкідливих результатів — щоб перетворити звичайні, несексуальні фотографії реальних людей на сексуально явні зображення. Особи, зображені на них, не були в курсі цього.
Як це стало можливим з самого початку?
Минулого року xAI представила функцію під назвою "spicy" mode, яка послабила деякі обмеження контенту в Grok. Пізніше вона додала інструменти редагування зображень. Критики майже одразу попередили, що цими функціями можна зловживати. За кілька місяців почали поширюватися секс-дипфейки AI, тобто підроблені зображення, створені штучним інтелектом, які виглядають реально, включно з зображеннями малолітніх осіб.
У березні 2025 року група підлітків подала позов проти xAI, стверджуючи, що Grok створив для них сексуалізовані зображення. Елон Маск відповів публічно, сказавши, що всі, хто використовує Grok для створення незаконного контенту, зіткнуться з тими ж наслідками, що й ті, хто його завантажує. Позов Харвуда виглядає першим разом, коли xAI насправді виконав цю загрозу в суді.
Що означає цей позов для звичайних людей?
Для звичайних користувачів Grok у повсякденному житті нічого не змінюється, але позов посилає чіткий сигнал: xAI готова переслідувати окремих користувачів, які порушують її правила, а не просто захищатися, коли потерпілі подають позив проти компанії.
xAI повідомила суду, що дії Харвуда викликали серйозний юридичний ризик і завдали шкоди репутації компанії. Компанія хоче, щоб суддя наказав Харвуду сплатити збитки, покрити судові видатки xAI від позовів потерпілих та запровадити постійну заборону на користування усіма продуктами xAI.
Для всіх, хто занепокоєний можливістю використання інструментів зображень AI для створення фальшивих зображень їх або їхніх дітей, практичний крок у цьому моменту залишається таким же, як і для років: будьте обережні з тим, які фотографії ви діліте в інтернеті. AI робить зловживання швидшим і дешевшим, але вихідний матеріал все ще має звідкись походити.
