xAI судиться зі своїм першим користувачем через дитячі сексуальні зображення, створені за допомогою Grok
Після місяців тиску через здатність чат-бота генерувати незаконні зображення, компанія штучного інтелекту Ілона Маска допомогла арештувати жителя Південної Кароліни і тепер подає на нього до суду.
Ключові моменти
- xAI подала цивільний позов у вівторок проти Террі Вейна Харвуда, першого користувача, якого компанія публічно звинуватила у використанні Grok для створення незаконного контенту.
- Харвуд був арештований на початку 2025 року за володіння та розповсюдження CSAM, матеріалів із сексуальним насильством над дітьми, тобто реальних чи згенерованих штучним інтелектом сексуальних зображень з участю дітей.
- xAI стверджує, що Харвуд використовував два окремі облікові записи Grok протягом кількох місяців, щоб видалити одяг з звичайних фотографій декількох потерпілих, включаючи дівчинку, яка виглядала не старше 10 років.
- xAI надала докази правоохоронцям, які сприяли арештуванню Харвуда, за словами прокуратури Південної Кароліни.
Протягом кількох місяців критики вказували на те, що Grok, чат-бот штучного інтелекту, розроблений компанією xAI Ілона Маска, можна використовувати для створення недобровільних сексуалізованих зображень як дорослих, так і дітей. xAI в основному мовчала. У вівторок компанія зробила свій перший публічний крок: позов проти чоловіка, який уже знаходиться в одиниці утримання.
Відповідачем є Террі Вейн Харвуд. Він був арештований на початку цього року в Південній Кароліні за звинуваченням у володінні та розповсюдженні CSAM, терміну для сексуальних зображень з участю неповнолітніх. Прокуратура Південної Кароліни підтвердила, що xAI допомогла здійснити цей арешт.
Ось що, за словами xAI, робив Харвуд. Він відкрив два окремі облікові записи на платформі Grok. Протягом кількох місяців він надавав чат-боту звичайні, не сексуального характеру фотографії потерпілих і просив його «роздягнути» їх, тобто система штучного інтелекту цифрово видаляла одяг суб'єктів, щоб створити сексуалізовані зображення. Одна потерпіла виглядала не старше десяти років.
xAI стверджує, що виявила цю діяльність, повідомила про неї органам влади і тепер судиться з Харвудом у цивільній справі, юридичному позові на грошову компенсацію або збитки, поданому приватною компанією, а не урядом.
Чи означає це, що Grok вирішив проблему?
Ні, принаймні виходячи з того, що публічно відомо. Позов спрямований на одного користувача після того, як це трапилося. Він не підтверджує, що xAI закрила технічний розрив, який дозволив створювати ці зображення. Дослідники та журналісти, як докладно повідомила Ars Technica AI, неодноразово демонстрували, що Grok генерує цей вид контенту, коли його підштовхують певними способами.
Подання позову проти користувача — це значущий крок. Це сигналізує про те, що xAI готова співпрацювати з правоохоронцями та подавати позови. Але це реакція на злочин, який уже сталася, а не доказ того, що інструмент більше не можна неправильно використовувати.
Для звичайних користувачів будь-якого інструменту генерування зображень штучного інтелекту практичний момент полягає в наступному: ці платформи ведуть журнали активності. xAI ідентифікувала Харвуда через свої внутрішні записи та передала ці дані слідчим. Будь-хто, хто вважає, що вміст, згенерований штучним інтелектом, існує без наслідків, повинен уважно розглянути цю справу.
Харвуд стоїть перед кримінальними звинуваченнями з боку держави. Цивільний позов xAI здійснюється паралельно з цим процесом, окремо шукаючи свій засіб правового захисту через суди.
