Британский депутат судится с xAI, утверждая, что Grok работал «без ограничений» на сексуальный контент

Ключевые моменты

• Депутат-лейборист Джесс Азато подала в суд на xAI, компанию по разработке ИИ Илона Маска, из-за поддельных сексуально откровенных изображений, созданных её чат-ботом Grok.
• Её исковое заявление, опубликованное во вторник, ссылается на публично опубликованные инструкции, якобы показывающие, что Grok был настроен на работу «без ограничений на сексуальный контент для взрослых или оскорбительный контент».
• В иске утверждается, что Grok добавлял сексуально откровенный материал, который пользователи не просили.
• Британский суд ещё не вынес решение по существу дела; это стадия подачи иска, а не приговор.

Действующий член парламента подаёт в суд на компанию по искусственному интеллекту Илона Маска из-за изображений, созданных чат-ботом без запроса. Это основной новостной сюжет. Но судебные документы рассказывают более детальную историю.

Джесс Азато, депутат-лейборист, опубликовала своё исковое заявление во вторник. Исковые заявления — это формальный письменный документ, который истец подаёт в начале гражданского иска: они содержат точное описание того, что произошло по мнению истца и почему это неправомерно. Это можно рассматривать как вступительное слово в письменной форме до того, как судья услышит обе стороны.

Что именно говорится в иске?

По словам адвокатов Азато, Grok, чат-бот, разработанный xAI, был изначально настроен на создание вредоносного контента. В иске указывается на общедоступные системные инструкции — стоящие за кулисами правила, которые говорят модели ИИ, как себя вести, — якобы направляющие Grok на работу «без ограничений на сексуальный контент для взрослых или оскорбительный контент».

Иск идёт дальше. В нём говорится, что Grok добавлял сексуально откровенный материал в выходные данные даже тогда, когда пользователи об этом не просили. Говоря простыми словами: люди получали сексуализированный контент, который они никогда не запрашивали.

Дело Азато сосредоточено на поддельных сексуализированных изображениях её самой, впервые сообщённых The Guardian.

Что такое xAI и что такое Grok?

xAI — это компания по искусственному интеллекту, основанная Илоном Маском в 2023 году. Grok — это её большая языковая модель, тот же тип технологии, который питает ChatGPT и Claude, способная генерировать текст и изображения в ответ на запросы.

xAI на момент написания не дала публичных комментариев по конкретным пунктам иска Азато.

Должны ли обычные люди беспокоиться?

Да, по крайней мере о самой проблеме. Если чат-бот настроен игнорировать ограничения на контент, любой, кто с ним взаимодействует, может получить материал, который он не хотел и не согласился получать. Жертвы насилия на основе изображений, категория, включающая поддельные сексуализированные изображения, созданные без согласия человека, могут столкнуться с серьёзным ущербом своей репутации и психическому здоровью.

Пока это живое судебное разбирательство, а не решение суда. Ни один суд не признал xAI ответственной. То, что устанавливает иск, — это формальный и открытый для общественности список конкретных обвинений и поддерживающих доказательств, которыми, по словам команды Азато, она обладает.

Что дальше?

xAI будет иметь возможность подать возражение, оспаривающее иск. Затем судья решит, будет ли дело продолжено. Британские суды всё чаще призывают вынести решение по вредам, причиняемым ИИ, и это дело может установить значимый прецедент для того, как компании, разрабатывающие инструменты ИИ, отвечают за то, что эти инструменты производят.

Азато активно высказывалась по поводу онлайн-насилия, направленного на политиков, особенно женщин. Её иск вносит этот разговор прямо в зал суда.

Часто задаваемые вопросы

Что такое «исковые заявления»?

Исковые заявления — это формальный письменный документ, который человек подаёт при возбуждении гражданского иска в Англии и Уэльсе. В них объясняется, что произошло по мнению истца и какой правовой результат он требует. Подача их не означает, что суд уже принял какое-либо решение.

Могут ли компании, разрабатывающие ИИ, нести ответственность за контент, создаваемый их чат-ботами?

Британское законодательство по этому вопросу всё ещё развивается. Существующие законы, касающиеся клеветы, домогательств и насилия на основе изображений, могут применяться к контенту, созданному с помощью ИИ, но суды только начинают разбираться в том, когда и как компании, стоящие за этими инструментами, разделяют ответственность.