xAI Илона Маска подает в суд на Миннесоту, чтобы остановить закон о генераторах deepfake для создания обнаженных изображений
Grok создал примерно 3 миллиона сексуализированных изображений за 11 дней, включая около 23 000 детей. Теперь xAI утверждает, что закон штата, предназначенный для предотвращения такого вреда, является неконституционным.
Ключевые моменты
- XAI подал в суд против генерального прокурора Миннесоты Кейта Эллисона в дни перед вступлением в силу нового закона штата о борьбе с обнажением 1 августа.
- Закон Миннесоты, подписанный губернатором Тимом Вальцем в мае, предусматривает штрафы до 500 000 долларов за каждое нарушение против компаний, которые размещают или предоставляют доступ к инструментам обнажения.
- Исследование Центра противодействия цифровой ненависти показало, что Grok создал примерно 3 миллиона сексуализированных изображений в течение 11 дней в конце декабря 2025 года и начале января 2026 года.
- Около 23 000 из этих изображений изображали детей — одно изображение каждые 41 секунду.
- XAI утверждает, что закон написан слишком широко и нарушает Первую поправку к Конституции, конституционное право на свободу слова.
В январе чатбот Grok компании Илона Маска наводнил интернет миллионами порнографических дипфейков — поддельных изображений, созданных искусственным интеллектом, которые выглядят как настоящие фотографии. Тысячи из них изображали детей. Чатбот работал без ограничений в течение нескольких дней. В то время как это происходило, Маск писал о том, что Grok занял первое место в App Store.
Теперь компания, стоящая за Grok, подает в суд, чтобы заблокировать закон, предназначенный для предотвращения повторения этого. Мы отслеживаем последствия с июля: 28 июля мы сообщили, что в судебных документах, поданных депутатом парламента Лейбористской партии Джесс Астато, утверждается, что Grok был намеренно настроен на генерирование непристойных материалов без ограничений.
Что на самом деле сделал Grok?
Цифры вызывают тревогу. За 11 дней, с 29 декабря 2025 года по 8 января 2026 года, Grok создал около 3 миллионов сексуализированных изображений, согласно Центру противодействия цифровой ненависти. Примерно 23 000 изображали детей. Это составляет одно сексуализированное изображение ребенка каждые 41 секунду.
ЕС запустил расследование. Так же поступило и Соединенное Королевство. Государственные чиновники Франции и Малайзии публично выступили против, как и их коллеги в Индии. Федеральное правительство США в основном молчало, но несколько штатов действовали самостоятельно.
Что на самом деле делает закон Миннесоты?
HF 1606 Миннесоты запрещает компаниям предоставлять пользователям доступ или использование инструментов обнажения — программного обеспечения, которое удаляет одежду с изображений реальных людей. Закон предоставляет путь для судебного преследования частными лицами и дает генеральному прокурору штата право требовать до 500 000 долларов за каждое нарушение.
Губернатор Тим Вальц подписал его в мае. Его позиционировали как первый закон такого рода в Соединенных Штатах.
Одна примечательная деталь: закон предусматривает исключение для программного обеспечения, которое требует значительных технических навыков для неправомерного использования. В область применения входят только инструменты ИИ с легким доступом.
Каков аргумент xAI?
Иск xAI, о котором первым сообщил The Verge AI, выдвигает два основных требования. Компания утверждает, что действующие законы, включая федеральный закон TAKE IT DOWN Act, уже охватывают некритические дипфейки и написаны конституционно приемлемым способом. Затем она утверждает, что закон Миннесоты настолько широк, что может наказывать компании даже когда пользователи обходят фильтры безопасности, и даже для изображений, которые являются согласованными или имеют художественную ценность.
«Ответственность наступает также даже если компания развернула почти идеальные технические средства защиты», — говорится в иске.
xAI также указывает на то, что с тех пор она подала в суд на одного из своих пользователей за использование Grok для создания материалов о сексуальном насилии над детьми, на что мы сообщили 16 июля. Этот иск был подан более чем через два месяца после принятия Миннесотой своего закона.
| Событие | Дата |
|---|---|
| Инцидент с дипфейком Grok (11-дневный период) | 29 декабря 2025 - 8 января 2026 |
| Закон Миннесоты HF 1606 подписан | Май 2026 |
| xAI подает в суд на пользователя из-за материалов о насилии | Примерно июль 2026 |
| Иск xAI подан против генерального прокурора Миннесоты | Конец июля 2026 |
| Вступление закона в силу | 1 августа 2026 |
Должны ли обычные люди беспокоиться об этом иске?
Иск поднимает реальную правовую проблему. Законы, которые ограничивают речь в США, должны быть написаны узко, нацелены на фактический вред, а не охватывают законный контент. Чрезмерно широкие законы могут быть отменены даже когда подлежащая цель полностью обоснована.
Но вот более сложная правда. Если бы действующие законы работали, Grok не потратил бы недели на производство порнографии без согласия в промышленном масштабе. Закон Миннесоты, вероятно, нуждается в доработке; это не делает бездействие приемлемой альтернативой.
На что стоит обратить внимание: будут ли другие штаты следовать примеру Миннесоты до вынесения судом решения по этому делу. Поражение в Миннесоте не убивает аналогичные законы в других местах, но это дает каждой платформе готовый аргумент.
Если вы или кто-то, кого вы знаете, был объектом генерируемого искусственным интеллектом изображения без согласия, закон TAKE IT DOWN Act предоставляет вам законный способ потребовать удаления. Сначала свяжитесь с платформой напрямую, затем обратитесь в офис генерального прокурора вашего штата, если платформа не примет меры.
