ЕС теперь требует маркировки изображений, аудио и текста, созданных ИИ
Новое правило Европейского союза, вступившее в силу на этой неделе, требует четкой маркировки реалистичного контента, созданного искусственным интеллектом, что влияет на все — от политических атак в видео до статей, написанных ИИ.
Ключевые моменты
- Правила ЕС, требующие маркировки изображений, аудио и текста, созданных ИИ, вступили в силу в воскресенье.
- Правила охватывают любой искусственно созданный контент, предназначенный для того, чтобы выглядеть или звучать реально, включая поддельные видео, голосовые записи и письменные статьи.
- Политические дипфейки, то есть поддельные видео или аудиоклипы, созданные ИИ, которые выглядят и звучат как настоящие политики, были ключевым фактором, стоящим за законодательством.
- Компании, которые не маркируют контент, созданный ИИ, могут столкнуться с потенциальными штрафами в соответствии с более широкой базой Закона об ИИ ЕС.
- Правила применяются к контенту, распространяемому внутри Европейского союза, независимо от того, где базируется компания, его производящая.
В течение последних нескольких лет европейские избиратели видели поддельные видео, распространяемые в интернете, которые показывают политиков, якобы крадущих выборы, издевающихся над сотрудниками или совершающих смешные трюки. Ничего из этого не было реальным. Все это было убедительным. Начиная с этого воскресенья, такой контент, если он создан с помощью ИИ и предназначен для выглядения подлинным, должен иметь четкую маркировку об этом.
Газета The Guardian AI впервые сообщила о дате активации правила. Требование входит в более широкую инициативу ЕС по регулированию искусственного интеллекта до того, как его вред превзойдет его преимущества.
Что именно должно быть маркировано?
Любой контент, созданный ИИ, предназначенный для выглядения или звучания подлинным. Это может быть реалистичная поддельная фотография политика, аудиоклип, имитирующий голос генерального директора, или письменная статья, которая позиционирует себя как журналистика, написанная человеком. Маркировка должна быть видимой и четкой, а не скрытой мелким шрифтом.
Контент, который явно является вымышленным или явно является творческим экспериментом, рассматривается иначе. Целью является материал, предназначенный для обмана.
Кого это затрагивает?
Каждая компания, распространяющая контент для аудитории ЕС, должна соблюдать правила, даже если она базируется за пределами Европы. Платформа социальных сетей, базирующаяся в Калифорнии, агрегатор новостей, управляемый из Сингапура: если их контент достигает людей во Франции или Германии, правила применяются.
Для обычных людей, листающих социальные сети или читающих новости в интернете, изменение означает, что контент, созданный ИИ, должен, в теории, иметь видимый флаг. Думайте об этом как о информационной таблице на продуктах питания: это не помешает вам его потреблять, но скажет вам, что вы получаете.
| Тип контента | Должен быть маркирован? | Основная проблема |
|---|---|---|
| Политические изображения, созданные ИИ | Да | Манипуляция выборами |
| Голосовые клипы реальных людей, созданные ИИ | Да | Мошенничество, клевета |
| Статьи, написанные ИИ и выданные за реальные | Да | Дезинформация |
| Четко обозначенное ИИ-искусство или вымысел | Нет | Не предназначено для обмана |
| Инструменты ИИ, используемые для редактирования, а не создания | В каждом конкретном случае | Зависит от намерения |
Это действительно сработает?
Правоприменение — открытый вопрос. Правила маркировки функционируют только в том случае, если платформы и создатели применяют их честно и если регуляторы располагают ресурсами для проверки. Закон об ИИ ЕС, более широкий закон, лежащий в основе этих правил, дает регуляторам полномочия: штрафы могут достигать десятков миллионов евро за серьезные нарушения.
Большей проблемой является скорость. Новые инструменты ИИ, которые генерируют убедительный поддельный контент, появляются быстрее, чем законодательство может их отследить. Исследователи, которые изучают дезинформацию, говорят, что маркировки одной недостаточно, чтобы остановить решительных плохих субъектов, но это перекладывает юридическую ответственность на платформы, на которых размещается контент.
Пока что, если вы видите поразительное видео, на котором политик делает что-то возмутительное, стоит помедлить, прежде чем делиться им. Маркировка должна в конце концов появиться. До тех пор, пока правоприменение наверстает упущенное, момент скептицизма все еще является вашей лучшей защитой.
Часто задаваемые вопросы
Это правило применяется к контенту, который я вижу в социальных сетях?
Да. Если платформа социальных сетей обслуживает пользователей в ЕС, она должна маркировать контент, созданный ИИ, который предназначен для выглядения реально, независимо от того, кто создал пост.
Что произойдет, если компания проигнорирует правило?
Компании, которые нарушают обязательства Закона об ИИ ЕС, сталкиваются со штрафами, которые могут достигать десятков миллионов евро или процента от глобального годового дохода, в зависимости от того, что больше.
Это охватывает инструменты ИИ, которые я использую в частном порядке, такие как генераторы изображений?
Правила в первую очередь направлены на контент, распространяемый публично. Использование генератора изображений ИИ в личных, неопубликованных целях — это другое дело, хотя публикация этого результата без маркировки может вызвать требование маркировки.
