Новая система защиты AI-изображений Meta уже не проходит базовые тесты
Content Seal — невидимая метка Meta на изображениях, созданных ИИ, — не распознаётся конкурирующими инструментами и не смогла идентифицировать более половины изображений в одном реальном тесте. Эксперты и пользователи заслуживают лучшего.
Ключевые моменты
- Meta запустила Content Seal в июле 2025 года — невидимую метку, которая применяется только к изображениям, созданным её новым генератором изображений Muse.
- Reuters протестировал Content Seal в 2025 году и обнаружил, что система не смогла обнаружить более половины изображений, созданных Muse, после их кадрирования.
- Когда тестовое изображение было загружено в помощника ИИ Google Gemini и официальный портал обнаружения C2PA, ни один инструмент не подтвердил, что изображение было создано ИИ.
- Meta предлагает инструменты генерации изображений с 2023 года, что означает, что годы выпускаемого контента не могут быть идентифицированы её собственной новой системой.
- Технология водяного знака SynthID компании Google уже принята OpenAI, но Meta решила создать отдельную, несовместимую систему.
Meta, компания, стоящая за Facebook и Instagram, тихо объявила в июле о новом инструменте под названием Content Seal. Идея проста: каждое изображение, созданное генератором изображений AI Muse компании Meta, получает невидимую метку, встроенную в изображение. Вы не можете её видеть, но инструмент обнаружения может прочитать её и сообщить вам, что изображение было создано ИИ.
Невидимые водяные знаки — это не новинка. Google уже использует систему под названием SynthID, которая работает аналогичным образом, и OpenAI её тоже использует. Существует также отдельный отраслевой стандарт C2PA Content Credentials, который представляет собой своего рода цифровой сертификат происхождения, прилагаемый к файлу изображения, и Meta уже входит в руководящий комитет, который его продвигает.
Так зачем создавать ещё одну систему с нуля?
Meta не дала ясного ответа. Что она предоставила, так это инструмент с некоторыми заметными недостатками.
Сейчас Content Seal охватывает только изображения, созданные Muse. Она не охватывает видео. Она не охватывает ничего, созданного с помощью более старых инструментов ИИ Meta, которые генерируют изображения с 2023 года. Инструмент обнаружения — это отдельный веб-сайт, который пользователи должны посещать самостоятельно. Он не встроен в Meta AI, чатбот компании, как обнаружение встроено в Gemini.
Meta также ограничивает количество проверок изображений в день. Это дневное ограничение имеет смысл с точки зрения безопасности, но оно противоречит цели упростить обнаружение в масштабе. C2PA не имеет таких ограничений.
Более серьёзная проблема — совместимость. Когда The Verge провёл практический тест и загрузил созданное Muse изображение в Google Gemini и официальный портал проверки C2PA, ни один инструмент не отметил его как созданное ИИ. Content Seal на данный момент по сути общается только сам с собой.
Представитель Meta Фейт Айшен сообщила The Verge, что компания «изучает способы приблизить обнаружение к местам, где люди встречаются с контентом, созданным ИИ», и «решена работать с коллегами по отрасли». Такой язык указывает на то, что работа не завершена.
Reuters обнаружила, что реальная производительность системы ещё слабее: Content Seal не смогла идентифицировать более половины изображений, созданных Muse, после их кадрирования. Кадрирование — это одно из самых базовых редактирований, которое люди делают с фотографией.
Должны ли обычные пользователи доверять Content Seal для их защиты?
Нет, и не в одиночку. Система слишком узка по охвату, слишком изолирована от инструментов, используемых другими компаниями, и слишком легко нарушается простым кадрированием.
Если вы видите на изображение на Facebook или Instagram с меткой «AI», эта метка может быть результатом метаданных, а не только Content Seal. На других платформах изображения, созданные Muse, могут вообще не иметь никакой метки.
На что обратить внимание:
- Метка ИИ на публикации не означает, что все изображения, созданные ИИ, были обнаружены. Отсутствие метки не является доказательством того, что изображение настоящее.
- Обратный поиск изображений в Google или на специализированном сайте проверки фактов по-прежнему является наиболее надёжной первой проверкой.
- Кадрированные или изменённые в размере изображения сложнее распознавать любой системе водяных знаков, поэтому относитесь к сильно отредактированным изображениям с дополнительным скептицизмом.
Исследователи Reuters и команда The Verge AI — те, кто выявил эти недостатки. Должное признание им.
