Новий водяний знак AI від Meta вже не витримує базових тестів
Content Seal, невидима мітка Meta на зображеннях, створених штучним інтелектом, не читається конкуруючими інструментами виявлення та не змогла позначити більше половини зображень у одному реальному тесті. Експерти та користувачі заслуговують на краще.
Ключові моменти
- Meta запустила Content Seal у липні 2025 року — невидимий водяний знак, який застосовується лише до зображень, створених її новим генератором зображень Muse.
- Reuters протестувала Content Seal у 2025 році і виявила, що вона не змогла виявити більше половини зображень, створених Muse, після того як їх було обрізано.
- Коли тестове зображення було введено в AI-асистента Google Gemini та офіційний портал виявлення C2PA, жоден з інструментів не підтвердив, що зображення було створено AI.
- Meta пропонує інструменти генерування зображень AI з 2023 року, що означає, що багаторічні результати не можуть бути виявлені її власною новою системою.
- Технологія водяного знака SynthID від Google вже була прийнята OpenAI, проте Meta вирішила побудувати окремену, несумісну систему замість цього.
Meta, компанія, яка стоїть за Facebook та Instagram, тихо оголосила про новий інструмент у липні під назвою Content Seal. Ідея проста: кожне зображення, створене генератором зображень AI компанії Muse, отримує невидиму мітку, вбудовану у картинку. Ви не можете її побачити, але інструмент виявлення може прочитати її і повідомити, що зображення було створено AI.
Невидимі водяні знаки — це не новинка. Google вже використовує систему під назвою SynthID, яка працює таким же чином, і OpenAI її також використовує. Існує й окремий галузевий стандарт під назвою C2PA Content Credentials, який являє собою свідоцтво походження, що супроводжує файл зображення, і Meta вже входить до керівного комітету, який його просуває.
То чому створювати ще одну систему з нуля?
Meta не дала чіткої відповіді. Те, що вона надала, — це інструмент із деякими помітними недоліками.
Наразі Content Seal охоплює лише зображення від Muse. Вона не охоплює відео. Вона не охоплює нічого, створеного з використанням старіших інструментів AI компанії Meta, які генерують зображення з 2023 року. Інструмент виявлення — це окремий сайт, який користувачі повинні відвідати самостійно. Він не вбудований у Meta AI, чатбот компанії, як це зроблено з виявленням у Gemini від Google.
Meta також обмежує кількість разів на день, коли хтось може перевірити зображення. Це денне обмеження зрозуміло з точки зору безпеки, але воно працює проти мети полегшення виявлення у масштабі. C2PA не має такого обмеження.
Більшою проблемою є сумісність. Коли The Verge провела практичний тест і внесла зображення, створене Muse, у Google Gemini та офіційний портал перевірки C2PA, жоден інструмент не позначив його як створене AI. Content Seal наразі по суті спілкується лише сам з собою.
Представниця Meta Вера Айшен розповіла The Verge, що компанія «досліджує способи наблизити виявлення до місця, де люди зустрічаються зі змістом, створеним AI», та «рішуча працювати з партнерами в галузі». Така мова сигналізує про те, що робота не завершена.
Reuters виявила ще слабшу реальну продуктивність системи: Content Seal не змогла виявити більше половини зображень, створених Muse, після того як їх було обрізано. Обрізання — це одне з найпростіших редагувань, яке хтось робить з фотографією.
Чи повинні звичайні користувачі довіряти Content Seal, щоб захистити їх?
Наразі ні, і не самостійно. Система занадто вузька в тому, що вона охоплює, занадто відокремлена від інструментів, які використовують інші компанії, і занадто легко порушується простим обрізанням.
Якщо ви побачите зображення на Facebook або Instagram з міткою «AI», ця мітка може походити від сигналів метаданих, а не лише від Content Seal. На інших платформах зображення, створені Muse, взагалі можуть не мати жодної мітки.
На що варто звернути увагу:
- Мітка AI на публікації не означає, що кожне створене AI зображення було виявлено. Відсутність мітки не є доказом того, що зображення справжнє.
- Зворотний пошук зображень у Google або на спеціалізованому сайті перевірки фактів все ще є вашою найнадійнішою першою перевіркою.
- Обрізані або змінені за розміром зображення важче читаються для будь-якої системи водяного знака, тому відносьтеся до сильно відредагованих зображень зі скептицизмом.
Дослідники з Reuters та команда AI2Day — це ті, хто виявив ці прогалини. Шана їм за це.
