Google заявляє, що його інструменти допомогли створити 100 мільярдів зображень ШІ. Водяний знак може їх позначити, але чи може він зупинити шкоду?

Ключові моменти

• Starling Lab, дослідницька співпраця Стенфордського університету та Університету Південної Каліфорнії, оцінює, що людству знадобилось 149 років, щоб створити 1,5 мільярда фотографій; генеративний ШІ досяг цієї цифри за 18 місяців.
• Google оголосив на своїй конференції розробників I/O цього весною, що його інструменти допомогли створити понад 100 мільярдів зображень та відео за всього кілька років.
• Google розширює партнерства навколо SynthID, своєї технології для позначення контенту, створеного ШІ, щоб більше платформ могли її використовувати.
• SynthID може позначити контент ШІ під час його створення, але позначка не може зупинити поширення підроблених зображень до того, як хтось їх перевірить.

Дайте цифру: людство фотографувало 149 років, перш ніж досягти 1,5 мільярда зображень. Генеративний ШІ – програмне забезпечення, що створює фото, відео та аудіо за текстовою підказкою – перетнув цю межу за 18 місяців. Ці цифри походять від Starling Lab, дослідницької співпраці, якою спільно керують Стенфордський університет та Університет Південної Каліфорнії, яка вивчає, як автентифікується цифровий медіа контент.

Потім прийшов Google з більшою цифрою. На своїй конференції I/O цього весною компанія заявила, що її інструменти були використані для створення понад 100 мільярдів зображень та відео всього за кілька років. Як першим повідомив Ars Technica AI, ця цифра охоплює тільки власні продукти Google. Десятки інших компаній також мають генератори зображень та відео.

Що таке SynthID і як він працює?

SynthID – це відповідь Google на просте питання: коли ШІ-зображення існує, як хтось дізнається, що воно підроблене? Інструмент додає невидимий водяний знак – прихований сигнал, вплетений у пікселі або аудіо-дані – до контенту в момент його створення системами Google. Окремий детектор може пізніше прочитати цей сигнал.

Водяний знак витримує подивовижну кількість негативного впливу. Обрізання, кольорові фільтри та повторне збереження скріншотів зазвичай залишають його неушкодженим.

Google використав оголошення на I/O для підтвердження нових партнерств, які б розповсюдили SynthID на більше платформ, означаючи, що більше контенту ШІ, створеного в інших місцях, могли б мати цю позначку.

Отже, проблема вирішена?

Ні, абсолютно ні. Водяний знак – це позначка, а не замок.

Контент із позначкою SynthID все ще може поширюватись у соціальних мережах, месенджерах та стрічках новин задовго до того, як його хтось скануватиме детектором. У більшості звичайних людей немає способу перевірити це самостійно, і платформам не вимагається показувати попередження навіть якщо вони могли б.

Є також контент, який ніколи не отримує позначку. SynthID позначає лише те, що створюють інструменти самого Google. Будь-яке зображення, створене за допомогою конкуруючого генератора або старіших програм з відкритим кодом, які будь-хто може завантажити та запустити локально, взагалі не має водяного знака.

На що читачам слід звертати увагу?

Технологія позначення справді корисна та варта впровадження. Але справжня історія тут – обсяги. Коли інструменти однієї компанії можуть створити 100 мільярдів одиниць синтетичного медіа за два роки, реальний ризик – не один переконливий deepfake; це океан правдоподібно виглядаючого підробленого контенту, який перевищує людську спроможність його оцінити.

Кілька практичних звичок допомагають. Зробіть зворотний пошук зображення для будь-якої фотографії, яка здається розрахована на викликання сильної реакції. Перевірте, чи з'являється історія більш ніж на одному надійному джерелі перед тим як поділитись нею. Якщо відео показує людину, яка говорить щось шокуюче, шукайте текстовий стенограму від імені журналіста перед тим, як їй довіряти.

Водяний знак – це лише початок. Скептицизм – все ще кращий інструмент.