Новий інструмент AI Google Earth вже обманює детектори підроблених фото
Дослідник ввів текстовий запит у Google Earth і отримав переконливе супутникове зображення "біженців біля мексиканського кордону". Це не добра ознака.
Ключові моменти
- Google запустив Nano Banana 2 — функцію генерування зображень AI всередині Google Earth — глобально на веб-версії на початку цього тижня.
- Дослідник Генк ван Ес з Digital Digging використав її для створення підроблених супутникових зображень, що показують біженців біля кордону США та Мексики, і кратер від бомби поряд з лікарнею в Газі.
- Google стверджує, що кожне зображення, яке створює інструмент, містить цифровий водяний знак SynthID — невидимий тег, вбудований у зображення для його ідентифікації як створеного AI.
- Digital Digging змогла обманути Hive, комерційний сервіс виявлення AI, використовуючи відеоролик, змінений за допомогою тієї ж функції Google Earth.
Google Earth має новий трюк. Введіть текстовий запит — фактично письмову інструкцію — і функція Nano Banana 2 платформи створить підроблене супутникове зображення, накладене на реальні аеральні та 3D-картографічні дані. Google представив це в блог-пості як спосіб візуалізації історичних сайтів або попереднього перегляду будівельних проектів. За кілька днів після запуску дослідник уже використав його для створення підроблених зображень криз.
Що насправді створив дослідник?
Генк ван Ес, дослідник відкритих джерел розвідки в Digital Digging, створив два зображення, які виглядають як справжній супутниковий матеріал: одне показує того, що виглядає як біженці, зібрані біля мексиканського кордону, а інше — кратер від бомби поряд з лікарнею в Газі. Жодна сцена не була реальною. Обидва виглядали правдоподібно з першого погляду.
У цьому й полягає ризик. Деякі результати явно підроблені, як гібрид Сфінкса та Статуї Свободи. Але інструмент може створювати зображення достатньо переконливі, щоб поділитися ними в соціальних мережах, перш ніж хто-небудь перевірить.
Чи вирішує проблему водяний знак Google?
Не зовсім. Google повідомив The Verge AI, що кожне зображення Nano Banana 2 включає водяний знак SynthID — той самий невидимий підпис, який Google використовує в інших інструментах генерування зображень AI. Ви можете перевірити підозріле зображення, попросивши додаток Gemini (помічник AI Google) або використовуючи Google Lens у пошуку.
Проблема в тому, що водяні знаки можна пропустити або обійти. Digital Digging протестував змінене відеозображення Google Earth проти Hive, добре відомого сервісу виявлення вмісту AI, і Hive не позначив його як штучний.
Що вам робити, якщо ви бачите супутникове зображення в інтернеті?
Ставіться до супутникового зображення в новинах або постах у соціальних мережах так само, як до неперевіреного фото очевидця. Ван Ес рекомендує перехресну перевірку будь-якого підозрілого зображення проти незалежних супутникових платформ, таких як Sentinel-2 або Landsat, які є загальнодоступними. Він також рекомендує перевірити орбітальні метадані — технічний запис про час створення зображення та який супутник його зробив — щоб побачити, чи складаються числа.
Для швидкої першої перевірки вставте зображення в Google Lens або позначте його за допомогою "@verifyai" в додатку Gemini.
Супутникові зображення давно мають незвичайний авторитет. Фото міської вулиці можна інсценізувати; супутниковий вид виглядає як доказ із космосу. Nano Banana 2 змінює цю припущення, і ризик дезінформації не чекає, доки інструменти виявлення наздоженуть.
