Google видалив свій інструмент для редагування зображень AI з Google Earth після того, як користувачі сфальшували сцени війни та кордону

Ключові пункти

• Google запустив функцію редагування зображень AI всередині Google Earth у четвер, а потім вимкнув її наступного дня після виявлення звітів про зловживання.
• Інструмент використовував модель під назвою Nano Banana 2 для зміни реальних супутникових фотографій на основі введених інструкцій, таких як додавання кратера від бомби поблизу лікарні або біженців на прикордонному переході.
• Дослідник Генк ван Ес з Digital Digging протестував інструмент і виявив, що жодні підказки не були заблоковані або пом'якшені під час його сеансу.
• Ван Ес також показав, що відео, зроблене за допомогою цієї функції, обманув Hive, комерційний сервіс виявлення AI-контенту, незважаючи на наявність водяного знака Google.
• Google говорить, що згенеровані зображення ніколи не були видимі іншим користувачам Google Earth, але скріншоти, розповсюджені в соціальних мережах, не мали цього контексту.

Google Earth завжди було вікном на реальний світ. У четвер Google відчинив це вікно занадто широко.

Компанія тихо запустила функцію, яка дозволяла користувачам ввести опис та спостерігати, як AI перефарбовує будь-яку ділянку супутникової знімки. Хочете побачити, як виглядає сонячна ферма на тому порожньому полі? Теоретично це добре. Хочете зробити підроблений кратер від бомби біля лікарні в Газі або додати натовп біженців на мексиканському кордоні? Як виявилося, це також добре спрацьовало на практиці.

Друга категорія — це проблема.

Що саме робив інструмент?

Він дозволяв будь-кому з Google Earth ввести текстову підказку та отримати змінену версію реальної супутникової знімки. Основна модель називалася Nano Banana 2. Google повідомив користувачам, що зображення мали цифровий водяний знак, який підтверджує, що вони були згенеровані AI, і сказав, що система блокує "створення зображень на шкідливі теми".

Генк ван Ес, дослідник у Digital Digging, який відстежує, як інструменти AI можна зловживати, провів власні тести та розповів The Verge AI, що ці запобіжники просто не спрацювали. "Нічого не було відмовлено, нічого не було пом'якшено, і нічого не запропонувало мені спробувати іншу підказку", — написав він, поділившись прикладами вигаданих сцен гуманітарної кризи, розміщених над реальними координатами на карті.

Потім він пішов ще далі. Ван Ес взяв відео, створене всередині інструменту, і запустив його через Hive, платний сервіс, який компанії використовують для виявлення AI-генерованого контенту. Hive це не помітив. Іншими словами, водяний знак не зробив зображення незліпленим, а індустрія виявлення не встигла за ним.

Чому Google так швидко його вимкнув?

Швидкість має значення. Протягом 24 годин Google видав другу заяву, визнавши проблему та видаливши функцію. Компанія сказала: "Ми знаємо, що люди унікально довіряють Google Earth як надійному виду світу... ми також бачили, що люди діляться скріншотами згенерованих зображень, які, здається, порушують наші правила. Тому ми відкочуємо цю функцію, поки працюємо над впровадженням більш сильних запобіжників".

Вирішальна деталь, прихована в цій заяві: підроблені зображення ніколи не з'являлись у основному вигляді Google Earth, який бачать інші користувачі. Вони існували лише в особистому сеансі. Але скріншоти позбавили цей контекст у момент, коли хтось їх опублікував в Інтернеті.

Що це означає для звичайних людей?

Для більшості користувачів у повсякденному житті нічого не змінюється. Google Earth виглядає так само. Ризик менше про вашу власну експеренцію та більше про фотографії, які ви можете бачити в соціальних мережах, які стверджують, що показують реальне місце.

Якщо супутникова знімка з'являється десь несподівано, показуючи пошкодження або натовпи на конкретній місцевості, варто призупинитись перед тим, як її поширювати. Інструменти зворотного пошуку зображень можуть допомогти перевірити, чи відповідає зображення відомим, перевіреним джерелам.

Google каже, що повернуть цю функцію після того, як створить "більш сильні запобіжники". Те, як вони виглядатимуть, залишається невідомим.

Поширені питання

Чи можу я все ще звичайно користуватися Google Earth?

Так, абсолютно. Google видалив лише експериментальну функцію редагування зображень AI. Основний додаток Google Earth та веб-сайт, включаючи стандартні супутникові та вулиці-рівневі вигляди, не зачеплені.

Чи означає водяний знак, що AI-зображення безпечно довіряти?

Не саме по собі. Тест Ван Еса показав, що позначене водяним знаком відео з інструменту все ще обманув комерційний сервіс виявлення AI. Водяні знаки — це корисний сигнал, але вони не гарантія, і вони зникають у момент, коли хтось робить скріншот і обрізає зображення.