Google удалила инструмент редактирования изображений AI из Google Earth после создания поддельных снимков войны и границ

Ключевые моменты

• Google запустила функцию редактирования изображений AI в Google Earth в четверг, а затем отключила её на следующий день после появления сообщений об злоупотреблениях.
• Инструмент использовал модель под названием Nano Banana 2 для изменения реальных спутниковых фотографий на основе введённых инструкций, таких как добавление кратера от бомбы рядом с больницей или беженцев на граничном переходе.
• Исследователь Хенк ван Ess из Digital Digging протестировал инструмент и обнаружил, что во время его сеанса не было заблокировано и не смягчено ни одного запроса.
• Ван Ess также показал, что видео, созданное с помощью этой функции, обманула Hive, коммерческий сервис обнаружения контента AI, несмотря на наличие водяного знака Google.
• Google заявляет, что созданные изображения никогда не были видны другим пользователям Google Earth, однако снимки экрана, распространяемые в социальных сетях, не содержали этой информации.

Google Earth всегда казался окном в реальный мир. В четверг Google открыло это окно чуть слишком широко.

Компания тихо запустила функцию, которая позволяла пользователям ввести описание и наблюдать, как AI переписывает любой участок спутникового снимка. Хотите посмотреть, как выглядит солнечная ферма на том пустом поле? В теории это нормально. Хотите создать поддельный кратер от бомбы рядом с больницей в Газе или добавить толпу беженцев на мексиканской границе? Оказалось, это тоже было нормально на практике.

Вторая категория — вот проблема.

Что именно делал этот инструмент?

Он позволял любому пользователю Google Earth ввести текстовый запрос и получить изменённую версию реального спутникового снимка. Основной моделью была Nano Banana 2. Google сообщила пользователям, что изображения содержат цифровой водяной знак, подтверждающий, что они созданы AI, и заявила, что система блокирует «создание изображений на вредоносные темы».

Хенк ван Ess, исследователь из Digital Digging, который отслеживает, как можно злоупотреблять инструментами AI, провел собственные тесты и рассказал The Verge AI, что эти защиты просто не сработали. «Ничто не было отклонено, ничто не было смягчено, и ничто не предложило мне попробовать другой запрос», — написал он, поделившись примерами поддельных сцен гуманитарных кризисов, размещённых над реальными координатами карты.

Затем он пошёл дальше. Ван Ess взял видео, созданное внутри инструмента, и запустил его через Hive, платный сервис, который компании используют для обнаружения контента, созданного AI. Hive не заметил ничего. Водяной знак, другими словами, не сделал изображение неподдельным, и индустрия обнаружения отстала.

Почему Google так быстро его отключила?

Скорость здесь важна. В течение 24 часов Google выпустила второе заявление, признав проблему и отключив функцию. Компания сказала: «Мы знаем, что люди особенно доверяют Google Earth как надёжному источнику информации о мире... мы также видели, что люди делятся снимками экрана созданных изображений, которые, похоже, нарушают наши политики. Поэтому мы откатываем эту функцию, пока работаем над внедрением более строгих защит».

Важная деталь, скрытая в этом заявлении: поддельные изображения никогда не появлялись в основном представлении Google Earth, которое видят другие пользователи. Они существовали только в личном сеансе. Но снимки экрана удаляли этот контекст в момент, когда кто-либо публиковал их онлайн.

Что это означает для обычных людей?

Для большинства пользователей ничего не меняется в повседневной жизни. Google Earth выглядит так же. Риск заключается не столько в вашем собственном опыте, сколько в фотографиях, которые вы можете видеть в социальных сетях и которые якобы показывают реальное место.

Если спутниковое изображение появляется в неожиданном месте, показывая повреждения или скопления людей в определённом месте, стоит сделать паузу перед его распространением. Инструменты обратного поиска изображений могут помочь проверить, совпадает ли изображение с известными, проверенными источниками.

Google заявляет, что вернёт функцию после создания «более строгих защит». То, как они будут выглядеть, остаётся неясным.

Часто задаваемые вопросы

Могу ли я по-прежнему нормально использовать Google Earth?

Да, полностью. Google удалила только экспериментальную функцию редактирования изображений AI. Основное приложение Google Earth и веб-сайт, включая стандартные спутниковые и уличные виды, не затронуты.

Означает ли водяной знак, что изображение AI безопасно доверять?

Не само по себе. Тест ван Ess показал, что видео с водяным знаком из инструмента всё ещё обманул коммерческий сервис обнаружения AI. Водяные знаки — это полезный сигнал, но они не являются гарантией, и они исчезают в момент, когда кто-либо делает снимок экрана и обрезает изображение.