Googles neues KI-Bildtool bei Google Earth täuscht bereits Detektoren für Falschfotos
Ein Forscher gab eine Textaufforderung in Google Earth ein und erhielt ein überzeugend wirkendes Satellitenbild von „Flüchtlingen in der Nähe der mexikanischen Grenze". Das ist kein gutes Zeichen.
Wichtigste Punkte
- Google hat Nano Banana 2, eine KI-Bildgenerierungsfunktion in Google Earth, in dieser Woche weltweit in der Webversion eingeführt.
- Forscher Henk van Ess von Digital Digging nutzte es, um gefälschte Satellitenbilder zu erstellen, die Flüchtlinge in der Nähe der US-mexikanischen Grenze und einen Bombenkrater neben einem Krankenhaus in Gaza zeigen.
- Google erklärt, dass jedes von dem Tool erstellte Bild ein digitales SynthID-Wasserzeichen trägt – ein unsichtbares Erkennungszeichen, das die KI-Generierung kennzeichnet.
- Digital Digging konnte den Dienst Hive, einen kommerziellen KI-Erkennungsdienst, mit einem KI-veränderten Video täuschen, das mit derselben Google-Earth-Funktion erstellt wurde.
Google Earth hat einen neuen Trick. Geben Sie eine Textaufforderung ein – im Grunde eine schriftliche Anweisung – und die Funktion Nano Banana 2 der Plattform generiert ein gefälschtes Satellitenbild, das über echte Luft- und 3D-Kartendaten gelegt wird. Google pries sie in einem Blogbeitrag als Möglichkeit an, historische Stätten zu visualisieren oder Bauprojekte zu planen. Wenige Tage nach dem Start hatte ein Forscher sie bereits genutzt, um gefälschte Krisenbilder zu erstellen.
Was hat der Forscher genau erstellt?
Henk van Ess, ein Forscher für offene Quellen bei Digital Digging, erstellte zwei Bilder, die wie echte Satellitenaufnahmen wirken: eines, das angeblich Flüchtlinge in der Nähe der mexikanischen Grenze zeigt, und eines, das einen Bombenkrater neben einem Krankenhaus in Gaza zeigt. Keine dieser Szenen war real. Beide wirkten auf den ersten Blick plausibel.
Das ist das Risiko hier. Einige Ausgaben sind offensichtlich gefälscht, wie eine Sphinx-Freiheits-Statue-Hybride. Aber das Tool kann Bilder produzieren, die überzeugend genug sind, um in sozialen Medien geteilt zu werden, bevor jemand überprüft.
Löst Googles Wasserzeichen das Problem?
Nicht ganz. Google teilte The Verge AI mit, dass jedes Nano-Banana-2-Bild ein SynthID-Wasserzeichen enthält – dieselbe unsichtbare Signatur, die Google bei anderen KI-Bildtools verwendet. Sie können ein verdächtiges Bild überprüfen, indem Sie die Gemini-App (Googles KI-Assistent) fragen oder Google Lens in der Suche nutzen.
Das Problem ist, dass Wasserzeichen übersehen oder umgangen werden können. Digital Digging testete ein KI-verändertes Google-Earth-Video gegen Hive, einen bekannten KI-Inhaltserkennungsdienst, und Hive flaggte es nicht als künstlich.
Was sollten Sie tun, wenn Sie ein Satellitenbild online sehen?
Behandeln Sie Satellitenbilder in Nachrichtengeschichten oder sozialen Beiträgen wie unbestätigte Augenzeugenfotos. Van Ess empfiehlt, verdächtige Bilder mit unabhängigen Satellitenplattformen wie Sentinel-2 oder Landsat abzugleichen, die beide öffentlich zugänglich sind. Er schlägt auch vor, die Orbitalmetadaten zu überprüfen – den technischen Datensatz darüber, wann ein Bild aufgenommen wurde und von welchem Satelliten – um festzustellen, ob die Zahlen stimmen.
Für eine schnelle erste Überprüfung fügen Sie das Bild in Google Lens ein oder markieren Sie es in der Gemini-App mit „@verifyai".
Satellitenbilder haben lange Zeit ungewöhnliche Autorität besessen. Ein Foto einer Straße einer Stadt kann inszeniert sein; eine Satellitenaufnahme wirkt wie ein Beweis aus dem All. Nano Banana 2 verändert diese Annahme, und das Fehlinformationsrisiko wartet nicht darauf, dass Erkennungstools aufgeholt haben.
