Google deaktiviert sein KI-Bild-Bearbeitungstool aus Google Earth, nachdem Nutzer Kriegszonen und Grenzszenen fälschten

Wichtigste Punkte

• Google startete eine KI-Bild-Bearbeitungsfunktion in Google Earth an einem Donnerstag und deaktivierte sie am nächsten Tag, nachdem Missbrauchsberichte auftauchten.
• Das Tool nutzte ein Modell namens Nano Banana 2, um echte Satellitenfotos basierend auf eingegebenen Anweisungen zu verändern, etwa um einen Bombenkrater neben einem Krankenhaus oder Flüchtlinge an einer Grenzübergang hinzuzufügen.
• Der Forscher Henk van Ess von Digital Digging testete das Tool und stellte fest, dass während seiner Sitzung keine Eingabeaufforderungen blockiert oder abgeschwächt wurden.
• Van Ess zeigte auch, dass ein mit der Funktion erstelltes Video Hive, einen kommerziellen KI-Inhaltserkennungsdienst, täuschte, obwohl Googles Wasserzeichen vorhanden war.
• Google sagt, dass generierte Bilder für andere Google Earth-Nutzer niemals sichtbar waren, doch auf Social Media geteilte Screenshots trugen diesen Kontext nicht mit sich.

Google Earth hat sich immer wie ein Fenster zur realen Welt angefühlt. Am Donnerstag öffnete Google dieses Fenster ein wenig zu weit.

Das Unternehmen startete stillschweigend eine Funktion, die Nutzern ermöglichte, eine Beschreibung einzugeben und zu beobachten, wie KI jeden Ausschnitt der Satellitenimagerie neu bemalt. Möchte man sehen, wie eine Solaranlage auf diesem leeren Feld aussieht? Theoretisch in Ordnung. Möchte man einen gefälschten Bombenkrater neben einem Krankenhaus im Gazastreifen platzieren oder eine Menschenmenge von Flüchtlingen an der mexikanischen Grenze hinzufügen? Es stellte sich heraus, dass dies auch in der Praxis funktioniert.

Diese zweite Kategorie ist das Problem.

Was genau machte das Tool?

Es ermöglichte jedem mit Google Earth, eine Textaufforderung einzugeben und eine veränderte Version echter Satellitenimagerie zurück zu erhalten. Das zugrunde liegende Modell hieß Nano Banana 2. Google teilte den Nutzern mit, dass die Bilder ein digitales Wasserzeichen trugen, das bestätigte, dass sie von KI generiert waren, und sagte, das System blockiere „die Bilderstellung zu schädlichen Themen."

Henk van Ess, ein Forscher bei Digital Digging, der nachverfolgt, wie KI-Tools missbraucht werden können, führte eigene Tests durch und teilte The Verge AI mit, dass diese Schutzmaßnahmen einfach nicht hielten. „Nichts wurde abgelehnt, nichts wurde abgeschwächt, und nichts deutete darauf hin, dass ich eine andere Eingabeaufforderung versuchen sollte," schrieb er und teilte Beispiele für fabrizierte Szenen humanitärer Krisen an echten Kartenkoordinaten.

Dann ging er noch einen Schritt weiter. Van Ess nahm ein Video, das im Tool erstellt wurde, und führte es durch Hive, einen kostenpflichtigen Service, den Unternehmen zur Erkennung von KI-generierten Inhalten nutzen. Hive verpasste es. Das Wasserzeichen konnte das Bild also nicht unfälschbar machen, und die Erkennungsindustrie war nicht nachgekommen.

Warum schaltete Google es so schnell ab?

Geschwindigkeit ist hier wichtig. Innerhalb von 24 Stunden gab Google eine zweite Erklärung ab, in der das Problem zugegeben und die Funktion deaktiviert wurde. Das Unternehmen sagte: „Wir wissen, dass die Menschen Google Earth einzigartig für eine zuverlässige Sicht auf die Welt vertrauen... wir haben auch gesehen, dass Menschen Screenshots generierter Bilder teilen, die unsere Richtlinien zu verletzen scheinen. Daher rollback wir diese Funktion, während wir an der Implementierung stärkerer Schutzmaßnahmen arbeiten."

Ein wichtiges Detail, das in dieser Erklärung verborgen ist: Die gefälschten Bilder erschienen nie in der Hauptansicht von Google Earth, die andere Nutzer sehen. Sie existierten nur in einer persönlichen Sitzung. Aber Screenshots nahmen diesen Kontext dem Moment weg, in dem jemand sie online postete.

Was bedeutet das für gewöhnliche Menschen?

Für die meisten Nutzer ändert sich im Alltag nichts. Google Earth sieht gleich aus. Das Risiko besteht weniger in der eigenen Erfahrung und mehr in Fotos, die Sie vielleicht auf Social Media geteilt sehen und die behaupten, einen echten Ort zu zeigen.

Wenn ein Satellitenbild irgendwo Überraschendes erscheint und Schäden oder Menschenmassen an einem bestimmten Ort zeigt, lohnt es sich, inne zu halten, bevor man es teilt. Umgekehrte Bildsuche-Tools können helfen zu überprüfen, ob ein Bild mit bekannten, verifizierten Quellen übereinstimmt.

Google sagt, dass es die Funktion zurückbringen wird, sobald es „stärkere Schutzmaßnahmen" entwickelt hat. Wie diese aussehen werden, bleibt abzuwarten.

Häufig gestellte Fragen

Kann ich Google Earth weiterhin normal nutzen?

Ja, vollständig. Google zog nur die experimentelle KI-Bild-Bearbeitungsfunktion zurück. Die Haupt-Google Earth-App und Website, einschließlich Standard-Satelliten- und Straßenansichten, sind nicht betroffen.

Bedeutet ein Wasserzeichen, dass ein KI-Bild sicher zu vertrauen ist?

Nicht allein. Van Ess' Test zeigte, dass ein mit Wasserzeichen versehenes Video aus dem Tool einen kommerziellen KI-Erkennungsdienst immer noch täuschte. Wasserzeichen sind ein nützliches Signal, sind aber keine Garantie, und sie verschwinden, sobald jemand ein Bild macht und zuschneidet.