Google retire son outil d'édition d'images IA de Google Earth après que des utilisateurs aient falsifié des scènes de zones de guerre et de frontières

Points clés

• Google a lancé une fonctionnalité d'édition d'images IA dans Google Earth un jeudi, puis l'a désactivée le jour suivant après que des signalements d'abus aient émergé.
• L'outil utilisait un modèle appelé Nano Banana 2 pour modifier des photos satellites réelles en fonction d'instructions tapées, comme ajouter un cratère de bombe près d'un hôpital ou des réfugiés à un passage frontalier.
• Le chercheur Henk van Ess de Digital Digging a testé l'outil et constaté qu'aucune invite n'a été bloquée ou atténuée au cours de sa session.
• Van Ess a également montré qu'une vidéo réalisée avec la fonctionnalité a trompé Hive, un service commercial de détection de contenu généré par l'IA, malgré la présence du filigrane de Google.
• Google affirme que les images générées n'ont jamais été visibles pour les autres utilisateurs de Google Earth, mais les captures d'écran partagées sur les réseaux sociaux ne contenaient pas ce contexte.

Google Earth a toujours ressemblé à une fenêtre sur le monde réel. Jeudi, Google a ouvert cette fenêtre un peu trop largement.

L'entreprise a discrètement lancé une fonctionnalité permettant aux utilisateurs de taper une description et de regarder l'IA repeindre n'importe quelle partie d'une image satellite. Vous voulez voir à quoi ressemble une ferme solaire sur ce champ vide ? Bien en théorie. Vous voulez laisser tomber un faux cratère de bombe à côté d'un hôpital de Gaza, ou ajouter une foule de réfugiés à la frontière mexicaine ? Également, il s'avère, bien en pratique.

La deuxième catégorie est le problème.

Qu'exactement l'outil faisait-il ?

Il permettait à quiconque possédant Google Earth de taper une invite de texte et d'obtenir en retour une version modifiée d'une image satellite réelle. Le modèle sous-jacent s'appelait Nano Banana 2. Google a dit aux utilisateurs que les images portaient un filigrane numérique confirmant qu'elles étaient générées par l'IA, et a affirmé que le système bloquait « la création d'images sur des sujets nuisibles ».

Henk van Ess, chercheur chez Digital Digging qui suit comment les outils d'IA peuvent être détournés, a mené ses propres tests et a dit à The Verge AI que ces garde-fous ne tenaient simplement pas. « Rien n'a été refusé, rien n'a été adouci, et rien n'a suggéré que j'essaie une invite différente », a-t-il écrit, partageant des exemples incluant des scènes de crise humanitaire falsifiées placées sur des coordonnées cartographiques réelles.

Il est ensuite allé plus loin. Van Ess a pris une vidéo produite dans l'outil et l'a exécutée dans Hive, un service payant que les entreprises utilisent pour détecter le contenu généré par l'IA. Hive l'a manqué. Le filigrane, en d'autres termes, n'a pas rendu l'image infalsifiable, et l'industrie de la détection n'avait pas suivi.

Pourquoi Google a-t-il fermé si vite ?

La rapidité compte ici. En 24 heures, Google a publié une deuxième déclaration admettant le problème et retirant la fonctionnalité. L'entreprise a déclaré : « Nous savons que les gens font uniquement confiance à Google Earth pour une vue fiable du monde... nous avons également vu des gens partager des captures d'écran d'images générées qui semblent violer nos politiques. Nous annulons donc cette fonctionnalité pendant que nous travaillons à la mise en place de garde-fous plus robustes. »

Un détail crucial caché dans cette déclaration : les images falsifiées n'ont jamais apparues dans la vue principale de Google Earth que les autres utilisateurs voient. Elles existaient uniquement dans une session personnelle. Mais les captures d'écran ont supprimé ce contexte dès que quelqu'un les a postées en ligne.

Qu'est-ce que cela signifie pour les gens ordinaires ?

Pour la plupart des utilisateurs, rien ne change au quotidien. Google Earth a le même aspect. Le risque porte moins sur votre propre expérience et plus sur les photos que vous pourriez voir partagées sur les réseaux sociaux prétendant montrer un lieu réel.

Si une image satellite apparaît quelque part de surprenant, montrant des dégâts ou des foules à un endroit spécifique, il vaut la peine de faire une pause avant de la partager. Les outils de recherche d'images inversées peuvent aider à vérifier si une image correspond aux sources connues et vérifiées.

Google affirme qu'il remettra la fonctionnalité en ligne une fois qu'il aura construit « des garde-fous plus robustes ». À quoi ils ressembleront reste à voir.

Questions courantes

Puis-je toujours utiliser Google Earth normalement ?

Oui, complètement. Google a retiré uniquement la fonctionnalité expérimentale d'édition d'images IA. L'application Google Earth principale et le site web, y compris les vues satellites standard et au niveau de la rue, ne sont pas affectés.

Un filigrane signifie-t-il qu'une image IA est sûre de faire confiance ?

Pas en soi. Le test de Van Ess a montré qu'une vidéo filigranée de l'outil a quand même trompé un service commercial de détection d'IA. Les filigranes sont un signal utile, mais ne sont pas une garantie, et ils disparaissent dès que quelqu'un fait une capture d'écran et recadre une image.