Google ritira il suo strumento di editing AI delle immagini da Google Earth dopo che gli utenti hanno falsificato zone di guerra e scene di confine

Punti chiave

• Google ha lanciato una funzione di editing AI delle immagini all'interno di Google Earth di giovedì, poi l'ha disabilitata il giorno successivo dopo che sono emersi rapporti di abuso.
• Lo strumento ha utilizzato un modello chiamato Nano Banana 2 per alterare foto satellitari reali in base a istruzioni scritte, come aggiungere un cratere di bomba vicino a un ospedale o rifugiati a un valico di confine.
• Il ricercatore Henk van Ess di Digital Digging ha testato lo strumento e ha scoperto che nessun prompt è stato bloccato o attenuato durante la sua sessione.
• Van Ess ha anche dimostrato che un video realizzato con questa funzione ha ingannato Hive, un servizio commerciale di rilevamento dei contenuti AI, nonostante la filigrana di Google fosse presente.
• Google afferma che le immagini generate non erano mai visibili ad altri utenti di Google Earth, ma gli screenshot condivisi sui social media non recavano tale contesto.

Google Earth è sempre sembrato una finestra sul mondo reale. Giovedì, Google ha aperto quella finestra un po' troppo ampiamente.

L'azienda ha lanciato silenziosamente una funzione che permetteva agli utenti di digitare una descrizione e guardare l'AI ritoccare qualsiasi porzione di immagini satellitari. Vuoi vedere come appare un parco solare in quel campo vuoto? Va bene in teoria. Vuoi aggiungere un falso cratere di bomba accanto a un ospedale di Gaza, o aggiungere una folla di rifugiati al confine messicano? È risultato che, nella pratica, va bene anche questo.

La seconda categoria è il problema.

Che cosa esattamente faceva lo strumento?

Permetteva a chiunque avesse Google Earth di digitare un prompt di testo e ottenere una versione alterata di immagini satellitari reali. Il modello sottostante si chiamava Nano Banana 2. Google ha detto agli utenti che le immagini portavano una filigrana digitale che confermava che erano generate da AI e ha affermato che il sistema bloccava "la creazione di immagini su argomenti dannosi".

Henk van Ess, ricercatore presso Digital Digging che traccia come gli strumenti AI possono essere utilizzati in modo improprio, ha eseguito i propri test e ha detto a The Verge AI che questi meccanismi di protezione semplicemente non hanno resistito. "Niente è stato rifiutato, niente è stato attenuato e niente ha suggerito di provare un prompt diverso", ha scritto, condividendo esempi che includono scene di crisi umanitaria fabbricate posizionate su coordinate di mappa reali.

Ha quindi fatto un passo oltre. Van Ess ha preso un video prodotto all'interno dello strumento e l'ha eseguito attraverso Hive, un servizio a pagamento che le aziende utilizzano per rilevare contenuti generati da AI. Hive l'ha mancato. La filigrana, in altre parole, non ha reso l'immagine non falsificabile, e l'industria del rilevamento non aveva ancora raggiunto quel livello.

Perché Google l'ha chiuso così velocemente?

La velocità è importante qui. Entro 24 ore, Google ha rilasciato una seconda dichiarazione ammettendo il problema e rimuovendo la funzione. L'azienda ha affermato: "Sappiamo che le persone si fidano unicamente di Google Earth per una visione affidabile del mondo... abbiamo anche visto persone condividere screenshot di immagini generate che sembrano violare le nostre politiche. Quindi stiamo ritirando questa funzione mentre lavoriamo all'implementazione di meccanismi di protezione più forti".

Un dettaglio cruciale sepolto in quella dichiarazione: le immagini false non sono mai apparse nella vista principale di Google Earth che gli altri utenti vedono. Esistevano solo in una sessione personale. Ma gli screenshot hanno tolto quel contesto nel momento in cui qualcuno le ha pubblicate online.

Cosa significa questo per le persone comuni?

Per la maggior parte degli utenti, nulla cambia giorno dopo giorno. Google Earth ha lo stesso aspetto. Il rischio riguarda meno la tua esperienza personale e più le foto che potresti vedere condivise sui social media che pretendono di mostrare un luogo reale.

Se un'immagine satellitare appare da qualche parte inaspettata, mostrando danni o folle in una posizione specifica, vale la pena fare una pausa prima di condividerla. Gli strumenti di ricerca inversa delle immagini possono aiutare a verificare se un'immagine corrisponde a fonti note e verificate.

Google afferma che riporterà la funzione una volta creati "meccanismi di protezione più forti". Come appariranno rimane da vedere.

Domande frequenti

Posso ancora utilizzare Google Earth normalmente?

Sì, completamente. Google ha rimosso solo la funzione sperimentale di editing AI delle immagini. L'app Google Earth principale e il sito web, incluse le visualizzazioni standard satellitari e a livello stradale, non sono affetti.

Una filigrana significa che un'immagine AI è sicura da fidarsi?

Non di per sé. Il test di Van Ess ha mostrato che un video con filigrana dello strumento ha comunque ingannato un servizio commerciale di rilevamento AI. Le filigrane sono un segnale utile, ma non sono una garanzia, e scompaiono nel momento in cui qualcuno cattura uno screenshot e ritaglia un'immagine.