Il Nuovo Strumento AI di Google Earth Sta Già Ingannando i Rilevatori di Foto False
Un ricercatore ha digitato un prompt di testo in Google Earth e ha ottenuto un'immagine satellitare convincente di "rifugiati vicino al confine messicano". Non è un buon segno.
Punti chiave
- Google ha lanciato Nano Banana 2, una funzione di generazione di immagini AI all'interno di Google Earth, a livello globale sulla versione web all'inizio di questa settimana.
- Il ricercatore Henk van Ess di Digital Digging l'ha utilizzato per creare immagini satellitari false che mostrano rifugiati vicino al confine tra Stati Uniti e Messico e un cratere di bomba accanto a un ospedale a Gaza.
- Google afferma che ogni immagine creata dallo strumento contiene una filigrana digitale SynthID, un tag invisibile incorporato nell'immagine per identificarla come generata dall'AI.
- Digital Digging è riuscito a ingannare Hive, un servizio commerciale di rilevamento dell'AI, utilizzando un video alterato dall'AI prodotto con la stessa funzione di Google Earth.
Google Earth ha un nuovo trucco. Digita un prompt di testo, praticamente un'istruzione scritta, e la funzione Nano Banana 2 della piattaforma genererà un'immagine satellitare falsa sovrapposta a dati reali di mappe aeree e 3D. Google l'ha presentato in un post sul blog come un modo per visualizzare siti storici o visualizzare in anteprima progetti di costruzione. Pochi giorni dopo il lancio, un ricercatore l'aveva già utilizzato per creare immagini false di crisi.
Cosa ha effettivamente creato il ricercatore?
Henk van Ess, ricercatore di intelligence open-source presso Digital Digging, ha creato due immagini che sembrano veri filmati satellitari: una che mostra quello che sembrerebbe essere rifugiati riuniti vicino al confine messicano, e un'altra che mostra un cratere di bomba accanto a un ospedale a Gaza. Nessuna scena era reale. Entrambe sembravano plausibili a prima vista.
Questo è il rischio qui. Alcuni output sono chiaramente falsi, come un ibrido Sfinge-Statua della Libertà. Ma lo strumento può produrre immagini abbastanza convincenti da condividere sui social media prima che qualcuno le controlli.
La filigrana di Google risolve il problema?
Non del tutto. Google ha dichiarato a The Verge AI che ogni immagine di Nano Banana 2 include una filigrana SynthID, la stessa firma invisibile che Google utilizza in altri strumenti di generazione di immagini AI. Puoi controllare un'immagine sospetta chiedendo all'app Gemini (l'assistente AI di Google) o utilizzando Google Lens in Ricerca.
Il problema è che le filigrane possono essere trascurate o aggirate. Digital Digging ha testato un video di Google Earth alterato dall'AI rispetto a Hive, un noto servizio di rilevamento dei contenuti AI, e Hive non l'ha contrassegnato come artificiale.
Cosa dovresti fare se vedi un'immagine satellitare online?
Tratta l'immagine satellitare in notizie o post sui social nello stesso modo in cui tratteresti una foto di testimone oculare non verificata. Van Ess consiglia di verificare incrociata qualsiasi immagine sospetta rispetto a piattaforme satellitari indipendenti come Sentinel-2 o Landsat, entrambe accessibili pubblicamente. Suggerisce anche di controllare i metadati orbitali, il record tecnico di quando un'immagine è stata scattata e da quale satellite, per vedere se i numeri corrispondono.
Per un primo controllo rapido, incolla l'immagine in Google Lens o contrassegnala con "@verifyai" all'interno dell'app Gemini.
L'immagine satellitare ha a lungo portato un'autorità insolita. Una foto di una strada cittadina può essere inscenata; una vista satellitare sembra come una prova dallo spazio. Nano Banana 2 cambia questo presupposto, e il rischio di disinformazione non aspetta che gli strumenti di rilevamento si riprendano.
