Google Earth का नया AI इमेज टूल पहले से फेक फोटो डिटेक्टर को धोखा दे रहा है
एक शोधकर्ता ने Google Earth में टेक्स्ट प्रॉम्प्ट टाइप किया और मेक्सिकन सीमा के पास 'शरणार्थियों' की एक प्रामाणिक उपग्रह छवि प्राप्त की। यह एक अच्छा संकेत नहीं है।
मुख्य बिंदु
- Google ने Nano Banana 2 लॉन्च किया, जो Google Earth के अंदर एक AI इमेज-जनरेशन फीचर है, इस सप्ताह की शुरुआत में वेब संस्करण पर विश्व स्तर पर।
- Digital Digging के शोधकर्ता Henk van Ess ने इसका उपयोग करके यूएस-मेक्सिको सीमा के पास शरणार्थियों को दिखाने वाली और गाजा में एक अस्पताल के बगल में एक बम क्रेटर दिखाने वाली नकली उपग्रह छवियां बनाईं।
- Google कहता है कि इस टूल द्वारा बनाई गई प्रत्येक छवि एक SynthID डिजिटल वॉटरमार्क लेकर आती है, जो छवि को AI-जनरेटेड के रूप में पहचानने के लिए एम्बेड किया गया एक अदृश्य टैग है।
- Digital Digging उसी Google Earth फीचर के साथ उत्पादित एक AI-परिवर्तित वीडियो का उपयोग करके Hive, एक वाणिज्यिक AI-डिटेक्शन सेवा को धोखा देने में सक्षम था।
Google Earth के पास एक नई ट्रिक है। एक टेक्स्ट प्रॉम्प्ट टाइप करें, मूलतः एक लिखित निर्देश, और प्लेटफॉर्म की Nano Banana 2 फीचर वास्तविक एरियल और 3D मानचित्र डेटा के ऊपर परत दर परत एक नकली उपग्रह छवि तैयार करेगी। Google ने इसे एक ब्लॉग पोस्ट में ऐतिहासिक स्थलों को दृश्यमान करने या निर्माण परियोजनाओं का पूर्वावलोकन करने के तरीके के रूप में पेश किया। लॉन्च के कुछ दिनों के भीतर, एक शोधकर्ता ने पहले से ही इसका उपयोग करके नकली संकट छवियां बनाई।
शोधकर्ता ने वास्तव में क्या बनाया?
Henk van Ess, Digital Digging में एक ओपन-सोर्स इंटेलिजेंस शोधकर्ता, ने दो छवियां बनाईं जो असली उपग्रह फुटेज की तरह दिखती हैं: एक जो मेक्सिकन सीमा के पास इकट्ठा शरणार्थियों को दिखाता है, और दूसरा गाजा में एक अस्पताल के बगल में एक बम क्रेटर दिखाता है। कोई भी दृश्य वास्तविक नहीं था। दोनों एक नजर में प्रशंसनीय लग रहे थे।
यही यहां का जोखिम है। कुछ आउटपुट स्पष्ट रूप से नकली हैं, जैसे कि एक Sphinx-Statue of Liberty हाइब्रिड। लेकिन यह टूल ऐसी छवियां तैयार कर सकता है जो किसी के जांचने से पहले सोशल मीडिया पर साझा करने के लिए काफी प्रभावशाली हों।
क्या Google के वॉटरमार्क से समस्या हल हो जाती है?
पूरी तरह से नहीं। Google ने The Verge AI को बताया कि प्रत्येक Nano Banana 2 इमेज में एक SynthID वॉटरमार्क शामिल है, जो वही अदृश्य हस्ताक्षर है जो Google अन्य AI इमेज टूल में उपयोग करता है। आप Gemini ऐप (Google का AI सहायक) से पूछकर या Search में Google Lens का उपयोग करके एक संदिग्ध इमेज की जांच कर सकते हैं।
समस्या यह है कि वॉटरमार्क को छोड़ा जा सकता है या इसके आसपास काम किया जा सकता है। Digital Digging ने Hive के विरुद्ध एक AI-परिवर्तित Google Earth वीडियो का परीक्षण किया, एक प्रसिद्ध AI सामग्री डिटेक्शन सेवा, और Hive ने इसे कृत्रिम के रूप में चिह्नित नहीं किया।
यदि आप ऑनलाइन कोई उपग्रह छवि देखते हैं तो आपको क्या करना चाहिए?
समाचार कहानियों या सोशल पोस्ट में उपग्रह इमेजरी के साथ उसी तरह व्यवहार करें जैसे आप एक अपरीक्षित गवाह की तस्वीर के साथ करेंगे। Van Ess Sentinel-2 या Landsat जैसे स्वतंत्र उपग्रह प्लेटफॉर्म के विरुद्ध किसी भी संदिग्ध छवि की क्रॉस-जांच करने की सिफारिश करता है, दोनों ही सार्वजनिक रूप से सुलभ हैं। वह ऑर्बिटल मेटाडेटा की जांच करने का भी सुझाव देता है, जब एक इमेज लिया गया था और किस उपग्रह द्वारा लिया गया था, इसका तकनीकी रिकॉर्ड यह देखने के लिए कि संख्याएं जुड़ती हैं या नहीं।
एक त्वरित प्रथम जांच के लिए, छवि को Google Lens में पेस्ट करें या इसे Gemini ऐप के अंदर "@verifyai" के साथ टैग करें।
उपग्रह इमेजरी ने लंबे समय से असामान्य प्राधिकार वहन किया है। एक शहर की सड़क की तस्वीर मंचित की जा सकती है; एक उपग्रह दृश्य अंतरिक्ष से प्रमाण की तरह लगता है। Nano Banana 2 इस धारणा को बदल देता है, और गलतसूचना का जोखिम डिटेक्शन टूल के पकड़ने के लिए प्रतीक्षा नहीं करता।
