गूगल ने यूजर्स द्वारा युद्ध क्षेत्रों और सीमा दृश्यों की नकल करने के बाद गूगल अर्थ से अपना एआई इमेज-एडिटिंग टूल हटाया

मुख्य बिंदु

• गूगल ने गुरुवार को गूगल अर्थ के अंदर एक एआई इमेज-एडिटिंग फीचर लॉन्च किया, फिर अगले दिन दुरुपयोग की रिपोर्ट सामने आने के बाद इसे अक्षम कर दिया।
• टूल ने नैनो बैनाना 2 नामक मॉडल का उपयोग करके टाइप की गई निर्देशों के आधार पर वास्तविक सैटेलाइट फोटो को बदला, जैसे किसी अस्पताल के पास बम का गड्ढा जोड़ना या सीमा पार पर शरणार्थी जोड़ना।
• डिजिटल डिगिंग के शोधकर्ता हेंक वान एस ने टूल का परीक्षण किया और पाया कि उनके सत्र के दौरान कोई भी प्रॉम्प्ट ब्लॉक या कमजोर नहीं किए गए थे।
• वान एस ने यह भी दिखाया कि इस फीचर से बनाया गया एक वीडियो हाइव को धोखा देता है, एक वाणिज्यिक एआई-कंटेंट डिटेक्शन सेवा, हालांकि गूगल की वाटरमार्क मौजूद थी।
• गूगल का कहना है कि जनरेट की गई छवियां कभी भी अन्य गूगल अर्थ यूजर्स को दिखाई नहीं देती थीं, लेकिन सोशल मीडिया पर साझा किए गए स्क्रीनशॉट में वह संदर्भ नहीं था।

गूगल अर्थ हमेशा वास्तविक दुनिया के लिए एक खिड़की की तरह महसूस होता है। गुरुवार को, गूगल ने वह खिड़की थोड़ी बहुत चौड़ी कर दी।

कंपनी ने चुपचाप एक फीचर लॉन्च किया जो यूजर्स को एक विवरण टाइप करने और किसी भी सैटेलाइट इमेजरी के पैच को एआई से फिर से पेंट करते हुए देखने देता है। क्या आप देखना चाहते हैं कि एक सौर फार्म उस खाली खेत पर कैसा दिखता है? सिद्धांत में ठीक है। क्या आप गाजा अस्पताल के बगल में एक नकली बम का गड्ढा रखना चाहते हैं, या मैक्सिकन सीमा पर शरणार्थियों की भीड़ जोड़ना चाहते हैं? यह भी, यह पता चला, व्यावहारिक रूप से ठीक है।

दूसरी श्रेणी समस्या है।

टूल ने वास्तव में क्या किया?

इसने गूगल अर्थ वाले किसी को भी एक टेक्स्ट प्रॉम्प्ट टाइप करने और वास्तविक सैटेलाइट इमेजरी के एक बदले हुए संस्करण को वापस पाने देता है। अंतर्निहित मॉडल को नैनो बैनाना 2 कहा जाता था। गूगल ने यूजर्स को बताया कि इमेज में एक डिजिटल वाटरमार्क है जो पुष्टि करता है कि वे एआई-जनरेट की गई हैं, और कहा कि सिस्टम "हानिकारक विषयों पर इमेज निर्माण" को ब्लॉक करता है।

डिजिटल डिगिंग के शोधकर्ता हेंक वान एस, जो ट्रैक करते हैं कि एआई टूल्स का दुरुपयोग कैसे किया जा सकता है, ने अपने स्वयं के परीक्षण किए और द वर्ज एआई को बताया कि वे सुरक्षा उपाय बस काम नहीं कर रहे हैं। "कुछ भी अस्वीकार नहीं किया गया, कुछ भी नरम नहीं किया गया, और कुछ भी सुझाव नहीं दिया गया कि मैं एक अलग प्रॉम्प्ट आजमाऊं," उन्होंने लिखा, वास्तविक मानचित्र निर्देशांक पर रखे गए काल्पनिक मानवीय संकट दृश्यों के उदाहरण साझा करते हुए।

फिर उन्होंने एक कदम आगे बढ़ाया। वान एस ने टूल के अंदर बनाया गया एक वीडियो लिया और इसे हाइव के माध्यम से चलाया, एक भुगतान सेवा जिसका व्यवसाय एआई-जनरेट की गई कंटेंट का पता लगाने के लिए उपयोग करते हैं। हाइव इसे मिस कर गया। दूसरे शब्दों में, वाटरमार्क ने इमेज को अजेय नहीं बनाया, और डिटेक्शन इंडस्ट्री को पकड़ नहीं पाया।

गूगल ने इसे इतनी तेजी से क्यों बंद किया?

यहां गति मायने रखती है। 24 घंटे के भीतर, गूगल ने एक दूसरा विवरण जारी किया जिसमें समस्या को स्वीकार किया और फीचर को खींच दिया। कंपनी ने कहा: "हम जानते हैं कि लोग दुनिया के एक विश्वसनीय दृश्य के लिए गूगल अर्थ पर अद्वितीय रूप से विश्वास करते हैं... हमने लोगों को जनरेट की गई इमेजरी के स्क्रीनशॉट साझा करते हुए भी देखा है जो हमारी नीतियों का उल्लंघन करते हैं। तो हम इस फीचर को वापस ले रहे हैं जबकि हम मजबूत सुरक्षा उपायों को लागू करने पर काम करते हैं।"

उस विवरण में एक महत्वपूर्ण विवरण: नकली छवियां कभी भी मुख्य गूगल अर्थ दृश्य के अंदर दिखाई नहीं देती जो अन्य यूजर्स देखते हैं। वे केवल एक व्यक्तिगत सत्र में मौजूद थे। लेकिन स्क्रीनशॉट उस संदर्भ को हटा देते हैं जब कोई भी उन्हें ऑनलाइन पोस्ट करता है।

साधारण लोगों के लिए इसका क्या मतलब है?

अधिकांश यूजर्स के लिए, दिन-ब-दिन कुछ नहीं बदलता। गूगल अर्थ एक जैसा दिखता है। जोखिम आपके अपने अनुभव के बारे में कम है और सोशल मीडिया पर साझा की जा सकने वाली फोटो के बारे में अधिक है जो किसी वास्तविक स्थान को दिखाने का दावा करती हैं।

यदि कोई सैटेलाइट इमेज किसी आश्चर्यजनक जगह दिखाई देती है, किसी विशिष्ट स्थान पर नुकसान या भीड़ दिखाती है, तो इसे साझा करने से पहले रुकना लायक है। रिवर्स इमेज सर्च टूल यह जांचने में मदद कर सकते हैं कि क्या कोई इमेज ज्ञात, सत्यापित स्रोतों से मेल खाती है।

गूगल का कहना है कि वह फीचर को वापस लाएगा एक बार "मजबूत सुरक्षा उपायों" बनाने के बाद। वे कैसे दिखते हैं यह देखा जाना बाकी है।

सामान्य प्रश्न

क्या मैं अभी भी गूगल अर्थ का सामान्य तरीके से उपयोग कर सकता हूं?

हां, बिल्कुल। गूगल ने केवल प्रायोगिक एआई इमेज-एडिटिंग फीचर को खींचा। मुख्य गूगल अर्थ ऐप और वेबसाइट, स्टैंडर्ड सैटेलाइट और स्ट्रीट-लेवल व्यूज सहित, प्रभावित नहीं हैं।

क्या वाटरमार्क का मतलब है कि एक एआई इमेज विश्वास करने के लिए सुरक्षित है?

अकेले नहीं। वान एस के परीक्षण ने दिखाया कि टूल से एक वाटरमार्क वीडियो अभी भी एक वाणिज्यिक एआई-डिटेक्शन सेवा को धोखा देता है। वाटरमार्क एक उपयोगी संकेत हैं, लेकिन वे गारंटी नहीं हैं, और वे उसी क्षण गायब हो जाते हैं जब कोई इमेज को स्क्रीनशॉट और क्रॉप करता है।