गूगल कहता है कि इसके टूल्स ने 100 बिलियन एआई इमेज बनाने में मदद की। एक वॉटरमार्क इन्हें लेबल कर सकता है, लेकिन क्या वह नुकसान को रोक सकता है?
एआई द्वारा जेनरेट की गई कंटेंट की मात्रा हैरान करने वाली है। गूगल का SynthID वॉटरमार्किंग टूल इस कंटेंट को टैग कर सकता है, लेकिन शोधकर्ता और पत्रकार अभी भी बहस कर रहे हैं कि एक लेबल काफी है या नहीं।
मुख्य बिंदु
- स्टार्लिंग लैब, स्टैनफोर्ड विश्वविद्यालय और दक्षिणी कैलिफोर्निया विश्वविद्यालय के एक शोध सहयोग का अनुमान है कि मानवता को 1.5 बिलियन तस्वीरें बनाने में 149 साल लगे; जेनरेटिव एआई ने इसे 18 महीने में हासिल कर लिया।
- गूगल ने इस वसंत अपने I/O डेवलपर कॉन्फ्रेंस में घोषणा की कि इसके टूल्स ने मात्र कुछ वर्षों में 100 बिलियन से अधिक एआई इमेज और वीडियो बनाने में मदद की है।
- गूगल SynthID के आसपास साझेदारी का विस्तार कर रहा है, जो एआई-जेनरेट की गई कंटेंट को टैग करने की इसकी तकनीक है, ताकि अधिक प्लेटफॉर्म इसका उपयोग कर सकें।
- SynthID निर्माण के समय एआई कंटेंट को लेबल कर सकता है, लेकिन यह लेबल नकली इमेज को किसी के जांच से पहले फैलने से नहीं रोक सकता।
इसे संख्या में रखें: मानवता ने 149 वर्षों तक तस्वीरें लीं और फिर 1.5 बिलियन इमेज तक पहुंची। जेनरेटिव एआई, सॉफ्टवेयर जो टेक्स्ट प्रॉम्प्ट से फोटो, वीडियो और ऑडियो बनाता है, इसी स्तर तक 18 महीने में पहुंच गया। ये आंकड़े स्टार्लिंग लैब से आते हैं, स्टैनफोर्ड विश्वविद्यालय और दक्षिणी कैलिफोर्निया विश्वविद्यालय द्वारा संयुक्त रूप से संचालित एक शोध सहयोग जो डिजिटल मीडिया के प्रमाणीकरण का अध्ययन करता है।
फिर गूगल एक बड़ी संख्या के साथ आया। इस वसंत अपने I/O कॉन्फ्रेंस में, कंपनी ने कहा कि इसके टूल्स को मात्र कुछ वर्षों में 100 बिलियन से अधिक एआई इमेज और वीडियो बनाने के लिए उपयोग किया गया था। Ars Technica द्वारा पहली बार रिपोर्ट किए गए, यह आंकड़ा केवल गूगल के अपने उत्पादों को कवर करता है। दर्जनों अन्य कंपनियां भी इमेज और वीडियो जेनरेटर चलाती हैं।
SynthID क्या है, और यह कैसे काम करता है?
SynthID एक सरल सवाल का गूगल का जवाब है: एक बार एआई इमेज बन जाने के बाद, कोई कैसे जान सकता है कि यह नकली है? यह टूल एक अदृश्य वॉटरमार्क, पिक्सेल या ऑडियो डेटा में बुना हुआ एक छिपा हुआ सिग्नल, उस क्षण कंटेंट में डालता है जब गूगल की सिस्टम इसे बनाती है। एक अलग डिटेक्टर बाद में उस सिग्नल को पढ़ सकता है।
वॉटरमार्क आश्चर्यजनक रूप से बहुत सारे नुकसान को सहन करता है। क्रॉपिंग, कलर फिल्टर और स्क्रीनशॉट दोबारा सेव आमतौर पर इसे बरकरार रखते हैं।
गूगल ने I/O घोषणा का उपयोग नई साझेदारी की पुष्टि करने के लिए किया जो SynthID को अधिक प्लेटफॉर्म तक फैलाएगी, जिसका मतलब है कि अन्य स्थानों पर बनाई गई अधिक एआई कंटेंट टैग ले सकती है।
तो क्या समस्या हल हो गई है?
बिल्कुल नहीं। एक वॉटरमार्क एक लेबल है, एक ताला नहीं।
SynthID टैग वाली कंटेंट सोशल मीडिया, मैसेजिंग ऐप्स और न्यूज फीड में लंबे समय तक फैल सकती है, इससे पहले कि कोई डिटेक्टर इसे स्कैन करे। अधिकांश साधारण लोगों के पास खुद जांच करने का कोई तरीका नहीं है, और प्लेटफॉर्म को भी चेतावनी दिखाने की आवश्यकता नहीं है भले ही वे कर सकते हों।
ऐसी कंटेंट भी है जिसे कभी टैग ही नहीं किया जाता। SynthID केवल उसे चिन्हित करता है जो गूगल के अपने टूल्स से बनता है। किसी प्रतिद्वंद्वी जेनरेटर से बनाई गई कोई भी इमेज, या पुराने ओपन-सोर्स सॉफ्टवेयर से जिसे कोई भी डाउनलोड करके स्थानीय रूप से चला सकता है, बिल्कुल भी वॉटरमार्क नहीं रखती।
पाठकों को क्या देखना चाहिए?
लेबलिंग तकनीक वास्तव में उपयोगी है और इसका होना मूल्यवान है। लेकिन मात्रा यहां असली कहानी है। जब किसी भी एकल कंपनी के टूल्स दो वर्षों में 100 बिलियन सिंथेटिक मीडिया बना सकते हैं, तो यथार्थवादी जोखिम एक ही आश्वस्त करने वाले डीपफेक नहीं है; यह प्रशंसनीय दिखने वाली नकली कंटेंट का एक सागर है जो मानवीय क्षमता को इसका सवाल उठाने के लिए अभिभूत करता है।
कुछ व्यावहारिक आदतें मदद करती हैं। किसी भी फोटो को रिवर्स-इमेज सर्च करें जो मजबूत प्रतिक्रिया उत्पन्न करने के लिए डिजाइन किया गया प्रतीत हो। जांचें कि कोई कहानी साझा करने से पहले एक से अधिक विश्वसनीय आउटलेट पर दिखाई देती है या नहीं। यदि कोई वीडियो किसी को कुछ चौंकाने वाला कहते हुए दिखाता है, तो इसे विश्वास करने से पहले एक नामांकित पत्रकार से टेक्स्ट ट्रांसक्रिप्ट खोजें।
वॉटरमार्क एक शुरुआत है। संदेह अभी भी बेहतर टूल है।
