मेटा की नई AI वॉटरमार्क पहले ही बुनियादी परीक्षणों में विफल हो रही है

मुख्य बिंदु

• मेटा ने जुलाई 2025 में Content Seal लॉन्च किया, जो केवल अपने नए Muse इमेज जेनरेटर द्वारा बनाई गई इमेजों पर लागू किया जाने वाला एक अदृश्य वॉटरमार्क है।
• रॉयटर्स ने 2025 में Content Seal का परीक्षण किया और पाया कि यह Muse द्वारा जेनरेट की गई आधे से अधिक इमेजों को काटने के बाद डिटेक्ट करने में विफल रहा।
• जब एक परीक्षण इमेज को गूगल के Gemini AI असिस्टेंट और आधिकारिक C2PA डिटेक्शन पोर्टल में डाला गया, तो किसी भी टूल ने यह पुष्टि नहीं की कि इमेज AI द्वारा जेनरेट की गई थी।
• मेटा 2023 से AI इमेज जेनरेशन टूल्स प्रदान कर रहा है, जिसका अर्थ है कि वर्षों के आउटपुट को अपने ही नए सिस्टम द्वारा पहचाना नहीं जा सकता।
• गूगल की SynthID वॉटरमार्किंग तकनीक को OpenAI द्वारा पहले से ही अपनाया जा चुका है, फिर भी मेटा ने इसके बजाय एक अलग, असंगत सिस्टम बनाने का विकल्प चुना।

फेसबुक और इंस्टाग्राम के पीछे की कंपनी मेटा ने जुलाई में शांति से Content Seal नामक एक नया टूल घोषित किया। विचार सीधा है: Meta के AI इमेज जेनरेटर Muse द्वारा बनाई गई प्रत्येक इमेज में एक अदृश्य मुहर बेक की जाती है। आप इसे नहीं देख सकते, लेकिन एक डिटेक्शन टूल इसे पढ़ सकता है और आपको बता सकता है कि इमेज AI द्वारा बनाई गई थी।

अदृश्य वॉटरमार्किंग नई नहीं है। गूगल पहले से ही SynthID नामक एक सिस्टम चलाता है जो उसी तरह काम करता है, और OpenAI भी इसका उपयोग करता है। C2PA Content Credentials नामक एक अलग इंडस्ट्री स्टैंडर्ड भी मौजूद है, जो एक प्रकार का डिजिटल उत्पत्ति प्रमाणपत्र है जो इमेज फाइल के साथ यात्रा करता है, और मेटा पहले से ही इसे बढ़ावा देने वाली स्टीयरिंग समिति पर बैठा है।

तो फिर शुरुआत से एक और सिस्टम क्यों बनाया जाए?

मेटा ने स्पष्ट उत्तर नहीं दिया है। जो उसने दिया है वह कुछ उल्लेखनीय कमियों वाला एक टूल है।

अभी, Content Seal केवल Muse से इमेजों को कवर करता है। यह वीडियो को कवर नहीं करता। यह Meta के पुरानी AI टूल्स के साथ बनाई गई किसी भी चीज़ को कवर नहीं करता, जो 2023 से इमेजें जेनरेट कर रहे हैं। डिटेक्शन टूल एक अलग वेबसाइट है जिसे उपयोगकर्ताओं को स्वयं पर जाना चाहिए। यह Meta AI, कंपनी के चैटबॉट में बनाया नहीं गया है, जिस तरह गूगल की डिटेक्शन Gemini में बनी है।

मेटा भी प्रति दिन कितनी बार कोई इमेज चेक कर सकता है इस पर कैप लगाता है। वह दैनिक सीमा सुरक्षा दृष्टिकोण से समझदारी भरी है, लेकिन यह पैमाने पर डिटेक्शन को आसान बनाने के लक्ष्य के विरुद्ध काम करती है। C2PA की कोई ऐसी कैप नहीं है।

बड़ी समस्या संगतता है। जब The Verge ने एक व्यावहारिक परीक्षा चलाया और एक Muse-जेनरेटेड इमेज को गूगल के Gemini और आधिकारिक C2PA चेकिंग पोर्टल में डाला, तो किसी भी टूल ने इसे AI-निर्मित के रूप में फ्लैग नहीं किया। Content Seal, अभी के लिए, अनिवार्य रूप से केवल अपने आप से बात करता है।

मेटा प्रवक्ता Faith Eischen ने The Verge को बताया कि कंपनी "डिटेक्शन को उन जगहों के करीब लाने के तरीके खोज रही है जहां लोग AI-जेनरेटेड कंटेंट का सामना करते हैं" और "इंडस्ट्री के साथियों के साथ काम करने के लिए दृढ़ संकल्प है।" वह भाषा संकेत देती है कि काम पूरा नहीं है।

रॉयटर्स ने सिस्टम की वास्तविक दुनिया के प्रदर्शन को और भी कमजोर पाया: Content Seal Muse-जेनरेटेड इमेजों में से आधे से अधिक को पहचानने में विफल रहा एक बार जब उन्हें काट दिया गया। क्रॉपिंग सबसे बुनियादी एडिट्स में से एक है जो कोई भी फोटो पर करता है।

क्या साधारण उपयोगकर्ताओं को Content Seal पर विश्वास करना चाहिए?

अभी नहीं, और न ही अकेले। सिस्टम इस मामले में बहुत संकीर्ण है कि यह क्या कवर करता है, अन्य कंपनियों द्वारा उपयोग की जाने वाली टूल्स से बहुत अलग है, और एक साधारण क्रॉप से टूटना बहुत आसान है।

यदि आप फेसबुक या इंस्टाग्राम पर एक "AI" लेबल के साथ कोई इमेज देखते हैं, तो वह लेबल अकेले Content Seal के बजाय मेटाडेटा सिग्नल से आ सकता है। अन्य प्लेटफॉर्म पर, Muse-जेनरेटेड इमेजों के पास कोई लेबल ही नहीं हो सकता है।

निगरानी के लिए क्या देखें:

• सोशल पोस्ट पर एक AI लेबल का मतलब यह नहीं है कि हर AI-निर्मित इमेज को पकड़ा गया है। लेबल की कमी इस बात का प्रमाण नहीं है कि कोई इमेज असली है।
• गूगल में रिवर्स इमेज सर्च या एक समर्पित तथ्य-जांच साइट अभी भी आपका सबसे विश्वसनीय पहला चेक है।
• क्रॉप्ड या रीसाइज की गई इमेजें किसी भी वॉटरमार्क सिस्टम को पढ़ना कठिन हैं, इसलिए भारी रूप से संपादित इमेजों के साथ अतिरिक्त संदेह करें।

रॉयटर्स के शोधकर्ता और The Verge AI की टीम वे हैं जिन्होंने इन कमियों को सामने लाया। उपयुक्त स्थान पर क्रेडिट।