मेटा ने नौ महीने तक बाल यौन शोषण की AI-जनित छवियों वाले विज्ञापन मंजूर किए और प्रकाशित किए

मुख्य बिंदु

• टेक ट्रांसपेरेंसी प्रोजेक्ट के शोधकर्ताओं को नवंबर 2024 और अगस्त 2025 के बीच मेटा के सार्वजनिक विज्ञापन पुस्तकालय में बाल यौन शोषण सामग्री वाले 50 से अधिक भुगतान किए गए विज्ञापन मिले।
• कम से कम एक विज्ञापन आठ यूरोपीय देशों में 2,563 खातों तक पहुंचा, जिनमें यूके, फ्रांस और जर्मनी शामिल हैं।
• मेटा की स्वचालित विज्ञापन-समीक्षा प्रणाली ने विज्ञापनों को मंजूरी दी; कुछ नीति उल्लंघन के लिए मेटा द्वारा समान संस्करणों को हटाने के बाद फिर से दिखाई दिए।
• कई विज्ञापन MaskAI नामक एक ऐप से जुड़े थे, जिसे Apple ने बाद में ऐप स्टोर से हटा दिया।
• मेटा का कहना है कि उसने पिछले साल बाल यौन शोषण सामग्री के 36 मिलियन से अधिक टुकड़े हटाए, लेकिन आलोचकों का कहना है कि बार-बार अनुमोदन भुगतान किए गए विज्ञापन स्क्रीनिंग में गहरी विफलता को दर्शाता है।

नौ महीने तक, मेटा की विज्ञापन प्रणालियों ने विज्ञापनों की समीक्षा की, अनुमोदन दिया और भुगतान एकत्र किया जिनमें बाल यौन शोषण सामग्री, या CSAM (बच्चों के यौन शोषण को दर्शाने वाली छवियां या वीडियो) थी। टेक ट्रांसपेरेंसी प्रोजेक्ट (TTP), एक स्वतंत्र निरीक्षण समूह, ने मेटा के सार्वजनिक विज्ञापन पारदर्शिता पुस्तकालय में 50 से अधिक ऐसे विज्ञापन पाए, एक खोजने योग्य डेटाबेस जो मेटा ने बनाया था ताकि कोई भी देख सके कि उसके प्लेटफॉर्म पर कौन से विज्ञापन चलते हैं।

WIRED ने पहली बार इन निष्कर्षों की रिपोर्ट की।

विज्ञापनों में वास्तव में क्या दिखाया गया?

सामग्री स्पष्ट और जानबूझकर थी। एक वीडियो विज्ञापन ने एक बच्चे का थंबनेल दिखाया, "गहरी कल्पनाओं" के बारे में एक कैप्शन जोड़ा, और जब क्लिक किया गया, तो वयस्क यौन फुटेज चलाई और फिर AI का उपयोग करके बच्चे का चेहरा इसमें डाला। एक अन्य विज्ञापन, बार-बार फिर से पोस्ट किया गया, एक छोटी लड़की को यौन स्थिति में दिखाता है और कैप्शन है "मैं आपको और दिखा सकती हूं।"

एक तीसरे वीडियो ने एक लड़की को लिप ग्लॉस लगाते हुए दिखाया और फिर उसे यौन कार्य करते हुए दिखाया। ये सीमावर्ती मामले नहीं थे।

"इन विज्ञापनों ने छवियों को छिपाने या जो वे प्रचार कर रहे थे उसे छिपाने का कोई प्रयास नहीं किया," TTP की निदेशक केटी पॉल ने WIRED को बताया। उन्होंने जोर दिया कि यह भुगतान किया गया विज्ञापन था, सामग्री जिसकी मेटा ने सक्रिय रूप से समीक्षा की और भुगतान लिया, सामान्य उपयोगकर्ताओं द्वारा अपलोड की गई पोस्ट नहीं जो फिसल गई।

मेटा की प्रणालियों ने यह कैसे मिस किया?

मेटा कहता है कि सभी विज्ञापनों की समीक्षा उन्हें चलाने से पहले की जाती है, मुख्य रूप से स्वचालित उपकरणों का उपयोग करके, सॉफ़्टवेयर जो कंपनी के नियमों के विरुद्ध सामग्री की जांच करता है। ये नियम बाल यौन शोषण सामग्री और किसी भी यौन रूप से सुझावात्मक इमेजरी पर स्पष्ट रूप से प्रतिबंध लगाते हैं।

स्वचालित स्क्रीनिंग बार-बार विफल रही। दूसरे बैच में पाए गए कुछ विज्ञापन, प्रकाशन से कुछ घंटे पहले खोजे गए, WIRED ने मेटा से पहली बार संपर्क करने के बाद पोस्ट किए गए थे। कुछ सक्रिय रूप से खातों तक पहुंच रहे थे जब शोधकर्ताओं ने उन्हें देखा।

बदतर, पॉल कहते हैं कि कुछ फिर से पोस्ट किए गए विज्ञापन उन लोगों के समान थे जिन्हें मेटा ने पहले ही नीति उल्लंघन के लिए हटा दिया था। यदि सिस्टम एक प्रति को हटा सकता है, तो यह तथ्य कि डुप्लिकेट चल रहे थे, यह सवाल उठाता है कि क्या हटाने की प्रक्रिया कोई व्यापक ब्लॉक ट्रिगर करती है।

अधिकांश विज्ञापन मेटा खातों से आए जिनके कुछ या कोई फॉलोअर नहीं थे। जहां भुगतान करने वाले विज्ञापनदाताओं की पहचान की गई, वे चीनी कंपनियों तक जाते हैं। एक विज्ञापन, एक रिक्लाइनिंग लड़की को दिखाता है, विज्ञापनदाता के रूप में मीट सोशल नामक एक चीनी फर्म को सूचीबद्ध करता है, जो पहले मेटा के अधिकृत विज्ञापन रिसेलरों में से एक था चीन में, जहां मेटा के अपने प्लेटफॉर्म अवरुद्ध हैं। मीट सोशल ने टिप्पणी के लिए अनुरोधों का जवाब नहीं दिया।

कई विज्ञापनों ने उपयोगकर्ताओं को MaskAI नामक एक ऐप की ओर निर्देशित किया, जो Apple के ऐप स्टोर पर उपलब्ध था। ऐप अपनी स्टोर लिस्टिंग पर कुछ भी स्पष्ट नहीं दिखाता था, लेकिन एक बार खुलने के बाद इसमें AI-जनित अश्लीलता और एक फेस-स्वैप सुविधा थी जो उपयोगकर्ताओं को यौन इमेजरी में कोई भी अपलोड की गई फोटो डालने देती थी। WIRED ने कंपनी से संपर्क करने के बाद Apple ने MaskAI को हटा दिया।

साधारण लोगों के लिए इसका क्या मतलब है?

यदि आप या आपके बच्चे फेसबुक, इंस्टाग्राम, मैसेंजर या थ्रेड्स का उपयोग करते हैं, तो आपके फीड में भुगतान किए गए विज्ञापन उसी स्वचालित प्रणाली के माध्यम से जाते हैं जिसने इन्हें मंजूरी दी। मेटा के विज्ञापन पुस्तकालय ने विज्ञापनों को फ्रांस, जर्मनी, आयरलैंड, इटली, नीदरलैंड, स्पेन, स्वीडन और यूनाइटेड किंगडम में वास्तविक खातों तक पहुंचते हुए दिखाया। यूएस रीच आंकड़े पुस्तकालय में प्रकाशित नहीं होते हैं, इसलिए कुल दर्शक अज्ञात हैं।

TTP ने अपने निष्कर्षों की सीधे नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रन के CyberTipline को रिपोर्ट की, वह US निकाय जो ऑनलाइन बाल यौन शोषण सामग्री की रिपोर्ट को संसाधित करता है। NCMEC ने विशिष्ट रिपोर्टों पर टिप्पणी नहीं की।

मेटा की प्रतिक्रिया ने सावधानीपूर्वक शब्दों में विफलता को स्वीकार किया। "यौन शोषण भयानक है, और हम इसे हमारे प्लेटफॉर्म से दूर रखने के लिए आक्रामक रूप से काम करते हैं," एक प्रवक्ता ने कहा, यह ध्यान देते हुए कि कंपनी ने हाल ही में विज्ञापनों के लिए नई AI पहचान तकनीक शुरू की है और पिछले साल बाल शोषण सामग्री के 36 मिलियन से अधिक टुकड़े हटाए हैं। कंपनी ने यह भी कहा कि कई विज्ञापनों की पहुंच न्यूनतम थी और WIRED की पूछताछ से पहले कुछ को अक्षम कर दिया गया था।

पॉल का प्रति-बिंदु तीव्र है: मेटा के विज्ञापन पुस्तकालय में सार्वजनिक को एक बार बंद हो जाने के बाद एक उल्लंघन करने वाले विज्ञापन की रिपोर्ट करने का कोई तरीका नहीं है। आप अपराध के साक्ष्य को देख सकते हैं; आप इसे ध्वजांकित नहीं कर सकते।

सामान्य प्रश्न

क्या मैं स्वयं एक संदिग्ध मेटा विज्ञापन की रिपोर्ट कर सकता हूं?

आप फेसबुक या इंस्टाग्राम पर सक्रिय रूप से चल रहे विज्ञापन की रिपोर्ट कर सकते हैं विज्ञापन पर तीन बिंदुओं को टैप करके और "विज्ञापन की रिपोर्ट करें" को चुनकर। मेटा के सार्वजनिक विज्ञापन पुस्तकालय, जहां आप ऐतिहासिक विज्ञापनों को ब्राउज़ करते हैं, वर्तमान में उन विज्ञापनों के लिए कोई निर्मित रिपोर्टिंग उपकरण नहीं है जो अब लाइव नहीं हैं।

क्या कोई मुकदमा दायर किया गया?

इन विशिष्ट विज्ञापनों के परिणामस्वरूप कोई आपराधिक शुल्क या नियामक कार्रवाई सार्वजनिक रूप से घोषित नहीं की गई है। TTP ने सामग्री को NCMEC CyberTipline को रिपोर्ट किया, जो मामलों को कानून प्रवर्तन को भेज सकता है, लेकिन NCMEC ने यह टिप्पणी नहीं की है कि वह क्या कदम उठा रहा है।

क्या Apple के MaskAI हटाने ने नुकसान को रोक दिया?

ऐप स्टोर से ऐप को हटाने से नए डाउनलोड बंद हो जाते हैं। जिसने पहले से MaskAI इंस्टॉल किया है, उसके पास यह अपने डिवाइस पर है जब तक वह इसे मैनुअल रूप से हटा न दे।