यूके के बच्चे रिकॉर्ड दर पर अपने स्पष्ट डीपफेक की रिपोर्ट कर रहे हैं
एक सेवा जो युवा लोगों को इंटरनेट से अंतरंग छवियों को हटाने में मदद करती है, कहती है कि एआई-जनित नग्नता सहित डिजिटल रूप से नकली सामग्री तेजी से बढ़ रही है। विशेषज्ञ चेतावनी देते हैं कि इसे संभव बनाने वाले उपकरण केवल खोजने में आसान हो रहे हैं।
मुख्य बिंदु
- रिपोर्ट रिमूव सेवा, जो लोगों को अंतरंग छवियों को ऑफलाइन लेने में मदद करती है, ने यूके में बच्चों को शामिल करते हुए डीपफेक और एआई-हेराफेरी वाली छवियों में तेजी से वृद्धि दर्ज की है।
- एआई नग्नकरण उपकरण, सॉफ़्टवेयर जो नकली स्पष्ट छवियां बनाने के लिए कपड़े हटाते हैं, अधिक सुलभ और उपयोग करना आसान हो गए हैं।
- एक सुरक्षा निरीक्षक कहता है कि कृत्रिम बुद्धिमत्ता सीधे इस प्रकार की सामग्री तैयार करने के लिए बाधा को कम कर रही है।
- रिपोर्ट रिमूव एक गुमनाम फ्लैगिंग सेवा है, जिसका अर्थ है कि बच्चे अपनी पहचान प्लेटफॉर्म को प्रकट किए बिना छवियों की रिपोर्ट कर सकते हैं।
यूके में बढ़ती संख्या में बच्चों को अपनी स्पष्ट नकली छवियां ऑनलाइन परिचालित होती हुई मिल रही हैं, और उन छवियों को बनाने वाले उपकरण प्रतिदिन उपयोग करना सरल हो रहे हैं।
रिपोर्ट रिमूव, इंटरनेट वॉच फाउंडेशन और दान संगठन चाइल्डलाइन द्वारा संचालित एक गुमनाम फ्लैगिंग सेवा, डिजिटल रूप से हेराफेरी की गई छवियों को शामिल करते हुए मामलों में तेजी से वृद्धि देखी है। इसमें एआई से बदली गई तस्वीरें और तथाकथित नग्नकरण उपकरण शामिल हैं, सॉफ़्टवेयर जो किसी वास्तविक व्यक्ति की साधारण तस्वीर लेता है और बिना कपड़ों के उनका नकली संस्करण बनाता है।
यह सेवा बच्चों को सामग्री की मेजबानी करने वाले प्लेटफॉर्म को अपनी पहचान दिए बिना अंतरंग छवियों की रिपोर्ट करने देती है। एक बार रिपोर्ट किए जाने के बाद, छवियां ऑनलाइन दिखाई देने से अवरुद्ध हो जाती हैं।
इन बच्चों के साथ वास्तव में क्या हो रहा है?
कोई बच्चे की वास्तविक तस्वीर लेता है, अक्सर सोशल मीडिया प्रोफाइल से, और इसे नकली स्पष्ट संस्करण बनाने के लिए एआई उपकरण के माध्यम से चलाता है। बच्चे ने कभी सहमति नहीं दी। छवि विश्वास्य दिखती है। और यह फैलता है।
इस प्रकार की सामग्री को कभी-कभी डीपफेक कहा जाता है, एक नकली फोटो या वीडियो जो एआई द्वारा उत्पन्न होता है जो वास्तविक व्यक्ति की तरह दिखता है। यूके में 18 वर्ष से कम उम्र के किसी भी व्यक्ति की ऐसी छवियां बनाना या साझा करना एक आपराधिक अपराध है, लेकिन इसने मात्रा में वृद्धि को नहीं रोका है।
द गार्डियन ने पहली बार निष्कर्षों की रिपोर्ट की, निरीक्षक की चेतावनी का हवाला देते हुए कि एआई इस दुर्व्यवहार को पहले से कहीं अधिक आसान बना रहा है।
माता-पिता और युवा लोगों को क्या करना चाहिए?
यदि कोई बच्चा अपनी स्पष्ट नकली छवि ऑनलाइन पाता है, तो वह बिना अपना नाम दिए रिपोर्ट रिमूव को इसकी रिपोर्ट कर सकता है। सेवा मेजबानी करने वाले प्लेटफॉर्म से संपर्क करती है और सामग्री को हटाने के लिए काम करती है।
माता-पिता सोशल मीडिया पर बच्चों द्वारा जो कुछ सार्वजनिक रूप से साझा किया जाता है, उसके बारे में एक ईमानदार बातचीत करके मदद कर सकते हैं। स्कूल के खेल के दिन या जन्मदिन की पार्टी में ली गई तस्वीर सेकंड में स्रोत सामग्री बन सकती है। सोशल प्रोफाइल पर कठोर गोपनीयता सेटिंग्स एक दुर्व्यवहार करने वाले द्वारा शोषण किए जा सकने वाली छवियों के पूल को कम करते हैं।
स्कूलों और सुरक्षा दलों को भी पता होना चाहिए कि यह अब दुर्लभ नहीं है। संख्या तेजी से बढ़ रही है, और ये छवियां बनाने वाले उपकरण खोजना कठिन नहीं हैं।
प्रभावित किसी भी व्यक्ति के लिए, चाइल्डलाइन हेल्पलाइन (0800 1111) छवि-आधारित दुर्व्यवहार के आसपास गोपनीय समर्थन प्रदान करती है।
