सैन फ्रांसिस्को ने Apple और Google को AI 'Nudify' ऐप्स को हटाने का आदेश दिया
शहर के अटॉर्नी ने दोनों तकनीकी दिग्गजों को 13 ऐप्स के लिए समाप्ति पत्र भेजे हैं जो लोगों की सहमति के बिना नकली नग्न छवियां बनाते हैं।
मुख्य बिंदु
- सैन फ्रांसिस्को सिटी अटॉर्नी डेविड चिउ ने गुरुवार को Apple और Google को अपने स्टोर से 13 विशिष्ट ऐप्स को हटाने की मांग करते हुए कानूनी नोटिस भेजे।
- लक्षित ऐप्स में Apple के ऐप स्टोर पर 8 और Google के Play Store पर 5 शामिल हैं, सभी व्यापक रूप से "फेस-स्वैपिंग" टूल के रूप में विपणन किए जाते हैं।
- कॉर्नेल और जॉर्जटाउन विश्वविद्यालय के शोधकर्ताओं ने मई 2025 में पाया कि उन्होंने जिन फेस-स्वैप ऐप्स का परीक्षण किया उनमें से 70 प्रतिशत बिना किसी सुरक्षा जांच के नग्न डीपफेक उत्पन्न कर सकते हैं।
- टेक ट्रांसपेरेंसी प्रोजेक्ट द्वारा शुरुआत 2025 में चिन्हांकित ऐप्स को लगभग 480 मिलियन बार डाउनलोड किया गया था और अनुमानित $120 मिलियन संयुक्त रूप से अर्जित किए थे।
- Google ने पुष्टि की कि उसने पत्र में नामित पांच Android ऐप्स को हटा दिया; प्रकाशन के समय Apple ने कोई टिप्पणी नहीं की थी।
कल्पना करें कि आप किसी को जानने वाले की फोटो अपलोड करते हैं और कुछ सेकंड में उन्हें नकली नग्न छवि वापस पाते हैं। यही वह है जो ये ऐप्स करते हैं। कोई तकनीकी कौशल आवश्यक नहीं है। बस एक तस्वीर और कुछ टैप।
गुरुवार को, सैन फ्रांसिस्को सिटी अटॉर्नी डेविड चिउ ने Apple और Google को समाप्ति पत्र, विशिष्ट व्यवहार को रोकने के लिए औपचारिक कानूनी मांग, भेजे। वह दोनों कंपनियों को अपने स्टोर से 13 ऐप्स तुरंत हटाना चाहते हैं। ये ऐप्स खुद को फेस-स्वैपिंग टूल के रूप में विज्ञापित करते हैं लेकिन, एक बार खोले जाने के बाद, उपयोगकर्ताओं को AI-उत्पादित अनुमति रहित अंतरंग छवियां बनाने देते हैं, जो उनकी जानकारी या सहमति के बिना बनाई गई वास्तविक लोगों की नकली यौन तस्वीरें हैं।
चिउ के कार्यालय का कहना है कि Apple और Google ने इन ऐप्स से संभवतः "लाखों डॉलर शुल्क में" कमाए हैं, क्योंकि दोनों कंपनियां इन-ऐप खरीद का एक हिस्सा लेती हैं। कैलिफोर्निया कानून डीपफेक पोर्नोग्राफी बनाने वाली सेवाओं का समर्थन करने को प्रतिबंधित करता है, और पत्र कहते हैं कि कंपनियां उस नुकसान को "सहायता और उकसा रही हैं"।
"ये छवियां महिलाओं और लड़कियों को धमकाने, अपमानित करने और धमकाने के लिए उपयोग की जाती हैं," चिउ ने Wired AI को बताया, जिसने पहली बार इस कहानी की रिपोर्ट की। "ऐसे पीड़ित हैं जो आत्मघाती हो गए हैं।"
Google के प्रवक्ता डेन जैक्सन ने पुष्टि की कि कंपनी ने पत्र में नामित पांच Android ऐप्स को हटा दिया, साथ ही "सैकड़ों" अन्य समान ऐप्स भी, और अपने स्टोर के अंदर "nudify" जैसे खोज शर्तों को प्रतिबंधित किया है। Apple ने प्रकाशन से पहले जवाब नहीं दिया।
ये ऐप्स स्टोर द्वारा पहले से ही क्यों नहीं पकड़े गए हैं?
Apple और Google दोनों के पास पोर्नोग्राफी और उत्पीड़न को प्रतिबंधित करने की लिखित नीतियां हैं, लेकिन ये ऐप्स लगातार अपने आप को निर्दोष संपादन उपकरण के रूप में छिपाकर फिसल जाते हैं। कॉर्नेल विश्वविद्यालय और जॉर्जटाउन विश्वविद्यालय के मई 2025 के एक अनुसंधान पत्र ने 155 फेस-स्वैप ऐप्स का परीक्षण किया और पाया कि उनमें से 70 प्रतिशत इसे रोकने के लिए कोई सुरक्षा सुविधाओं के साथ नग्न डीपफेक उत्पादन कर सकते हैं। शोधकर्ताओं ने इन्हें "दोहरे उपयोग" ऐप्स कहा, जिसका अर्थ है ऐसा सॉफ़्टवेयर जो सतह पर हानिरहित दिखता है लेकिन गहरे नुकसान पहुंचा सकता है।
टेक ट्रांसपेरेंसी प्रोजेक्ट, एक स्वतंत्र निरीक्षण समूह, ने जनवरी और अप्रैल 2025 में दोनों स्टोर के पार लगभग 100 ऐसे ऐप्स खोजने की रिपोर्ट की। निदेशक केटी पॉल ने इसे स्पष्ट रूप से कहा: "Apple और Google अपने ऐप स्टोर कितने विश्वस्त और सुरक्षित हैं इसके बारे में बहुत सारे वादे करते हैं। वास्तविकता में यह सिर्फ खेल नहीं है।"
पिछली रिपोर्टिंग में कम से कम 90 स्कूलों में नाबालिगों की नकली यौन छवियां बनाई गई थीं।
चिउ का कहना है कि यदि Apple और Google कार्य नहीं करते हैं तो उनका कार्यालय अतिरिक्त कानूनी कार्रवाई करेगा। "यदि वे सही काम नहीं करते हैं, तो हमें अपने सभी कानूनी विकल्पों पर विचार करना होगा," उन्होंने कहा।
