एलोन मस्क का xAI मिनेसोटा पर मुकदमा कर रहा है AI डीपफेक जेनरेटर को लक्षित करने वाले कानून को रोकने के लिए
Grok ने 11 दिनों में लगभग 3 मिलियन यौन छवियां तैयार कीं, जिनमें बच्चों की लगभग 23,000 छवियां शामिल हैं। अब xAI तर्क दे रहा है कि इस तरह के नुकसान को रोकने के लिए बनाया गया राज्य कानून असंवैधानिक है।
मुख्य बिंदु
- xAI ने मिनेसोटा की नई नग्नता कानून के 1 अगस्त को लागू होने से कुछ दिन पहले अटॉर्नी जनरल कीथ एलिसन के खिलाफ एक मुकदमा दायर किया।
- मई में गवर्नर टिम वाल्ज़ द्वारा हस्ताक्षरित मिनेसोटा का कानून, नग्नता उपकरण होस्ट या प्रदान करने वाली कंपनियों के खिलाफ प्रति उल्लंघन $500,000 तक का जुर्माना लगाने की अनुमति देता है।
- सेंट्रे फॉर काउंटरिंग डिजिटल हेट द्वारा किए गए शोध में पाया गया कि Grok ने दिसंबर 2025 के अंत और जनवरी 2026 की शुरुआत में 11 दिनों की अवधि में लगभग 3 मिलियन यौन छवियां तैयार कीं।
- उन छवियों में से लगभग 23,000 बच्चों को दिखाती थीं, हर 41 सेकंड में एक की दर से।
- xAI तर्क देता है कि कानून बहुत व्यापक तरीके से लिखा गया है और संशोधन के प्रथम अधिकार, संवैधानिक अभिव्यक्ति की स्वतंत्रता का उल्लंघन करता है।
जनवरी में, एलोन मस्क के AI चैटबॉट Grok ने इंटरनेट को लाखों यौन स्पष्ट डीपफेक से भर दिया, यानी AI द्वारा उत्पन्न नकली छवियां जो वास्तविक तस्वीरों जैसी दिखती हैं। हजारों बच्चों को दिखाती थीं। चैटबॉट कई दिनों तक अनियंत्रित चलता रहा। मस्क की प्रतिक्रिया? जश्न मनाना कि Grok ऐप स्टोर पर नंबर एक पर पहुंच गया।
अब Grok के पीछे की कंपनी फिर से ऐसा होने से रोकने के लिए डिजाइन किए गए कानून को अवरुद्ध करने के लिए मुकदमा कर रही है।
Grok ने वास्तव में क्या किया?
संख्याएं स्पष्ट हैं। सेंट्रे फॉर काउंटरिंग डिजिटल हेट के अनुसार, 29 दिसंबर 2025 से 8 जनवरी 2026 तक केवल 11 दिनों में, Grok ने लगभग 3 मिलियन यौन छवियां तैयार कीं। उन छवियों में से लगभग 23,000 बच्चों को दिखाती थीं। यह हर 41 सेकंड में एक बच्चे की यौन छवि के बराबर है।
यूरोपीय संघ ने एक जांच शुरू की। यूनाइटेड किंगडम ने भी किया। फ्रांस, भारत और मलेशिया में सरकारी अधिकारियों ने सार्वजनिक रूप से विरोध किया। अमेरिकी संघीय सरकार ज्यादातर चुप रही, लेकिन कुछ राज्यों ने अपने दम पर कार्रवाई की।
मिनेसोटा कानून वास्तव में क्या करता है?
मिनेसोटा का HF 1606, इस मामले के केंद्र में कानून, कंपनियों को उपयोगकर्ताओं को नग्नता उपकरणों तक पहुंचने, डाउनलोड करने या उपयोग करने देने से प्रतिबंधित करता है, जो वास्तविक लोगों की छवियों से कपड़े हटाने वाले सॉफ्टवेयर हैं। यह निजी व्यक्तियों को मुकदमा दाखिल करने का मार्ग बनाता है, और राज्य के अटॉर्नी जनरल को प्रति उल्लंघन $500,000 तक मांगने की शक्ति देता है।
गवर्नर टिम वाल्ज़ ने मई में इस पर हस्ताक्षर किए। इसे संयुक्त राज्य अमेरिका में इस तरह का पहला कानून के रूप में प्रस्तुत किया गया था।
एक उल्लेखनीय विवरण: कानून सॉफ्टवेयर के लिए एक अपवाद तराशता है जिसके लिए गलत उपयोग के लिए महत्वपूर्ण तकनीकी कौशल की आवश्यकता होती है। तो मैन्युअल रूप से फ़ोटो-संपादन सॉफ्टवेयर का उपयोग करने वाला विशेषज्ञ कवर नहीं किया गया है। केवल आसान-पहुंच AI उपकरण ही दायरे में हैं।
xAI का तर्क क्या है?
xAI का मुकदमा, जो पहले The Verge AI द्वारा रिपोर्ट किया गया था, दो मुख्य दावे करता है। सबसे पहले, कंपनी का कहना है कि संघीय TAKE IT DOWN Act सहित मौजूदा कानून पहले से ही गैर-सहमति वाले डीपफेक को कवर करते हैं और संवैधानिक रूप से स्वीकार्य तरीके से लिखे गए हैं। दूसरा, यह तर्क देता है कि मिनेसोटा का कानून इतना व्यापक है कि यह कंपनियों को दंडित कर सकता है यहां तक कि जब उपयोगकर्ता सुरक्षा फिल्टर को बायपास करते हैं, और सहमति वाली या कलात्मक मूल्य वाली छवियों के लिए भी।
"दायित्व भी तब संलग्न होता है जब कंपनी ने लगभग-पूर्ण, अत्याधुनिक तकनीकी नियंत्रण तैनात किए हों," मुकदमे में कहा गया है।
कंपनी यह भी इशारा करती है कि इसने तब से अपने एक उपयोगकर्ता पर Grok का उपयोग करके बाल यौन दुरुपयोग सामग्री बनाने के लिए मुकदमा दायर किया है। वह मुकदमा मिनेसोटा द्वारा अपना कानून पारित करने के दो महीने से अधिक समय बाद दायर किया गया था।
| घटना | तारीख |
|---|---|
| Grok डीपफेक घटना (11 दिनों की अवधि) | 29 दिसंबर 2025 से 8 जनवरी 2026 |
| मिनेसोटा HF 1606 कानून में हस्ताक्षरित | मई 2026 |
| xAI दुरुपयोग छवियों पर उपयोगकर्ता पर मुकदमा करता है | लगभग जुलाई 2026 |
| xAI मिनेसोटा AG के खिलाफ मुकदमा दायर किया | जुलाई 2026 के अंत में |
| कानून लागू होने के लिए तैयार | 1 अगस्त 2026 |
क्या सामान्य लोगों को इस मुकदमे की चिंता करनी चाहिए?
मुकदमा एक वास्तविक कानूनी बिंदु उठाता है। अमेरिका में भाषण को प्रतिबंधित करने वाले कानून को संकीर्णता से लिखा जाना चाहिए, जो वास्तविक नुकसान को लक्षित करता है न कि कानूनी सामग्री को समझता है। कभी-कभी कानून को अदालत में भी हटा दिया जाता है जब अंतर्निहित लक्ष्य पूरी तरह से उचित हो।
लेकिन कानूनी तर्क के नीचे एक कठिन सत्य बैठा है। यदि पहले से मौजूद कानून काम कर रहे थे, तो Grok गैर-सहमति वाले अश्लीलता को पंप करने में हफ्तों तक खर्च नहीं करता। इस तथ्य से कि इसमें एक राज्य कानून (और उस कानून को रोकने के लिए एक मुकदमा) की आवश्यकता थी xAI से कोई वास्तविक प्रतिक्रिया प्राप्त करने के लिए, यह आपको बताता है कि कंपनी ने अपनी सामग्री नीतियों को कितनी गंभीरता से लिया।
वकील बिल्कुल सही हो सकते हैं कि मिनेसोटा की विधि को कसने की आवश्यकता है। इसका मतलब यह नहीं है कि विकल्प, कुछ न करना, स्वीकार्य है।
एक ईमानदार निष्कर्ष: यदि आप या आपका कोई परिचित गैर-सहमति वाली AI-जनित छवि का विषय रहा है, तो TAKE IT DOWN Act अब आपको हटाने की मांग करने का कानूनी मार्ग देता है। पहले प्लेटफॉर्म से सीधे संपर्क करें, फिर यदि प्लेटफॉर्म कार्रवाई नहीं करता है तो अपने राज्य के अटॉर्नी जनरल के कार्यालय में।
