xAI ने उस व्यक्ति पर मुकदमा दायर किया जिसने कथित रूप से Grok का उपयोग करके बाल शोषण छवियां बनाई हैं
एलन मस्क की AI कंपनी ने एक उपयोगकर्ता के खिलाफ AI-जनित दुर्व्यवहार सामग्री के लिए अपनी पहली कानूनी कार्रवाई की है, इसके बाद साउथ कैरोलिना के एक व्यक्ति को आठ गंभीर आरोपों पर गिरफ्तार किया गया था।
मुख्य बिंदु
- xAI, एलन मस्क की कृत्रिम बुद्धिमत्ता कंपनी, ने 2025 में अपने Grok चैटबॉट के कथित दुरुपयोग के लिए साउथ कैरोलिना के निवासी Terry Wayne Harwood के खिलाफ मुकदमा दायर किया।
- Harwood को फरवरी 2025 में बाल यौन शोषण सामग्री के कब्जे और वितरण से संबंधित आठ गंभीर आरोपों पर गिरफ्तार किया गया था।
- xAI का दावा है कि Harwood ने Grok के निर्मित सुरक्षा फ़िल्टर को बाईपास करके साधारण फोटोग्राफ को विषय के ज्ञान के बिना यौन रूप से स्पष्ट छवियों में बदल दिया।
- यह पहली बार है कि xAI ने Grok के साथ अवैध सामग्री उत्पन्न करने के लिए किसी उपयोगकर्ता पर मुकदमा दायर किया है।
- xAI अदालत से Harwood को कभी भी xAI खाता बनाने से प्रतिबंधित करने और कंपनी के कानूनी खर्चों के लिए भुगतान करने के लिए कह रहा है।
एक AI चैटबॉट जो प्रश्नों का उत्तर देने और छवियां उत्पन्न करने के लिए डिज़ाइन किया गया है, अब अपनी स्वयं की कंपनी को अदालत में ले आया है, वादी के पक्ष में।
xAI, एलन मस्क के स्वामित्व वाली कृत्रिम बुद्धिमत्ता कंपनी, ने साउथ कैरोलिना के Terry Wayne Harwood के खिलाफ मुकदमा दायर किया, उसे Grok, कंपनी के AI चैटबॉट का उपयोग करके बाल यौन शोषण सामग्री (CSAM, जिसका अर्थ है बच्चों के शोषण की अवैध छवियां) बनाने का आरोप लगाया। The Verge AI द्वारा सबसे पहले इस मुकदमे की रिपोर्ट दी गई थी।
Harwood पहले से ही गिरफ्तारी में था। पुलिस ने उसे फरवरी 2025 में इस तरह की सामग्री के कब्जे और वितरण के लिए आठ गंभीर आरोपों पर पकड़ा। अब xAI आपराधिक मामले के अलावा नागरिक जवाबदेही चाहता है।
कंपनी का दावा है कि Harwood ने जानबूझकर Grok की सुरक्षा उपायों के आसपास काम किया, सॉफ्टवेयर में निर्मित स्वचालित नियम जो हानिकारक आउटपुट को अवरुद्ध करते हैं, साधारण, गैर-यौन तस्वीरों को वास्तविक लोगों की यौन रूप से स्पष्ट छवियों में परिवर्तित करने के लिए। विषयों को इसका कोई अंदाजा नहीं था।
यह पहली जगह कैसे संभव हुआ?
पिछले साल, xAI ने "spicy" मोड नामक एक सुविधा पेश की, जिसने Grok के अंदर कुछ सामग्री प्रतिबंधों को शिथिल कर दिया। बाद में इसने छवि संपादन उपकरण जोड़े। आलोचकों ने लगभग तुरंत चेतावनी दी कि इन सुविधाओं का दुरुपयोग किया जा सकता है। कुछ महीनों के भीतर, यौनकृत AI डीपफेक की एक लहर, यानी AI द्वारा बनाई गई नकली छवियां जो वास्तविक दिखती हैं, ऑनलाइन परिचालित होने लगीं, जिनमें नाबालिगों को दर्शाती छवियां भी शामिल थीं।
मार्च 2025 में, किशोरों के एक समूह ने xAI पर सीधे मुकदमा दायर किया, यह दावा करते हुए कि Grok ने उनकी यौन छवियां उत्पन्न की थीं। एलन मस्क ने सार्वजनिक रूप से जवाब दिया, कहा कि कोई भी जो Grok का उपयोग करके अवैध सामग्री बनाएगा उसे उसी परिणामों का सामना करना पड़ेगा जैसे कोई इसे अपलोड करता है। Harwood मुकदमा पहली बार प्रतीत होता है कि xAI ने वास्तव में अदालत में इस धमकी को पूरा किया है।
साधारण लोगों के लिए इस मुकदमे का क्या मतलब है?
नियमित Grok उपयोगकर्ताओं के लिए, दिन-प्रतिदिन कुछ नहीं बदलता है, लेकिन मुकदमा एक स्पष्ट संकेत भेजता है: xAI उन व्यक्तिगत उपयोगकर्ताओं का पीछा करने के लिए तैयार है जो इसके नियमों को तोड़ते हैं, न कि केवल तब जब पीड़ित कंपनी पर मुकदमा करते हैं।
xAI ने अदालत को बताया कि Harwood की कार्रवाइयों ने कंपनी को गंभीर कानूनी जोखिम और प्रतिष्ठा को नुकसान के संपर्क में रखा। कंपनी चाहती है कि एक न्यायाधीश Harwood को नुकसान का भुगतान करने, किसी भी पीड़ित मुकदमों से xAI के कानूनी बिल कवर करने, और सभी xAI उत्पादों से स्थायी प्रतिबंध का आदेश दे।
उन लोगों के लिए जो AI छवि उपकरणों के उपयोग के बारे में चिंतित हैं जो उन्हें या उनके बच्चों की नकली छवियां बनाने के लिए हो सकते हैं, व्यावहारिक कदम अभी भी वही है जो कई वर्षों से रहा है: सावधान रहें कि आप ऑनलाइन कौन सी तस्वीरें सार्वजनिक रूप से साझा करते हैं। AI दुरुपयोग को तेज़ और सस्ता बनाता है, लेकिन स्रोत सामग्री को कहीं से आना अभी भी है।
