xAI ने अपने पहले उपयोगकर्ता पर बाल यौन शोषण की छवियों के लिए मुकदमा किया

मुख्य बिंदु

• xAI ने मंगलवार को टेरी वेन हारवुड के खिलाफ एक नागरिक मुकदमा दायर किया, जिसे कंपनी ने सार्वजनिक रूप से आरोप लगाया है कि उन्होंने ग्रोक का उपयोग करके अवैध सामग्री उत्पन्न करने के लिए किया है।
• हारवुड को 2025 की शुरुआत में सीएसएएम की पोषण और वितरण के लिए गिरफ्तार किया गया था, जिसका अर्थ है वास्तविक या एआई-उत्पन्न यौन चित्र जिनमें बच्चे शामिल हैं।
• xAI का कहना है कि हारवुड ने कई महीनों में दो अलग ग्रोक खातों का उपयोग करके कई पीड़ितों की साधारण तस्वीरों से कपड़े हटाए, जिसमें एक लड़की शामिल है जो 10 साल जितनी छोटी दिखाई देती थी।
• साउथ कैरोलिना के अटॉर्नी के कार्यालय के अनुसार, xAI ने कानून प्रवर्तन को सबूत प्रदान किए जो हारवुड की गिरफ्तारी में योगदान दिए।

महीनों से, आलोचकों ने इस बात पर ध्यान दिलाया है कि ग्रोक, एलन मस्क की कंपनी xAI द्वारा निर्मित एआई चैटबॉट, का उपयोग वयस्कों और बच्चों दोनों की गैर-सहमति वाली यौनीकृत छवियां बनाने के लिए किया जा सकता है। xAI ज्यादातर चुप रहा है। मंगलवार को, कंपनी ने अपना पहला सार्वजनिक कदम उठाया: एक ऐसे व्यक्ति के खिलाफ मुकदमा जो पहले से ही हिरासत में बैठा है।

प्रतिवादी टेरी वेन हारवुड है। उसे इस साल की शुरुआत में साउथ कैरोलिना में सीएसएएम रखने और वितरित करने के आरोपों पर गिरफ्तार किया गया था, जिसका मतलब नाबालिगों से संबंधित यौन चित्र हैं। साउथ कैरोलिना के अटॉर्नी के कार्यालय ने पुष्टि की कि xAI ने उस गिरफ्तारी को वास्तविक बनाने में मदद की।

यहाँ बताया गया है कि xAI का कहना है कि हारवुड ने क्या किया। उसने ग्रोक प्लेटफॉर्म पर दो अलग खाते खोले। कई महीनों की अवधि में, उसने चैटबॉट को पीड़ितों की साधारण, गैर-यौन तस्वीरें दीं और इसे "नग्न बनाने" के लिए कहा, जिसका अर्थ है एआई सिस्टम ने विषयों के कपड़ों को डिजिटली हटाकर यौनीकृत छवियां तैयार कीं। एक पीड़ित दस साल जितना छोटा दिखाई देता था।

xAI का कहना है कि उसने यह गतिविधि की खोज की, इसे अधिकारियों को सूचित किया, और अब हारवुड के खिलाफ सीधे एक नागरिक मामले में मुकदमा दायर कर रहा है, जो सरकार द्वारा नहीं बल्कि एक निजी कंपनी द्वारा पैसे या नुकसान के लिए एक कानूनी दावा है।

क्या इसका मतलब यह है कि ग्रोक ने समस्या को ठीक कर दिया है?

नहीं, कम से कम जनता के आधार पर ज्ञात के आधार पर। मुकदमा एक उपयोगकर्ता को उसके बाद लक्ष्य करता है। यह पुष्टि नहीं करता है कि xAI ने तकनीकी अंतराल को बंद कर दिया है जो छवियां बनाने की अनुमति देता है। शोधकर्ताओं और पत्रकारों ने, जैसा कि Ars Technica AI ने व्यापक रूप से रिपोर्ट किया है, बार-बार दिखाया है कि ग्रोक इस तरह की सामग्री उत्पन्न कर रहा है जब कुछ तरीकों से संकेत दिया जाता है।

एक उपयोगकर्ता पर मुकदमा एक सार्थक कदम है। यह संकेत देता है कि xAI कानून प्रवर्तन के साथ सहयोग करने और कानूनी कार्रवाई करने के लिए तैयार है। लेकिन यह एक ऐसे अपराध की प्रतिक्रिया है जो पहले से ही हुआ है, इसका प्रमाण नहीं कि उपकरण का अब गलत उपयोग नहीं किया जा सकता है।

किसी भी एआई इमेज टूल के सामान्य उपयोगकर्ताओं के लिए, व्यावहारिक बिंदु यह है: ये प्लेटफॉर्म गतिविधि को लॉग करते हैं। xAI ने अपने आंतरिक रिकॉर्ड के माध्यम से हारवुड की पहचान की और वह डेटा जांचकर्ताओं को दे दिया। कोई भी जो मानता है कि एआई-उत्पन्न सामग्री परिणाम-मुक्त स्थान में मौजूद है, उसे इस मामले को सावधानीपूर्वक देखना चाहिए।

हारवुड को राज्य से आपराधिक आरोपों का सामना करना पड़ रहा है। xAI की नागरिक मुकदमे इस प्रक्रिया के साथ-साथ चलती है, अलग से अदालतों के माध्यम से अपना स्वयं का समाधान मांग रही है।