एक चीनी AI मॉडल पश्चिमी सर्वश्रेष्ठ सिस्टम के करीब है। इसका सुरक्षा रिकॉर्ड नहीं है।

मुख्य बिंदु

• GLM-5.2, चीन की Z.ai से एक ओपन-वेट AI मॉडल, 2025 SaferAI रिपोर्ट के अनुसार खतरनाक साइबर और जीव विज्ञान क्षमताओं में OpenAI के GPT-5.5 और Anthropic के Claude Opus 4.7 से केवल कुछ महीने पीछे है।
• GLM-5.2 ने SaferAI के मूल्यांकन में शून्य आक्रामक साइबर या द्वैध-उपयोग जीव विज्ञान कार्यों को अस्वीकार किया; Claude Opus 4.7 इतनी लगातार अस्वीकार करता है कि इस परीक्षण को इसमें बिल्कुल भी पूरा नहीं किया जा सका।
• क्योंकि GLM-5.2 के मॉडल वेट (कच्ची फाइलें जो AI को चलाती हैं) सार्वजनिक रूप से डाउनलोड करने योग्य हैं, कोई भी सुरक्षा सेटिंग Z.ai अपनी होस्ट की गई सेवा में लागू करता है, एक बार जब कोई इसे अपने कंप्यूटर पर चलाता है तो मॉडल का अनुसरण नहीं कर सकता।
• SaferAI कहता है कि Z.ai ने GLM-5.2 के लिए कोई सुरक्षा रूपरेखा, पूर्व-तैनाती परीक्षण प्रतिबद्धताएं, या जोखिम आकलन प्रकाशित नहीं किया।
• रक्षक और हमलावर दोनों ओपन-वेट मॉडल का उपयोग करते हैं; Hugging Face ने कथित तौर पर GLM-5.2 का उपयोग OpenAI से जुड़े एक हाल के उल्लंघन को रोकने में मदद करने के लिए किया।

एक चीनी AI मॉडल दुनिया की सबसे सक्षम प्रणालियों के करीब आ गया है, और एक सुरक्षा गैर-लाभकारी संस्था कहती है कि यह लगभग कुछ भी करने में मदद करेगा जो एक उपयोगकर्ता पूछता है, जिसमें ऐसे कार्य शामिल हैं जो साइबर हमलों या खतरनाक जीव विज्ञान प्रयोगों को बढ़ावा दे सकते हैं।

SaferAI, एक AI सुरक्षा गैर-लाभकारी संस्था, ने GLM-5.2 का परीक्षण किया, चीनी कंपनी Z.ai से नवीनतम ओपन-वेट मॉडल, और पाया कि आक्रामक साइबर सुरक्षा और द्वैध-उपयोग जीव विज्ञान (जिसका मतलब जैविक ज्ञान है जिसे नुकसान पहुंचाने के लिए गलत इस्तेमाल किया जा सकता है) में इसकी क्षमताएं केवल कुछ महीने पीछे हैं OpenAI के GPT-5.5 और Anthropic के Claude Opus 4.7 से, जो वर्तमान में सबसे शक्तिशाली AI सिस्टम के बीच हैं। यह मूल्यांकन पहली बार TechCrunch AI द्वारा रिपोर्ट किया गया था।

परीक्षणों ने वास्तव में क्या दिखाया?

GLM-5.2 ने SaferAI द्वारा दिए गए हर आक्रामक साइबर और द्वैध-उपयोग जीव विज्ञान कार्य को पूरा किया। इसके विपरीत, Claude Opus 4.7 इतनी लगातार अस्वीकार करता है कि मूल्यांकनकर्ता CyberGym पूरा नहीं कर सके, एक बेंचमार्क जो एक मॉडल की साइबर सुरक्षा क्षमताओं को स्कोर करता है।

SaferAI कार्यकारी निदेशक Henry Papadatos ने इसे स्पष्ट रूप से कहा: "क्षमता की सीमा जोखिम की सीमा नहीं है, और इसलिए हमें जोखिम का ठीक से आकलन करने के लिए शमन की स्थिति को भी ध्यान में रखना होगा।"

क्षमता के अंतर को बंद करना स्वचालित रूप से एक समस्या नहीं है। यह केवल तभी समस्या बनता है जब सुरक्षा प्रथाएं तालमेल नहीं रखती हैं।

Z.ai केवल खतरनाक अनुरोधों को ब्लॉक क्यों नहीं कर सकता?

Z.ai कर सकता है, और करता है, GLM-5.2 के संस्करण को सुरक्षा फ़िल्टर लागू करता है जो यह अपने स्वयं के सर्वर पर होस्ट करता है। समस्या यह है कि GLM-5.2 ओपन-वेट है: अंतर्निहित मॉडल फाइलें किसी के द्वारा डाउनलोड करने योग्य हैं। एक बार जब कोई व्यक्ति इन फाइलों को डाउनलोड करता है और मॉडल को अपने स्वयं के हार्डवेयर पर चलाता है, तो Z.ai के फ़िल्टर उनके साथ बिल्कुल कहीं नहीं जाते हैं।

OpenAI और Anthropic जैसी कंपनियों से बंद मॉडल क्लासिफायर (सॉफ्टवेयर जो अनुरोधों को स्कैन करता है और हानिकारक लोगों को फ्लैग करता है), अस्वीकार प्रशिक्षण (मॉडल को खतरनाक संकेतों के लिए 'नहीं' कहना सिखाना), और API-स्तर के नियंत्रण (सेवा इंटरफेस में बेक किए गए नियम) पर निर्भर करते हैं। उनमें से कोई भी उपकरण किसी और की मशीन पर चलने वाले ओपन-वेट मॉडल तक नहीं पहुंचते हैं।

यहां तक कि बंद मॉडल भी हवा-तंग नहीं हैं। AI सुरक्षा गैर-लाभकारी संस्था Far.ai की एक अलग रिपोर्ट ने xAI के Grok 4.5 और Google DeepMind के Gemini 3.1 Pro सहित मॉडल में सैकड़ों पुनः प्रयोज्य "जेलब्रेक" (ट्रिक्स जो एक मॉडल को अपने सुरक्षा नियमों को अनदेखा करने के लिए मूर्ख बनाते हैं) पाए। हमलावर आमतौर पर एक मॉडल की रक्षा को पार करने के लिए रोलप्ले परिदृश्य, नकली अधिकार, और गढ़ी गई बातचीत का इतिहास संयोजित करते हैं।

वास्तव में क्या किया जा सकता है?

एक आंशिक समाधान एक मॉडल बनाने से पहले प्रशिक्षण डेटा को फ़िल्टर करना है, खतरनाक साइबर सुरक्षा सामग्री को हटाना ताकि मॉडल इसे कभी न सीखे। कुछ शोध से पता चलता है कि यह कुल कार्यक्षमता को चोट पहुंचाए बिना हानिकारक जैविक ज्ञान को काट सकता है। साइबर सुरक्षा कठिन है: एक मॉडल जो अच्छी तरह से कोड करता है, लगभग परिभाषा के अनुसार, एक सक्षम हैकर है, और कोडिंग वह है जहां AI कंपनियां अपना अधिकांश पैसा कमाती हैं।

Anthropic ने अपने Opus 5 मॉडल कार्ड के साथ एक संकीर्ण दृष्टिकोण अपनाया है, मॉडल को असंकलित स्रोत कोड में कमजोरियां खोजने की अनुमति देता है लेकिन संकलित सॉफ्टवेयर में नहीं, सीधे हमलों के लिए इसका उपयोग करना कठिन बनाता है।

विडंबना से, ओपन-वेट मॉडल रक्षकों की भी मदद करते हैं। Hugging Face ने कथित तौर पर GLM-5.2 का उपयोग एक हाल के उल्लंघन को रोकने में मदद करने के लिए किया। CEO Clem Delangue ने इस सप्ताह लिखा कि एक AI-संचालित हमले को रोकने के लिए उपयोग की जाने वाली समान प्रणालियां "अब हर दिन लाखों साइबर हमलों से बचाव में मदद कर सकती हैं।"

Papadatos को संदेह है कि लाभ जोखिम को सही ठहराता है। "डिफ़ॉल्ट रूप से हमलावर रक्षकों की तुलना में नई उपकरणों को तेजी से अपनाते हैं," उन्होंने कहा। "एक रैनसमवेयर समूह एक सप्ताह में अपने तरीकों को बदल सकता है। एक अस्पताल नहीं कर सकता।"

मॉडल	डेवलपर	CyberGym कार्यों को अस्वीकार किया?	वेट सार्वजनिक रूप से डाउनलोड करने योग्य?
GLM-5.2	Z.ai (चीन)	नहीं	हां
Claude Opus 4.7	Anthropic	हां (पूर्ण रूप से)	नहीं
GPT-5.5	OpenAI	आंशिक	नहीं
Grok 4.5	xAI	आंशिक (जेलब्रेक पाए गए)	नहीं
Gemini 3.1 Pro	Google DeepMind	आंशिक (जेलब्रेक पाए गए)	नहीं

सामान्य प्रश्न

क्या इसका मतलब है GLM-5.2 डाउनलोड करना अवैध है?

नहीं। एक ओपन-वेट AI मॉडल को डाउनलोड करना और चलाना अधिकांश देशों में कानूनी है। चिंता डाउनलोड स्वयं नहीं है बल्कि कोई एक मॉडल के साथ क्या कर सकता है जो कोई भी हानिकारक अनुरोध अस्वीकार नहीं करता है।

साधारण लोगों को इससे क्या लेना-देना चाहिए?

यदि आप किसी भी AI चैटबॉट या सेवा का उपयोग करते हैं, तो यह जानने योग्य है कि अंतर्निहित मॉडल की सुरक्षा अत्यंत भिन्न होती है। बंद, सुरक्षा-परीक्षित मॉडल पर निर्मित उपकरण स्वतंत्र रूप से डाउनलोड करने योग्य, अप्रतिबंधित मॉडल पर निर्मित लोगों की तुलना में कम जोखिम रखते हैं।

क्या चीन इसमें से किसी को विनियमित कर रहा है?

चीन के पास AI विनियम हैं, लेकिन Stanford Cyber Policy Center के शोधकर्ता Graham Webster के अनुसार, वे ऐतिहासिक रूप से राजनीतिक रूप से संवेदनशील सामग्री और सामाजिक स्थिरता पर ध्यान केंद्रित करते हैं न कि तबाही के जोखिमों पर जैसे साइबर हमलों या जैविक दुरुपयोग।