Anthropic के Claude Mythos ने 10,000 से अधिक सुरक्षा खामियां खोजीं, फिर US सरकार ने प्रतिबंध लगाए
एक शक्तिशाली AI सुरक्षा उपकरण चुपचाप रक्षा विशेषज्ञों को सॉफ्टवेयर बग खोजने का तरीका बदल रहा है। लेकिन इसके निर्माता चिंतित हैं कि इसका उपयोग कौन और कर सकता है।
मुख्य बिंदु
- Anthropic ने Claude Mythos जारी किया, एक AI मॉडल जो साइबरसुरक्षा और स्वास्थ्यसेवा के लिए बनाया गया था, अप्रैल 2023 में चुनिंदा भागीदारों के समूह को।
- Claude Mythos ने 50 प्रौद्योगिकी भागीदारों को प्रमुख ऑपरेटिंग सिस्टम और वेब ब्राउज़र में 10,000 से अधिक गंभीर सुरक्षा खामियां खोजने में मदद की।
- मॉडल ने एक सुरक्षा खामी की खोज की जो OpenBSD, एक प्रकार के कंप्यूटर ऑपरेटिंग सिस्टम के अंदर 27 वर्षों तक अपरिचित रही थी।
- US सरकार ने जून 2023 में Claude Mythos पर निर्यात नियंत्रण लागू किए, हालांकि ये प्रतिबंध दो सप्ताह के भीतर हटा दिए गए।
- Anthropic Mythos तक सीधी पहुंच को सीमित करता है, यह कहते हुए कि साइबर अपराधी इसकी क्षमताओं का हथियार बना सकते हैं।
Anthropic के नए AI मॉडल का प्रचार सम्मेलन या उत्पाद प्रदर्शनी के साथ नहीं हुआ। यह चुपचाप प्रौद्योगिकी भागीदारों के एक छोटे समूह को सौंपा गया, और फिर उन बग को खोजना शुरू कर दिया जो दशकों से सॉफ्टवेयर के अंदर छिपे हुए थे।
जैसा कि ThreatVectr ने पहली बार रिपोर्ट किया, Claude Mythos, एक बड़ा भाषा मॉडल, जिसका अर्थ है ChatGPT जैसे चैटबॉट को शक्ति देने वाली AI तकनीक की एक ही किस्म, अप्रैल 2023 में Anthropic द्वारा Project Glasswing कहे जाने वाले कार्यक्रम के तहत आया। विचार सरल था: रक्षा विशेषज्ञों को एक आगे की शुरुआत देना।
पचास भागीदार संगठनों ने Mythos का उपयोग प्रमुख ऑपरेटिंग सिस्टम और वेब ब्राउज़र में कमजोरियों को स्कैन करने के लिए किया, जो सॉफ्टवेयर में कमजोरियां हैं जिनका हमलावर फायदा उठा सकते हैं। परिणाम चमकदार थे। मॉडल ने 10,000 से अधिक महत्वपूर्ण खामियां खोजीं। उनमें से एक OpenBSD, व्यापक रूप से उपयोग किए जाने वाले ओपन-सोर्स ऑपरेटिंग सिस्टम के अंदर 27 वर्षों तक अपरिचित बैठा रहा।
Mythos कई खामियों को एक साथ जोड़ सकता है, ऐसे हमले के पथों को देखते हुए जो एक मानव शोधकर्ता को प्रत्येक बग को अलग से देखने से याद आ सकते हैं।
वह शक्ति लोगों को चिंतित करती थी।
जून 2023 में, US सरकार ने Mythos और Claude Fable नामक एक संबंधित मॉडल पर अस्थायी निर्यात नियंत्रण लगाए, जो प्रतिबंधित करते थे कि देश के बाहर इन तक कौन पहुंच सकता था। नियंत्रण दो सप्ताह बाद हटाए गए, लेकिन एपिसोड ने एक वास्तविक तनाव को रेखांकित किया: छिपी हुई कमजोरियों को तेजी से खोजने के लिए पर्याप्त उपकरण भी एक उपकरण है जिसका एक अपराधी उनका दुरुपयोग करने के लिए उपयोग कर सकता है।
Anthropic का उत्तर दो-स्तरीय दृष्टिकोण है। Claude Fable Mythos के समान अंतर्निहित तकनीक का उपयोग करता है लेकिन सख्त नियमों के तहत कार्य करता है जो इसे जोखिम भरे सुरक्षा कार्यों में मदद करने से रोकते हैं। यदि कोई अनुरोध इन नियमों से टकराता है, तो Fable Opus 4.8 नामक हल्के मॉडल को सौंपता है, केवल मना करने के बजाय।
साधारण लोगों के लिए इसका क्या मतलब है?
अधिकांश लोगों के लिए, सीधा प्रभाव अदृश्य है, कम से कम अभी के लिए। आपका बैंक, आपके फोन का ऑपरेटिंग सिस्टम, ब्राउज़र जिसमें आप यह पढ़ रहे हैं: उन सभी में कोड है जो सुरक्षा टीमें हमलावरों से पहले जांचने के लिए दौड़ लगा रही हैं। Mythos एक उपकरण है जो उस दौड़ को तेज करता है।
Cisco, जिन कंपनियों के पास प्रारंभिक पहुंच थी उनमें से एक, पहले ही अपना Foundry Security Spec प्रकाशित कर चुका है, एक ओपन-सोर्स परीक्षण ढांचा जिस पर अन्य विक्रेता शुरुआत से ही बना सकते हैं। इस तरह की ज्ञान-साझाकरण महत्वपूर्ण है क्योंकि हमलावर तेजी से आगे बढ़ते हैं और रक्षा विशेषज्ञों को हर संभव शॉर्टकट की आवश्यकता होती है।
आलोचक इस बात से कम आश्वस्त हैं कि कहानी वहीं समाप्त होती है। सुरक्षा शोधकर्ता बताते हैं कि बग खोजना केवल आधा काम है। संगठनों को अभी भी उन्हें ठीक करने के लिए संसाधन और अनुशासन की आवश्यकता है, और अभी तक कोई भी AI मॉडल एक ठग को आपके फोन पर सीधे कॉल करने और आपकी रक्षा को बायपास करने से नहीं रोकता।
इस बारे में जिज्ञासु रहें कि आपके डेटा की सुरक्षा क्या कर रहा है। उपकरण तेजी से सुधार रहे हैं।
