हैकर्स को रोकने के लिए बनाए गए AI सुरक्षा उपाय अब हैकर्स को रोकने वालों को ही ब्लॉक कर रहे हैं

मुख्य बिंदु

• Anthropic के AI मॉडल Mythos और Fable को जून में अमेरिकी सरकार के निर्यात नियंत्रण का सामना करना पड़ा, जिससे देश के बाहर उन तक पहुंच प्रतिबंधित हो गई।
• Anthropic और OpenAI दोनों सत्यापित कार्यक्रम चलाते हैं जो मंजूर साइबर सुरक्षा शोधकर्ताओं को उनके AI उपकरणों तक थोड़ी ढीली पहुंच देते हैं।
• कई आक्रामक सुरक्षा शोधकर्ता कहते हैं कि फिल्टर अभी भी आवश्यक कार्य को ब्लॉक करते हैं और इन कार्यक्रमों के अंदर भी अप्रत्याशित परिणाम देते हैं।
• कुछ शोधकर्ता कहते हैं कि प्रतिबंध उन्हें चीनी ओपन-सोर्स AI मॉडल, जैसे GLM, की ओर धकेलते हैं, जिनमें कोई फिल्टर या सत्यापन नहीं है।
• एक स्मार्टफोन-घटक निर्माता के शोधकर्ता ने कहा कि उनकी टीम के AI उपकरण सुरक्षा कार्य के लिए लगभग बेकार हो गए क्योंकि किसी ने सत्यापित कार्यक्रम के लिए आवेदन नहीं किया था।

साइबर सुरक्षा हमेशा से एक दो-पक्षीय खेल रहा है। वही ज्ञान जो किसी रक्षक को एक छेद को ठीक करने देता है, एक हमलावर को उसके माध्यम से घुसने देता है। अब AI उपकरण इस तनाव के बीच आ गए हैं, और उनमें बने सुरक्षा उपाय उन लोगों को निराश करना शुरू कर दिया है जिनकी वे सुरक्षा के लिए बनाए गए थे।

वास्तव में क्या गलत हो रहा है?

AI कंपनियां अपने मॉडल पर गार्डरेल लगाती हैं, यानी स्वचालित नियम जो सॉफ्टवेयर को ऐसे प्रश्नों का उत्तर देने से रोकते हैं जिन्हें वे खतरनाक मानते हैं, ताकि अपराधी उन्हें मैलवेयर बनाने या हमलों की योजना बनाने के लिए उपयोग न कर सकें। समस्या यह है कि वे ही नियम वैध सुरक्षा शोधकर्ताओं को उनका काम करने से ब्लॉक कर देते हैं।

NCC Group सुरक्षा परामर्श फर्म के मुख्य वैज्ञानिक क्रिस एनली ने एक स्पष्ट उदाहरण दिया। जब वह किसी AI मॉडल से सॉफ्टवेयर बग का शोषण करने की कोशिश करने को कहता है, तो वह परीक्षण कर रहा होता है कि बग वास्तविक है और ठीक करने के लिए पर्याप्त खतरनाक है। एक गार्डरेल जो उस अनुरोध को मना करता है, किसी की सुरक्षा नहीं करता। यह केवल खामी को अपुष्ट रखता है और संभावित रूप से किसी वास्तविक हमलावर के लिए खुला रहता है।

"इस कोड को ठीक करना रक्षा के लिए एक आवश्यक तंत्र है लेकिन महत्वपूर्ण कमजोरियों को खोजने के लिए एक रोडमैप भी है," एनली ने कहा। "यह एक ही उपकरण आक्रामक भी है और रक्षात्मक भी, और दोनों को वास्तव में अलग नहीं किया जा सकता।"

उनकी सादृश्यता: यह एक हथौड़े की तरह है। आप इसके बिना घर नहीं बना सकते, लेकिन यह एक खिड़की को तोड़ भी सकता है।

असंगतता कितनी बुरी है?

यह काफी खराब है कि गंभीर समय बर्बाद हो जाता है। साइबर सुरक्षा फर्म RemoteThreat के मुख्य कार्यकारी और Offensive AI Con, एक सुरक्षा और AI पर केंद्रित सम्मेलन के संस्थापक क्रिस थॉम्पसन ने TechCrunch को बताया कि Anthropic और OpenAI के मंजूर शोधकर्ता कार्यक्रमों के अंदर भी गार्डरेल एक दिन से अगले दिन अलग तरह से काम करते हैं।

"आप मॉडल के साथ बहुत समय बातचीत करने में बिताते हैं मुख्य सुरक्षा कार्यक्रम पर काम करने के बजाय," थॉम्पसन ने कहा। "कमजोरी का विश्लेषण करने के बजाय, आप यह पता लगाने की कोशिश कर रहे हैं कि मॉडल आउटपुट को अत्यधिक स्वच्छ क्यों बना रहे हैं।"

एक स्मार्टफोन-घटक निर्माता के एक अनाम शोधकर्ता ने इसे स्पष्ट रूप से कहा: "अगर इसे पता चलता है कि हम सुरक्षा से कुछ भी कर रहे हैं, तो यह बस रुक जाता है और उपयोगी नहीं होता।"

यह लोगों को किसकी ओर धकेल रहा है?

ओपन-सोर्स मॉडल जिनमें कोई फिल्टर बिल्कुल नहीं है, इनमें से कई चीन में विकसित किए गए हैं। थॉम्पसन ने कहा कि जिम्मेदार शोधकर्ताओं को अमेरिकी निरीक्षण के अधीन सिस्टम से विदेशी-निर्मित उपकरणों की ओर धकेला जा रहा है जिनमें कोई जवाबदेही नहीं है।

"आपके पास ये जिम्मेदार शोधकर्ता हैं जो अमेरिकी-शासित सिस्टम से विदेशी-स्वामित्व वाले सिस्टम की ओर धकेल दिए जा रहे हैं," उन्होंने कहा। "मुझे लगता है कि इन गार्डरेल को जगह में रखना अच्छे से अधिक हानिकारक है।"

हर शोधकर्ता अवरुद्ध महसूस नहीं करता है। जूसेप कली, जो जीरो-डे (पहले से अज्ञात सॉफ्टवेयर खामियां जिनके लिए अभी तक कोई पैच मौजूद नहीं है) खोजते और विकसित करते हैं, कहते हैं कि वह वास्तविक कमजोरी-शिकार से AI को दूर रखते हैं क्योंकि वह चाहते हैं कि वह खोज उनकी अपनी रहे। अपरिचित कोड को समझने जैसे सहायक कार्यों के लिए, उन्हें उपकरण काफी उपयोगी लगते हैं।

"मुझे अपनी खामियों से ईष्या है," कली ने कहा, "और मुझे यह खेल बहुत पसंद है ताकि मॉडल को इसे खेलने दूं।"

थॉम्पसन का समाधान गार्डरेल को पूरी तरह से हटाना नहीं है। वह AI प्रयोगशालाओं को सत्यापित शोधकर्ताओं के लिए पहुंच चौड़ी करना, सुसंगत नियम लागू करना और दुरुपयोग होने पर बुरे अभिनेताओं को जवाबदेह ठहराना चाहते हैं। इस संतुलन के बिना, वह तर्क देते हैं, रक्षा हमलावरों से पीछे रह जाएंगे जिन्हें ऐसी कोई प्रतिबंध नहीं है।

सामान्य प्रश्न

क्या ये प्रतिबंध साधारण कंप्यूटर उपयोगकर्ताओं को प्रभावित करते हैं?

सीधे तौर पर नहीं। यहां वर्णित घर्षण पेशेवर सुरक्षा शोधकर्ताओं को प्रभावित करता है, रोजमर्रा के लोगों को नहीं जो लेखन या कार्य कार्यों के लिए AI का उपयोग करते हैं। सामान्य गार्डरेल सभी के लिए लागू रहते हैं।

AI कंपनियां साइबर सुरक्षा प्रश्नों को प्रतिबंधित क्यों करती हैं?

वे चिंतित हैं कि विस्तृत, चरण-दर-चरण हमले निर्देश अपराधियों को मैलवेयर बनाने या सिस्टम का उल्लंघन करने में मदद कर सकते हैं। कठिनाई यह है कि वही निर्देश बिल्कुल वही है जो वैध रक्षकों को उन सिस्टम को पहले परीक्षण और मजबूत करने की जरूरत है।

ओपन-सोर्स AI मॉडल क्या है और इसमें गार्डरेल क्यों नहीं हैं?

एक ओपन-सोर्स AI मॉडल वह है जिसका अंतर्निहित कोड किसी को भी अपने कंप्यूटर पर डाउनलोड और चलाने के लिए स्वतंत्र रूप से प्रकाशित किया जाता है। क्योंकि यह स्थानीय रूप से चलता है, बीच में कोई कंपनी नहीं होती जो नियम लागू कर सके, जिसका कारण शोधकर्ता संवेदनशील कार्य के लिए उनका उपयोग करते हैं लेकिन यह भी कि वे अपने स्वयं के जोखिम लेकर आते हैं।