शोधकर्ता हैकर्स के पसंदीदा एआई हथियार को उनके विरुद्ध उपयोग कर रहे हैं
एक साइबर सुरक्षा फर्म ने पाया कि क्लाउड क्रेडेंशियल्स के अंदर विशेष निर्देश छिपाने से एआई हैकिंग टूल्स को बंद किया जा सकता है।
मुख्य बिंदु
- ट्रेसबिट शोधकर्ताओं ने सोमवार को निष्कर्ष प्रकाशित किए जो दर्शाते हैं कि प्रॉम्प्ट इंजेक्शन का उपयोग एआई हैकिंग एजेंटों के विरुद्ध रक्षा जाल के रूप में किया जा सकता है।
- यह तकनीक Amazon Web Services (AWS), अमेज़न के क्लाउड कंप्यूटिंग प्लेटफॉर्म पर संग्रहीत पासवर्ड और क्रिप्टोग्राफिक कुंजियों के साथ छिपे हुए निर्देश रखकर काम करती है।
- छिपे हुए निर्देश हमला करने वाले एआई को कुछ ऐसा करने के लिए प्रेरित करते हैं जो इसके स्वयं के सुरक्षा नियमों द्वारा निषिद्ध है, जिससे यह रुक जाता है।
- इसके लिए हमलावर की ओर से किसी पैच या सॉफ्टवेयर अपडेट की आवश्यकता नहीं है; एआई की अंतर्निहित सुरक्षा बाधाएं भारी काम करती हैं।
वर्षों से, हमलावरों ने एआई असिस्टेंट्स को अपहृत करने के लिए प्रॉम्प्ट इंजेक्शन नामक एक चाल का उपयोग किया है। प्रॉम्प्ट इंजेक्शन एक छिपा हुआ निर्देश है जो साधारण सामग्री जैसे ईमेल या कैलेंडर आमंत्रण के अंदर दबा होता है, जो एआई को कुछ ऐसा करने के लिए कहता है जिसका इसके मालिक ने कभी इरादा नहीं किया। एआई निर्देश को पढ़ता है, इसे वैध मानता है, और इसका पालन करता है। संवेदनशील डेटा लीक हो जाता है। नुकसान होता है।
अब ट्रेसबिट नामक एक सुरक्षा फर्म ने इस चाल को पलट दिया है।
सोमवार को, ट्रेसबिट शोधकर्ताओं ने रिपोर्ट किया, जिसे पहले Ars Technica AI द्वारा कवर किया गया था, कि उन्होंने प्रॉम्प्ट इंजेक्शन को हथियार के बजाय एक जाल के रूप में उपयोग करने का एक तरीका खोज लिया है। विचार सरल है। आप एक सावधानीपूर्वक तैयार किया गया छिपा हुआ निर्देश AWS पर संग्रहीत पासवर्ड, क्रिप्टोग्राफिक कुंजियों (वर्णों की लंबी स्ट्रिंग जो एन्क्रिप्ट किए गए डेटा को लॉक और अनलॉक करती हैं), और अन्य रहस्यों के बगल में रखते हैं। जब एक एआई-संचालित हैकिंग एजेंट, सॉफ्टवेयर जो अपने दम पर बहु-चरणीय हमले कर सकता है, अंदर घुसता है और उन क्रेडेंशियल्स को पढ़ता है, तो वह आपके निर्देश को भी पढ़ता है।
वह निर्देश हमला करने वाले एआई को कुछ ऐसा करने के लिए कहता है जो इसके डेवलपर्स ने विशेष रूप से मना किया है।
एआई कंपनियां अपने मॉडल में गार्डरेल नामक सुरक्षा उपाय बनाती हैं। गार्डरेल को एक अंतर्निहित अंतरात्मा के रूप में सोचें: नियमों का एक समूह जो एआई को कुछ सीमाओं को पार करने से रोकता है, जैसे किसी को नुकसान पहुंचाने में मदद करना। जब फंसा हुआ एआई इंजेक्ट किए गए कमांड का पालन करने का प्रयास करता है, तो यह उन सीमाओं में से एक से टकराता है। यह रुक जाता है। हमला समाप्त हो जाता है।
यह सुरक्षा जूडो का एक सुंदर टुकड़ा है। हमलावर का अपना उपकरण ही रक्षा बन जाता है।
यह दृष्टिकोण हनीटोकन या कैनरी टोकन नामक एक व्यापक श्रेणी से संबंधित है, जो ऐसी जगहों पर रखे गए नकली क्रेडेंशियल हैं जहां हमलावर देखने की संभावना रखते हैं। यदि कोई इन्हें छूता है, तो आप जानते हैं कि उल्लंघन चल रहा है। ट्रेसबिट का संस्करण एक ही काम करता है लेकिन केवल अलर्ट सुनाने के बजाय हमलावर को सक्रिय रूप से बाधित भी करता है।
क्या इसका मतलब है कि एआई हैकिंग हल हो गई है?
नहीं। यह तकनीक विशेष रूप से उन एआई एजेंटों के विरुद्ध काम करती है जो बड़े भाषा मॉडल पर निर्भर करते हैं, जो ChatGPT जैसे टूल्स के पीछे की तकनीक है, क्योंकि उन मॉडल्स में ट्रिगर किए जा सकने वाले अंतर्निहित सुरक्षा नियम हैं। एक मानव हमलावर, या कोई भी एआई जिसमें कोई गार्डरेल नहीं है, इंजेक्ट किए गए निर्देश को पूरी तरह से अनदेखा कर देगा। यह खोज बहुत आशाजनक है, लेकिन यह रक्षा की एक परत है, पूर्ण समाधान नहीं है।
क्लाउड वातावरण में संवेदनशील क्रेडेंशियल्स स्टोर करने वाले संगठनों के लिए, व्यावहारिक निष्कर्ष ध्यान देने योग्य है: अब आपका नकली डेटा भी वापस लड़ सकता है।
