AI सुरक्षा प्रमाणपत्र वह नहीं हो सकते जो आप सोचते हैं

मुख्य बातें

• 2026 के एक सर्वेक्षण में 63 प्रतिशत संगठन कहते हैं कि वे AI एजेंट को गलत तरीके से व्यवहार करने से नहीं रोक सकते।
• स्वचालित हमले 30 मिनट से कम समय में डेटा चोरी कर सकते हैं, जो मानव टीमों की प्रतिक्रिया से तेज है।
• OWASP LLM06 खामी AI रनटाइम जोखिमों को उजागर करती है जो संरचनात्मक हैं, न कि आकस्मिक।

AI सुरक्षा प्रमाणपत्र का लक्ष्य कंपनियों को आश्वस्त करना है कि उनकी कृत्रिम बुद्धिमत्ता प्रणालियां सुरक्षित हैं। हालांकि, जैसा कि ThreatVectr द्वारा पहली बार रिपोर्ट किया गया था, ये प्रमाणपत्र अक्सर AI द्वारा पेश किए जाने वाले वास्तविक दुनिया के जोखिमों को कवर करने में कम पड़ जाते हैं जब यह किसी संगठन में चालू हो रहा हो।

पारंपरिक सॉफ्टवेयर एक अनुमानित पथ का अनुसरण करता है, लेकिन AI एजेंट, जो ऐसा सॉफ्टवेयर है जो बिना मानव इनपुट के कार्रवाई कर सकता है और निर्णय ले सकता है, अपने व्यवहार को उस संदर्भ के आधार पर बदलते हैं जिसका वे सामना करते हैं। यह अप्रत्याशित और संभावित हानिकारक कार्रवाइयों का कारण बन सकता है। OWASP फाउंडेशन, एक स्वतंत्र निकाय जो सुरक्षा दिशानिर्देश प्रदान करता है, ने एक प्रमुख चिंता की पहचान की है, जिसे LLM06 के रूप में सूचीबद्ध किया गया है। यह खामी Excessive Agency और Insecure Output Handling जैसी समस्याओं को उजागर करती है जो AI की तैनाती से उत्पन्न होती हैं, सॉफ्टवेयर में बग से नहीं।

सुरक्षा प्रमाणपत्र सब कुछ क्यों कवर नहीं करते?

AI सुरक्षा प्रमाणपत्र आपको बताते हैं कि सिस्टम नियंत्रित परीक्षणों में कैसा प्रदर्शन करता है, न कि यह लाइव डेटा के साथ कैसे व्यवहार करता है। पारंपरिक सॉफ्टवेयर के विपरीत, AI एजेंट नई जानकारी के अनुकूल होते हैं और विकसित होने वाले संदर्भों के आधार पर निर्णय लेते हैं, जिससे संभावित जोखिम उत्पन्न होते हैं जिन्हें परीक्षण प्रयोगशालाएं भविष्यवाणी नहीं कर सकती। यह अंतराल मतलब है कि AI तैनात होने के बाद अप्रत्याशित रूप से कार्य कर सकता है।

चीजें कितनी जल्दी गलत हो सकती हैं?

स्वचालित हमले 30 मिनट से कम में AI कमजोरियों का उपयोग कर सकते हैं, जबकि मानव सुरक्षा टीमें आमतौर पर घंटों लगाते हैं। यह समय अंतराल एक खिड़की बनाता है जहाँ खतरे की पहचान होने से पहले ही महत्वपूर्ण नुकसान हो सकता है।

चरण	सामान्य समय विंडो
स्वचालित अनुप्रवेश और डेटा चोरी	30 मिनट से कम (कभी-कभी सेकंड)
मानव सुरक्षा जांच शुरू करती है	1 से 4 घंटे
बुनियादी ढांचे की खामी को पैच किया जाता है	2 से 5 दिन
पूर्ण एंटरप्राइज पैच चक्र पूरा होता है	2 से 6 सप्ताह

कर्मचारी क्या कर सकते हैं?

यदि आप काम में AI सहायकों का उपयोग कर रहे हैं, तो अप्रत्याशित स्वचालित कार्रवाइयों को संदिग्ध ईमेल की तरह मानें। उन पर सवाल उठाएं, उनकी रिपोर्ट करें, और यह न मानें कि वे सही हैं क्योंकि कोई त्रुटि संदेश नहीं दिखा। अपनी IT टीम से पूछें कि क्या कोई एजेंट को रोकने या बंद करने के तरीके हैं यदि कुछ गलत लगे। अधिकांश संगठनों में किल-स्विच क्षमता नहीं है, जिसे छह में से एक IT नेता स्वीकार करते हैं कि यह वर्तमान में गायब है।

AI को पैच करने में केवल सॉफ्टवेयर अपडेट से अधिक शामिल है; इसमें अनुमतियों और निगरानी प्रणालियों को फिर से सोचना आवश्यक है। जैसे-जैसे व्यवसाय Model Context Protocol (MCP) जैसे मानकों को अपनाते हैं, जो AI को स्थानीय और डेवलपर उपकरणों से सीधे जोड़ते हैं, संभावित खतरों के प्रति सतर्क रहना महत्वपूर्ण है।

सामान्य प्रश्न

अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन क्या है?

अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन में नियमित दस्तावेजों में दुर्भावनापूर्ण निर्देशों को छिपाना शामिल है, जो AI एजेंटों को उन्हें आदेशों के रूप में निष्पादित करने के लिए धोखा देता है।

क्या व्यवसायों को कई क्षेत्रीय AI नियमों का पालन करना आवश्यक है?

हाँ, वैश्विक व्यवसायों को क्षेत्र-विशिष्ट AI नियमों का पालन करना चाहिए, जैसे कि चीन, सिंगापुर और Five Eyes खुफिया गठबंधन द्वारा विकसित किए जा रहे हैं।