एंटरप्राइज़ ने AI एजेंट्स को सुरक्षा उपायों के बिना तैनात किया। अब वे पुनर्निर्माण के लिए भुगतान कर रहे हैं।

मुख्य बिंदु

• जून 2025 के 573 तकनीकी नेताओं के सर्वेक्षण के आधार पर, अपनी खुद की AI चिप्स चलाने वाली 86% एंटरप्राइज़ें इन चिप्स को 50% क्षमता या उससे कम पर संचालित करती हैं।
• 54% कंपनियों को पिछले 12 महीनों में एक AI एजेंट सुरक्षा घटना या निकट-मिस का सामना करना पड़ा।
• 71% एंटरप्राइज़ कहते हैं कि उनके तैनात किए गए "एजेंट्स" में से एक चौथाई या उससे कम वास्तव में बहु-चरणीय कार्य को पूरा कर सकते हैं बिना मानव के प्रत्येक चरण को संचालित किए।
• 34% पहले से ही AI एजेंट्स को बिना किसी मानव समीक्षा के सीधे प्रोडक्शन सिस्टम में परिवर्तन धकेलने देते हैं, और एक अन्य 33% उसी सेटअप की ओर इंजीनियरिंग कर रहे हैं।
• 69% कंपनियां एक एकल लॉगिन क्रेडेंशियल साझा करने के लिए कई एजेंट्स को अनुमति देती हैं, और उन कंपनियों को उन कंपनियों की तुलना में लगभग दोगुनी दर से सुरक्षा घटनाओं का सामना करना पड़ा जो ऐसा नहीं करती हैं।

एंटरप्राइज़ को पता था कि उनके AI सुरक्षा नियंत्रण तैयार नहीं थे। फिर भी उन्होंने तैनात किया।

यह इस महीने प्रकाशित 100 या अधिक कर्मचारियों वाली कंपनियों में 573 तकनीकी नेताओं के VentureBeat Research सर्वेक्षण से मुख्य निष्कर्ष है। परिणाम उन संगठनों की एक तस्वीर दर्शाते हैं जिन्होंने AI एजेंट्स तैनात करने में तेजी की (सॉफ्टवेयर जो बहु-चरणीय कार्यों को स्वयं करने में सक्षम है, केवल एक सवाल का जवाब देने के बजाय) और अब उन सुरक्षा उपायों को लागू करने के लिए संघर्ष कर रहे हैं जिन्हें उन्होंने छोड़ दिया।

बिल पहले से ही आ रहा है। 54% कंपनियों को पिछले 12 महीनों में एक AI सुरक्षा घटना या निकट-मिस (वास्तविक नुकसान से पहले पकड़ा गया) का सामना करना पड़ा।

साधारण कार्यकर्ताओं और ग्राहकों के लिए इसका क्या अर्थ है?

इसका अर्थ है कि जिन कंपनियों के लिए आप काम करते हैं या जहां से खरीदते हैं, वहां AI निर्णय अधिकांश लोगों द्वारा मान ली गई जांच की तुलना में कम के साथ संचालित हो सकता है। सर्वेक्षण की गई आधी एंटरप्राइज़ों ने एक AI एजेंट तैनात किया जो अपनी आंतरिक परीक्षाओं से गुजरा, फिर वास्तविक दुनिया में एक ग्राहक-सामना करने वाली विफलता का कारण बना। एक चौथाई ने देखा कि ऐसा एक से अधिक बार हुआ।

हार्डवेयर की कहानी समान रूप से हड़ताली है। अपनी खुद की GPU चलाने वाली 86% एंटरप्राइज़ें (विशेषीकृत चिप्स जो AI को आवश्यक भारी संख्या-संक्रिया करती हैं) कहती हैं कि वे चिप्स 50% क्षमता या उससे कम पर चलती हैं। कंपनियों ने AI बुनियादी ढांचे के निर्माण के लिए भारी खर्च किया, और अधिकांश यह अधूरी रहती है। फिर भी इन्हीं कंपनियों में से 45% अगले 12 महीनों में एक विशेषज्ञ AI क्लाउड प्रदाता का मूल्यांकन करने की योजना बना रहे हैं, और लगभग एक-तिहाई सक्रिय रूप से उन चिप्स पर विचार कर रहे हैं जो Nvidia द्वारा नहीं बनाई गई हैं।

एजेंट लेबल स्वयं बड़े पैमाने पर विपणन साबित होता है। 71% एंटरप्राइज़ कहते हैं कि उनके तथाकथित एजेंट्स में से एक चौथाई या उससे कम मानव के मार्गदर्शन के बिना बहु-चरणीय कार्य पूरा कर सकते हैं। अधिकांश एकल-प्रश्न चैटबॉट हैं जो एक "एजेंट" बैज पहने हुए हैं। Gartner के विश्लेषकों के पास इसके लिए एक शब्द है: "एजेंटवॉशिंग"।

सुरक्षा निकट-अवधि का सबसे तीव्र जोखिम है। 69% कंपनियां संचालन के दौरान एक लॉगिन क्रेडेंशियल साझा करने के लिए कई एजेंट्स को अनुमति देती हैं। ऐसा करने वाली संस्थाओं को 63.5% दर पर सुरक्षा घटनाओं का सामना करना पड़ा, उन कंपनियों के 40.9% की तुलना में जहां प्रत्येक एजेंट के पास अपनी खुद की अलग, सीमित-पहुंच पहचान है।

गलत उत्तर भी एक बढ़ता हुआ देयता हैं। 57% एंटरप्राइज़ों ने एक आत्मविश्वासी, गलत एजेंट उत्तर को अपने स्वयं के लापता या पुरानी व्यावसायिक डेटा, जैसे एक पुरानी परिभाषा या एक अनुपस्थित दस्तावेज़ के लिए ट्रेस किया।

यहां ईमानदार निष्कर्ष सरल है: अधिक खरीदने से पहले जो आपके पास है उसे मापें। अपनी मौजूदा चिप उपयोग की जांच करें। हर एजेंट को अपनी स्वयं की लॉगिन दें। और किसी भी अनुमोदन चरण से मानव को हटाने से पहले, परीक्षण करें कि क्या आपकी स्वचालित जांच वास्तविक-दुनिया की विफलताओं को पकड़ते हैं, केवल आपके आंतरिक परीक्षण सूट में शामिल नहीं।