एआई एजेंटों को कंपनियों द्वारा सत्यापित किए जा सकने वाले निर्णयों की तुलना में अधिक निर्णयों का विश्वास किया जा रहा है

मुख्य बिंदु

• जून 2026 के 157 एंटरप्राइज टीमों के सर्वेक्षण में, 50% ने बताया कि उन्होंने एक एआई एजेंट या एआई फीचर तैनात किया जो आंतरिक परीक्षणों में पास हुआ था और फिर ग्राहक-सामने की विफलता का कारण बना।
• उन कंपनियों में से एक चौथाई को इस तरह की विफलता एक से अधिक बार का अनुभव हुआ।
• 66% सर्वेक्षण की गई एंटरप्राइज कंपनियां पहले से ही मानव समीक्षा के बिना कुछ एआई तैनाती की अनुमति देती हैं, या 12 महीनों के भीतर ऐसा करने की योजना बना रही हैं।
• केवल 5% उत्तरदाताओं ने कहा कि वे स्वचालित परीक्षण प्रणालियों पर पूरी तरह विश्वास करते हैं जो तय करती हैं कि एआई को जहाज करने के लिए तैयार है या नहीं।
• 2,500 या अधिक कर्मचारियों वाली बड़ी कंपनियां मानव पर्यवेक्षण के बिना तेजी से आगे बढ़ रही हैं, और वे छोटी फर्मों की तुलना में अधिक ग्राहक विफलताओं की रिपोर्ट भी कर रही हैं।

एक गुणवत्ता निरीक्षक की कल्पना करें जो चुपचाप स्वीकार करता है कि चेकलिस्ट ज्यादातर गलत है। यही वह स्थिति है जो VentureBeat द्वारा प्रकाशित एक सर्वेक्षण अभी कॉर्पोरेट एआई टीमों के एक व्यापक हिस्से में वर्णित करता है।

जून 2026 के वीबी पल्स सर्वेक्षण में 100 या अधिक कर्मचारियों वाली कंपनियों के 157 लोगों से पूछा गया कि वे एआई एजेंटों की परीक्षा और रिलीज कैसे करते हैं, ये ऐसे सॉफ्टवेयर प्रोग्राम हैं जो अपने आप बहु-चरणीय कार्य कर सकते हैं, जैसे ग्राहक रिफंड को संभालना, डेटाबेस रिकॉर्ड अपडेट करना, या कोई संदेश तैयार करना और भेजना बिना किसी मानव के भेजने के लिए क्लिक किए। नमूना स्वयं-चयनित था बजाय यादृच्छिक रूप से चुने जाने के, इसलिए संख्याओं को एक संकेत के रूप में माना जाना चाहिए, जनगणना के रूप में नहीं।

संकेत असहज है। सर्वेक्षण की गई आधी कंपनियों ने पहले से ही एक एजेंट तैनात किया था जो हर आंतरिक परीक्षा में पास हुआ था और फिर भी ग्राहक अनुभव को नुकसान पहुंचाया। एक चौथाई ने इसे एक से अधिक बार किया था।

एक पास करने वाली परीक्षा एक कार्यशील एजेंट की गारंटी क्यों नहीं देती?

क्योंकि पारंपरिक सॉफ्टवेयर परीक्षा जांचता है कि एक निश्चित इनपुट एक अपेक्षित आउटपुट पैदा करता है, और एआई एजेंट उस तरह से काम नहीं करते हैं। एक एजेंट अपने स्वयं के कदमों का अनुक्रम चुनता है, बाहरी उपकरणों को कॉल करता है, लाइव डेटा खींचता है, और हर बार जब यह चलता है तो अलग तरह से व्यवहार कर सकता है, यहां तक कि एक ही कार्य पर भी।

एक एजेंट पाँच कदम बिल्कुल सही प्राप्त कर सकता है और फिर छठे पर संवेदनशील जानकारी लीक कर सकता है। यह एक वैध रिफंड तैयार कर सकता है और अनुमोदन के लिए प्रतीक्षा किए बिना इसे भेज सकता है। हर व्यक्तिगत निर्णय ठीक दिखता है। अंतिम परिणाम एक समस्या है।

अमेरिकी मानक और प्रौद्योगिकी संस्थान (NIST) ने अपने जेनरेटिव एआई प्रोफाइल मार्गदर्शन में एक समान अवलोकन किया: नियंत्रित परीक्षण वातावरण में मापा गया व्यवहार अक्सर तब नहीं रहता जब वास्तविक उपयोगकर्ता, अप्रत्याशित संकेत, और लाइव डेटा चित्र में आते हैं। मार्गदर्शन क्षेत्र परीक्षण और लॉन्च के बाद चल रहे निगरानी के लिए कॉल करता है, केवल एक पूर्व-रिलीज स्कोर नहीं।

सर्वेक्षण उत्तरदाताओं को स्वयं यह समझ प्रतीत होती है। जब पूछा गया कि वे स्वचालित परीक्षण में विश्वास क्यों नहीं करते हैं, सबसे आम उत्तर, 29% द्वारा दिया गया, यह था कि परीक्षण स्कोर वास्तविक दुनिया में जो वास्तव में होता है उसके साथ संरेखित नहीं हैं।

और फिर भी स्वायत्तता का विस्तार जारी है। सर्वेक्षण की गई दो तिहाई कंपनियां पहले से ही चल रही हैं, या सक्रिय रूप से तैनातियों की ओर बढ़ रही हैं जिनमें कोई मानव लूप नहीं है। केवल 5% स्वचालित जांचों पर पूरी तरह विश्वास करते हैं जो वह काम करते हैं जो एक मानव समीक्षक पहले करता था।

यह अंतराल, बढ़ती स्वायत्तता कांपते आश्वासन के शीर्ष पर बैठी हुई, मूल समस्या है।

एजेंट मूल्यांकन पर Anthropic की मार्गदर्शन यहाँ एक उपयोगी पंक्ति खींचती है: एक प्रणाली जो एक बार सफल होती है वह एक प्रणाली के समान नहीं है जो विश्वसनीय रूप से सफल होती है। ग्राहकों या धन या डेटा को स्पर्श करने वाली किसी भी चीज़ के लिए, विश्वसनीयता एकमात्र पट्टी है जो महत्वपूर्ण है।

कंपनियों को वास्तव में क्या करना चाहिए? हर परिदृश्य को कई बार चलाएं। शब्दों और संदर्भ को बदलें। उपकरण विफलताओं का अनुकरण करें। जब उत्पादन में एक वास्तविक घटना होती है, तो इसे एक स्थायी परीक्षा मामले में बदलें ताकि वही विफलता शांति से फिर से न हो सके। और केवल शून्य-मानव पर्यवेक्षण का विस्तार करें जहाँ एक गलती के परिणाम सच में कम हैं, एक आंतरिक सारांश का मसौदा तैयार करना एक वित्तीय लेनदेन को मंजूरी देने के समान नहीं है।

एक प्रक्रिया से एक मानव को हटाना जोखिम को नहीं हटाता है। यह सिर्फ उस व्यक्ति को हटाता है जो इसे पकड़ा हो सकता था।