Brex ने अपने AI एजेंटों के लिए एक नेटवर्क वॉचडॉग बनाया क्योंकि वह मान रहा था कि वे पहले से ही समझौता हो चुके हैं
फिनटेक कंपनी Brex अपनी सुरक्षा टीम को अपने नेटवर्क पर AI एजेंटों को मंजूरी देने के लिए नहीं जा सकी, इसलिए इसने CrabTrap नामक अपना खुला स्रोत फ़िल्टर बनाया जो एजेंटों द्वारा भेजे गए डेटा पर नजर रखता है, बजाय इसके कि वह उन्हें क्या करते हैं इसे नियंत्रित करने का प्रयास करता है।
मुख्य बिंदु
- Brex ने जनवरी 2025 में OpenClaw, एक खुला स्रोत AI कोडिंग एजेंट जारी किया, दिसंबर 2024 में कोडिंग मॉडल परिपक्वता के एक नए स्तर तक पहुंचने के बाद।
- Brex की सुरक्षा टीम ने शुरुआत में AI एजेंटों को आंतरिक रूप से तैनात करने से इनकार कर दिया क्योंकि एजेंट कॉर्पोरेट नेटवर्क पर स्वतंत्र रूप से कोड निष्पादित कर सकते थे।
- Brex ने CrabTrap, एक खुला स्रोत नेटवर्क प्रॉक्सी बनाया, जो एजेंटों से आउटबाउंड ट्रैफ़िक की निगरानी करता है, बजाय एजेंटों को क्या कर सकते हैं इसे प्रतिबंधित करने का।
- केवल लगभग 2% एजेंट अनुरोध धीमी AI-आधारित समीक्षा का सामना करते हैं; नियमित कार्य तत्काल पूर्व-अनुमोदित नियमों के माध्यम से गुजरते हैं।
- Brex के CEO Pedro Franceschi ने अनुमान लगाया कि इस उपकरण के छह महीने के भीतर फेंक दिए जाने की 70% संभावना है, लेकिन कहा कि अनुभव प्राप्त करना निवेश के लायक था।
Brex के CEO Pedro Franceschi के पास एक समस्या थी। उनकी कंपनी ने एक AI एजेंट बनाया था, एक सॉफ्टवेयर जो स्वतंत्र रूप से बहु-चरणीय कार्यों को पूरा कर सकता है, जिसे OpenClaw कहा जाता है। वह इसे Brex के अंदर काम में लगाना चाहते थे। उनकी सुरक्षा टीम ने मना कर दिया।
"निश्चित रूप से नहीं। हम एक एजेंट पर कैसे भरोसा कर सकते हैं जो ये काम कर रहा है?" VB Transform 2026 में बोलते हुए Franceschi ने प्रतिक्रिया का वर्णन किया और पहले VentureBeat द्वारा रिपोर्ट किया गया। चिंता वास्तविक थी: OpenClaw अपना स्वयं का कोड लिख और चला सकता था, जिसका अर्थ था, सिद्धांत में, यह कॉर्पोरेट नेटवर्क पर लगभग कुछ भी कर सकता था।
एजेंट जो करता है उसे प्रतिबंधित करना क्यों उत्तर नहीं था
एजेंट के उपकरणों को प्रतिबंधित करना, जो Franceschi ने कहा कि Nvidia का NemoClaw दृष्टिकोण लेता है, वह क्षमता को समाप्त करता है जो एजेंट को उपयोगी बनाती है। यदि आप इसकी कोड लिखने और चलाने की क्षमता को दूर ले जाते हैं, तो आप इसका मूल्य दूर ले जाते हैं।
तो Brex ने समस्या को उलट दिया। इसके कंटेनर (एक स्व-निहित सॉफ्टवेयर वातावरण, एक सीलबंद कमरे की तरह) के अंदर OpenClaw जो कर सकता था उसे पुलिस करने के बजाय, कंपनी ने दरवाजे पर नजर रखने का फैसला किया।
CrabTrap वास्तव में क्या करता है
CrabTrap एजेंट और इंटरनेट के बीच बैठता है। हर बार जब एजेंट डेटा भेजने या प्राप्त करने का प्रयास करता है, CrabTrap अनुरोध की जांच करता है।
नियमित, कम-जोखिम वाली कार्रवाइयों के लिए, पूर्व-अनुमोदित नियमों का एक सेट तुरंत निर्णय लेता है। एक भर्ती एजेंट एक LinkedIn प्रोफ़ाइल की जांच कर रहा है? यह निकल गया। कोई देरी नहीं।
उच्च-जोखिम वाली कार्रवाइयों के लिए, जैसे ईमेल भेजना, अनुरोध एक LLM जज के पास जाता है। एक LLM, या बड़ा भाषा मॉडल, वह AI तकनीक है जो ChatGPT जैसे चैटबॉट को शक्ति देती है। यहां यह नेटवर्क अनुरोध को पढ़ता है और तय करता है कि क्या यह एजेंट के अनुमोदित उद्देश्य के अनुरूप है। क्योंकि LLM को अरबों वेब पेजों और नेटवर्क अनुरोधों पर प्रशिक्षित किया गया है, वे पहले से ही समझते हैं कि सामान्य दिखने वाली ट्रैफ़िक क्या दिखती है। Franceschi ने कहा कि यह निर्णय क्षमता स्वाभाविक रूप से दिखाई देती है, भारी निर्देशों के बिना।
धीमी AI जांच केवल लगभग 2% अनुरोधों को छूती है। बाकी सब कुछ लगभग तात्कालिक है।
जब एजेंट एक दीवार से टकराता है तो क्या होता है?
जब LLM जज किसी कार्रवाई को अवरुद्ध करता है, तो यह चुप रह कर बस नहीं रुकता। CrabTrap Slack पर एक मानव प्रबंधक को एक संदेश भेजता है, यह समझाते हुए कि एजेंट क्या करने का प्रयास कर रहा था और एक नियम परिवर्तन का सुझाव देता है जो अगली बार इसकी अनुमति देगा। प्रबंधक हाँ या नहीं पर क्लिक करता है। नियम अपडेट होते हैं।
Brex ने पूरी प्रणाली को Jim नामक एक आभासी भर्तीकर्ता के साथ परीक्षण किया, जो OpenClaw पर बनाया गया था। Jim नौकरी के उम्मीदवारों को खोजता है, आने वाले आवेदनों को स्कोर करता है, और ईमेल भेजता है। जब Jim अपनी अनुमोदित नीति के बाहर कुछ करने का प्रयास करता है, तो एक मानव यह तय करता है कि क्या उस नीति को विस्तृत करना है।
"जब एक कर्मचारी एक दीवार से टकराता है, तो वह अपने प्रबंधक को बढ़ाता है," Franceschi ने कहा। सादृश्य जानबूझकर है: वह मानते हैं कि आभासी-कर्मचारी फ्रेमिंग, एक Slack उपस्थिति, एक ईमेल पता, और मानव निरीक्षण की एक श्रृंखला के साथ, "एजेंट" शब्द की तुलना में अधिक उपयोगी है।
Brex एक फिनटेक कंपनी है और उसके पास कोई वाणिज्यिक उपकरण नहीं था जो इसकी सुरक्षा टीम को संतुष्ट करता था, इसलिए इसने CrabTrap स्वयं बनाया। Franceschi ईमानदार थे कि एक वाणिज्यिक उत्पाद संभवतः इसे अनावश्यक बना देगा। बिंदु, उन्होंने कहा, एजेंटों को सुरक्षित रूप से तैनात करने के महीनों का वास्तविक अनुभव था, उपकरण स्वयं नहीं।
इसके लिए देखें: यदि आपकी कंपनी AI एजेंटों का मूल्यांकन कर रही है, तो विक्रेताओं से विशेष रूप से पूछें कि आउटबाउंड नेटवर्क गतिविधि की निगरानी कैसे की जाती है। केवल उपकरण प्रतिबंध आपकी सुरक्षा टीम को संतुष्ट नहीं कर सकते हैं, और यह एक उचित प्रवृत्ति है जिसे गंभीरता से लिया जाना चाहिए।
