यह एआई राउटर अपनी गलतियों से सीखकर लागत को 2.6 गुना कम करता है

मुख्य बिंदु

• ACRouter ने पूर्ण बेंचमार्क कार्य चलाने को $13.21 में पूरा किया, जबकि हमेशा Anthropic के शीर्ष Claude Opus मॉडल का उपयोग करने पर $34.02 लगे, जो लगभग 60 प्रतिशत की बचत है।
• सिस्टम Context-Action-Feedback (C-A-F) नामक एक तीन-चरणीय प्रतिक्रिया लूप का उपयोग करता है जो रिकॉर्ड करता है कि कौन सा एआई मॉडल किसी दिए गए कार्य पर सफल या विफल रहा, फिर अगली बार बेहतर विकल्प बनाने के लिए उस स्मृति का उपयोग करता है।
• कोई भी एकल एआई मॉडल हर श्रेणी में जीत नहीं पाता है: Qwen3-Max ने परीक्षण-पीढ़ी कार्यों पर Claude Opus से 111 प्रतिशत बेहतर प्रदर्शन किया, भले ही Opus छोटे विकल्पों की तुलना में लगभग 12 गुना अधिक महंगा है।
• ACRouter का निर्णय-निर्माण घटक एक छोटे मॉडल पर चलता है जिसमें एक अरब से कम पैरामीटर हैं, जिसका अर्थ है कि कंपनियां इसे महंगे क्लाउड सर्वर किराए पर लिए बिना अपने स्वयं के हार्डवेयर पर होस्ट कर सकती हैं।

हर बार जब कोई व्यवसाय बड़े पैमाने पर एआई का उपयोग करता है, तो उसे एक ही सवाल का सामना करना पड़ता है: इस अनुरोध को कौन सा एआई मॉडल संभालना चाहिए? सस्ता, तेज़ मॉडल का उपयोग करें और आप खराब परिणामों का जोखिम उठाते हैं। सब कुछ के लिए प्रीमियम मॉडल का उपयोग करें और बिल तेज़ी से दर्दनाक हो जाता है।

मॉडल राउटिंग स्वचालित रूप से प्रत्येक कार्य को सबसे उपयुक्त एआई मॉडल में भेजने का अभ्यास है। इसे एक स्मार्ट स्विचबोर्ड ऑपरेटर की तरह सोचें जो प्रत्येक आने वाली कॉल को पढ़ता है और इसे सबसे योग्य एजेंट से जोड़ता है। समस्या यह है कि आज की राउटिंग प्रणालियां समय में जमी हुई हैं। वे प्रशिक्षण के दौरान नियमों का एक सेट सीखते हैं और फिर उन नियमों को हमेशा के लिए लागू करते हैं, भले ही एआई मॉडल में सुधार हो और व्यावसायिक आवश्यकताएं बदलें।

VentureBeat द्वारा रिपोर्ट किया गया एक नया शोध परियोजना एक अलग दृष्टिकोण का प्रस्ताव देता है। ढांचे को Agent-as-a-Router कहा जाता है, राउटर को स्वयं एक शिक्षण प्रणाली के रूप में मानता है, एक एआई एजेंट, जिसका अर्थ है सॉफ्टवेयर जो बहु-चरणीय कार्य स्वतंत्र रूप से कर सकता है, जो इसे प्रक्रिया करता है हर काम के साथ स्मार्ट हो जाता है।

यह वास्तव में कैसे सीखता है?

सिस्टम यह देखकर सीखता है कि निर्णय लेने के बाद क्या होता है। जब कोई कार्य आता है, तो राउटर समान पिछली नौकरियों के लिए अपनी स्मृति जांचता है और याद करता है कि कौन से मॉडल उन्हें अच्छी तरह से संभालते हैं। यह एक मॉडल चुनता है, कार्य भेजता है, और फिर परिणाम की प्रतीक्षा करता है। यदि चुना गया मॉडल टूटा हुआ कोड या गलत उत्तर देता है, तो राउटर उस विफलता को लॉग करता है। अगली बार जब समान कार्य आता है, तो इसे पता चल जाता है कि कुछ और आजमाएं।

शोधकर्ताओं ने इस विचार के शीर्ष पर ACRouter नामक एक ठोस उत्पाद बनाया है। इसके तीन भाग हैं जो एक साथ काम करते हैं। मेमोरी बैंक पिछली सफलताओं और विफलताओं के रिकॉर्ड संग्रहीत करता है। ऑर्केस्ट्रेटर, एक अरब से कम पैरामीटर वाला एक छोटा एआई मॉडल, स्मृति को पढ़ता है और नए कार्य के लिए सर्वश्रेष्ठ मॉडल चुनता है। सत्यापनकर्ता जांचता है कि क्या आउटपुट वास्तव में काम किया है कोड चलाकर या डेटाबेस को क्वेरी करके और देखकर कि क्या यह सही परिणाम दिया है।

यह महत्वपूर्ण है क्योंकि पुरानी राउटिंग प्रणालियां कभी परिणाम की जांच नहीं करती हैं। वे अनुरोध में शब्दों के आधार पर अनुमान लगाते हैं और कभी यह पता नहीं लगाते कि वे सही अनुमान लगाते हैं या नहीं।

ACRouter का परीक्षण करने के लिए, शोधकर्ताओं ने आठ प्रमुख एआई मॉडलों में फैले लगभग 10,000 कोडिंग कार्यों का बेंचमार्क बनाया। ACRouter पूर्ण चलाने को $13.21 में समाप्त किया। हर कार्य के लिए Claude Opus 4.6 को डिफ़ॉल्ट करने पर $34.02 खर्च हुआ। पूरे बोर्ड में प्रदर्शन तुलनीय था, और कुछ विशेषज्ञ कार्यों पर, सस्ता राउटिंग दृष्टिकोण वास्तव में बेहतर परिणाम उत्पन्न करता है।

यहां ईमानदार सीमाएं हैं। ACRouter सबसे अच्छा काम करता है जब सही और गलत मापने योग्य हों, जैसे कोड चलाना और जांचना कि क्या यह संकलित होता है। यह खुली-अंत वाली रचनात्मक लेखन या व्यक्तिपरक कार्यों के लिए कम उपयोगी है जहां कोई स्पष्ट पास/असफल संकेत नहीं है। और किसी भी बेंचमार्क परिणाम की तरह, वास्तविक दुनिया की बचत अलग-अलग होगी। 2.6x लागत का आंकड़ा एक नियंत्रित परीक्षण से आता है, न कि जीवंत उत्पादन पर्यावरण से।

मुख्य सीख: यदि आपका व्यवसाय पहले से ही कोडिंग, डेटा क्वेरी, या अन्य कार्यों पर एआई चला रहा है जहां सफलता के स्पष्ट मानदंड हैं, तो Hugging Face पर ACRouter रिपॉजिटरी को देखना लायक है। ऑर्केस्ट्रेटर आत्मनिर्भर होने के लिए काफी छोटा है, और संभावित बचत वास्तविक है, भले ही आपकी दूरी बेंचमार्क संख्या से अलग हो।