ओपन एआई मॉडल कंपनियों को ऐसे सिस्टम बनाने देते हैं जिनका वे वास्तव में मालिक हैं। यह कैसा दिखता है।

मुख्य बिंदु

• Harvey, एक कानूनी एआई फर्म, ने अपने स्वयं के कानूनी बेंचमार्क पर NVIDIA Nemotron 3 Ultra को प्रशिक्षित किया और कम से कम 10 गुना कम लागत प्रति रन पर अग्रणी बंद मॉडल से मेल खाया।
• Arcee AI ने Nemotron पर लगभग 90 सेंट प्रति मिलियन आउटपुट टोकन का अनुमान लागत प्राप्त की, जो तुलनीय बंद सीमांत मॉडल की तुलना में लगभग 20 गुना सस्ता है।
• H Company का Holotron 3 Nano OSWorld-Verified पर 76% से ऊपर स्कोर किया, जो वास्तविक कंप्यूटर कार्यों का एक बेंचमार्क है, जबकि एक अंश की लागत पर अग्रणी सीमांत मॉडल से मेल खाया।
• LangChain ने Nemotron 3 Ultra के लिए अपने एजेंट फ्रेमवर्क को मॉडल पुनः प्रशिक्षण के बिना ट्यून किया और बंद विकल्पों की तुलना में लगभग 10 गुना कम लागत पर ओपन मॉडल के बीच शीर्ष एजेंट सटीकता तक पहुंचा।
• YTL AI Labs ने मलेशियाई भाषा के लिए एक Nemotron मॉडल को प्रशिक्षित किया, मलेशिया के डेवलपर समुदाय को स्थानीय रूप से अनुकूलित एआई उपलब्ध कराया।

अधिकांश व्यवसाय जो आज एआई चाहते हैं, उनका सामना एक ही शांत समस्या से होता है। OpenAI, Google और Anthropic के बड़े, शक्तिशाली मॉडल बंद बॉक्स हैं। आप उन्हें सवाल भेज सकते हैं। आप अंदर देख नहीं सकते, वे जो जानते हैं उसे बदल नहीं सकते, या किसी और के सिस्टम के माध्यम से आपके डेटा को रूट किए बिना उन्हें अपने सर्वर पर नहीं चला सकते।

एक अस्पताल या कानूनी फर्म के लिए, यह बहुत मायने रखता है।

NVIDIA ने अपने Nemotron परिवार के खुले मॉडलों को स्थिति दी है, जिसका अर्थ है मॉडल जिनके आंतरिक कार्य निरीक्षण और संशोधन के लिए पूरी तरह से उपलब्ध हैं, इस समस्या का समाधान। इस सप्ताह कंपनी द्वारा प्रकाशित एक ब्लॉग पोस्ट दिखाती है कि व्यावहारिक रूप से यह कैसा दिखता है, संख्याओं के साथ।

कानूनी एआई स्टार्टअप Harvey ने अपने स्वयं के आंतरिक कानूनी बेंचमार्क पर Nemotron 3 Ultra को प्रशिक्षित किया। परिणाम जटिल कानूनी कार्यों पर सर्वश्रेष्ठ बंद व्यावसायिक मॉडल की सटीकता से मेल खाता है, NVIDIA कहता है कि लागत कम से कम 10 गुना कम है प्रति रन। यह एक गोलाई त्रुटि नहीं है। एक फर्म के लिए जो प्रति महीने हजारों दस्तावेज समीक्षाएं चलाता है, बचत तेजी से बढ़ती है।

Glean ने Waldo नामक एक उत्पाद बनाया, कंपनी डेटा के लिए एक खोज उपकरण, Nemotron को एक बड़े बंद मॉडल के साथ जोड़कर। Waldo तेजी से उत्तर प्रदान करता है और कम टोकन का उपयोग करता है, पाठ की छोटी इकाइयां जो एआई मॉडल प्रक्रिया करते हैं, जो सीधे कंप्यूटिंग लागत को कम करता है।

Arcee AI लागत पर आगे बढ़ा। NVIDIA के Blackwell हार्डवेयर प्लेटफॉर्म पर Nemotron चलाकर, चिप पीढ़ी जो पिछली Hopper पीढ़ी का अनुसरण करती है, कंपनी अनुमान लागत को लगभग 90 सेंट प्रति मिलियन आउटपुट टोकन तक ले गई। तुलनीय बंद सीमांत मॉडल समान काम के लिए लगभग 20 गुना अधिक खर्च करते हैं।

प्रत्येक उपयोग का मामला कानून या लागत के बारे में नहीं है। YTL AI Labs ने विशेष रूप से मलेशियाई भाषा के लिए एक Nemotron मॉडल को प्रशिक्षित किया, एक अनुकूलित एआई बनाया जिसे एक वैश्विक प्रदाता के पास बनाने का कोई व्यावसायिक कारण बहुत कम होगा।

Abridge और Heidi Health दोनों ही नैदानिक दस्तावेज़ीकरण पर अनुकूलित Nemotron मॉडल लागू कर रहे हैं, डॉक्टर-रोगी वार्तालाप को एक संरचित चिकित्सा नोट में बदलने का समय लेने वाला कार्य। यह गलत हो सकता है, जिसके वास्तविक परिणाम हैं, यही कारण है कि ये दल यह देखना चाहते हैं कि उनके मॉडल को कैसे प्रशिक्षित किया गया था और जब यह कम पड़ता है तो इसे ठीक करने की क्षमता।

क्या व्यवसायों को पूरी तरह से बंद मॉडलों को त्यागना चाहिए?

नहीं। NVIDIA की अपनी व्याख्या कहती है कि खुले और बंद मॉडल एक साथ सबसे अच्छा काम करते हैं। एक शक्तिशाली सामान्य-उद्देश्य मॉडल जटिल योजना को संभाल सकता है जबकि एक छोटा, विशेषीकृत खुला मॉडल विशिष्ट कार्यों को कम लागत पर निष्पादित करता है। इसे कठिन निर्णय कॉल के लिए एक महंगे विशेषज्ञ का उपयोग करने और दिनचर्या कार्य के लिए एक अच्छी तरह से प्रशिक्षित सामान्यवादी के रूप में सोचें।

खुले मॉडलों के लिए व्यावहारिक तर्क यह नहीं है कि वे आज प्रत्येक कार्य पर बंद मॉडलों को हराते हैं। यह है कि आप जो बनाते हैं उसका मालिक होते हैं। आप इसे अपने स्वयं के डेटा के विरुद्ध परीक्षण कर सकते हैं, जब यह विफल हो तो इसे सुधार सकते हैं, और अपनी सबसे संवेदनशील जानकारी तीसरे पक्ष के सर्वर से दूर रख सकते हैं। उन उद्योगों के लिए जहां एक गलत उत्तर के कानूनी या नैदानिक परिणाम होते हैं, वह नियंत्रण वैकल्पिक नहीं है।