$400 मिलियन का दांव कि सस्ते एआई चिप्स जीतेंगे

मुख्य बिंदु

• General Compute ने 2025 में निवेश कंपनी Upper90 से ऋण वित्तपोषण में $400 मिलियन जुटाए।
• माना जाता है कि यह ऋण इंफरेंस चिप्स के विरुद्ध सुरक्षित पहला कभी ऋण है, यह विशेष हार्डवेयर है जो नए एआई मॉडल्स को प्रशिक्षित करने के बजाय तैयार एआई मॉडल्स चलाता है।
• General Compute के SambaNova SN50 चिप्स तुलनीय GPU-आधारित क्लाउड सेवाओं की तुलना में 16 गुना तेजी से इंफरेंस की गति का दावा करते हैं।
• यह सौदा OpenAI और Anthropic जैसी प्रयोगशालाओं के फ्रंटियर मॉडल्स के सस्ते विकल्प के रूप में ओपन-सोर्स एआई मॉडल्स में बढ़ती निवेशक रुचि के बाद आता है।

एक छोटे एआई स्टार्टअप ने अभी $400 मिलियन उधार लिए हैं, और असामान्य बात संख्या नहीं है। यह है कि ऋणदाता ने संपार्श्विक के रूप में क्या स्वीकार किया।

General Compute, CEO Finn Puklowski द्वारा स्थापित और मुश्किल से अपने बीज चरण के बाद, Upper90 से ऋण सुरक्षित किया, एक प्रौद्योगिकी-केंद्रित निवेश कंपनी। संपार्श्विक: इंफरेंस चिप्स। ये विशेष प्रोसेसर हैं जो एक तैयार एआई मॉडल को तेजी से और सस्ते में चलाने के लिए निर्मित हैं, इसके विपरीत बहुत अधिक महंगे चिप्स जो पहली जगह में एक मॉडल को प्रशिक्षित करने के लिए उपयोग किए जाते हैं। प्रशिक्षण चिप्स को कार बनाने वाली फैक्ट्री के रूप में सोचें, और इंफरेंस चिप्स को इंजन के रूप में जो वास्तव में इसे चलाता है।

Upper90 के सह-संस्थापक Billy Libby ने TechCrunch को बताया कि वह मानते हैं यह विशेष रूप से इंफरेंस चिप्स द्वारा समर्थित पहला ऋण है। उसे पता होना चाहिए। 2021 में उसकी कंपनी ने GPU खरीद को वित्तपोषित किया, ग्राफिक्स प्रोसेसिंग यूनिट जो एआई बूम की रीढ़ बन गई, Crusoe नामक एक डेटा सेंटर कंपनी के लिए। उस समय, पारंपरिक बैंक चिप्स को संपार्श्विक के रूप में स्पर्श नहीं करेंगे क्योंकि किसी को नहीं पता था कि वे कितनी तेजी से मूल्य खो देंगे। तब से, क्लाउड दिग्गज CoreWeave ने चिप-समर्थित ऋणों के चारों ओर एक संपूर्ण व्यवसा बनाया और सार्वजनिक हुआ, और उस प्रकार का वित्तपोषण अब सामान्य है।

अब Libby सोचते हैं कि इंफरेंस अगली लहर है। "हर किसी को सुपरकंप्यूटर की जरूरत नहीं है, लेकिन उन्हें इंफरेंस और एआई की जरूरत है," उन्होंने कहा।

General Compute अपनी सेवा SambaNova के चिप्स के चारों ओर बना रहा है, एक Intel-समर्थित चिपमेकर। विशिष्ट चिप्स, SN50 कहे जाते हैं, शक्ति-कुशल होने के लिए डिज़ाइन किए गए हैं और महंगी जल-शीतलन प्रणालियों की जरूरत नहीं है जो उच्च-अंत GPU आमतौर पर आवश्यक होते हैं। इसका मतलब है कि उन्हें अधिक मानक डेटा केंद्रों में, तेजी से स्थापित किया जा सकता है। कंपनी दावा करती है कि SN50 GPU-आधारित क्लाउड प्रतिद्वंद्वियों की तुलना में 16 गुना तेजी से इंफरेंस प्रदान करता है।

व्यापक पिच लागत है। ओपन-सोर्स मॉडल्स पर एआई कार्यों को चलाना, एआई सॉफ्टवेयर जिसका अंतर्निहित कोड सार्वजनिक रूप से उपलब्ध है, एक फ्रंटियर लैब को प्रति क्वेरी भुगतान करने की तुलना में काफी सस्ता है। OpenRouter और Fireworks जैसे स्टार्टअप, जो ओपन मॉडल्स तक पहुंच प्रदान करते हैं, हाल ही में उच्च मूल्यांकन पर पैसा जुटाया है, और यूएस के बाहर की टीमों के नए मॉडल्स अब OpenAI और Anthropic को तकनीकी बेंचमार्क पर मेल खा रहे हैं।

इसका मतलब क्या है एआई उपकरणों का उपयोग करने वाले लोगों और व्यवसायों के लिए?

इसका मतलब कम कीमतें हो सकता है। यदि बुनियादी ढांचा कंपनियां सस्ते, अधिक कुशल चिप्स पर सक्षम एआई मॉडल्स चला सकती हैं, तो एआई उपकरणों और सेवाओं की लागत सभी के लिए गिरनी चाहिए: ऐप्स बनाने वाली कंपनियों, कोड असिस्टेंट लिखने वाले डेवलपर्स, या कोई भी साबस्क्रिप्शन का भुगतान कर रहा है जो एआई पर निर्भर है।

General Compute इस तरह का दांव लगाने वाला एकमात्र स्टार्टअप नहीं है। TensorWave Nvidia हार्डवेयर के बजाय AMD चिप्स के चारों ओर निर्मित एक समान रणनीति का पीछा कर रहा है। सामान्य धागा Nvidia के एआई कंप्यूटिंग पर लगभग कुल नियंत्रण में ढीला होने का विश्वास है जैसे विकल्प परिपक्व होते हैं।

Puklowski ने इसे स्पष्ट रूप से कहा: "यह पूंजी का आयोजन करने और Nvidia के एकाधिकार प्रभुत्व के विखंडन का पहला संकेत है।"

क्या SN50 चिप्स बड़े पैमाने पर अपने विनिर्देश प्रदान करते हैं, यह एक सवाल है जो अगला वर्ष उत्तर देगा।