बॉक्स में फिट होने वाला एआई डेटा सेंटर: Runware के Sonic Inference Pod के अंदर

मुख्य बिंदु

• Runware ने मंगलवार को Sonic Inference Pod लॉन्च किया, एक एकल परिवहनीय कंप्यूटिंग यूनिट जो उन लोगों के पास एआई कार्यभार चलाने के लिए डिज़ाइन किया गया है जिन्हें इसकी आवश्यकता है।
• कंपनी ने दिसंबर 2024 में एआई इमेज-जेनरेशन इंफ्रास्ट्रक्चर बनाने के लिए सीरीज़ ए फंडिंग राउंड में 50 मिलियन डॉलर जुटाए।
• Runware के पास वर्तमान में संयुक्त राज्य, यूरोप और एशिया-प्रशांत में 10 pods सक्रिय हैं, पहले से ही 160 संभावित साइटें पहचानी गई हैं।
• pods एक बंद-लूप कूलिंग सिस्टम का उपयोग करते हैं, जिसका मतलब है कि पारंपरिक डेटा सेंटर के विपरीत कोई पानी खर्च नहीं होता है।
• Runware के क्लाइंट में इमेज-जेनरेशन प्लेटफॉर्म Higgsfield AI और वेबसाइट बिल्डर Wix शामिल हैं।

हर बार जब आप किसी एआई टूल से इमेज जेनरेट करने, वाक्य लिखने या प्रश्न का उत्तर देने के लिए कहते हैं, कहीं पर एक डेटा सेंटर भारी काम करता है। ये सेंटर विशाल, महंगे, पानी के लिए प्यासे होते हैं, और बनाने में साल लगते हैं। Runware, एक एआई इंफ्रास्ट्रक्चर कंपनी, सोचती है कि एक बेहतर तरीका है।

मंगलवार को कंपनी ने Sonic Inference Pod की घोषणा की: एक मॉड्यूलर, स्व-निहित कंप्यूटिंग यूनिट जिसे लगभग किसी भी स्थान पर पावर सप्लाई के साथ भेजा जा सकता है और दिनों में सेट अप किया जा सकता है, साल नहीं। इसे एक डेटा सेंटर के रूप में सोचें जो एक बड़े शिपिंग कंटेनर के आकार में सिकुड़ा हुआ है।

यह वास्तव में क्या करता है?

pod inference को संभालता है, जो एक एआई मॉडल को चलाने की प्रक्रिया है ताकि एक उत्तर या इमेज तैयार हो सके, जो पहली जगह एक मॉडल को प्रशिक्षित करने की लंबी, महंगी प्रक्रिया के विपरीत है। Runware का दावा है कि इसके pods प्रतिस्पर्धी क्लाउड प्लेटफॉर्म की तुलना में कम लागत पर यह कर सकते हैं, साथ ही उच्च-गुणवत्ता वाले परिणाम भी दे सकते हैं।

क्योंकि यूनिट्स मॉड्यूलर हैं, क्षमता जोड़ने का मतलब है एक और pod भेजना, नई बिल्डिंग पर जमीन तोड़ना नहीं। Runware के सह-संस्थापक और मुख्य कार्यकारी, Flaviu Radulescu ने TechCrunch को बताया कि डिज़ाइन कंपनी को "कहीं भी तैनात करने दे" जहां बिजली है और बाजार में नई चिप्स आने पर तेजी से अनुकूल बनाने दे।

"Inference की मांग सुविधाओं के निर्माण की तुलना में तेजी से बढ़ रही है," Radulescu ने कहा।

कूलिंग सिस्टम महत्वपूर्ण क्यों है?

पारंपरिक डेटा सेंटर सर्वर को ठंडा रखने के लिए भारी मात्रा में पानी का उपयोग करते हैं। Sonic Inference Pod इसके बजाय एक बंद-लूप कूलिंग सिस्टम का उपयोग करता है, समान तरल को बार-बार चक्र करता है और स्थानीय आपूर्ति से कोई पानी नहीं निकाला जाता है। Runware का कहना है कि यह पर्यावरण और इसकी साइटों के पास समुदायों दोनों के लिए महत्वपूर्ण है।

कंपनी अभी तक पूरी तरह से नवीकरणीय ऊर्जा पर नहीं चल रही है, और Radulescu ने स्वीकार किया कि एआई बिजली की खपत उस कंपनी की परवाह किए बिना बढ़ती रहेगी जो कंप्यूटिंग की आपूर्ति करती है। उनका तर्क यह है कि pods उस बिजली का उपयोग करते हैं जो पहले से ही ग्रिड पर मौजूद है न कि नई क्षमता के निर्माण की आवश्यकता है, और कि "इस तरीके से बनाया गया अधिक inference का मतलब है कम नई ग्रिड, कम पानी, समान मात्रा में कंप्यूट के लिए।"

यह एक कंपनी का दावा है, कोई स्वतंत्र रूप से सत्यापित निष्कर्ष नहीं। पाठकों को इसे तदनुसार तौलना चाहिए।

इसका मतलब साधारण लोगों के लिए क्या है?

सीधे तौर पर, अभी ज्यादा नहीं। Runware अपनी कंप्यूटिंग क्षमता को उपभोक्ताओं को नहीं, बल्कि व्यवसायों को बेचता है। लेकिन अगर इसके लागत और गति के दावे सही साबित होते हैं, तो जो कंपनियां एआई टूल्स बनाती हैं जो साधारण लोग हर दिन उपयोग करते हैं, वे सस्ते या तेजी वाले उत्पादों के माध्यम से बचत को आगे बढ़ा सकते हैं।

बड़ी तस्वीर भी महत्वपूर्ण है। अमेरिका भर के समुदायों ने बिजली के बिलों में वृद्धि की सूचना दी है जो बड़े डेटा सेंटर के पास आने से जुड़ी है। एक वितरित मॉडल, जहां छोटी यूनिट्स कई स्थानों में भार को फैलाती हैं, उस दबाव को कम कर सकता है, हालांकि यह इसे अधिक व्यापक रूप से भी फैला सकता है। उन व्यापारों की स्वतंत्र जांच अभी तक नहीं हुई है।

Runware के 10 सक्रिय pods और 160 पहचानी गई साइटें एक शुरुआत हैं। क्या मॉडल वास्तव में OpenAI और अन्य द्वारा बनाई जा रहीं बहु-अरब डॉलर की परियोजनाओं के साथ प्रतिस्पर्धा कर सकता है, यह एक सवाल है जिसका अगले कुछ साल में जवाब देंगे।