आधुनिक AI के दिल में बिजली की समस्या
हर AI डेटा सेंटर एक निश्चित बिजली बजट पर चलता है। जो कंपनी प्रत्येक वाट से सबसे अधिक उपयोगी काम निकालती है, वह जीतती है। यहाँ समझाया गया है कि इसका मतलब क्या है।
मुख्य बिंदु
- NVIDIA का GB300 NVL72 सिस्टम SemiAnalysis InferenceX के विश्लेषण के अनुसार पिछली Hopper पीढ़ी की तुलना में 25 गुना अधिक उपयोगी AI कार्य प्रति वाट प्रदान करता है।
- केवल सॉफ्टवेयर सुधार से 2025 में एक महीने के भीतर एक मॉडल पर प्रति वाट प्रदर्शन 5 गुना तक बढ़ा।
- NVIDIA का दावा है कि इसका पावर-मैनेजमेंट सॉफ्टवेयर ऑपरेटरों को एक ही बिजली बजट में 40 प्रतिशत अधिक चिप्स चलाने देता है।
- Anthropic, OpenAI और Perplexity सहित कंपनियाँ वर्तमान में Blackwell NVL72 हार्डवेयर पर उत्पादन कार्यभार चला रही हैं, NVIDIA के अनुसार।
- इस लेख के आंकड़े NVIDIA के प्रचारात्मक पोस्ट से आते हैं, किसी स्वतंत्र सहकर्मी-समीक्षित अध्ययन से नहीं।
AI, मूल रूप से, एक बिजली की समस्या है।
जब भी एक चैटबॉट आपके सवाल का जवाब देता है या एक AI एजेंट, सॉफ्टवेयर जो बहु-चरणीय कार्य स्वयं करता है, आपकी यात्रा बुक करता है या आपके कानूनी दस्तावेज़ को तैयार करता है, तब कहीं एक डेटा सेंटर इसे करने के लिए बिजली जलाता है। उस डेटा सेंटर के पास एक निश्चित बिजली बजट है। जो कंपनी उस बजट से सबसे अधिक उपयोगी आउटपुट उत्पन्न करती है, वह सबसे अधिक पैसे कमाती है। जो कंपनी नहीं करती, वह स्केल नहीं कर सकती।
NVIDIA इसे "प्रति वाट प्रदर्शन" कहता है, जिसका मतलब है कि खपत की गई बिजली की प्रत्येक इकाई के लिए आप कितना AI आउटपुट प्राप्त करते हैं। यह संख्या जितनी अधिक होगी, एक सुविधा अपनी बिजली सीमा तक पहुंचने से पहले अधिक टोकन (छोटे पाठ खंड जो AI सिस्टम प्रक्रिया करते हैं) उत्पादन कर सकता है।
NVIDIA द्वारा प्रकाशित संख्याएँ उल्लेखनीय हैं। इसका GB300 NVL72 सिस्टम, एक रैक-स्केल सर्वर प्लेटफॉर्म जो अपनी नवीनतम Blackwell चिप्स के चारों ओर बना है, कथित रूप से DeepSeek V4 Pro, एक वर्तमान ओपन AI मॉडल पर अपनी पुरानी Hopper पीढ़ी की तुलना में 25 गुना अधिक प्रति वाट प्रदर्शन प्रदान करता है। GLM5.1 पर, एक अन्य सीमावर्ती मॉडल, लाभ 20 गुना तक है। Kimi K2.6 पर, एक मॉडल लंबे स्वचालित कार्यों के लिए बनाया गया है, यह 10 गुना तक पहुंचता है।
ये आंकड़े SemiAnalysis InferenceX से आते हैं, एक तीसरे पक्ष की बेंचमार्किंग समूह, NVIDIA की अपनी ब्लॉग पोस्ट में उद्धृत। ये एक सहकर्मी-समीक्षित अध्ययन या एक स्वतंत्र ऑडिट से नहीं हैं।
क्या यह सामान्य लोगों को प्रभावित करता है?
हाँ, अप्रत्यक्ष रूप से लेकिन महत्वपूर्ण रूप से। सामान्य लोग जो हर दिन उपयोग करते हैं उन AI उपकरणों की गति, लागत और उपलब्धता सभी इस पर निर्भर करती हैं कि डेटा सेंटर कितनी कुशलता से चलते हैं। Perplexity, AI खोज कंपनी, कहती है कि वह Blackwell हार्डवेयर पर प्रतिदिन सैकड़ों मिलियन क्वेरी चलाती है। यदि अंतर्निहित बुनियादी ढांचा अधिक कुशल बन जाता है, तो इसके ऊपर निर्मित सेवाएँ तेज़ और सस्ती हो सकती हैं।
NVIDIA एक कम स्पष्ट नालियों को भी हाइलाइट करता है: शीतलन। एक विशिष्ट AI सुविधा में, ग्रिड से खींची गई केवल लगभग 60 प्रतिशत बिजली वास्तव में चिप्स तक पहुंचती है और उपयोगी काम करती है। बाकी तापमान प्रबंधन और अन्य अक्षमताओं में खो जाता है। NVIDIA का DSX MaxLPS सॉफ्टवेयर, जो चिप्स के बीच वास्तविक समय में शक्ति स्थानांतरित करता है और तरल शीतलन का समर्थन करता है, उस अपशिष्ट को वापस प्राप्त करने का लक्ष्य रखता है।
इन सिस्टमों को चलाने वाली कंपनियों के लिए, Anthropic और OpenAI सहित NVIDIA के अनुसार, यह अभियांत्रिकी जितना ही अर्थशास्त्र के बारे में है। प्रति वाट अधिक आउटपुट का मतलब प्रति क्वेरी कम लागत है, जो सीधे लाभ मार्जिन में जाती है।
यहाँ सॉफ्टवेयर हार्डवेयर जितना ही महत्वपूर्ण है। NVIDIA कहता है कि DeepSeek V4 पर, इसके अनुमान सॉफ्टवेयर स्टैक के अपडेट से एक महीने के भीतर प्रति वाट प्रदर्शन 5 गुना तक सुधार हुआ। यह एक बड़ा लाभ है एक भी चिप को प्रतिस्थापित किए बिना।
यह सब NVIDIA के अगले प्लेटफॉर्म, Vera Rubin कहा जाता है, के लिए आधार तैयारी है, जिसे कंपनी कहती है कि रैक-स्केल दक्षता को और भी आगे बढ़ाएगा।
मूल तनाव वास्तविक है भले ही विपणन चयनात्मक हो: बिजली सीमित है, AI की भूख नहीं है, और अगले सीमावर्ती मॉडल का निर्माण करने वाली हर प्रयोगशाला को उस अंतर के साथ समझौता करना होगा।
