निष्क्रिय जीपीयू नई ग्राउंडेड विमान हैं: क्यों एआई की अगली समस्या शक्ति नहीं, बल्कि अपशिष्ट है
एआई उद्योग ने सालों तक स्मार्ट मॉडल बनाने और अधिक चिप खरीदने की दौड़ में बिताया। अब एक शांत समस्या आकार ले रही है: डेटा सेंटर में बैठे महंगे हार्डवेयर अक्सर बहुत कम काम करते हैं, और किसी को इसे ठीक करने के लिए कहा नहीं गया है।
मुख्य बातें
- जीपीयू चिप, विशेष प्रोसेसर जो एआई को चलाते हैं, हर घंटे पैसे खर्च करते हैं चाहे वे उपयोगी काम कर रहे हों या नहीं।
- एंथ्रोपिक 2026 तक चार हार्डवेयर प्लेटफॉर्म (अमेज़न, गूगल, माइक्रोसॉफ्ट और एएमडी) में मल्टी-गीगावाट एआई कंप्यूटिंग डील के लिए एक साथ प्रतिबद्ध था, जो दर्शाता है कि सर्वश्रेष्ठ-वित्त पोषित लैब भी चिप एक्सेस को एक सक्रिय कमी मानते हैं।
- निर्धारित हार्डवेयर लागत और परिवर्तनीय मांग के बीच वही असमानता जो लगभग एयरलाइनों को डूब गई वह अब कॉर्पोरेट एआई क्लस्टर पर लागू होती है।
- जो एंटरप्राइज़ बढ़ती एपीआई फीस से बचने के लिए अपनी चिप खरीदते हैं उन्हें एक नए सवाल का सामना करना पड़ता है: आप उन चिप को बिल को सही ठहराने के लिए पर्याप्त व्यस्त कैसे रखते हैं?
एयरलाइन का सबसे महत्वपूर्ण संख्या यह नहीं है कि उसके पास कितने विमान हैं। यह है कि हर दिन वे विमान वास्तव में कितने घंटे हवा में हैं।
तर्क स्पष्ट है। विमान की लागत, वित्तपोषण भुगतान, बीमा, रखरखाव अनुबंध, चाहे विमान गेट पर हो या 35,000 फीट की ऊंचाई पर हो, टिकते रहते हैं। राजस्व केवल तब आता है जब यह उड़ान में हो। जिन वाहकों ने तेजी से टर्नअराउंड और सख्त शेड्यूलिंग में महारत हासिल की वे बचे। जो नहीं करते थे वे चले गए, बेड़े के आकार की परवाह किए बिना।
हगिंग फेस द्वारा प्रकाशित विश्लेषण तर्क देता है कि एंटरप्राइज़ एआई अब बिल्कुल उसी बाध्यता में है, बस अलग हार्डवेयर के साथ।
जो लोग जीपीयू नहीं खरीदते उनके लिए यह क्यों मायने रखता है?
यह मायने रखता है क्योंकि जीपीयू लागत हर उस व्यक्ति के पास बहती है जो काम पर एआई उपकरण का उपयोग करता है, या उन्हें ग्राहक के रूप में भुगतान करता है।
एक जीपीयू, एक विशेष प्रोसेसर जो एआई को आवश्यक भारी संख्या-क्रंचिंग संभालता है, 24 घंटे लागत जमा करता है: बिजली, शीतलन, वित्तपोषण, मूल्यह्रास। इसका आउटपुट केवल तब गिनता है जब यह वास्तविक कार्य चला रहा हो। समान चिप बजट वाली दो कंपनियां बहुत अलग अर्थव्यवस्था के साथ समाप्त हो सकती हैं यह इस पर निर्भर करता है कि किसी भी समय वह हार्डवेयर वास्तव में कितना व्यस्त है।
उद्योग ने अपने पहले चरण में एक अलग समस्या का समाधान किया। बड़े मॉडल, अधिक डेटा पर प्रशिक्षित, छोटे लोगों को हराते रहते हैं। पैरामीटर गणना, आंतरिक संख्याएं जो मॉडल की क्षमता निर्धारित करती हैं, और लीडरबोर्ड रैंकिंग बातचीत पर हावी थी। उस दौड़ ने चिप की विशाल भूख के साथ-साथ गंभीर व्यावसायिक उपयोग के लिए पर्याप्त मॉडल तैयार किए।
2020 में, माइक्रोसॉफ्ट ने ओपनएआई के लिए 10,000 से अधिक जीपीयू के साथ एक समर्पित सुपरकंप्यूटर बनाया और जीपीटी-3 को प्रशिक्षित किया, जो शुरुआती चैटजीपीटी के पीछे का मॉडल है। उस समय, यह संख्या लगभग असंभव लगती थी। 2026 तक, यह मामूली दिखता है।
चिप क्लस्टर के अंदर अपशिष्ट वास्तव में कैसा दिखता है?
व्यस्त दिखने वाला हार्डवेयर अभी भी अपनी क्षमता का अधिकांश बर्बाद कर सकता है। समस्या यह है कि विभिन्न एआई कार्य एक ही चिप से अलग चीजें चाहते हैं।
रीयल-टाइम अनुमान, सेकंड में एआई जवाब उत्पन्न करना, कम देरी को सब कुछ से अधिक मांग करता है। बैच प्रोसेसिंग, रातोंरात बड़े डेटासेट को कुचलना, कुल थ्रूपुट की परवाह करता है और प्रतीक्षा कर सकता है। एक मॉडल को प्रशिक्षित करना दिनों के लिए एक चिप को मजबूती से घेर सकता है। एक मॉडल को संपीड़ित करना (क्वांटाइजेशन नामक प्रक्रिया) को थोड़े समय के लिए क्षमता का एक बड़ा विस्फोट चाहिए, फिर कुछ नहीं।
इनमें से एक कार्य के लिए ट्यून किया गया शेड्यूलिंग सिस्टम लगभग डिफ़ॉल्ट रूप से दूसरों को बुरी तरह से संभालेगा। एक क्लस्टर डैशबोर्ड पर उच्च औसत उपयोग दिख सकता है जबकि विशिष्ट नौकरियां सही चिप प्रकार के खाली होने का इंतजार करते हुए एक कतार में बैठती हैं।
यह पैटर्न विमान समस्या को प्रतिबिंबित करता है, लेकिन एक अतिरिक्त मोड़ के साथ। एक निष्क्रिय विमान को आमतौर पर थोड़े समय में एक अलग मार्ग में बदला जा सकता है। एक जीपीयू एक वर्ग के कार्यभार के लिए कॉन्फ़िगर किया गया हमेशा पुनर्विन्यास, देरी, या बर्बादी के बिना दूसरे को अवशोषित नहीं कर सकता।
| युग | बाध्यकारी बाधा | इसे पहले किसने महसूस किया |
|---|---|---|
| 2018 से 2021 | मॉडल गुणवत्ता | अनुसंधान प्रयोगशालाएं |
| 2022 से 2024 | चिप आपूर्ति | प्रयोगशालाएं और क्लाउड प्रदाता |
| 2025 आगे | चिप उपयोग | अपने स्वयं के क्लस्टर चलाने वाले एंटरप्राइज़ |
एआई पर निर्माण करने वाले व्यवसायों को इससे क्या लेना चाहिए?
व्यावहारिक परिणाम सरल है। जीपीयू क्षमता के लिए एक डील पर हस्ताक्षर करना वह हिस्सा है जिसके पास एक समय सीमा और एक खरीद टीम है। वह क्षमता जमीन से बाहर रखना वह हिस्सा है जो चुपचाप तय करता है कि डील इसके लायक था या नहीं।
जो एंटरप्राइज़ pay-per-use एपीआई मूल्य निर्धारण से दूर चले गए, जहां लागत हर क्वेरी के साथ सीधी लाइन में बढ़ती है, अपने स्वयं के हार्डवेयर के मालिक होने की ओर एक ब्रेक-ईवन गणना का सामना करते हैं। एक निश्चित उपयोग स्तर के नीचे, एपीआई सस्ता है। इसके ऊपर, स्वामित्व वाली बुनियादी ढांचा जीतता है। लेकिन स्वामित्व वाली बुनियादी ढांचा केवल तभी जीतता है जब कोई इसे व्यस्त रखने के लिए जिम्मेदार हो।
अभी, वह जवाबदेही बड़ी हद तक गायब है। विमान उद्योग को उपयोग को एक बोर्ड-स्तरीय संख्या बनाने में दशकों और कई दिवालिया हुए। एआई बुनियादी ढांचे के पास इतना समय नहीं हो सकता है।
