Проблема електроенергії в серці сучасного ШІ

Ключові моменти

• Система GB300 NVL72 від NVIDIA забезпечує до 25 разів більше корисної роботи ШІ на один ват, ніж попереднє покоління Hopper, згідно аналізу SemiAnalysis InferenceX.
• Лише програмні поліпшення підвищили продуктивність на один ват однієї моделі до 5 разів протягом одного місяця у 2025 році.
• NVIDIA стверджує, що її програмне забезпечення для керування потужністю дозволяє операторам запускати до 40 відсотків більше чіпів у межах одного енергетичного бюджету.
• Компанії, включаючи Anthropic, OpenAI та Perplexity, наразі запускають виробничі навантаження на обладнанні Blackwell NVL72, за словами NVIDIA.
• Цифри в цій статті походять з промоційного поста NVIDIA, а не з незалежного рецензованого дослідження.

ШІ — це, по суті, проблема електроенергії.

Кожного разу, коли чатбот відповідає на ваше запитання або агент ШІ — програмне забезпечення, яке самостійно виконує багатокрокові завдання — бронює вам подорож або готує ваш юридичний документ, центр даних десь спалює електроенергію, щоб це зробити. Цей центр даних має фіксований енергетичний бюджет. Компанія, яка генерує найбільше корисного результату з цього бюджету, заробляє більше грошей. Компанія, яка цього не робить, не може масштабуватися.

NVIDIA називає це «продуктивність на один ват», що означає, скільки результату ШІ ви отримаєте на один блок спожитої електроенергії. Чим більше це число, тим більше токенів — невеликих текстових фрагментів, які обробляють системи ШІ — може виробити об'єкт перед досягненням своєї енергетичної границі.

Цифри, опубліковані NVIDIA, вражають. Її система GB300 NVL72, платформа на рівні стійки, побудована на основі найновіших чіпів Blackwell, нібито забезпечує до 25 разів більше продуктивності на один ват, ніж її старше покоління Hopper на DeepSeek V4 Pro, одній із поточних відкритих моделей ШІ. На GLM5.1, іншій передовій моделі, прирост досягає до 20 разів. На Kimi K2.6, моделі, розробленій для тривалих автоматизованих завдань, — до 10 разів.

Ці цифри походять від SemiAnalysis InferenceX, третьої сторони-групи бенчмаркування, на яку посилається сам блог NVIDIA. Вони не походять з рецензованого дослідження чи незалежного аудиту.

Чи впливає це якось на звичайних людей?

Так, опосередковано, але змістовно. Швидкість, вартість та доступність інструментів ШІ, які люди використовують щодня, залежать від того, наскільки ефективно працюють центри даних. Perplexity, компанія пошуку на основі ШІ, стверджує, що вона обробляє сотні мільйонів запитів щодня на обладнанні Blackwell. Якщо базова інфраструктура стане ефективнішою, послуги, побудовані на ній, можуть прискоритися та подешевшати.

NVIDIA також наголошує на менш очевидному витіканні енергії: охолодженні. У типовому об'єкті ШІ лише близько 60 відсотків електроенергії, відібраної з мережі, фактично досягає чіпів і виконує корисну роботу. Решта втрачається на керування теплом та інші неефективності. Програмне забезпечення DSX MaxLPS від NVIDIA, яке переміщує потужність між чіпами в реальному часі та підтримує рідинне охолодження, спрямоване на відновлення деякої з цієї втрати.

Для компаній, які запускають ці системи, включаючи Anthropic та OpenAI за словами NVIDIA, це питання економіки не менше, ніж інженерії. Більше результату на один ват означає нижчу вартість на один запит, що безпосередньо впливає на маржу прибутку.

Програмне забезпечення має таке ж значення, як обладнання. NVIDIA стверджує, що на DeepSeek V4 оновлення її програмного стека для інференції підвищили продуктивність на один ват до 5 разів протягом одного місяця. Це великий прирост без заміни жодного чіпа.

Все це закладає основу для наступної платформи NVIDIA під назвою Vera Rubin, яка, на думку компанії, буде ще більше просувати ефективність на рівні стійки.

Основна напруга є реальною, навіть якщо маркетинг вибірковий: електроенергія обмежена, апетит ШІ — ні, і кожна лабораторія, яка розробляє наступну передову модель, мусить рахуватися з цим розривом.