Праві GPUs — це нові припаркувані літаки: чому наступна проблема AI — це не потужність, а марнування
Індустрія AI протягом років змаганнялася за розробкою розумніших моделей та закупівлею більшої кількості чипів. Тепер набирає форми тиша проблема: дорогацтехніка у центрах обробки даних часто робить дуже мало, і ніхто не попросив це виправити.
Ключові моменти
- Чипи GPU, спеціалізовані процесори для запуску AI, коштують грошей кожну годину, коли вони увімкнені, незалежно від того, чи виконують вони корисну роботу.
- На 2026 рік Anthropic одночасно брала зобов'язання щодо багатогігаватних угод з обчислення AI на чотирьох апаратних платформах (Amazon, Google, Microsoft та AMD), що свідчить про те, що навіть найбільш фундовані лабораторії розглядають доступ до чипів як актуальну нестачу.
- Такий же розбіжність між постійними витратами на обладнання та змінним попитом, який чи не погубив авіалінії, тепер застосовується до корпоративних AI кластерів.
- Підприємства, що купують власні чипи, щоб уникнути зростаючих комісій за API, стоять перед новим питанням: як тримати ці чипи достатньо навантаженими, щоб виправдати витрати?
Найважливіше число для авіалінії — це не те, скільки літаків вона має. Це те, скільки годин на день ці літаки насправді знаходяться в повітрі.
Логіка проста. Витрати на літаки, платежі за фінансування, страхування, контракти на технічне обслуговування не припиняються, чи знаходиться літак у воротах, чи піднявся на 35 000 футів. Дохід надходить лише коли літак літає. Авіакомпанії, які опанували швидкі розвороти та чіткі графіки, вижили. Ті, що цього не зробили, збанкрутіли, незалежно від розміру флоту.
Аналіз, опублікований Hugging Face, стверджує, що корпоративний AI тепер перебуває в точно такій же скрутному становищі, просто з іншим обладнанням.
Чому це взагалі важливо для людей, які не купують GPU?
Це важливо, тому що витрати на GPU переходять до всім, хто використовує AI-інструменти на роботі або платить за них як споживач.
GPU, спеціалізований процесор, що займається важкими обчисленнями, необхідними для AI, накопичує витрати цілодобово: електроенергія, охолодження, фінансування, амортизація. Його продуктивність рахується лише коли він виконує реальне завдання. Дві компанії з однаковим бюджетом на чипи можуть закінчити з дуже різною економікою залежно від того, наскільки це обладнання насправді завантажене в будь-якому момент.
Індустрія витратила першу фазу на вирішення іншої проблеми. Більші моделі, навчені на більшій кількості даних, постійно перемагали менші. Кількість параметрів, внутрішні числа, які визначають потужність моделі, та рейтинги таблиць лідерів домінували в розмовах. Ця гонка створила моделі, достатньо здатні для серйозного бізнес-використання. Вона також створила величезний попит на чипи.
У 2020 році Microsoft побудував для OpenAI спеціалізований суперкомп'ютер більш ніж з 10 000 GPU для навчання GPT-3, моделі, яка стоїть за ранніми версіями ChatGPT. У той час це число звучало майже неможливим. На 2026 рік це виглядає скромно.
Як насправді виглядає марнування всередині чип-кластера?
Обладнання, що виглядає зайнятим, все ще може марнувати більшість своєї потужності. Проблема в тому, що різні AI-завдання вимагають різного від одного й того ж чипу.
Інференція в реальному часі, генерування AI-відповіді за секунди, вимагає перш за все низької затримки. Пакетна обробка, розробка великих наборів даних протягом ночі, турбується про загальну пропускну здатність і може чекати. Навчання моделі може зайняти чип суцільно на днями. Компресія моделі (процес, названий квантизацією) потребує великого сплеску потужності на короткий час, а потім нічого.
Система планування, налаштована для однієї з цих завдань, буде обробляти інші майже за замовчуванням погано. Кластер може показувати високе середнє використання на панелі приладів, одночасно конкретні завдання чекають у черзі на вивільнення правильного типу чипу.
Схема дублює проблему авіації, але з одним додатковим поворотом. Праве літак зазвичай можна швидко переспрямувати на інший маршрут. GPU, налаштований для одного класу робочого навантаження, не завжди може поглинути інший без переналаштування, затримки чи марнування.
| Епоха | Обмежуючий фактор | Хто відчув першим |
|---|---|---|
| 2018–2021 | Якість моделі | Дослідницькі лабораторії |
| 2022–2024 | Пропозиція чипів | Лабораторії та хмарні провайдери |
| 2025 та далі | Утилізація чипів | Підприємства, що запускають власні кластери |
Що мають взяти звідси підприємства, що будують на AI?
Практичний висновок простий. Укладення угоди щодо потужності GPU — це частина, яка має терміновість та команду закупівель. Тримати цю потужність на землі — це та частина, яка потихеньку вирішує, чи вартою було вам цю угода.
Підприємства, які відійшли від цінування "платіж за використання" через API, де витрати зростають прямолінійно з кожним запитом, до володіння власним обладнанням, стоять перед розрахунком беззбитковості. Нижче певного рівня використання, API дешевший. Вище нього, своя інфраструктура перемагає. Але своя інфраструктура перемагає тільки якщо хтось несе відповідальність за її завантаженість.
Зараз ця відповідальність здебільшого відсутня. Індустрія авіації витратила десятиліття та кілька банкрутств, щоб зробити утилізацію показником рівня ради директорів. Інфраструктура AI може мати менше часу.
