Ставка в $400 мільйонів на те, що дешевші чіпи для ШІ переможуть

Ключові моменти

• General Compute залучила $400 мільйонів у формі боргового фінансування від інвестиційної компанії Upper90 у 2025 році.
• Позика вважається першою в історії, забезпеченою на чіпи для інференції — спеціалізованому обладнанні, яке запускає готові моделі ШІ, а не навчає нові.
• Чіпи SambaNova SN50 компанії General Compute стверджують про 16-кратно швидшу інференцію порівняно з порівняльними хмарними сервісами на базі GPU.
• Угода слідує зростаючому інтересу інвесторів до моделей ШІ з відкритим кодом як дешевшої альтернативи граничним моделям від лабораторій на кшталт OpenAI та Anthropic.

Невеликий стартап у сфері ШІ щойно позичив $400 мільйонів, і незвичайне тут — не сума. Незвичайне те, що позикодавець прийняв як застави.

General Compute, засновану CEO Фінном Пуклівським і на ранніх етапах розвитку, отримала позику від Upper90, інвестиційної фірми, орієнтованої на технології. Застава: чіпи для інференції. Це спеціалізовані процесори, розроблені для швидкого та дешевого запуску готової моделі ШІ, на відміну від значно дорожчих чіпів, які використовуються для навчання моделі з нуля. Думайте про чіпи для навчання як про фабрику, що виробляє автомобіль, а про чіпи для інференції як про двигун, який його приводить в рух.

Співзасновник Upper90 Біллі Ліббі розповів TechCrunch, що він вважає це першою позикою, забезпеченою саме чіпами для інференції. Він повинен це знати. У 2021 році його фірма фінансувала закупівлі GPU, графічних процесорів, які стали основою бума ШІ, для компанії з обслуговування центрів обробки даних Crusoe. Тоді традиційні банки не хотіли брати чіпи як заставу, оскільки ніхто не знав, як швидко вони втратять вартість. З того часу хмарний гігант CoreWeave побудував цілу бізнес-модель на основі позик, забезпечених чіпами, і став публічною компанією, і такий тип фінансування тепер поширений.

Тепер Ліббі вважає, що інференція — це наступна хвиля. «Не всім потрібен суперкомп'ютер, але всім потрібна інференція та ШІ», — сказав він.

General Compute будує свій сервіс навколо чіпів компанії SambaNova, виробника, підтримуваного Intel. Конкретні чіпи під назвою SN50 розроблені так, щоб бути енергоефективними і не потребують дорогих систем водяного охолодження, які зазвичай потрібні高-end GPU. Це означає, що їх можна встановлювати в більш стандартних центрах обробки даних і значно швидше. Компанія стверджує, що SN50 забезпечує 16-кратно швидшу інференцію порівняно з конкурентними хмарними сервісами на базі GPU.

Більш широкий аргумент — це вартість. Запуск завдань ШІ на моделях з відкритим кодом, програмному забезпеченню ШІ, код якого є загальнодоступним, значно дешевше, ніж платити за кожен запит до граничної лабораторії. Стартапи на кшталт OpenRouter та Fireworks, які надають доступ до відкритих моделей, нещодавно залучили гроші з високими оцінками компанії, а нові моделі від команд поза США тепер не відстають від OpenAI та Anthropic за технічними показниками.

Що це означає для людей і компаній, які використовують інструменти ШІ?

Це могло б означати нижчі ціни. Якщо компанії інфраструктури зможуть запускати здатні моделі ШІ на дешевших, більш ефективних чіпах, вартість інструментів та сервісів ШІ повинна впасти для всіх далі в ланцюгу: компаній, які розробляють додатки, розробників, які пишуть асистентів кодування, або будь-кого, хто платить за підписку, яка спирається на ШІ.

General Compute — не єдиний стартап, який робить такий вибір. TensorWave переслідує подібну стратегію, побудовану навколо чіпів AMD, а не обладнання Nvidia. Спільна нитка — це переконання, що майже повна монополія Nvidia на обчислення ШІ послабиться, коли альтернативи дозріють.

Пуклівський висловився прямо: «Це перший сигнал того, що капітал організує себе і фрагментується монопольне панування Nvidia».

Те, чи доставлять чіпи SN50 на масштабі те, що вони обіцяють, — це питання, на яке відповідь дасть наступний рік.