Центр даних AI, що вміщається в коробку: всередину Sonic Inference Pod компанії Runware

Ключові моменти

• Runware запустила Sonic Inference Pod у вівторок — один портативний обчислювальний блок, призначений для запуску AI навантажень поблизу тих, хто їх потребує.
• Компанія залучила $50 млн у раунді Series A в грудні 2024 року для розбудови інфраструктури генерування AI зображень.
• Runware наразі має 10 активних блоків у США, Європі та Азіатсько-Тихоокеанському регіоні, з 160 уже визначеними потенційними місцями.
• Блоки використовують замкнену систему охолодження, що означає нульове споживання води, на відміну від звичайних центрів обробки даних.
• Клієнти Runware включають платформу для генерування зображень Higgsfield AI та конструктор вебсайтів Wix.

Кожного разу, коли ви просите AI інструмент створити зображення, написати речення чи відповісти на запитання, центр обробки даних десь виконує складну роботу. Ці центри величезні, дорогі, дуже потребують води й займають роки на будівництво. Runware, компанія з AI інфраструктури, вважає, що існує кращий спосіб.

У вівторок компанія представила Sonic Inference Pod: модульний, автономний обчислювальний блок, який можна відправити майже в будь-яке місце з електропостачанням і розгорнути за дні, а не роки. Уявіть його як центр обробки даних, зменшений до розміру великого контейнера для перевезення.

Що він насправді робить?

Блок обробляє умовивід — процес запуску моделі AI для отримання відповіді чи зображення, на відміну від довшого та дорожчого процесу навчання моделі на першому етапі. Runware стверджує, що її блоки можуть це робити з нижчою вартістю, ніж конкуруючі хмарні платформи, при цьому забезпечуючи високу якість результатів.

Оскільки блоки модульні, збільшення потужності означає відправлення ще одного блоку, а не розпочинання нового будівництва. Флавіу Радулеску, співзасновник і виконавчий директор Runware, розповів TechCrunch, що дизайн дозволяє компанії «розгортатися будь-де, де є електроенергія» та швидко адаптуватися, коли на ринку з'являються нові чіпи.

«Попит на умовивід зростає швидше, ніж можна побудувати об'єкти», — сказав Радулеску.

Чому система охолодження важлива?

Звичайні центри обробки даних використовують величезні кількості води для охолодження серверів. Sonic Inference Pod замість цього використовує замкнену систему охолодження, циркулюючи ту саму рідину повторно без забору води з місцевих джерел. Runware стверджує, що це важливо як для навколишнього середовища, так і для громад поблизу її об'єктів.

Компанія ще не працює повністю на відновлюваній енергії, і Радулеску визнав, що споживання електроенергії для AI буде продовжувати зростати незалежно від того, яка компанія забезпечує обчислення. Його аргумент полягає в тому, що блоки використовують електроенергію, яка вже існує в мережі, замість того щоб вимагати побудови нової потужності, і що «більше умовиводів, побудованих таким чином, означає менше нової мережі, менше води для одного обсягу обчислень».

Це твердження компанії, а не незалежно перевірене знахідження. Читачам слід це враховувати.

Що це означає для звичайних людей?

Прямо кажучи, поки що не багато. Runware продає свою обчислювальну потужність бізнесу, а не споживачам. Але якщо її твердження щодо вартості та швидкості виконаються, компанії, які розробляють AI інструменти, якими звичайні люди користуються щодня, можуть передати заощадження через дешевші або швидші продукти.

Загальна картина також важлива. Громади по всій США повідомили про зростання рахунків за електроенергію, пов'язане з переміщенням великих центрів обробки даних поблизу. Розподілена модель, де менші блоки розподіляють навантаження по багатьох локаціях, могла б пом'якшити цей тиск, хоча вона могла б з рівною ймовірністю розповсюдити його ширше. Незалежна перевірка цих компромісів ще не відбулася.

10 активних блоків Runware та 160 визначених місць — це початок. Чи зможе модель дійсно конкурувати з багатомільярдними проектами, які будують OpenAI та інші, — це питання, яке наступні роки дадуть відповідь.