ЦОД искусственного интеллекта в коробке: внутри Sonic Inference Pod от Runware

Ключевые моменты

• Runware представила Sonic Inference Pod во вторник — отдельное портативное вычислительное устройство, предназначенное для обработки рабочих нагрузок ИИ в непосредственной близости к пользователям.
• Компания привлекла $50 млн в ходе раунда Series A финансирования в декабре 2024 года для создания инфраструктуры генерации изображений ИИ.
• На данный момент у Runware активны 10 модулей в США, Европе и Азиатско-Тихоокеанском регионе, и уже выявлены 160 потенциальных площадок.
• Модули используют замкнутую систему охлаждения, которая не потребляет воду, в отличие от обычных центров обработки данных.
• Клиентами Runware являются платформа генерации изображений Higgsfield AI и конструктор сайтов Wix.

Каждый раз, когда вы просите инструмент ИИ создать изображение, написать предложение или ответить на вопрос, где-то в центре обработки данных выполняется вся тяжелая работа. Эти центры огромны, дороги, требуют огромного количества воды и занимают годы на построение. Runware, компания, занимающаяся инфраструктурой ИИ, считает, что есть более удачный способ.

Во вторник компания объявила о Sonic Inference Pod — модульном, автономном вычислительном устройстве, которое можно доставить почти в любое место, где есть электроснабжение, и установить за дни, а не годы. Подумайте об этом как о центре обработки данных, уменьшенном до размера большого контейнера.

Что это на самом деле делает?

Модуль выполняет вывод — процесс запуска модели ИИ для получения ответа или изображения, в отличие от более долгого и дорогого процесса первоначального обучения модели. Runware утверждает, что её модули могут делать это дешевле, чем конкурирующие облачные платформы, при этом обеспечивая высокое качество результатов.

Поскольку устройства модульные, расширение мощности означает отправку ещё одного модуля, а не закладку фундамента нового здания. Флавиу Радулеску, сооснователь и главный исполнительный директор Runware, рассказал TechCrunch, что конструкция позволяет компании "развёртываться везде, где есть электричество" и быстро адаптироваться, когда на рынок поступают новые чипы.

"Спрос на вывод растёт быстрее, чем можно построить новые объекты", — сказал Радулеску.

Почему система охлаждения так важна?

Обычные центры обработки данных используют огромное количество воды для охлаждения серверов. Sonic Inference Pod вместо этого использует замкнутую систему охлаждения, циркулирующую один и тот же теплоноситель без потребления воды из местных источников. Runware утверждает, что это имеет значение как для окружающей среды, так и для сообществ рядом с её площадками.

Компания ещё не работает полностью на возобновляемых источниках энергии, и Радулеску признал, что потребление электроэнергии ИИ будет расти независимо от того, какая компания предоставляет вычисления. Его аргумент заключается в том, что модули используют электроэнергию, которая уже существует в сети, вместо требования построить новые мощности, и что "большее количество вывода, созданного таким образом, означает меньше новой сети, меньше воды на то же количество вычислений".

Это заявление компании, а не независимо проверенный вывод. Читатели должны оценивать его соответственно.

Что это означает для обычных людей?

Непосредственно пока совсем немного. Runware продаёт свои вычислительные мощности компаниям, а не потребителям. Но если её утверждения о стоимости и скорости подтвердятся, компании, которые разрабатывают используемые ежедневно инструменты ИИ, смогут передать экономию через более дешёвые или быстрые продукты.

Более широкая картина также важна. Сообщества по всему США сообщали о растущих счетах за электроэнергию, связанных с переездом крупных центров обработки данных рядом. Распределённая модель, где меньшие устройства распределяют нагрузку на множество мест, может облегчить это давление, хотя может распределить его и более широко. Независимая проверка этих компромиссов ещё не проводилась.

10 активных модулей Runware и 160 выявленных площадок — это начало. Вопрос о том, может ли модель действительно конкурировать с многомиллиардными проектами, которые строят OpenAI и другие компании, будет решён в ближайшие годы.