Google разрабатывает чип, специально созданный для своего ИИ Gemini

Ключевые моменты

• Google разрабатывает специализированный чип под кодовым названием "Frozen v2", предназначенный для более эффективного запуска своих моделей ИИ Gemini, согласно отчёту, впервые опубликованному The Information.
• Инженеры Google проектируют, что Frozen v2 может обслуживать в 6–10 раз больше выходных данных ИИ на единицу электроэнергии по сравнению с нынешними пользовательскими чипами компании.
• Google планирует развернуть новый чип в 2028 году.
• Google согласилась платить SpaceX примерно 1 миллиард долларов в месяц для решения текущей нехватки вычислительных мощностей, пока разрабатываются долгосрочные решения.
• Цена акции Alphabet выросла на 3% в понедельник после появления отчёта.

Google работает над чипом, который будет постоянно настроен на запуск одной ИИ-модели и больше ничего. Проект носит кодовое название "Frozen v2" и ориентирован на собственную модель Gemini компании — большую языковую модель (тип ИИ, который читает и генерирует текст), которая питает ИИ-помощника Google и конкурирует с ChatGPT.

Идея состоит в том, чтобы встроить части архитектуры Gemini непосредственно в схему процессора. Это означает, что чип пропускает этапы, которые универсальный чип должен выполнять каждый раз, сокращая электроэнергию и время, необходимые для ответа на каждый запрос. Инженеры Google считают, что чип может обработать в 6–10 раз больше ответов на ватт мощности по сравнению с нынешними пользовательскими процессорами компании, называемыми TPU (tensor processing units) — специализированными чипами, которые Google уже разрабатывает для ИИ-рабочих нагрузок.

Это впечатляющая цифра. Но она сопровождается реальным ограничением.

Чип, по сути, зафиксирован на архитектуре Gemini, существующей на сегодняшний день. Если Google значительно переработает Gemini до 2028 года, Frozen v2 станет плохой заменой. По сообщениям, Google рассматривает проект отчасти как эксперимент и в настоящее время не планирует производить его в том же масштабе, что и его стандартные TPU.

Почему это важно для обычных людей?

Это важно, потому что стоимость вычислений определяет, что стоят услуги ИИ, насколько быстро они реагируют и сколько пользователей они могут обслуживать одновременно. Google испытывает серьёзное внутреннее давление прямо сейчас: по сообщениям, компания была вынуждена отклонить запросы платящих клиентов облачных сервисов из-за нехватки вычислительных мощностей ИИ, а в прошлом месяце она согласилась платить SpaceX почти 1 миллиард долларов в месяц за аренду мощностей и выполнение обязательств перед деловыми клиентами. Чип, обеспечивающий в десять раз больший выход на ватт, значительно облегчил бы это давление, а снижение затрат на эксплуатацию в конечном итоге может привести к более дешёвым и быстрым услугам для конечных пользователей.

Frozen v2 будет работать наряду с существующими TPU Google, а не заменять их. Универсальные чипы остаются необходимы для обучения новых моделей ИИ и работы с разнообразными рабочими нагрузками. Frozen v2 будет специально обрабатывать большие объёмы запросов Gemini.

Alphabet не ответила на запрос о комментарии до публикации. Целевой год 2028 дает Google примерно три года, чтобы решить, стоит ли постоянно фиксировать компромисс архитектуры.