Google розробляє чіп, спеціально призначений для його ШІ Gemini

Ключові моменти

• Google розробляє спеціалізований чіп з кодовою назвою «Frozen v2», призначений для більш ефективного запуску своїх моделей ШІ Gemini, згідно зі звітом, вперше опублікованим The Information.
• Інженери Google прогнозують, що Frozen v2 може видавати від 6 до 10 разів більше виходу ШІ на одиницю електроенергії порівняно з поточними спеціальними чіпами компанії.
• Google планує розгорнути новий чіп у 2028 році.
• Google погодилася платити SpaceX приблизно 1 мільярд доларів на місяць для покриття поточної нестачі обчислювальної потужності, доки будуються довгострокові рішення.
• Ціна акцій Alphabet зросла на 3% у понеділок після появи звіту.

Google працює над чіпом, який буде постійно налаштований на запуск однієї моделі ШІ і нічого іншого. Проект має кодову назву «Frozen v2» і спрямований на власний Gemini компанії — велику мовну модель (тип ШІ, який читає та генерує текст), яка живить ШІ-помічника Google та конкурує з ChatGPT.

Ідея полягає у вбудуванні частин дизайну Gemini прямо в схему процесора. Це означає, що чіп пропускає кроки, які повинен виконувати універсальний чіп щоразу, зменшуючи електроенергію та час, необхідний для відповіді на кожен запит. Інженери Google прогнозують, що він може обробляти від 6 до 10 разів більше відповідей на ват потужності порівняно з поточними спеціальними процесорами компанії, які називаються TPU (tensor processing units) — спеціалізовані чіпи, які Google вже будує для робочих навантажень ШІ.

Це вражаюча цифра. Але вона містить у собі реальне обмеження.

Чіп по суті «заморожений» навколо нинішньої архітектури Gemini. Якщо Google суттєво переробить Gemini до 2028 року, Frozen v2 буде погано пристосований. Google ставиться до проекту частково як до експерименту і не має поточних планів виробляти його в тому ж масштабі, що й його стандартні TPU.

Чому це важливо для звичайних людей?

Тому що витрати на обчислення визначають вартість послуг ШІ, як швидко вони відповідають та скільки користувачів вони можуть обслуговувати одночасно. Google зараз відчуває серйозний внутрішній тиск: компанія змушена була відмовити платіжним хмарним клієнтам через нехватку обчислювальної потужності для ШІ, а минулого місяця погодилася платити SpaceX близько 1 мільярда доларів на місяць для оренди потужностей і виконання своїх зобов'язань перед клієнтами. Чіп, який видає десятикратний вихід на ват, значно пом'якшить цей тиск, а зменшені робочі витрати можуть в кінцевому результаті призвести до дешевших і швидших послуг для кінцевих користувачів.

Frozen v2 буде працювати поряд з поточними TPU компанії, а не замінювати їх. Універсальні чіпи залишаються необхідними для навчання нових моделей ШІ та обробки різноманітних робочих навантажень. Frozen v2 обробляє великі обсяги запитів Gemini.

Alphabet не дав коментарів на запит перед публікацією. Ціль 2028 року дає Google приблизно три роки, щоб вирішити, чи варто робити компроміс архітектури постійним.