Google está a construir um chip projectado especificamente para a sua IA Gemini

Pontos principais

• Google está a desenvolver um chip especializado com codinome "Frozen v2" projectado para executar os seus modelos de IA Gemini com maior eficiência, de acordo com um relatório publicado pela primeira vez pela The Information.
• Engenheiros do Google projectam que o Frozen v2 pode oferecer 6 a 10 vezes mais resultado de IA por unidade de electricidade do que os chips customizados actuais da empresa.
• Google está a visar 2028 para a implementação do novo chip.
• Google concordou em pagar à SpaceX aproximadamente 1 mil milhões de dólares por mês para cobrir uma escassez actual de capacidade informática enquanto soluções de longo prazo são desenvolvidas.
• O preço das acções da Alphabet subiu 3% na segunda-feira após o relatório surgir.

Google está a trabalhar num chip que seria permanentemente sintonizado para executar um modelo de IA e nada mais. O projecto tem o codinome "Frozen v2" e é direccionado para o próprio Gemini do Google, o grande modelo de linguagem (um tipo de IA que lê e gera texto) que potencia o assistente de IA do Google e compete com ChatGPT.

A ideia é integrar partes do design do Gemini directamente na circuiteria do processador. Isto significa que o chip ignora passos que um chip de uso geral tem de realizar cada vez, reduzindo a electricidade e o tempo necessários para responder a cada consulta. Os próprios engenheiros do Google projectam que poderia gerir 6 a 10 vezes mais respostas por watt de energia em comparação com os processadores customizados actuais da empresa, chamados TPUs (unidades de processamento de tensores), os chips especializados que o Google já constrói para cargas de trabalho de IA.

É um número impressionante. Mas vem com uma restrição real.

O chip é essencialmente congelado em torno da arquitectura actual do Gemini. Se Google redesenhar significativamente o Gemini antes de 2028, o Frozen v2 torna-se um ajuste deficiente. Google aparentemente trata o projecto em parte como uma experiência e não tem planos actuais de o fabricar à mesma escala dos seus TPUs padrão.

Por que é que isto importa às pessoas comuns?

Importa porque os custos informáticos moldam o que custam os serviços de IA, como respondem rapidamente e quantos utilizadores conseguem servir simultaneamente. Google está sob pressão interna séria neste momento: a empresa aparentemente teve de recusar clientes de cloud pagantes devido a uma escassez de capacidade informática de IA, e o mês passado concordou em pagar à SpaceX perto de 1 mil milhões de dólares por mês para arrendar capacidade e cumprir os seus compromissos com clientes empresariais. Um chip que entrega dez vezes o resultado por watt aliviaria consideravelmente essa pressão, e custos de funcionamento mais baixos podem eventualmente traduzir-se em serviços mais baratos e rápidos para utilizadores finais.

Frozen v2 funcionaria ao lado dos TPUs existentes do Google em vez de os substituir. Chips de uso geral mantêm-se essenciais para treinar novos modelos de IA e lidar com cargas de trabalho variadas. Frozen v2 trataria especificamente de consultas de alto volume do Gemini.

Alphabet não respondeu a um pedido de comentário antes da publicação. O alvo de 2028 dá ao Google aproximadamente três anos para decidir se a compensação de arquitectura vale a pena tornar permanente.