Google sta sviluppando un chip progettato specificamente per l'IA Gemini

Punti chiave

• Google sta sviluppando un chip specializzato con nome in codice "Frozen v2" progettato per eseguire i suoi modelli di IA Gemini in modo più efficiente, secondo un rapporto pubblicato per primo da The Information.
• Gli ingegneri di Google prevedono che Frozen v2 potrebbe fornire da 6 a 10 volte più output di IA per unità di elettricità rispetto ai chip custom attuali dell'azienda.
• Google prevede di implementare il nuovo chip nel 2028.
• Google ha accettato di pagare a SpaceX approssimativamente 1 miliardo di dollari al mese per coprire l'attuale carenza di capacità di calcolo mentre vengono costruite soluzioni a lungo termine.
• Il prezzo delle azioni di Alphabet è salito del 3% lunedì dopo l'emergere della notizia.

Google sta lavorando a un chip che sarebbe permanentemente ottimizzato per eseguire un modello di IA e nient'altro. Il progetto ha il nome in codice "Frozen v2" ed è destinato a Gemini di Google, il modello linguistico di grandi dimensioni (un tipo di IA che legge e genera testo) che alimenta l'assistente IA di Google e compete con ChatGPT.

L'idea è di incorporare parti della progettazione di Gemini direttamente nei circuiti del processore. Ciò significa che il chip salta i passaggi che un chip di uso generale deve eseguire ogni volta, riducendo l'elettricità e il tempo necessari per rispondere a ogni query. Gli stessi ingegneri di Google prevedono che potrebbe gestire da 6 a 10 volte più risposte per watt di potenza rispetto ai processori custom attuali dell'azienda, chiamati TPU (tensor processing unit), i chip specializzati che Google già costruisce per i carichi di lavoro di IA.

È una cifra sorprendente. Ma comporta un vero vincolo.

Il chip è essenzialmente congelato intorno all'attuale architettura di Gemini. Se Google riprogetta significativamente Gemini prima del 2028, Frozen v2 diventa una scarsa compatibilità. Google avrebbe trattato il progetto in parte come un esperimento e non ha piani attuali per produrlo alla stessa scala dei suoi TPU standard.

Perché è importante per le persone comuni?

È importante perché i costi di calcolo determinano quanto costano i servizi di IA, quanto velocemente rispondono e quanti utenti possono servire contemporaneamente. Google è attualmente sotto seria pressione interna: l'azienda avrebbe dovuto respingere i clienti cloud paganti a causa della carenza di capacità di calcolo per l'IA, e il mese scorso ha accettato di pagare a SpaceX circa 1 miliardo di dollari al mese per affittare capacità e rispettare i suoi impegni con i clienti aziendali. Un chip che fornisce dieci volte l'output per watt alleggerirebbe notevolmente quella pressione, e i costi di gestione più bassi possono eventualmente tradursi in servizi più economici e veloci per gli utenti finali.

Frozen v2 affiancherebbe i TPU esistenti di Google piuttosto che sostituirli. I chip di uso generale rimangono essenziali per l'addestramento di nuovi modelli di IA e la gestione di carichi di lavoro variegati. Frozen v2 gestirà le query Gemini ad alto volume specificamente.

Alphabet non ha risposto a una richiesta di commento prima della pubblicazione. L'obiettivo del 2028 dà a Google circa tre anni per decidere se il compromesso architetturale vale la pena rendere permanente.