Una scommessa di 400 milioni di dollari che i chip AI più economici vinceranno

Punti chiave

• General Compute ha raccolto 400 milioni di dollari in finanziamenti in debito dalla società di investimenti Upper90 nel 2025.
• Il prestito è ritenuto il primo mai garantito contro chip di inferenza, l'hardware specializzato che esegue modelli AI finiti anziché addestrarne di nuovi.
• I chip SambaNova SN50 di General Compute affermano velocità di inferenza 16 volte superiori rispetto ai servizi cloud basati su GPU comparabili.
• L'accordo segue il crescente interesse degli investitori nei modelli AI open source come alternativa più economica ai modelli frontier di laboratori come OpenAI e Anthropic.

Una piccola startup di AI ha appena preso in prestito 400 milioni di dollari, e la parte inusuale non è il numero. È ciò che il prestatore ha accettato come garanzia.

General Compute, fondata dal CEO Finn Puklowski e a malapena oltre la fase di seed, ha ottenuto il prestito da Upper90, una società di investimenti focalizzata sulla tecnologia. La garanzia: chip di inferenza. Si tratta di processori specializzati costruiti per eseguire rapidamente e economicamente un modello AI finito, al contrario dei chip molto più costosi utilizzati per addestrare un modello da zero. Pensa ai chip di addestramento come alla fabbrica che costruisce un'auto, e ai chip di inferenza come al motore che la fa effettivamente funzionare.

Il co-fondatore di Upper90 Billy Libby ha detto a TechCrunch che ritiene questo sia il primo prestito mai garantito da chip di inferenza specificamente. Ha precedenti in questo ambito. Nel 2021 la sua società ha finanziato acquisti di GPU per una società di data centre chiamata Crusoe, che considera il primo prestito sul valore di chip avanzati. Le banche tradizionali allora non avrebbero considerato i chip come garanzia perché nessuno sapeva quanto velocemente avrebbero perso valore. Da allora, il gigante del cloud CoreWeave ha costruito un intero business attorno a prestiti garantiti da chip ed è diventato pubblico, e quel tipo di finanziamento è ormai comune.

Ora Libby pensa che l'inferenza sia la prossima ondata. "Non tutti hanno bisogno di un supercomputer, ma hanno bisogno di inferenza e AI," ha detto a TechCrunch.

General Compute sta costruendo il suo servizio attorno ai chip di SambaNova, un produttore di chip supportato da Intel. I chip SN50 sono progettati per essere efficienti dal punto di vista energetico e saltare i sistemi di raffreddamento ad acqua costosi che tipicamente richiedono le GPU di fascia alta, il che significa che possono entrare più rapidamente in data centre più standard. L'azienda afferma 16 volte più velocità di inferenza rispetto ai rivali cloud basati su GPU.

L'argomento più ampio è il costo. Eseguire attività AI su modelli open source, software AI il cui codice sottostante è pubblicamente disponibile, è molto più economico che pagare per query a un laboratorio frontier. Il nostro articolo del 15 luglio su dirigenti di chip AI che segnalano una domanda illimitata ha notato che le imprese stanno già premendo duramente su ciò che effettivamente ottengono per i loro soldi, che è esattamente il divario che General Compute mira a colmare. Startup come OpenRouter e Fireworks, che indirizzano il traffico verso modelli open, hanno recentemente raccolto fondi a valutazioni elevate, e K3 di Kimi, che abbiamo coperto il 16 luglio, sta ora equiparando OpenAI e Anthropic nei benchmark di codifica.

Cosa significa questo per le persone e le aziende che utilizzano strumenti AI?

Prezzi più bassi, potenzialmente. Se le società di infrastrutture eseguono modelli capaci su chip più economici ed efficienti, i costi dovrebbero scendere per tutti a valle: aziende che costruiscono app, sviluppatori che scrivono assistenti di codice, chiunque paghi un abbonamento che si basa su AI.

General Compute non è sola. TensorWave sta perseguendo una strategia simile costruita attorno ai chip AMD. Il filo conduttore è la convinzione che la quasi totale presa di Nvidia sul calcolo AI si allenterà mentre le alternative maturano.

Puklowski l'ha messo chiaramente: "Questo è il primo segnale del capitale che si organizza e della frammentazione del dominio monopolistico di Nvidia."

Il fatto che i chip SN50 mantengano le loro specifiche su larga scala è la domanda a cui il prossimo anno darà risposta. Il finanziamento è intelligente; l'hardware deve ancora provare se stesso in produzione.