Una scommessa di 400 milioni su chip AI più economici

Punti chiave

• General Compute ha raccolto 400 milioni di dollari in finanziamenti in debito dalla società di investimenti Upper90 nel 2025.
• Si ritiene che il prestito sia il primo mai garantito contro chip di inferenza, l'hardware specializzato che esegue i modelli IA finiti piuttosto che addestrarne di nuovi.
• I chip SambaNova SN50 di General Compute vantano velocità di inferenza 16 volte superiori rispetto ai servizi cloud basati su GPU comparabili.
• L'accordo segue il crescente interesse degli investitori per i modelli IA open-source come alternativa più economica ai modelli frontier di laboratori come OpenAI e Anthropic.

Una piccola startup IA ha appena preso in prestito 400 milioni di dollari, e la parte inusuale non è il numero. È quello che il prestatore ha accettato come garanzia.

General Compute, fondata dal CEO Finn Puklowski e appena oltre la fase di seed, ha assicurato il prestito da Upper90, una società di investimenti focalizzata sulla tecnologia. La garanzia: chip di inferenza. Si tratta di processori specializzati costruiti per eseguire un modello IA finito in modo rapido ed economico, al contrario dei chip molto più costosi utilizzati per addestrare un modello da zero. Pensa ai chip di addestramento come la fabbrica che costruisce un'auto, e ai chip di inferenza come al motore che effettivamente la guida.

Il cofondatore di Upper90 Billy Libby ha detto a TechCrunch che crede sia il primo prestito mai garantito specificamente da chip di inferenza. Dovrebbe saperlo. Nel 2021 la sua società ha finanziato acquisti di GPU, le unità di elaborazione grafica che divennero la spina dorsale del boom dell'IA, per una società di data centre chiamata Crusoe. All'epoca, le banche tradizionali non toccavano i chip come garanzia perché nessuno sapeva quanto velocemente avrebbero perso valore. Da allora, il gigante del cloud CoreWeave ha costruito un intero business attorno ai prestiti garantiti da chip e è diventata pubblica, e quel tipo di finanziamento è ormai comune.

Ora Libby pensa che l'inferenza sia il prossimo ciclo. "Non tutti hanno bisogno di un supercomputer, ma hanno bisogno di inferenza e IA," ha detto.

General Compute sta costruendo il suo servizio attorno ai chip di SambaNova, un produttore di chip sostenuto da Intel. I chip specifici, chiamati SN50, sono progettati per essere efficienti energeticamente e non richiedono i costosi sistemi di raffreddamento ad acqua che tipicamente richiedono le GPU di fascia alta. Ciò significa che possono essere installati in data centre più standard, più velocemente. L'azienda sostiene che l'SN50 offre un'inferenza 16 volte più veloce rispetto ai rivali cloud basati su GPU.

L'argomento più ampio è il costo. Eseguire compiti IA su modelli open-source, software IA il cui codice sottostante è pubblicamente disponibile, è significativamente più economico che pagare per query a un laboratorio frontier. Startup come OpenRouter e Fireworks, che forniscono accesso a modelli aperti, hanno recentemente raccolto fondi a valutazioni elevate, e i nuovi modelli di team al di fuori degli Stati Uniti ora corrispondono a OpenAI e Anthropic su benchmark tecnici.

Cosa significa questo per le persone e le aziende che utilizzano strumenti IA?

Potrebbe significare prezzi più bassi. Se le aziende di infrastruttura possono eseguire modelli IA capaci su chip più economici ed efficienti, il costo degli strumenti e dei servizi IA dovrebbe scendere per tutti a valle: aziende che costruiscono app, sviluppatori che scrivono assistenti di codice, o chiunque paghi un abbonamento che si basa sull'IA.

General Compute non è l'unica startup a fare questo tipo di scommessa. TensorWave persegue una strategia simile costruita attorno ai chip AMD piuttosto che all'hardware Nvidia. Il filo comune è una convinzione che la quasi totale presa di Nvidia sull'informatica IA si allenterà man mano che le alternative maturano.

Puklowski l'ha detto chiaramente: "Questo è il primo segnale del capitale che si organizza e della frammentazione del dominio monopolistico di Nvidia."

Se i chip SN50 realizzeranno le loro specifiche su scala è una domanda a cui il prossimo anno risponderà.