Il Data Center AI che Entra in una Scatola: All'Interno del Sonic Inference Pod di Runware

Punti chiave

• Runware ha lanciato martedì il Sonic Inference Pod, un'unità di calcolo transportabile e autonoma progettata per eseguire carichi di lavoro AI vicino a chi ne ha bisogno.
• L'azienda ha raccolto 50 milioni di dollari in un round di finanziamento di Serie A a dicembre 2024 per costruire infrastrutture di generazione di immagini AI.
• Runware attualmente ha 10 pod attivi negli Stati Uniti, Europa e Asia-Pacifico, con 160 siti potenziali già identificati.
• I pod utilizzano un sistema di raffreddamento a circuito chiuso, il che significa che non viene consumata acqua, a differenza dei data center convenzionali.
• I clienti di Runware includono la piattaforma di generazione di immagini Higgsfield AI e il builder di siti web Wix.

Ogni volta che chiedi a uno strumento di AI di generare un'immagine, scrivere una frase o rispondere a una domanda, un data center da qualche parte fa il lavoro pesante. Questi centri sono enormi, costosi, consumano molta acqua e richiedono anni per essere costruiti. Runware, un'azienda di infrastrutture AI, pensa che ci sia un modo migliore.

Martedì l'azienda ha annunciato il Sonic Inference Pod: un'unità di calcolo modulare e autonoma che può essere spedita in quasi qualsiasi luogo con alimentazione elettrica e installata in giorni anziché anni. Pensalo come un data center ridotto alle dimensioni di un grande container di spedizione.

Cosa fa esattamente?

Il pod gestisce l'inferenza, il processo di esecuzione di un modello AI per produrre una risposta o un'immagine, al contrario del processo più lungo e costoso dell'addestramento di un modello in primo luogo. Runware sostiene che i suoi pod possono farlo a un costo inferiore rispetto alle piattaforme cloud concorrenti, pur offrendo risultati di alta qualità.

Poiché le unità sono modulari, aggiungere capacità significa spedire un altro pod, non iniziare i lavori di costruzione di un nuovo edificio. Flaviu Radulescu, cofondatore e amministratore delegato di Runware, ha detto a TechCrunch che il design permette all'azienda di "distribuire ovunque ci sia corrente" e di adattarsi rapidamente quando nuovi chip arrivano sul mercato.

"La domanda di inferenza sta crescendo più velocemente di quanto le strutture possano essere costruite", ha detto Radulescu.

Perché il sistema di raffreddamento è importante?

I data center convenzionali utilizzano enormi quantità di acqua per mantenere i server freschi. Il Sonic Inference Pod utilizza invece un sistema di raffreddamento a circuito chiuso, che fa circolare lo stesso fluido ripetutamente senza prelevare acqua dalle risorse locali. Runware sostiene che questo importa sia per l'ambiente che per le comunità vicino ai suoi siti.

L'azienda non sta ancora funzionando interamente con energie rinnovabili, e Radulescu ha riconosciuto che il consumo energetico dell'AI continuerà a crescere indipendentemente da quale azienda fornisca il calcolo. Il suo argomento è che i pod utilizzano l'energia che già esiste sulla rete anziché richiedere la costruzione di una nuova capacità, e che "più inferenza costruita in questo modo significa meno nuova rete, meno acqua, per la stessa quantità di calcolo".

Questa è un'affermazione dell'azienda, non una scoperta verificata in modo indipendente. I lettori dovrebbero valutarla di conseguenza.

Cosa significa questo per la gente comune?

Direttamente, per ora non molto. Runware vende la sua capacità di calcolo alle aziende, non ai consumatori. Ma se le sue affermazioni su costi e velocità reggono, le aziende che costruiscono gli strumenti AI che le persone comuni usano ogni giorno potrebbero trasferire i risparmi attraverso prodotti più economici o veloci.

Anche il quadro più ampio è importante. Le comunità negli Stati Uniti hanno segnalato aumenti delle bollette elettriche collegati ai grandi data center che si trasferiscono nelle vicinanze. Un modello distribuito, dove unità più piccole diffondono il carico su molte posizioni, potrebbe alleviare quella pressione, anche se potrebbe diffonderla in modo più ampio. Il controllo indipendente di questi compromessi non è ancora avvenuto.

I 10 pod attivi di Runware e i 160 siti identificati sono un inizio. Se il modello può davvero competere con i progetti da miliardi di dollari che OpenAI e altri stanno costruendo è una domanda a cui i prossimi anni risponderanno.