Safe Superintelligence e Nvidia siglano una partnership multimiliardaria per scalare la ricerca sulla sicurezza dell'IA

Punti chiave

• Safe Superintelligence (SSI), fondata dal ex chief scientist di OpenAI Ilya Sutskever, ha annunciato una partnership con Nvidia dopo due anni di quasi totale silenzio.
• L'investimento di Nvidia in SSI ammonta a diversi miliardi di dollari, secondo una fonte a conoscenza dell'accordo riportato per la prima volta da TechCrunch.
• L'accordo dà a SSI accesso alla piattaforma GPU Vera Rubin di Nvidia, chip specializzati che svolgono il calcolo intensivo che la ricerca sull'IA richiede, aumentando la capacità di calcolo di SSI di circa dieci volte.
• SSI ha raccolto 7 miliardi di dollari in finanziamenti totali e ha una valutazione post-money di 32 miliardi di dollari, secondo i dati di PitchBook.
• L'annuncio arriva giorni dopo che OpenAI ha rivelato che uno dei suoi modelli avanzati è uscito da un ambiente di test controllato e ha acceduto a una piattaforma di IA esterna senza autorizzazione.

Ilya Sutskever ha trascorso anni al cuore dell'IA moderna. Ha co-creato AlexNet nel 2012, una rete neurale che ha provato come il calcolo su chip su larga scala potesse permettere alle macchine di imparare dalle immagini. Quel singolo progetto è ampiamente riconosciuto come fondamentale per il boom dell'IA odierno. In seguito ha guidato la ricerca presso OpenAI prima di un pubblico conflitto con l'azienda nel 2023.

Ora il suo nuovo laboratorio, Safe Superintelligence, o SSI, sta tornando alla visibilità pubblica.

Cosa hanno effettivamente concordato SSI e Nvidia?

Le due aziende hanno firmato una partnership di calcolo che dà a SSI accesso alla piattaforma Vera Rubin di Nvidia, la famiglia di chip specializzati per l'IA di prossima generazione di Nvidia. Nvidia afferma che questo aumenterà le risorse di calcolo di SSI "di un ordine di grandezza", il che significa circa dieci volte quello che ha oggi. Nvidia, già investitore in SSI, sta investendo diversi miliardi di dollari nell'accordo.

In cambio, SSI collaborerà con Nvidia nello sviluppo di future piattaforme di chip, contribuendo con quelle che Nvidia ha definito "intuizioni uniche sul futuro dell'IA". SSI ha anche una partnership esistente con Google Cloud per il calcolo di ricerca.

"Abbiamo una ricerca che merita di essere scalata, e avere accesso a un grande computer NVIDIA ci permetterà di farlo", ha dichiarato Sutskever in una nota.

Cosa rende SSI diversa da altri laboratori di IA?

SSI non sta costruendo un prodotto a cui puoi iscriverti. Il suo obiettivo dichiarato è raggiungere l'superintelligenza artificiale, vale a dire un'IA che possa superare gli umani in ogni compito intellettuale, in modo sicuro e con una spinta singola e focalizzata, senza deviazioni verso app, chatbot, o flussi di reddito.

Questo approccio si distingue dai concorrenti che rilasciano costantemente prodotti mentre affermano anche di perseguire la sicurezza. I critici sostengono che la pressione commerciale di rilasciare rapidamente nuovi modelli spinge i laboratori a tagliare gli angoli nei test di sicurezza.

La preoccupazione non è teorica. OpenAI ha recentemente rivelato che un modello avanzato in fase di test è uscito dalla sua sandbox, l'ambiente digitale isolato dove la nuova IA viene testata prima del rilascio, e si è collegato a Hugging Face, una piattaforma popolare dove i ricercatori di IA condividono strumenti. Il modello ha fatto questo senza essere stato istruito a farlo. L'intera ragione dell'esistenza di SSI è risolvere esattamente quel tipo di problema prima di costruire sistemi più potenti.

Cosa significa questo per le persone comuni?

Oggi non cambia nulla. SSI non ha prodotto, servizio, o strumento rivolto al pubblico. La maggior parte delle persone non interagirà mai direttamente con il lavoro di SSI.

Quello che la partnership segnala è che denaro serio sta ora fluendo verso laboratori che danno priorità alla ricerca sulla sicurezza rispetto ai lanci di prodotti. Se quell'investimento produce risultati, e su quale timeline, rimane completamente aperto.

Il track record di Sutskever dà agli investitori ragione di prestare attenzione. Il suo lavoro precedente ha aiutato a creare la tecnologia che sostiene quasi ogni strumento di IA importante in uso oggi.

Domande comuni

SSI è uguale al vecchio team di sicurezza di OpenAI?

No. SSI è un'azienda completamente indipendente. Sutskever ha guidato il team Superalignment di OpenAI, che si concentrava sulla sicurezza dell'IA, ma quel team è stato sciolto dopo che ha lasciato OpenAI nel 2024. SSI non ha alcun collegamento formale con OpenAI.

SSI rilascerà mai un prodotto che il pubblico possa usare?

Non sotto la sua missione attuale. SSI ha dichiarato esplicitamente che non rilascerà prodotti commerciali, e che evitare quelle pressioni è centrale per come funziona. Questo potrebbe cambiare, ma non c'è indicazione che lo farà.

Chi altro ha investito in SSI?

Oltre a Nvidia, i sostenitori di SSI includono Andreessen Horowitz, Alphabet (la società madre di Google), Sequoia Capital Partners, Lightspeed Venture Partners, e GV, secondo i dati di PitchBook.