Decine di Giganti della Tecnologia Formano l'Alleanza Open Secure AI per Mettere gli Strumenti di Difesa Informatica nelle Mani di Tutti
Più di 40 aziende, da Microsoft a Hugging Face, stanno mettendo in comune strumenti open-source di sicurezza dell'IA affinché qualsiasi organizzazione possa difendersi senza dipendere da un pugno di fornitori proprietari.
Punti chiave
- Più di 40 aziende hanno lanciato l'Alleanza Open Secure AI nel 2025 per creare strumenti di sicurezza dell'IA liberamente disponibili.
- Una recente violazione di sicurezza di Hugging Face ha dimostrato perché l'IA aperta è importante: gli strumenti proprietari hanno bloccato gli investigatori, quindi l'azienda ha eseguito un modello aperto per analizzare oltre 17.000 azioni sospette.
- NVIDIA sta contribuendo con modelli aperti e un nuovo framework di ricerca chiamato NOOA (NVIDIA Labs Object-Oriented Agent) all'Alleanza.
- L'unità di IA di SpaceX, xAI, ha reso open-source l'agente di codifica Grok Build e prevede di rilasciare i pesi, i file matematici fondamentali, della sua linea di modelli Grok.
- L'Alleanza sta chiedendo ai governi di trattare gli strumenti di sicurezza dell'IA aperta come risorse difensive, non come rischi da limitare.
Oltre quaranta tra le più grandi aziende tecnologiche del mondo si sono unite a una nuova coalizione per rendere la difesa informatica basata sull'IA liberamente disponibile a qualsiasi difensore, ovunque. Il gruppo si chiama Open Secure AI Alliance, e i suoi membri fondatori includono NVIDIA, Microsoft, IBM, Cisco, Cloudflare, CrowdStrike, Hugging Face, Palo Alto Networks, Red Hat, Salesforce e Capital One, tra gli altri.
L'idea centrale è semplice. Al momento, gli strumenti di sicurezza dell'IA più potenti si trovano dentro un piccolo numero di prodotti commerciali chiusi e di grandi dimensioni. Se questi strumenti bloccano il tuo accesso, o semplicemente non riescono a distinguerti da un attaccante, sei bloccato.
Che cosa è successo davvero per provare il punto?
Un incidente reale ha fatto valere l'argomento. Quando Hugging Face, una piattaforma di ricerca sull'IA utilizzata da milioni di sviluppatori, ha subito una violazione di sicurezza, l'azienda ha cercato di utilizzare strumenti di IA proprietari per indagare. Questi strumenti hanno rifiutato di aiutare perché non potevano verificare se le persone che facevano domande fossero difensori o attaccanti.
Hugging Face ha quindi eseguito il modello GLM 5.2 open-weight, un sistema di IA i cui file fondamentali sono pubblicamente disponibili per chiunque voglia scaricare ed eseguire, sui propri server. Il modello ha esaminato più di 17.000 azioni registrate e ha aiutato a contenere l'intrusione. Senza quel modello aperto, eseguito su infrastrutture che l'azienda controllava direttamente, l'indagine si sarebbe bloccata.
Questo episodio cattura esattamente il motivo per cui l'Alleanza esiste. Quando la velocità è più importante, i difensori hanno bisogno di strumenti che possono ispezionare, adattare ed eseguire da soli.
Che cosa stanno effettivamente costruendo i membri?
Ogni membro sta contribuendo con qualcosa di concreto. NVIDIA, riportata come organizzatore principale dal suo stesso blog, sta rilasciando modelli aperti e il framework di ricerca NOOA, un toolkit che rende più facile testare e sottoporre a controllo gli agenti dell'IA, programmi software che possono eseguire compiti multistep in autonomia, prima di essere distribuiti. Microsoft sta contribuendo con MDASH, un harness di scansione, ovvero uno strato di coordinamento, che invia diversi agenti dell'IA specializzati per trovare e verificare i difetti di sicurezza nel software. HPE sta contribuendo a uno standard chiamato SPIFFE/SPIRE che dà agli agenti dell'IA un'identità crittografica, una sorta di carta d'identità digitale antimanomissione, in modo che i sistemi possono confermare che stanno parlando con un carico di lavoro attendibile e non con un impostore.
Hugging Face ha offerto Safetensors, un formato di file sicuro per archiviare i pesi del modello di IA che blocca un attacco comune in cui un file di modello esegue di nascosto codice dannoso sul computer che lo apre, alla PyTorch Foundation per la gestione della comunità.
| Collaboratore | Strumento o contributo | Cosa fa |
|---|---|---|
| NVIDIA | Framework NOOA + modelli aperti | Testa, traccia e controlla il comportamento dell'agente IA |
| Microsoft | Harness di scansione MDASH | Sistema multi-agente per trovare bug di software sfruttabili |
| HPE | Standard di identità SPIFFE/SPIRE | Dà agli agenti IA un'identità digitale verificata |
| Hugging Face | Formato Safetensors | Archivia i file del modello in modo sicuro, blocca l'esecuzione di codice nascosto |
| IBM + Red Hat | Strumento Lightwell per la catena di fornitura | Firma digitalmente le patch di software su progetti open-source |
Le persone comuni dovrebbero interessarsi di questo?
Sì, se utilizzano servizi online, servizi bancari, cartelle cliniche o qualsiasi cosa che funziona su software cloud. Le aziende e le agenzie governative che proteggono questi servizi sono i difensori che questa Alleanza sta cercando di aiutare. Strumenti di difesa più forti e ampiamente disponibili significano meno violazioni e risposte più rapide quando si verificano incidenti.
L'Alleanza sta anche chiedendo direttamente ai responsabili delle politiche di non vietare o limitare gli strumenti di IA frontier aperti. Le restrizioni generiche, sostiene il gruppo, spingerebbero le organizzazioni a affidarsi interamente a un piccolo numero di fornitori proprietari, creando un unico punto di guasto per le infrastrutture critiche.
Domande comuni
L'IA aperta significa che chiunque, compresi i criminali, può utilizzare questi strumenti di sicurezza?
I modelli aperti comportano rischi reali di uso scorretto, e l'Alleanza li riconosce chiaramente. La risposta, sostengono i membri, è rappresentata da salvaguardie forti e regole chiare contro l'uso malintenzionato, non dal negare ai difensori l'accesso a strumenti capaci. I sistemi chiusi affrontano gli stessi rischi e non li fanno scomparire.
Che cosa è un modello open-weight e perché è importante per la sicurezza?
Un modello open-weight è un sistema di IA i cui file matematici fondamentali vengono rilasciati pubblicamente, in modo che qualsiasi organizzazione possa scaricarlo, ispezionarlo ed eseguirlo sui propri computer. Per i team di sicurezza, ciò significa che possono analizzare i propri dati senza inviarli a un servizio di terze parti, e possono verificare esattamente quello che l'IA sta facendo.
Cosa dovrebbe fare la mia organizzazione adesso?
Se gestisci IT o sicurezza per un'azienda, il framework NOOA e il formato Safetensors sono già pubblicamente disponibili su GitHub e attraverso la PyTorch Foundation. Seguire il lavoro pubblicato dell'Alleanza è un punto di partenza pratico per i team che valutano strumenti di sicurezza dell'IA aperti.
