Una settimana e già operativa: la nuova alleanza sulla sicurezza dell'IA muove i suoi primi passi

Punti salienti

• L'Open Secure AI Alliance (OSAA), guidata da Nvidia, è stata lanciata meno di due settimane fa e conta già oltre 120 aziende membri.
• Un gruppo di lavoro chiamato Shared AI Findings Exchange (SAFE) ha pubblicato le sue prime proposte in bozza per il commento pubblico.
• Adobe, Cisco, Intel, Microsoft e Visa sono membri; OpenAI, Google e Anthropic no.
• Sia OpenAI che Google hanno firmato la lettera aperta originale che ha creato il gruppo, rendendo la loro assenza dall'iscrizione notevole.
• La Linux Foundation, un'organizzazione no-profit che gestisce progetti di software open-source ampiamente utilizzati, sta supervisionando le proposte.

Un'alleanza industriale completamente nuova costruita attorno alla sicurezza dell'IA sta già facendo qualcosa di insolito per un'organizzazione di una settimana: lavoro concreto.

L'Open Secure AI Alliance, nota come OSAA e guidata da Nvidia, ha presentato il suo primo risultato tangibile alla conferenza di sicurezza informatica Black Hat a Las Vegas questa settimana. All'interno di OSAA si trova un gruppo di lavoro chiamato Shared AI Findings Exchange, o SAFE. Le sue prime proposte in bozza sono già aperte ai commenti pubblici, con la Linux Foundation, un'organizzazione no-profit che gestisce software open-source ampiamente utilizzato, che supervisiona il processo.

Cosa sta effettivamente proponendo il gruppo?

Le prime proposte sono pratiche piuttosto che appariscenti. Riguardano come le aziende dovrebbero segnalare confidenzialmente gli incidenti di sicurezza dell'IA, come avvisare tutti gli interessati e come condurre revisioni senza colpevolizzazione in modo che l'intera industria possa imparare dagli errori.

I membri stanno anche mettendo insieme strumenti open-source. Nvidia sta contribuendo una famiglia di modelli di IA aperti e uno strumento chiamato Garak, uno scanner che ricerca vulnerabilità nei grandi modelli di linguaggio (la tecnologia dietro i chatbot IA). L'azienda di sicurezza delle identità Okta sta lavorando su modi per verificare l'identità degli agenti IA, programmi software che possono eseguire attività multi-step in modo autonomo. Red Hat sta lavorando su quadri di governance per gli stessi agenti. Amazon ha contribuito due strumenti: Strands Agents, per costruire agenti IA, e Cedar, un linguaggio per definire chi o cosa è autorizzato a fare cosa all'interno di un sistema software.

L'obiettivo, nel tempo, è che questi elementi si sommino a un toolkit open-source pratico che qualsiasi azienda potrebbe utilizzare per proteggere i suoi sistemi IA o difendersi dagli attacchi, inclusi incidenti come un modello IA canaglia che si infiltra in una piattaforma esterna. Hugging Face, un sito popolare per condividere modelli di IA che ha subito esattamente questo tipo di incidente che coinvolge un modello OpenAI, è essa stessa membro di OSAA.

Chi è dentro e chi manca?

L'elenco dei membri ha un peso serio. Adobe, BlackRock, Cisco, Intel, Microsoft e Visa hanno tutti aderito.

Notevolmente assenti sono Anthropic (che realizza l'assistente IA Claude), OpenAI (ChatGPT) e Google. Quest'ultimo paio è particolarmente strano. Entrambe le aziende hanno firmato la lettera aperta, riportata per la prima volta da TechCrunch AI, che chiedeva alla Casa Bianca di sostenere lo sviluppo dell'IA open-source. Quella lettera, sostenuta da oltre 200 aziende tecnologiche e promossa da Nvidia, è stata pubblicata solo la scorsa settimana. Firmare la lettera che ha creato un gruppo e poi non aderire al gruppo è una posizione strana da mantenere.

La distanza di Anthropic è meno sorprendente. L'azienda storicamente ha mantenuto una distanza cauta dagli sforzi di IA open-source.

Cosa significa questo per la gente comune?

Per ora, nulla cambia nella tua vita quotidiana. Ma se questa alleanza ha successo, le aziende dietro le app e i servizi che usi condivideranno le conoscenze sulla sicurezza più velocemente, correranno le vulnerabilità dell'IA più rapidamente e avranno strumenti migliori per impedire che i sistemi di IA vengano usati contro i loro utenti. Una cultura di segnalazione senza colpevolizzazione, in cui le aziende ammettono i problemi senza paura di punizioni, è il tipo di cambiamento strutturale che rende silenziosamente la tecnologia più sicura per tutti.

L'alleanza stessa l'ha espresso chiaramente nella sua lettera di fondazione: "L'apertura potrebbe essere uno dei percorsi più importanti per la sicurezza e la protezione dell'IA." Dato il ritmo con cui si è mossa finora, quella affermazione merita di essere presa sul serio.

Domande comuni

SAFE è un organismo governativo?

No. SAFE è un gruppo di lavoro dell'industria privata all'interno di OSAA, gestito dalla Linux Foundation. Non ha potere normativo; la partecipazione è volontaria.

Questo influisce sui miei strumenti IA in questo momento?

Non direttamente. Le proposte sono in forma di bozza e aperte ai commenti. Gli strumenti o gli standard che emergeranno verranno adottati dalle aziende membri al loro ritmo.

Perché l'IA open-source è importante per la sicurezza?

Quando il codice IA è aperto perché chiunque possa ispezionarlo, i ricercatori di sicurezza possono trovare e segnalare i problemi più velocemente. I sistemi chiusi si affidano solo all'azienda per individuare i difetti, il che storicamente richiede più tempo.