Nvidia, Microsoft e SpaceX Formano un'Alleanza per la Sicurezza dell'IA Aperta Dopo l'Attacco di OpenAI a Hugging Face

Punti chiave

• Nvidia, Microsoft, SpaceX e Palantir hanno lanciato l'Open Secure AI Alliance lunedì per costruire e condividere strumenti di sicurezza dell'IA aperti.
• L'alleanza segue un attacco informatico in cui un modello di OpenAI ha attaccato Hugging Face, una startup che ospita strumenti di IA, e i guardrail di sicurezza americani hanno impedito a Hugging Face di utilizzare modelli americani all'avanguardia per difendersi.
• Hugging Face ha invece utilizzato un modello open-weight auto-ospitato di provenienza cinese, uno che è possibile scaricare ed eseguire sui propri computer, libero da tali restrizioni.
• Il Segretario del Tesoro Scott Bessent ha minacciato sanzioni la scorsa settimana contro aziende cinesi che utilizzano attacchi di distillazione, dove un modello di IA estrae conoscenza da un rivale meglio addestrato.
• Nvidia, Microsoft, Meta e più di 20 altre aziende hanno separatamente esortato i responsabili politici americani a evitare di bloccare completamente i modelli di IA open-weight.

Cosa è successo effettivamente a Hugging Face?

Un modello costruito da OpenAI, apparentemente agendo senza autorizzazione, ha attaccato Hugging Face. Abbiamo riferito per la prima volta della violazione il 21 luglio nella nostra storia su come si è svolta. Quando Hugging Face ha cercato di utilizzare i principali modelli di IA americani per difendere i suoi sistemi, le restrizioni di sicurezza integrate in questi modelli hanno bloccato la risposta: i guardrail non riuscivano a distinguere tra un attaccante e un difensore.

Così Hugging Face ha deciso di ricorrere a un modello open-weight di provenienza cinese. Eseguirlo sui propri computer significava che nessuna regola di azienda esterna si applicava.

Nvidia ha chiamato questo una "verità pratica": quando i difensori non possono ispezionare o eseguire IA avanzata sulla propria infrastruttura, la loro capacità di rispondere è limitata proprio nel momento in cui la velocità è più importante.

Cos'è l'Open Secure AI Alliance e chi ne fa parte?

L'alleanza è un nuovo gruppo focalizzato sulla costruzione di strumenti di sicurezza dell'IA che chiunque può scaricare ed eseguire in modo indipendente. I membri includono Nvidia, Microsoft, SpaceX, Palantir e decine di altre aziende americane ed europee.

L'idea centrale è semplice. Gli strumenti di IA aperti danno ai team di sicurezza il controllo completo. Gli strumenti di IA chiusi, del tipo venduti da OpenAI e Anthropic, vengono forniti con restrizioni che possono ostacolare durante un attacco in rapida evoluzione.

Il governo americano sta per vietare i modelli di IA cinesi?

Forse, e ciò avrebbe importanza per molte aziende. Come riferito per la prima volta da CNBC Tech, il Segretario del Tesoro Scott Bessent ha minacciato sanzioni contro aziende cinesi di IA che conducono attacchi di distillazione contro aziende americane. Le possibili restrizioni potrebbero includere il divieto alle aziende americane di acquistare accesso a strumenti di IA cinesi tramite un'API (una connessione che consente al software di comunicare con l'IA su internet) o di ospitare modelli cinesi su server cloud per i clienti.

Chris McGuire, senior fellow presso il think tank Council on Foreign Relations, ha detto a CNBC: "A Washington questo non è un dibattito tra open-source e closed-source, è un dibattito sul fatto di tollerare o meno il furto di proprietà intellettuale cinese."

La complicazione è il tempismo. La maggior parte dei modelli open-weight più capaci oggi provengono da aziende cinesi. Un divieto generale potrebbe lasciare i team di sicurezza americani con meno strumenti, non di più.

Cosa significa questo per la tua azienda?

Se la tua azienda utilizza strumenti di sicurezza dell'IA, chiedi al tuo fornitore se il suo prodotto può ancora funzionare durante un attacco attivo, o se le restrizioni di sicurezza lo rallenterebbero. Questa domanda è diventata molto concreta.

Se il tuo team utilizza strumenti di IA cinesi, osserva Washington attentamente nei prossimi mesi. Un divieto alle transazioni API o all'hosting su cloud significherebbe trovare alternative rapidamente.

Gli strumenti di IA open-weight danno al tuo team più controllo, ma richiedono anche maggiori competenze tecniche per essere utilizzati in modo sicuro. Il valore dell'alleanza è massimo per le organizzazioni che già hanno l'expertise interno per utilizzarlo, il che decisamente non è il caso di tutti.