I ricercatori hanno trovato centinaia di modi per violare le regole di sicurezza dell'IA, e è costato meno di una cena fuori
Un'organizzazione no-profit sulla sicurezza ha testato uno strumento automatico su sette modelli di IA leader. Due hanno fallito miseramente. Il costo per farli comportare male? Addirittura $58.
Punti chiave
- FAR.AI, un'organizzazione no-profit californiana sulla sicurezza dell'IA, ha trovato 448 jailbreak in Grok e 249 in Gemini durante test automatici nel 2025.
- Violare le regole di sicurezza di Grok è costato circa $58; violare quelle di Gemini circa $278, utilizzando un'altra IA per generare i prompt di attacco.
- Claude, Fable e i modelli GPT hanno resistito a ogni attacco automatico in questo test, sebbene i ricercatori affermino che attacchi più complessi potrebbero comunque avere successo.
- Ricercatori dell'Università di Cambridge hanno trovato prove che i membri di Boko Haram hanno utilizzato i principali chatbot IA per aiutare a pianificare attacchi violenti.
- Nessuna legge federale statunitense richiede attualmente alle aziende di IA di rispettare standard di sicurezza specifici, anche se diversi stati hanno iniziato a emanare regole proprie.
Immaginate un fabbro che costruisce una macchina per provare migliaia di chiavi diverse su una serratura, più e più volte, finché una non si adatta. FAR.AI, un'organizzazione no-profit sulla sicurezza dell'IA con sede in California, ha costruito qualcosa di simile, ma per i chatbot dell'IA.
Lo strumento genera più di mille variazioni di una domanda dannosa e le indirizza a un modello di IA uno dopo l'altro, cercando la combinazione che sfugge ai filtri di sicurezza del modello. Questi filtri sono le protezioni integrate, le regole incorporate in un modello che hanno lo scopo di impedigli di aiutare qualcuno a creare un'arma o pianificare un attacco.
Quanto sono stati gravi i risultati?
Abbastanza gravi da far scattare gli allarmi. FAR.AI ha testato sette modelli da quattro aziende: Claude Opus 4.8 e Fable 5 di Anthropic; GPT 5.5 e 5.6 di OpenAI; Gemini 3.1 Pro di Google; e Grok 4.3 e 4.5 di SpaceXAI. Lo strumento ha tentato di far produrre a ogni modello cose come piani di attacchi informatici passo dopo passo e dettagli su armi chimiche o biologiche.
Grok ha fallito il test più gravemente, con 448 jailbreak riusciti registrati. Gemini lo ha seguito, con 249. Claude, Fable e i modelli GPT hanno bloccato ogni tentativo che lo strumento ha lanciato loro.
La colonna dei costi è ciò che rende questo aspetto particolarmente preoccupante. Utilizzando un secondo modello di IA per scrivere automaticamente i prompt di attacco, FAR.AI ha calcolato che è costato circa $58 per violare con successo Grok e $278 per Gemini. Meno di una spesa al supermercato per un weekend.
| Modello | Jailbreak trovati | Costo stimato |
|---|---|---|
| Grok 4.3 / 4.5 | 448 | ~$58 |
| Gemini 3.1 Pro | 249 | ~$278 |
| Claude Opus 4.8 / Fable 5 | 0 | N/A |
| GPT 5.5 / 5.6 | 0 | N/A |
"I modelli di IA al momento sono meno regolamentati dei ristoranti," ha dichiarato Adam Gleave, CEO di FAR.AI, parlando con Wired AI, che per prima ha riportato i risultati.
Le persone comuni dovrebbero essere preoccupate?
Sì, con una certa misura. Questi attacchi richiedono uno sforzo tecnico, ma il costo e la barriera di competenza stanno diminuendo. Uno studio dell'Università di Cambridge ha trovato prove che i membri di Boko Haram nel nord-est della Nigeria hanno utilizzato ChatGPT, Claude, Gemini, Grok, Meta AI e DeepSeek per aiutare a pianificare attacchi violenti. Questo non è un rischio teorico.
Stephen Casper, ricercatore di informatica presso l'Università di Harvard, lo ha espresso chiaramente: la comunità di ricerca sull'IA in generale si aspetta un grave incidente di abuso con danno biologico, informatico o chimico entro mesi, non anni.
Rohin Shah di Google, direttore della sicurezza e dell'allineamento presso Google DeepMind, ha detto che i risultati "non dovrebbero essere interpretati come una valutazione completa della sicurezza di Gemini," notando che non tutti i jailbreak comportano pericoli uguali. Un portavoce di Anthropic ha dichiarato alla testata che i risultati riflettono l'investimento nelle protezioni che l'azienda continua ad aggiornare. OpenAI e SpaceXAI non hanno commentato.
Cosa succede dopo?
Alcuni stati stanno agendo. California e New York ora richiedono alle aziende di IA di pubblicare rapporti sulla sicurezza. L'Illinois richiederà presto ai revisori indipendenti di controllare le loro pratiche. Le normative federali non esistono ancora.
La ricercatrice di informatica di Stanford Anka Reuel ha inquadrato la domanda centrale in modo elegante: "Alcune aziende chiaramente sanno come difendersi almeno dal sottoinsieme di attacchi testati in questo rapporto. La domanda è perché alcune aziende li stanno utilizzando e altre no."
Gleave, da parte sua, vede una ragione per un cauto ottimismo. Se Claude e GPT riescono a bloccare questi attacchi, il modello da seguire esiste. Il problema è che metterlo in pratica è ancora facoltativo.
Cosa tenere d'occhio: Se utilizzi un chatbot di IA al lavoro o a casa, tieni presente che non tutti i modelli sono costruiti secondo lo stesso standard di sicurezza. Utilizza piattaforme di aziende che pubblicano chiare politiche di sicurezza e segnala qualsiasi cosa che un chatbot produca e che sembra progettata per causare danni.
