Gli hacker hanno già violato il robot AI a DEF CON. Ora esiste uno strumento per testare il vostro prima che lo facciano loro.

Punti chiave

• VicOne ha rilasciato un'estensione gratuita per i test di sicurezza informatica per NVIDIA Isaac Sim il 22 luglio 2025, rivolta agli sviluppatori di robotica.
• Alla Robotic Hacking Community di DEF CON 34, 16 team hanno registrato 25 risoluzioni riuscite su sfide di sicurezza dell'IA e della robotica.
• L'estensione consente agli sviluppatori di eseguire scenari di attacco sui propri modelli di robot all'interno di una simulazione prima di qualsiasi distribuzione fisica.
• VicOne, controllata di Trend Micro fondata nel 2022, afferma di aver scoperto più di 180 vulnerabilità zero-day, ovvero falle di sicurezza precedentemente sconosciute, nei sistemi automotive e robotici.
• Quasi tutte le sfide principali di DEF CON 34 sono state risolte almeno una volta, dimostrando che gli attacchi digitali possono alterare il comportamento dei robot su più livelli di un sistema.

I robot stanno uscendo dai laboratori di ricerca e entrando nei reparti produttivi, nei corridoi degli ospedali e nelle strade pubbliche. In questo contesto, una domanda che gli sviluppatori di software si pongono da decenni sta assumendo una forma fisica: cosa accade quando qualcuno attacca il computer che gestisce la macchina?

VicOne, una società di sicurezza informatica nata dal colosso antivirus Trend Micro, ha rilasciato uno strumento gratuito progettato per rispondere a questa domanda prima che un robot venga messo in commercio.

Cosa fa esattamente lo strumento?

L'estensione si integra con NVIDIA Isaac Sim, una piattaforma di simulazione che gli ingegneri di robotica utilizzano già per progettare e testare robot in un ambiente virtuale prima di costruire prototipi fisici. Il componente aggiuntivo di VicOne sovrappone scenari di attacco a quella simulazione, in modo che gli sviluppatori possano osservare come il comportamento del robot cambia sotto pressione digitale.

È come un programma di crash-test, ma per i cyberattacchi invece che per gli incidenti automobilistici.

Gli sviluppatori caricano il loro modello di robot e il compito che desiderano che esegua. L'estensione esegue quindi scenari di attacco curati tratti da ricerche di sicurezza reali. I team possono testare se un VLM, un modello visione-linguaggio (software che consente a un robot di interpretare ciò che le sue telecamere vedono e decidere cosa fare), regge quando riceve immagini manipolate, comandi dirottati o istruzioni corrotte da sistemi connessi.

Se il robot si allontana dal suo compito previsto, supera un confine che non dovrebbe superare, o prende una decisione pericolosa, il team lo vede nella simulazione piuttosto che in un magazzino.

Da dove provengono gli scenari di attacco?

VicOne ha organizzato un evento di hacking competitivo chiamato CTF, ovvero capture the flag, a DEF CON 34, la conferenza annuale di sicurezza di Las Vegas dove i ricercatori esaminano i sistemi alla ricerca di vulnerabilità. L'azienda ha invitato professionisti della sicurezza ad attaccare due robot fisici: Reachy Mini e la piattaforma LeKiwi.

Sedici team hanno registrato 25 risoluzioni riuscite. Gli attaccanti hanno trovato percorsi attraverso i modelli di IA, il sistema di percezione visiva del robot, le connessioni cloud e i collegamenti di comunicazione tra i componenti. Solo una sfida avanzata che coinvolge il firmware, il software di basso livello integrato nei chip hardware, è rimasta irrisolta.

Come riferito per la prima volta da The Robot Report, VicOne ha analizzato sia gli attacchi riusciti che i tentativi falliti. I tentativi falliti rivelano comunque cosa gli attaccanti presuppongono, quali percorsi di controllo hanno provato e quali misure di sicurezza hanno quasi ceduto. Tutto questo ha alimentato gli scenari ora inclusi nell'estensione gratuita.

Dovrebbero i team di robotica preoccuparsi in questo momento?

Sì, e i risultati di DEF CON spiegano il perché. Gli attacchi non provenivano tutti da una sola direzione. Hanno avuto successo nella percezione, nella comunicazione, nella decisione dell'IA e nell'hardware integrato. Un robot che supera tutti i test di sicurezza funzionale può comunque comportarsi pericolosamente se un attaccante manipola ciò che vede o gli dice di fare.

L'amministratore delegato di VicOne Max Cheng lo ha affermato chiaramente: "La validazione della cyber-sicurezza deve diventare una parte standard dello sviluppo della robotica."

Per le organizzazioni che hanno bisogno di più di quanto offra l'estensione gratuita, VicOne vende una versione più completa della sua piattaforma Radeis che copre indagini più approfondite, pianificazione della correzione e documentazione della conformità.

L'estensione gratuita è disponibile ora per gli sviluppatori che utilizzano versioni supportate di NVIDIA Isaac Sim.

Cosa dovrebbero osservare i lettori?

Se usi o lavori vicino a robot industriali o di servizio, il rischio qui non è astratto. Un attaccante che riesce a inviare immagini false alla telecamera di un robot, o intercettare i comandi che riceve, potrebbe fargli agire in modi che i suoi progettisti non hanno mai inteso. Chiedi ai team che gestiscono quei robot se i test di cyber-sicurezza fanno parte della loro lista di controllo pre-distribuzione e se coprono l'intero sistema piuttosto che solo singoli componenti.