Los Hackers Ya Quebraron la IA Robótica en DEF CON. Ahora Hay una Herramienta para Probar la Tuya Antes

Puntos clave

• VicOne lanzó una extensión gratuita de prueba de ciberseguridad para NVIDIA Isaac Sim, dirigida a desarrolladores de robótica.
• En la Comunidad de Hackeo de Robots de DEF CON 34, 16 equipos registraron 25 soluciones exitosas en desafíos de seguridad de IA y robótica.
• La extensión permite a los desarrolladores ejecutar escenarios de ataque contra sus propios modelos de robots dentro de una simulación antes de cualquier implementación física.
• VicOne, una subsidiaria de Trend Micro fundada en 2022, dice haber encontrado más de 180 vulnerabilidades de día cero, es decir, fallos de seguridad previamente desconocidos, en sistemas automotrices y robóticos.
• Casi todos los desafíos principales de DEF CON 34 fueron resueltos al menos una vez, demostrando que los ataques digitales pueden alterar el comportamiento de robots en múltiples capas de un sistema.

Los robots están saliendo de los laboratorios de investigación hacia pisos de fabricación, pasillos hospitalarios y calles públicas. Décadas de lecciones de seguridad de software ahora llegan en forma física, donde una instrucción comprometida no solo bloquea una aplicación; puede mover una máquina.

VicOne, una empresa de ciberseguridad que se desprendió del gigante del antivirus Trend Micro, ha lanzado una herramienta gratuita diseñada para responder esa pregunta antes de que un robot se envíe.

¿Qué hace exactamente la herramienta?

La extensión se conecta a NVIDIA Isaac Sim, una plataforma de simulación que los ingenieros de robótica ya utilizan para diseñar y probar robots virtualmente antes de construir prototipos físicos. La extensión de VicOne superpone escenarios de ataque en esa simulación, para que los desarrolladores puedan observar cómo cambia el comportamiento de su robot bajo presión digital. Piénsalo como un programa de prueba de choque, pero para ciberataques en lugar de colisiones.

Los desarrolladores cargan su propio modelo de robot y la tarea prevista. La extensión ejecuta escenarios de ataque seleccionados extraídos de investigaciones de seguridad reales. Los equipos pueden probar si un VLM, un modelo de lenguaje visual (software que permite a un robot interpretar lo que ven sus cámaras y decidir qué hacer), resiste cuando recibe imágenes manipuladas o comandos secuestrados. Si el robot se desvía de su tarea, cruza un límite que no debería, o toma una decisión insegura, el equipo lo ve en simulación en lugar de en un almacén. Como señalamos el 7 de agosto en nuestro análisis de brazos robóticos guiados por IA que se están implementando en entornos reales de almacenes, la brecha entre demostraciones controladas e implementaciones reales es exactamente donde estos riesgos golpean más fuerte.

¿De dónde vinieron los escenarios de ataque?

VicOne ejecutó un evento de hackeo competitivo llamado CTF, por sus siglas en inglés (captura la bandera), en DEF CON 34, la conferencia de seguridad anual de Las Vegas donde investigadores sondean sistemas en busca de debilidades. La empresa invitó a profesionales de seguridad a atacar dos robots físicos: el Reachy Mini y la plataforma LeKiwi.

Dieciséis equipos registraron 25 soluciones exitosas. Los atacantes encontraron caminos a través de modelos de IA, el sistema de percepción visual del robot, conexiones en la nube y vínculos de comunicación entre componentes. Un desafío avanzado que involucraba firmware, el software de bajo nivel integrado en chips de hardware, quedó sin resolver; todo lo demás se controló.

VicOne estudió tanto los ataques exitosos como los intentos fallidos. Los intentos fallidos aún revelan qué asumen los atacantes, qué rutas de control probaron y qué salvaguardas casi cedieron. Todo eso se incorporó a los escenarios que ahora vienen agrupados en la extensión gratuita.

¿Deberían preocuparse los equipos de robótica en este momento?

Sí, y los resultados de DEF CON explican por qué. Los ataques no vinieron de una sola dirección. Fueron exitosos en percepción, comunicaciones, toma de decisiones por IA y hardware integrado. Un robot que pase todas las pruebas de seguridad funcional aún puede comportarse peligrosamente si un atacante manipula lo que ve o lo que se le ordena hacer.

El CEO de VicOne, Max Cheng, lo expresó claramente: "La validación de ciber-seguridad debe convertirse en una parte estándar del desarrollo de robótica".

Para organizaciones que necesitan más de lo que ofrece la extensión gratuita, VicOne vende una versión más completa de su plataforma Radeis que cubre investigación más profunda, planificación de remediación y documentación de cumplimiento normativo.

¿En qué deberían fijarse los lectores?

El riesgo aquí no es abstracto. Un atacante que pueda suministrar imágenes falsas a la cámara de un robot, o interceptar los comandos que recibe, podría hacer que actúe de maneras que sus diseñadores nunca tuvieron intención. Pregunta a los equipos que administran esos robots si las pruebas de ciber-seguridad son parte de su lista de verificación previa a la implementación y si cubren el sistema completo, no solo componentes individuales.

El patrón más amplio vale la pena seguir. Los robots se están escalando a buques de guerra, almacenes y sitios de construcción lo suficientemente rápido como para que las herramientas de seguridad apenas estén alcanzando. Herramientas como esta importan más cuando llegan antes de las implementaciones, no después.