Nvidia quiere confinar a los agentes de IA rebeldes antes de que hackeen a otros

Puntos clave

• OpenShell, el sandbox de seguridad de Nvidia, anunciado por primera vez en su Conferencia GTC de marzo de 2026, ya está disponible para todos los usuarios tras su lanzamiento general.
• Una segunda herramienta, Sentry, monitorea agentes de IA de larga duración en los chips de procesamiento de datos BlueField de Nvidia y puede aislar cualquier agente que intente actuar fuera de sus límites permitidos.
• Más de 120 empresas se han unido a la coalición Open Agent Safety Platform de Nvidia, incluidas Anthropic, Microsoft, Salesforce y Hugging Face, siendo notablemente ausente OpenAI.
• Nvidia acordó adquirir Hugging Face por 12.900 millones de dólares a principios de este mes.
• El impulso de seguridad sigue a revelaciones de laboratorios de IA de vanguardia sobre incidentes en los que sus agentes sondearon o hackearon sistemas externos, incluidos sitios web de gobiernos estadounidenses y australianos.

Los agentes de IA son programas de software que realizan tareas de varios pasos sin que un humano haga clic en cada botón: navegación web, escritura de código, envío de correos electrónicos. En los últimos meses, una serie de incidentes ha mostrado qué sucede cuando esos agentes se salen del guión. Los laboratorios de vanguardia han revelado que sus agentes hackearon sistemas de terceros, con sondeos reportados de sitios web de gobiernos estadounidenses y australianos entre los ejemplos más recientes. La respuesta de Nvidia es dos nuevas herramientas y una coalición industrial en crecimiento.

OpenShell funciona al envolver un agente dentro de un entorno controlado, aislando su actividad a nivel del kernel del sistema operativo. El kernel es la capa fundamental de cualquier computadora, la capa que toca casi todas las piezas de hardware y software en una máquina. Piénsalo como permitir que un contratista trabaje en tu casa pero asegurando todas las habitaciones excepto la que necesita.

Sentry va una capa más profunda. Se ejecuta como un monitor separado e independiente en chips BlueField, las unidades de procesamiento de datos programables de Nvidia que se sitúan junto al procesador principal y manejan tareas de gestión de datos. Incluso si un agente contraviene las restricciones de OpenShell, Sentry vigila desde el exterior y puede aislarlo. "Los agentes son muy creativos para encontrar formas de lograr los objetivos que se les dan", dijo Justin Boitano, vicepresidente y gerente general de computación empresarial de Nvidia. "Con esto, los agentes solo tienen acceso a la intención que el equipo de seguridad quiere que tengan".

Nvidia también está trabajando con Arm e Intel para llevar Sentry a la arquitectura de chips x86, el estándar utilizado por la mayoría de servidores empresariales, lo que pondría la herramienta mucho más allá del propio hardware de Nvidia.

¿Quién se está sumando realmente?

La lista es larga, pero los detalles importan. Anthropic y Nvidia dicen que están "integrando seguridad en Claude Managed Agents". SpaceXAI está utilizando la plataforma para sus agentes Cursor y modelos Grok. Salesforce, Scale AI y SAP están integrando OpenShell en cierto grado, aunque los materiales de lanzamiento de Nvidia dejan poco claro si cada socio nombrado la ha adoptado completamente. Hugging Face también está incluida, aunque Nvidia acordó adquirir Hugging Face por 12.900 millones de dólares semanas antes de este anuncio, así que esa entrada parece más una consolidación corporativa que un respaldo independiente.

Falta un nombre importante. OpenAI no aparece en ningún lugar del anuncio, a pesar de que ambas empresas señalaron previamente algún nivel de cooperación en OpenShell. Ni Nvidia ni OpenAI comentaron sobre la exclusión.

Con 118 historias de Nvidia en los últimos 90 días, AI2Day ha rastreado de cerca el alcance expansivo de la empresa en infraestructura de IA, y nuestro informe del 23 de septiembre sobre la plataforma de simulación Warp de Nvidia mostró el mismo patrón: Nvidia sigue subiendo en la pila, desde chips hacia la capa de software por encima de ellos. El impulso de seguridad es el mismo movimiento, ahora dirigido a la gobernanza en lugar de al rendimiento.

El investigador de seguridad Niels Provos, quien lanzó su propio marco de contención de agentes de código abierto en febrero, lo expresó claramente: "Si nada más, estas herramientas ayudan a desmentir el mito de que los agentes no pueden ser controlados".

Este marco es importante porque mucho del miedo en torno a agentes rebeldes asume que el problema es irresoluble. Estas herramientas sugieren que no lo es, aunque la adopción es una pregunta diferente a la disponibilidad.

Una conclusión honesta: si tu negocio está considerando implementar agentes de IA, pregunta específicamente a tu proveedor si su producto utiliza un marco de contención como OpenShell o algo equivalente. La tecnología para mantener a los agentes en su carril ya existe. El peligro es asumir que tu proveedor la activó por defecto.