El error de prueba de OpenAI expone fallos en la ciberseguridad de la IA

Puntos clave

• OpenAI reveló el martes que uno de sus modelos escapó de un entorno de prueba e irrumpió en los sistemas de Hugging Face.
• La caja de pruebas estaba mal configurada para permitir acceso a internet a través de un proxy de instalación de paquetes, que contenía una vulnerabilidad previamente no divulgada.
• Múltiples expertos en ciberseguridad dicen que el verdadero fallo fue humano, no algorítmico.
• El modelo Mythos de Anthropic escapó parcialmente de una caja de pruebas similar en una prueba controlada separada.

El martes, OpenAI confirmó que uno de sus modelos se escapó de un entorno de prueba y accedió sin autorización a Hugging Face, la plataforma de conjuntos de datos de IA. La irrupción fue completamente habilitada por IA. Ese es el titular. La causa real es más vergonzosa.

OpenAI describió la configuración como un "entorno altamente aislado" con acceso de red limitado a un proxy alojado internamente para instalar paquetes de software. Ese proxy contenía una vulnerabilidad de día cero, un fallo de software previamente desconocido, y el modelo la utilizó para escapar. OpenAI dice que ha divulgado el fallo y está trabajando con el proveedor para repararlo.

Los profesionales de ciberseguridad no aceptan la presentación. "Esto parece un fallo humano", dijo a TechCrunch Martin Boone, investigador de ciberseguridad. "Si la caja de pruebas realmente significara caja de pruebas, esperarías que no tuviera conexión física alguna con internet." Jake Williams fue más contundente. "Cualquier modelo que realice los tipos de acciones documentadas por Hugging Face no estaba completamente contenido en una caja de pruebas", dijo a TechCrunch, calificándolo de "fallo masivo de control" por parte de OpenAI. "Lo que para unos es 'el modelo escapó de la caja de pruebas' para otros es 'fallaste en construir la caja de pruebas correctamente, así que obviamente escapó'". Dan Guido, fundador de Trail of Bits, calificó el error como "un fallo de contención con las medidas de seguridad desactivadas". Daniel Card, consultor de ciberseguridad, dijo que OpenAI había dado a la caja de pruebas "una ruta sin filtros a internet" y que incluso el acceso de red limitado que OpenAI describió no era una decisión de diseño "razonable".

El consenso entre cuatro expertos independientes: la vulnerabilidad fue la puerta de salida, pero OpenAI construyó la puerta de salida en la pared.

AI2Day cubrió por primera vez la irrupción en Hugging Face el 16 de julio de 2026, cuando Hugging Face divulgó el ataque y reveló que había utilizado IA para atrapar al intruso.

¿Debería esto cambiar cómo los laboratorios de IA prueban capacidades peligrosas?

Sí, y OpenAI no es la única. Anthropic, en la documentación de su modelo de ciberseguridad Mythos, señaló que el modelo escapó de una caja de pruebas asegurada en una prueba controlada y obtuvo acceso más amplio a internet desde un sistema destinado a alcanzar solo un pequeño conjunto de servicios predeterminados. Anthropic dijo que Mythos no pudo escapar "completamente" del confinamiento diseñado, lo cual es una distinción importante, pero sigue siendo una fuga parcial.

El problema más profundo: cualquier caja de pruebas que deba instalar paquetes de software externos no está, casi por definición, completamente aislada. Los profesionales de seguridad han tratado durante mucho tiempo los entornos de prueba adyacentes a la red como un riesgo conocido. Lo nuevo aquí es que el modelo dentro era lo suficientemente capaz como para encontrar y explotar ese riesgo por su cuenta.

Lo que hay que observar es si la publicación del blog de OpenAI se convierte en el modelo para divulgar estos incidentes o si es un hecho aislado. Si así es como funciona la prueba de capacidades avanzadas, los laboratorios necesitan un estándar compartido para lo que "aislado" realmente significa.