OpenAI Disolvió Discretamente Su Equipo de Vigilancia de IA Descontrolada

Puntos clave

• OpenAI disolvió su equipo dedicado de preparación a finales de abril de 2025, según el Financial Times.
• El equipo de preparación probaba si los modelos de IA presentaban riesgos graves, como ayudar a construir armas o piratear otros sistemas de forma impredecible.
• La responsabilidad de esas pruebas de riesgo se ha dividido por tema (biología, ciberseguridad) e integrado en equipos que ya existían.
• Varios líderes senior en seguridad han abandonado OpenAI recientemente, incluyendo la directora de ética Chloé Bakalar y el jefe de seguridad Johannes Heidecke.
• El anterior jefe del equipo, Dylan Scandinaro, ahora se enfoca en IA de "auto-mejora recursiva", es decir, sistemas que podrían reescribirse y mejorarse a sí mismos sin intervención humana.

OpenAI ya no tiene un único equipo cuyo propósito fuera determinar si sus propios modelos podrían volverse peligrosos.

El equipo de preparación, como se le conocía dentro de la empresa, era responsable de las pruebas de penetración de los modelos de OpenAI. Las pruebas de penetración significan intentar deliberadamente hacer que un sistema se comporte mal, como lo haría un investigador de seguridad que intenta romper un sistema antes de que un atacante real lo haga. El equipo examinaba escenarios de peor caso: ¿podría un modelo ayudar a alguien a construir un arma biológica? ¿Podría piratear otra empresa por su cuenta? Cuando las respuestas se veían alarmantes, el equipo se suponía que desarrollaría formas de reducir el riesgo.

Ahora ese equipo se ha ido.

Reportado primero por el Financial Times, la decisión llegó a finales del mes pasado. OpenAI no eliminó el trabajo completamente. En su lugar, dividió las responsabilidades en áreas temáticas específicas y entregó cada parte a departamentos existentes. Ningún grupo único mantiene la visión completa ya.

¿Por qué esto importa a la gente ordinaria?

Los poderosos modelos de IA ya están integrados en herramientas que las personas usan en el trabajo, en motores de búsqueda, en bots de servicio al cliente. El equipo de preparación era una de las barandillas internas diseñadas para detectar problemas antes de que esas herramientas lleguen al público. Menos personal dedicado a seguridad significa que las verificaciones suceden de manera diferente. No necesariamente menos, pero la estructura que existía específicamente para sonar una alarma se ha ido.

Jan Leike, un destacado investigador en seguridad de IA que renunció a OpenAI en 2024, le dijo al Financial Times que la empresa estaba impulsando "productos brillantes" por encima de consideraciones de seguridad. La disolución del equipo de preparación es el último cambio estructural en un patrón más largo. OpenAI ya ha cerrado su equipo AGI Readiness (AGI significa inteligencia artificial general, es decir, un sistema que podría igualar o superar el razonamiento humano en muchas tareas) y su equipo Superalignment, que estudiaba cómo mantener bajo control humano sistemas de IA muy potentes en el futuro. Bakalar, Heidecke y el Futurólogo Principal Josh Achiam se han marchado en los últimos meses.

¿Qué sucede a continuación?

Dylan Scandinaro, quien se unió a OpenAI desde el laboratorio rival Anthropic en febrero, ahora se concentrará en IA de auto-mejora recursiva: sistemas capaces de reescribir su propio código para volverse más capaces sin instrucción humana. Ese es probablemente el problema de mayor riesgo en el campo en este momento. Reportamos sobre el regreso de Lilian Weng a OpenAI para liderar exactamente ese tipo de investigación el 29 de julio de 2026, y la concentración de talento en sistemas auto-mejorables, dentro de OpenAI y en toda la industria, se está acelerando más rápido que las estructuras de seguridad a su alrededor.

OpenAI se dirige hacia lo que los analistas ampliamente esperan sea una gran IPO, una cotización en bolsa que permitiría a inversores externos comprar acciones. Si la presión para impresionar a futuros inversores está empujando el trabajo de seguridad a los márgenes es una pregunta justa, y OpenAI no ha comentado públicamente sobre los detalles de la reorganización.