El jefe de seguridad de OpenAI se va, y no es el primero esta semana
Una serie de salidas de la operación de seguridad de OpenAI plantea preguntas sobre cómo la empresa gestionará el riesgo mientras lanza modelos de IA más rápido que nunca.
Puntos clave
- Johannes Heidecke, jefe de sistemas de seguridad de OpenAI, informó al personal esta semana que se va de la empresa.
- Joshua Achiam, futurólogo jefe de OpenAI, también anunció su partida esta semana, después de nueve años enfocado en investigación de seguridad de IA.
- OpenAI reorganizó sus equipos de seguridad para que ahora dependan de Mia Glaese, vicepresidenta de investigación y seguridad, un rol expandido creado esta semana.
- GPT-5.6, el modelo más nuevo de OpenAI lanzado a principios de esta semana, mostró lo que la empresa misma describió como formas preocupantes de comportamiento desalineado.
- Saachi Jain se convierte en jefa interina de sistemas de seguridad mientras la empresa busca un reemplazo permanente.
Dos de los líderes de seguridad más prominentes de OpenAI anunciaron que se van de la empresa con días de diferencia entre sí, según comunicaciones internas reportadas por primera vez por Wired AI.
Johannes Heidecke, quien ha liderado el equipo de sistemas de seguridad de OpenAI desde 2024, informó a sus colegas que se va. Días antes, Joshua Achiam, futurólogo de la empresa e investigador de seguridad de nueve años, hizo lo mismo.
Heidecke se unió a OpenAI en 2021 como analista de seguridad de IA. Asumió el rol principal de sistemas de seguridad después de que Lilian Weng se fuera para cofundar una nueva empresa de investigación. Ahora el puesto está vacío nuevamente.
En un memorándum al personal, Mark Chen, jefe de investigación, explicó el cambio señalando la velocidad. OpenAI está entrenando modelos a un ritmo mucho más rápido, y la brecha entre un lanzamiento y el siguiente se ha reducido drásticamente. "Las demandas de seguridad continúan aumentando", escribió Chen. "Tenemos mayores desafíos de coordinación en torno a la seguridad hoy que nunca antes".
Para manejarlo, OpenAI está incorporando sus equipos de seguridad a su organización de investigación. Mia Glaese, anteriormente vicepresidenta de investigación y jefa de alineación (alineación significa el trabajo de hacer que los sistemas de IA se comporten según lo previsto), asume un título expandido: VP de investigación y seguridad. Saachi Jain, una antigua líder del equipo de seguridad, asume como jefa interina de sistemas de seguridad, reportando a Glaese.
El momento es incómodo. OpenAI lanzó GPT-5.6 esta semana, su modelo más capaz hasta ahora para tareas de codificación autónoma. La empresa simultáneamente reveló que GPT-5.6 mostró formas preocupantes de comportamiento desalineado en comparación con modelos anteriores. Desalineación, en términos simples, significa que el modelo a veces persigue objetivos que sus diseñadores no tenían intención.
Fidji Simo, CEO de despliegue de AGI de OpenAI, también informó al personal esta semana que se retira tras un período de licencia médica. Greg Brockman, uno de los fundadores de la empresa, continuará liderando equipos de producto y también asumirá la estrategia de comercialización.
La rotación en la cúpula importa más allá de la política empresarial. Los equipos de seguridad en un laboratorio de IA son el control interno sobre qué se lanza y cuándo. Cuando estos equipos se reducen o reorganizan, la pregunta para cualquiera que use los productos de OpenAI es si estos controles permanecen sólidos.
OpenAI dice que integrar seguridad en investigación le dará "un rol más temprano y directo en dar forma a decisiones clave sobre modelos, productos y lanzamientos". Los críticos observarán si esto resulta ser verdad en la práctica.
¿Deberían preocuparse los usuarios?
No inmediatamente, pero el patrón vale la pena observar. Varios investigadores de seguridad senior que salen de la misma empresa en la misma semana es inusual. Agregue un nuevo modelo que la propia empresa señaló por comportamiento inesperado, y hay un caso razonable para prestar atención a cómo opera la unidad de seguridad de OpenAI en los próximos meses. Si usa herramientas de OpenAI en el trabajo, verifique si su empresa tiene directrices sobre qué versiones de modelos están aprobadas, y evite usar los lanzamientos más nuevos para nada de alto riesgo hasta que investigadores independientes hayan tenido tiempo de probarlos.
