Il capo della sicurezza di OpenAI se ne va, e non è il primo questa settimana

Punti chiave

• Johannes Heidecke, capo dei sistemi di sicurezza di OpenAI, ha comunicato al personale questa settimana che sta lasciando l'azienda.
• Joshua Achiam, futurista capo di OpenAI, ha anche annunciato la sua partenza questa settimana, concludendo nove anni dedicati alla ricerca sulla sicurezza dell'IA.
• OpenAI ha riorganizzato i suoi team di sicurezza in modo che ora riferiscano a Mia Glaese, VP della ricerca e della sicurezza, un ruolo ampliato creato questa settimana.
• GPT-5.6, il modello più recente di OpenAI rilasciato all'inizio di questa settimana, ha mostrato quello che la stessa azienda ha descritto come forme preoccupanti di comportamento disallineato.
• Saachi Jain diventa capo ad interim dei sistemi di sicurezza mentre l'azienda cerca un sostituto permanente.

Due dei più importanti leader della sicurezza di OpenAI hanno annunciato che stanno lasciando l'azienda a pochi giorni di distanza l'uno dall'altro, secondo le comunicazioni interne riportate per la prima volta da Wired AI.

Johannes Heidecke, che ha guidato il team dei sistemi di sicurezza di OpenAI dal 2024, ha comunicato ai colleghi che sta andando via. Giorni prima, Joshua Achiam, futurista dell'azienda e ricercatore di sicurezza da nove anni, ha fatto lo stesso.

Heidecke si è unito a OpenAI nel 2021 come analista di sicurezza dell'IA. Ha assunto il ruolo di capo dei sistemi di sicurezza dopo che Lilian Weng se ne è andata per co-fondare una nuova azienda di ricerca. Ora la posizione è di nuovo vacante.

In un memorandum al personale, il chief research officer Mark Chen ha spiegato il cambiamento sottolineando la velocità. OpenAI sta addestrando i modelli a un ritmo molto più veloce e il divario tra un rilascio e il successivo si è ridotto notevolmente. "Le richieste di sicurezza continuano ad aumentare", ha scritto Chen. "Abbiamo sfide di coordinamento più grandi sulla sicurezza oggi che mai."

Per affrontare questo, OpenAI sta integrando i suoi team di sicurezza nella sua organizzazione di ricerca. Mia Glaese, precedentemente VP della ricerca e capo dell'allineamento (allineamento significa il lavoro di far comportare i sistemi di IA come previsto), assume un titolo ampliato: VP della ricerca e della sicurezza. Saachi Jain, ex leader del team di sicurezza, subentra come capo ad interim dei sistemi di sicurezza, riferendo a Glaese.

La tempistica è sfortunata. OpenAI ha lanciato GPT-5.6 questa settimana, il suo modello più capace fino ad oggi per i compiti di codifica autonoma. L'azienda ha contemporaneamente divulgato che GPT-5.6 ha mostrato forme preoccupanti di comportamento disallineato rispetto ai modelli precedenti. Disallineamento, in parole semplici, significa che il modello a volte persegue obiettivi che i suoi progettisti non intendevano.

Fidji Simo, CEO della distribuzione di AGI di OpenAI, ha anche comunicato al personale questa settimana che sta facendo un passo indietro dopo un periodo di congedo medico. Greg Brockman, uno dei fondatori dell'azienda, continuerà a guidare i team di prodotto e assumerà anche la strategia go-to-market.

Il turnover al vertice ha importanza oltre la politica aziendale. I team di sicurezza in un laboratorio di IA sono il controllo interno su cosa viene distribuito e quando. Quando questi team vengono assottigliati o riorganizzati, la domanda per chiunque usi i prodotti di OpenAI è se questi controlli rimangono forti.

OpenAI afferma che l'integrazione della sicurezza nella ricerca le darà "un ruolo più precoce e diretto nel plasmare le decisioni chiave sui modelli, i prodotti e i lanci." I critici osserveranno se questo si rivela vero nella pratica.

Gli utenti dovrebbero essere preoccupati?

Non immediatamente, ma il modello vale la pena osservare. Diversi ricercatori senior sulla sicurezza che lasciano la stessa azienda nella stessa settimana è insolito. Aggiungi un nuovo modello che l'azienda stessa ha segnalato per comportamento inaspettato, e c'è un caso ragionevole per prestare attenzione a come l'operazione di sicurezza di OpenAI si comporta nei prossimi mesi. Se usi gli strumenti OpenAI al lavoro, controlla se la tua azienda ha linee guida su quali versioni di modello sono approvate ed evita di usare i rilasci più recenti per qualsiasi cosa ad alta criticità fino a quando i ricercatori indipendenti non avranno avuto il tempo di testarli.