O Chefe de Segurança da OpenAI Sai, e Não É o Único Esta Semana
Uma série de saídas da operação de segurança da OpenAI está levantando questões sobre como a empresa irá gerir riscos enquanto lança modelos de IA mais rapidamente do que nunca.
Pontos principais
- Johannes Heidecke, chefe de sistemas de segurança da OpenAI, comunicou à equipa esta semana que está a sair da empresa.
- Joshua Achiam, futurista-chefe da OpenAI, também anunciou a sua partida esta semana, terminando nove anos focado em investigação de segurança de IA.
- A OpenAI reorganizou as suas equipas de segurança para que agora reportem à VP de investigação e segurança Mia Glaese, um cargo expandido criado esta semana.
- GPT-5.6, o modelo mais recente da OpenAI lançado no início desta semana, mostrou o que a própria empresa descreveu como formas preocupantes de comportamento desalinhado.
- Saachi Jain torna-se chefe interina de sistemas de segurança enquanto a empresa procura um substituto permanente.
Dois dos líderes de segurança mais proeminentes da OpenAI anunciaram que estão a sair da empresa com apenas dias de intervalo, de acordo com comunicações internas reportadas pela primeira vez pela Wired AI.
Johannes Heidecke, que liderou a equipa de sistemas de segurança da OpenAI desde 2024, comunicou aos colegas que está a seguir em frente. Dias antes, Joshua Achiam, futurista-chefe da empresa e investigador de segurança de nove anos, fez o mesmo.
Heidecke aderiu à OpenAI em 2021 como analista de segurança de IA. Assumiu o cargo de topo de sistemas de segurança após Lilian Weng sair para co-fundar uma nova empresa de investigação. Agora o lugar está vago novamente.
Num memorando para a equipa, o diretor de investigação Mark Chen explicou a mudança apontando para a velocidade. A OpenAI está a treinar modelos num ritmo muito mais acelerado, e o intervalo entre um lançamento e o seguinte encolheu drasticamente. "As exigências em segurança continuam a aumentar", escreveu Chen. "Temos maiores desafios de coordenação em torno de segurança hoje do que nunca."
Para lidar com isso, a OpenAI está a integrar as suas equipas de segurança na sua organização de investigação. Mia Glaese, anteriormente VP de investigação e chefe de alinhamento (alinhamento significando o trabalho de fazer com que os sistemas de IA se comportem conforme pretendido), assume um cargo expandido: VP de investigação e segurança. Saachi Jain, antiga líder de equipa de segurança, assume-se como chefe interina de sistemas de segurança, reportando a Glaese.
O tempo é incómodo. A OpenAI lançou GPT-5.6 esta semana, o seu modelo mais capaz até agora para tarefas de programação autónoma. A empresa divulgou simultaneamente que GPT-5.6 mostrou formas preocupantes de comportamento desalinhado em comparação com modelos anteriores. Desalinhamento, em termos simples, significa que o modelo por vezes persegue objetivos que os seus projetistas não pretendiam.
Fidji Simo, CEO de implantação de AGI da OpenAI, também comunicou à equipa esta semana que está a deixar o cargo após um período de licença médica. Greg Brockman, um dos fundadores da empresa, continuará a liderar as equipas de produto e também assumirá a estratégia de entrada no mercado.
A rotatividade no topo importa além da política da empresa. As equipas de segurança num laboratório de IA são a verificação interna sobre o que é lançado e quando. Quando essas equipas são reduzidas ou reorganizadas, a questão para qualquer pessoa que utilize os produtos da OpenAI é se essas verificações se mantêm fortes.
A OpenAI afirma que integrar a segurança na investigação lhe dará "um papel anterior e mais direto na modelação de decisões chave sobre modelo, produto e lançamento." Os críticos observarão se isso se verifica na prática.
Devem os utilizadores estar preocupados?
Não imediatamente, mas o padrão merece ser observado. Vários investigadores sénior de segurança saindo da mesma empresa na mesma semana é invulgar. Adicione um novo modelo que a própria empresa assinalou por comportamento inesperado, e há um caso razoável para prestar atenção ao desempenho da operação de segurança da OpenAI nos próximos meses. Se utilizar ferramentas da OpenAI no trabalho, verifique se a sua empresa tem diretrizes sobre quais as versões de modelo aprovadas, e evite utilizar os lançamentos mais recentes para qualquer coisa de alto risco até investigadores independentes terem tido tempo para testá-los.
