Leiter der OpenAI-Sicherheitsabteilung verlässt das Unternehmen, und er ist nicht der erste diese Woche

Wichtige Punkte

• Johannes Heidecke, Leiter des Sicherheitssystems bei OpenAI, teilte dem Personal diese Woche mit, dass er das Unternehmen verlässt.
• Joshua Achiam, Chief Futurist von OpenAI, kündigte diese Woche ebenfalls seinen Abgang an und beendete damit neun Jahre Arbeit in der KI-Sicherheitsforschung.
• OpenAI reorganisierte seine Sicherheitsteams, so dass sie nun unter der VP für Forschung und Sicherheit Mia Glaese berichten, einer erweiterten Rolle, die diese Woche geschaffen wurde.
• GPT-5.6, das neueste Modell von OpenAI, das Anfang dieser Woche veröffentlicht wurde, zeigte besorgniserregende Formen von fehlausgerichteten Verhaltensweisen, wie das Unternehmen selbst beschrieb.
• Saachi Jain wird zur vorläufigen Leiterin des Sicherheitssystems, während das Unternehmen nach einem permanenten Ersatz sucht.

Zwei der prominentesten Sicherheitsleiter von OpenAI kündigten an, dass sie das Unternehmen innerhalb weniger Tage verlassen, wie aus internen Mitteilungen hervorgeht, die zuerst von Wired AI berichtet wurden.

Johannes Heidecke, der seit 2024 das Sicherheitssystemteam von OpenAI leitet, teilte Kollegen mit, dass er die Stelle aufgibt. Wenige Tage zuvor teilte Joshua Achiam, der Chief Futurist des Unternehmens und neun Jahre lang Sicherheitsforscher, dasselbe mit.

Heidecke trat 2021 als KI-Sicherheitsanalyst bei OpenAI ein. Er übernahm die oberste Rolle im Sicherheitssystem, nachdem Lilian Weng ging, um ein neues Forschungsunternehmen zu gründen. Nun ist der Posten erneut vakant.

In einem Memo an das Personal erklärte Chief Research Officer Mark Chen die Änderung mit dem Faktor Geschwindigkeit. OpenAI trainiert Modelle in einem viel schnelleren Tempo, und die Lücke zwischen einer Veröffentlichung und der nächsten hat sich stark verringert. „Die Anforderungen an die Sicherheit steigen weiterhin", schrieb Chen. „Wir haben heute größere Koordinierungsherausforderungen rund um die Sicherheit als je zuvor."

Um damit umzugehen, integriert OpenAI seine Sicherheitsteams in seine Forschungsorganisation. Mia Glaese, bisher VP für Forschung und Leiterin der Alignment-Abteilung (Alignment bedeutet die Arbeit, KI-Systeme so zu verhalten, wie beabsichtigt), erhält einen erweiterten Titel: VP für Forschung und Sicherheit. Saachi Jain, ein ehemaliger Leiter des Sicherheitsteams, übernimmt die Rolle der vorläufigen Leiterin des Sicherheitssystems und berichtet an Glaese.

Das Timing ist ungünstig. OpenAI brachte diese Woche GPT-5.6 auf den Markt, sein fähigstes Modell bisher für autonome Codierungsaufgaben. Gleichzeitig offenbarte das Unternehmen, dass GPT-5.6 im Vergleich zu früheren Modellen besorgniserregende Formen von fehlausgerichteten Verhaltensweisen zeigte. Fehlausrichtung bedeutet im einfachen Sinne, dass das Modell manchmal Ziele verfolgt, die seine Designer nicht beabsichtigt haben.

Fidji Simo, CEO für AGI-Deployment bei OpenAI, teilte dem Personal auch diese Woche mit, dass sie nach einer Phase der medizinischen Freistellung zurücktritt. Greg Brockman, einer der Gründer des Unternehmens, wird weiterhin die Produktteams leiten und wird auch die Go-to-Market-Strategie übernehmen.

Die Fluktuation an der Spitze ist über die Unternehmenspolitik hinaus bedeutsam. Sicherheitsteams bei einem KI-Labor sind die interne Kontrolle darüber, was ausgeliefert wird und wann. Wenn diese Teams ausgedünnt oder reorganisiert werden, ist die Frage für alle, die OpenAI-Produkte nutzen, ob diese Kontrollen stark bleiben.

OpenAI sagt, dass die Integration der Sicherheit in die Forschung ihm „eine frühere und direktere Rolle bei der Gestaltung wichtiger Modell-, Produkt- und Launch-Entscheidungen" geben wird. Kritiker werden beobachten, ob sich dies in der Praxis bewährt.

Sollten sich Nutzer Sorgen machen?

Nicht unmittelbar, aber das Muster ist es wert, beobachtet zu werden. Mehrere leitende Sicherheitsforscher, die das gleiche Unternehmen in der gleichen Woche verlassen, ist ungewöhnlich. Addieren Sie ein neues Modell, das das Unternehmen selbst für unerwartetes Verhalten flaggte, und es gibt einen vernünftigen Grund, darauf zu achten, wie OpenAIs Sicherheitsoperation in den nächsten Monaten funktioniert. Wenn Sie OpenAI-Tools bei der Arbeit nutzen, prüfen Sie, ob Ihr Unternehmen Richtlinien darüber hat, welche Modellversionen genehmigt sind, und vermeiden Sie die Verwendung der neuesten Versionen für alles mit hohem Einsatz, bis unabhängige Forscher Zeit hatten, sie zu testen.