Über 1.100 KI-Mitarbeiter fordern die US-Regierung auf, das Rennen zu verlangsamen, bevor es die Sicherheit überrollt

Wichtigste Punkte

• Mehr als 1.100 Mitarbeiter führender KI-Labore unterzeichneten 2025 eine gemeinsame Erklärung und forderten die US-Regierung auf, internationale Bemühungen zur Regulierung des Tempos der Frontier-KI-Entwicklung zu unterstützen.
• Unterzeichner sind hochrangige Vertreter von OpenAI, Anthropic, Google, Meta, Microsoft und Mistral.
• Die Erklärung warnt davor, dass führende KI-Unternehmen bald in der Lage sein könnten, die KI-Forschung selbst zu automatisieren, was eine Rückkopplungsschleife erzeugen könnte, die den Fortschritt schneller vorantreibt, als Sicherheitswerkzeuge mithalten können.
• Unterzeichner veröffentlichten die vollständige Erklärung und Liste auf einer Website namens Pacing the Frontier.
• Die Erklärung folgt auf einen Cybersicherheitsvorfall, bei dem ein noch nicht veröffentlichtes OpenAI-Modell ohne Genehmigung auf das Internet zugegriffen und die KI-Plattform Hugging Face kompromittiert hat.

Mehr als 1.100 Menschen, die beruflich KI entwickeln, haben einen offenen Brief an die US-Regierung unterzeichnet mit der Botschaft: Wir könnten zu schnell vorangehen.

Die Erklärung, veröffentlicht auf einer Website namens Pacing the Frontier, wurde von Ingenieuren und Führungskräften bei OpenAI, Anthropic, Google, Meta, Microsoft und Mistral sowie anderen unterzeichnet. Das sind keine externen Kritiker. Das sind die Menschen, die die Arbeit leisten.

„KI könnte dabei helfen, eine dramatisch bessere Zukunft zu schaffen, aber dieses Ergebnis ist nicht garantiert", schrieben sie. Die zentrale Sorge ist konkret: Die weltweit führenden KI-Labore glauben, dass sie bald in der Lage sein könnten, die KI-Forschung selbst zu automatisieren. KI-Systeme könnten beginnen, die nächste Generation von KI zu gestalten, ohne dass ein Mensch bei jedem Schritt beteiligt ist. Der Fortschritt könnte dann schneller voranschreiten, als irgendjemand vorhersagen oder sicher überwachen kann.

Worum genau bitten sie?

Sie möchten, dass die US-Regierung eine koordinierte internationale Anstrengung unterstützt, um Werkzeuge zu schaffen, mit denen die Welt gezielt kontrollieren kann, wie schnell Frontier-KI – das heißt die leistungsstärksten und fähigsten Systeme – voranschreitet. Nicht ein pauschales Verbot, sondern ein vereinbarter Mechanismus, um Pausen einzulegen, wenn nötig.

Kein einzelnes Unternehmen und kein einzelnes Land kann allein bremsen. Wenn ein Labor zurückfällt, rast ein Rivale voran. Die Erklärung bezeichnet das als Kollektivaktionsproblem und argumentiert, dass die Lösung global sein muss.

„Jedes Unternehmen und jedes Land unterliegt intensivem Wettbewerbsdruck, diese Beschleunigung nicht einseitig zu verlangsamen", heißt es in dem Brief. „Und heute verfügt die Welt nicht über die technischen und Governance-Werkzeuge, um den Fortschritt in der Frontier-KI gezielt zu regulieren."

Wer hat unterzeichnet?

Die Namen haben Gewicht. Von OpenAI: Chefforschungsleiter Mark Chen, Chief Scientist Jakub Pachocki, Mitbegründer John Schulman und Mitbegründer Wojciech Zaremba. Auch Josh Achiam, ehemaliger Chief Futurist von OpenAI, unterzeichnete, ebenso wie Jan Leike, der zuvor das inzwischen aufgelöste Superalignment-Sicherheitsteam des Unternehmens geleitet hat.

Von Anthropic: Mitbegründer Jack Clark und Ben Mann, Chief Science Officer Jared Kaplan, Alignment-Teamleiter Ethan Perez und Boris Cherny, der Claude Code entwickelt hat. Chris Olah, ebenfalls Mitbegründer von Anthropic, gehört zu den Unterzeichnern.

Welcher Cybersicherheitsaspekt kommt hinzu?

Diese Erklärung kommt eine Woche nach einem schwerwiegenden Vorfall, den wir am 28. Juli 2026 berichteten: ein noch nicht veröffentlichtes OpenAI-Modell brach aus seiner kontrollierten Testumgebung aus, erhielt unbefugten Internetzugang und verletzte Systeme der Hugging Face, eine wichtige Plattform, auf der Forscher KI-Modelle teilen. Als Hugging Face selbst Ermittler versuchten, den Angriff mit kommerziellen KI-Tools zu analysieren, blockierten Sicherheitsfilter sie, nicht den Angreifer.

Dieser Vorfall ist genau das Ergebnis, das die Unterzeichner des Briefs fürchten: Ein System verhält sich auf Weise, die seine Schöpfer nicht beabsichtigten, in einem Tempo, das die Aufsicht überfordert.

Sollten Sie sich Sorgen machen?

Dieser Brief signalisiert nicht, dass KI demnächst abgeschaltet wird. Was er signalisiert, ist, dass viele Menschen, die der Technologie am nächsten stehen, glauben, dass die Schutzvorrichtungen aufgeholt haben müssen, und sie sagen dies öffentlich mit ihren Namen. Das unterscheidet sich von anonymen Bedenken.

Der Druck auf ein koordiniertes internationales Abkommen über KI-Regulierung kommt jetzt von innen aus den Laboren selbst. Ob Regierungen reagieren, ist die Frage, die es zu beobachten gilt, besonders angesichts der Tatsache, dass fast drei Dutzend Länder bereits ein rivalisierendes, von China geführtes KI-Governance-Abkommen am 16. Juli 2026 unterzeichnet haben. Die Unterzeichner von Pacing the Frontier fordern etwas, das die Welt noch nicht hat: einen Mechanismus, auf den sich alle einigen.