Der Chef von Google DeepMind fordert eine globale KI-Kontrollbehörde, bevor die Technologie uns entgleitet

Wichtige Punkte

• Google DeepMind CEO Demis Hassabis veröffentlichte 2025 einen Blogbeitrag, in dem er die Schaffung eines neuen internationalen Gremiums zur Überwachung der leistungsstärksten KI-Systeme vor ihrer Veröffentlichung fordert.
• Hassabis argumentiert, dass die Vereinigten Staaten die Bemühungen anführen sollten, und verweist auf ihre wirtschaftliche und technische Stellung als natürliche Grundlage für die Festlegung globaler KI-Standards.
• Die vorgeschlagene Kontrollbehörde hätte echte Autorität: Sie könnte zukunftsweisende KI-Modelle vor ihrer Einführung bewerten und eine branchenweite Verlangsamung koordinieren, wenn ein Modell als zu gefährlich eingestuft wird.
• Hassabis, gemeinsamer Gewinner des Nobelpreises für Chemie 2024, hat Monate damit verbracht, die Trump-Administration, konkurrierende KI-Unternehmen und europäische Beamte über den Plan zu unterrichten.
• In den USA existiert derzeit kein umfassendes nationales KI-Gesetz, und es existiert auch kein verbindlicher globaler Rahmen.

Demis Hassabis leitet Google DeepMind, die KI-Forschungsabteilung hinter einigen der fortschrittlichsten künstlichen Intelligenzsysteme der Welt. Er hat gerade auch seinen möglicherweise ehrgeizigsten Vorschlag bisher geteilt: eine starke, unabhängige Kontrollbehörde, die die KI-Entwicklung bremsen könnte, wenn die Dinge gefährlich aussehen.

In einem Blogbeitrag mit dem Titel „A Framework for Frontier AI and the Dawning of a New Age" argumentierte Hassabis, dass KI-Regulierung zunehmend dringend wird, nicht optional. Frontier-Modelle – die leistungsstärksten und innovativsten KI-Systeme, die die Grenzen dessen verschieben, was die Technologie leisten kann – entwickeln sich schnell. Zu schnell, meint er, damit die Welt passiv bleiben kann.

Sein vorgeschlagenes Gremium würde ein wenig wie FINRA funktionieren, die Financial Industry Regulatory Authority, die Finanzunternehmen in den USA überwacht. Es würde von unabhängigen Experten und Vertretern aus Open-Source-KI-Gemeinschaften (Gruppen, die KI-Tools frei entwickeln und weitergeben) besetzt sein. Am wichtigsten ist, dass es Zähne hätte: Die Befugnis, die leistungsstärksten KI-Modelle vor ihrer Markteinführung durch Unternehmen zu überprüfen, und die Möglichkeit, einen Stopp in der gesamten Branche einzuleiten, wenn ein Modell zu riskant für die Welt aussah.

Zuerst von The Verge AI berichtet, mit Bezug auf Axios, hat Hassabis Monate damit verbracht, diskret Unterstützung im Hintergrund aufzubauen. Er unterrichtete die Trump-Administration, konkurrierende Labore und europäische Beamte. Sein Eindruck von Washington? „Die Signale, die ich höre, sind sehr positiv," sagte er gegenüber Axios. Er möchte, dass die Organisation noch vor Ende 2025 operativ ist.

Warum die Eile? Hassabis drückte es in dem Blogbeitrag klar aus. Künstliche allgemeine Intelligenz oder AGI – ein KI-System, das in der Lage ist, die menschliche Leistung bei den meisten intellektuellen Aufgaben zu erreichen oder zu übertreffen – ist „wahrscheinlich nur noch wenige Jahre entfernt".

Er ist nicht allein mit dieser Warnung. Der Anthropic-Mitgründer Jack Clark und der ehemalige Google-Chef Eric Schmidt haben sich kürzlich Ökonomen angeschlossen, die Weltführer auffordern, die wirtschaftliche Störung, die KI verursachen könnte, viel ernster zu nehmen.

Für gewöhnliche Menschen ist die praktische Schlussfolgerung einfach. Es gibt derzeit keine verbindlichen globalen Regeln für KI und kein umfassendes nationales Gesetz in den USA. Hassabis versucht, dies zu ändern, bevor die Technologie das Gespräch überflügelt.

Sollten wir uns über die Lücke in den KI-Regeln Sorgen machen?

Nicht in Panik, aber mit Aufmerksamkeit. Das Fehlen eines vereinbarten Rahmens bedeutet, dass Unternehmen derzeit viele ihrer eigenen Grenzen festlegen. Eine unabhängige Kontrollbehörde mit echter Autorität würde dieses Gleichgewicht hin zu öffentlicher Rechenschaftspflicht verschieben, was eine bedeutungsvolle Veränderung ist, die es zu beobachten gibt.