Google DeepMind-CEO fordert FINRA-ähnliche Aufsichtsbehörde für die mächtigsten KI-Modelle

Wichtigste Punkte

• Google DeepMind-CEO Demis Hassabis veröffentlichte am 14. Juli 2026 einen Vorschlag für ein unabhängiges Gremium zur Überprüfung der mächtigsten KI-Modelle vor der Freigabe.
• Das vorgeschlagene Gremium orientiert sich an FINRA, der Financial Industry Regulatory Authority, einer eigenfinanzierten, unabhängigen Aufsichtsbehörde, die US-amerikanische Finanzmakler ohne staatliche Struktur überwacht.
• Nach dem Plan würden KI-Labore neue Modelle bis zu 30 Tage vor dem Start freiwillig mit dem Gremium teilen, mit möglicher verbindlicher Compliance nach erfolgreichem Betrieb.
• Frühere US-Regierungsüberprüfungen von Anthropics Mythos und OpenAIs Sol-Modellen wurden kritisiert, da ihnen technische Expertise und klare Entscheidungsregeln fehlten.
• Der KI-Berater des Weißen Hauses, Sriram Krishnan, erklärte 2026, dass die Administration keine „FDA für KI" schaffen würde, was eine Selbstregulierungsstruktur zum politisch tragbareren Weg macht.

Demis Hassabis, CEO von Google DeepMind, veröffentlichte am Dienstag einen detaillierten Vorschlag für eine neue Organisation, die als Kontrollinstanz für die weltweit mächtigsten KI-Systeme fungieren soll. Er nennt sie „Frontier-Modelle", gemeint sind die hochmodernen KI-Systeme, die die Grenzen dessen verschieben, was die Technologie derzeit leisten kann.

Die Idee ist einfach. Bevor ein Frontier-Modell an die Öffentlichkeit geht, würde es von seinen Entwicklern an ein unabhängiges Normungsgremium zur bis zu 30-tägigen Sicherheitsprüfung übergeben. Die Überprüfung bestanden, Produkt freigeben. Nicht bestanden, Probleme erst beheben.

Hassabis möchte das Gremium wie FINRA, die Financial Industry Regulatory Authority, strukturieren. FINRA ist keine Behörde. Sie wird von der Finanzbranche selbst finanziert und agiert unabhängig, indem sie Verhaltensregeln für Aktienmakler setzt und durchsetzt. Die KI-Version würde gleich funktionieren: finanziert durch Mittel der großen KI-Labore, besetzt mit technischen Experten und Open-Source-Forschern und berechtigt, spezialisierte Evaluierungen an unabhängige KI-Sicherheitsgruppen zu vergeben.

Der Vorschlag füllt eine Lücke, die peinlich offensichtlich geworden ist. Die US-Regierung führte bereits ad-hoc-Sicherheitsüberprüfungen von zwei hochkarätigen Modellen durch, Anthropics Mythos und OpenAIs Sol, ein großes Sprachmodell und ein multimodales KI-System. Beide gehören zu den fähigsten bisher entwickelten KI-Tools. Diese Überprüfungen wurden erstmals von TechCrunch AI berichtet, weit verbreitet kritisiert, wegen mangelnder technischer Expertise und undurchsichtiger Regeln darüber, was tatsächlich ein Veröffentlichungsverbot auslösen würde.

Ein ständiges Gremium mit Vollzeit-Spezialisten würde beide Probleme beheben.

Der politische Aspekt ist knifflig. Die Trump-Administration hat wenig Appetit auf neue KI-Regulatoren gezeigt. Sriram Krishnan, KI-Berater des Weißen Hauses und Partner bei der Venture-Capital-Firma Andreessen Horowitz, sagte klipp und klar, es würde keine „FDA für KI" geben. Hassabis' Selbstregulierungsmodell ist eine direkte Antwort auf diesen Einwand: keine neue Regierungsbehörde, keine neue Bürokratie, nur die Branche, die sich selbst mit Unterstützung der Regierung kontrolliert.

Sollten normale Benutzer sich dafür interessieren?

Ja, in praktischer Hinsicht. Im Moment erreichen die mächtigsten KI-Tools die Öffentlichkeit ohne konsistente Sicherheitsprüfung. Ein Normungsgremium würde bedeuten, dass die nächste Welle von KI-Produkten, die Sie verwenden, ob zum Schreiben, zur Gesundheitsversorgung oder zu Finanzberatung, mindestens eine unabhängige technische Überprüfung bestanden hat, bevor sie auf Ihr Telefon oder in Ihren Browser gelangt.

Hassabis stellt das System so dar, dass es mit der Technologie wachsen und seine Anforderungen verschärfen würde, wenn die Risiken ernster werden. Das ist eine sinnvolle Struktur. Das Detail, das am wichtigsten sein wird, ist, wer tatsächlich im Gremium sitzt und ob die Labore seine Ergebnisse akzeptieren, wenn diese unbequem sind.