Google DeepMind-Chef fordert staatliche US-Behörde zur Kontrolle von KI vor Markteinführung

Wichtige Punkte

• Google-DeepMind-CEO Demis Hassabis veröffentlichte am Dienstag einen Vorschlag für eine von den USA geleitete, föderally beaufsichtigte Behörde zur Überprüfung von KI-Modellen vor ihrer Veröffentlichung.
• Hassabis warnte, dass hochmoderne KI-Modelle, die derzeit leistungsstärksten verfügbaren Systeme, bereits Cybersicherheitsrisiken darstellen und in Kürze nukleare oder biologische Bedrohungen ermöglichen könnten.
• Die vorgeschlagene Behörde würde von KI-Unternehmen verlangen, neue Modelle bis zu 30 Tage vor dem Start zur Überprüfung einzureichen, zunächst freiwillig, dann verpflichtend.
• Anthropic-CEO Dario Amodei und OpenAI-CEO Sam Altman haben in den letzten Wochen ähnliche Forderungen nach einer KI-Aufsichtsbehörde erhoben.
• Die Finanzierung der Kontrollbehörde würde nach Angaben von Hassabis „wahrscheinlich" von der KI-Industrie selbst kommen.

Demis Hassabis, CEO von Google DeepMind und Nobelpreisträger der Chemie 2024, veröffentlichte diese Woche einen detaillierten Vorschlag für eine neue amerikanische Institution: eine Normungsbehörde, im Grunde eine Kontrollbehörde, die leistungsstarke KI-Modelle vor ihrer Veröffentlichung testet und genehmigt.

Man könnte sie sich als Lebensmittel- und Arzneimittelbehörde vorstellen, aber für KI-Software.

Hassabis sagte, die Behörde sollte nach FINRA, der Financial Industry Regulatory Authority, ausgestaltet sein, die Organisation, die Börsenmaklerfirmen in den USA lizenziert und überwacht. FINRA ist zwar föderally beaufsichtigt, wird aber als öffentlich-private Partnerschaft betrieben, wodurch Regierung und Industrie an einem Tisch sitzen.

Der Grund, warum Hassabis dies jetzt fordert: Er glaubt, dass die Risiken schnell steigen. „Wir haben bereits die Herausforderungen gesehen, die hochmoderne Modelle für die Cybersicherheit darstellen, und andere Bedrohungen einschließlich nuklearer und biologischer Risiken könnten bald entstehen", schrieb er.

Sein Vorschlag besagt, dass KI-Unternehmen neue Modelle freiwillig bis zu 30 Tage vor dem Start zur Überprüfung einreichen würden. Sobald die Behörde ihre Funktionsfähigkeit beweist, würde die Einreichung für alle auf dem US-Markt verkauften Modelle verpflichtend.

Die Tests würden überprüfen, ob ein Modell manipuliert werden kann, um seine eigenen Sicherheitsregeln zu umgehen, ob es Anzeichen von Täuschung zeigt, und ob seine Ausgaben auf eine KI-Quelle zurückgeführt werden können. Dieser letzte Punkt ist für normale Nutzer wichtig: So könnte Ihre Bank, Ihre Arztpraxis oder Ihr Arbeitgeber eines Tages überprüfen, ob ein Dokument von einer Person geschrieben oder von Software generiert wurde.

Finanzierung ist die naheliegende Frage. Hassabis sagte, die Behörde benötige „erhebliche" Mittel, um Top-Fachkräfte einzustellen und die Recheninfrastruktur für Tests in großem Maßstab zu betreiben. Er erwartet, dass die KI-Industrie den Großteil davon zahlt.

Dies ist nicht nur eine einzelne Stimme. Wie CNBC Tech berichtete, brachten Hassabis und Anthropic-CEO Dario Amodei die Idee auf einem G7-Treffen ein, das im letzten Monat Präsident Donald Trump einschloss. OpenAI-CEO Sam Altman veröffentlichte Anfang dieses Monats ein ähnliches Argument in der Financial Times.

Der politische Weg ist jedoch steinig. Die Trump-Verwaltung hat kürzlich vorübergehende Exportbeschränkungen für ein fortgeschrittenes Anthropic-Modell verhängt und OpenAI dann aufgefordert, die Einführung eines neuen zu verlangsamen. Hassabis fordert im Grunde dieselbe Regierung, die KI bereits einschränkt, nun dazu auf, eine formelle, finanzierte Institution um sie herum aufzubauen.

Was bedeutet das für Menschen, die KI bei der Arbeit nutzen?

Falls diese Behörde jemals geschaffen wird, müssten Modelle, die Sie über Arbeitssoftware oder Consumer-Apps nutzen, vor dem Start eine Sicherheitsüberprüfung bestehen. Das könnte zu etwas langsameren Veröffentlichungsplänen führen, aber es bedeutet auch, dass unabhängige Fachleute überprüft haben, ob das Tool zu gefährlichen Ausgaben manipuliert werden kann. Für die meisten Nutzer wäre der praktische Effekt unsichtbar, es sei denn, es verhindert stillschweigend den nächsten großen Sicherheitsvorfall mit einem KI-Produkt.

Die US-China-Dimension verstärkt den Druck. Chinesische KI-Modelle von Unternehmen wie DeepSeek gewinnen Kunden unter amerikanischen Unternehmen, teilweise aufgrund der Kosten. US-Gesetzgeber erwägen jetzt Beschränkungen für ihre Einführung. Eine inländische Normungsbehörde würde fast sicher auch auf ausländische Modelle angewendet, die auf dem US-Markt verkauft werden.

Ehrliche Bewertung: Eine KI-Kontrollbehörde ist noch kein Gesetz, und dieser Vorschlag sieht sich echten politischen Widerständen gegenüber. Beobachten Sie, ob der Kongress ihn aufgreift, nicht ob Tech-CEOs ihn weiter befürworten.