Trumps KI-Sicherheitsrahmen ignoriert Open-Source-Modelle völlig

Wichtigste Punkte

• Der KI-Cybersicherheits-Testrahmen der Trump-Administration, Mitte 2025 finalisiert, schließt alle Open-Source-KI-Modelle aus seinem Umfang aus.
• Der Rahmen gilt nur für Closed-Source-, State-of-the-Art-KI-Modelle, also Modelle, die nur ihre Entwickler vollständig überprüfen können und die nationale Sicherheitsrisiken bergen.
• KI-Unternehmen erhalten ein 30-Tage-Fenster für die behördliche Überprüfung eines Modells vor der Veröffentlichung, aber die Einhaltung ist vollständig freiwillig.
• Der Rahmen definiert nicht, was „State-of-the-Art" oder „nationales Sicherheitsrisiko" bedeutet, was kritische Begriffe zur Interpretation offen lässt.
• Das Weiße Haus plant nicht, die Details des Rahmens der Öffentlichkeit zugänglich zu machen.

Die Trump-Administration hat einen Rahmen für die Überprüfung fertiggestellt, ob fortgeschrittene KI-Systeme Cybersicherheitsgefahren darstellen, bevor sie an die Öffentlichkeit gehen. Wie zuerst von Axios berichtet wurde, lässt der Rahmen einen großen und wachsenden Teil der KI-Welt aus, bevor er überhaupt beginnt.

Was deckt der Rahmen eigentlich ab?

Er deckt nur Closed-Source-KI-Modelle mit Frontier-Fähigkeiten ab, die nationale Sicherheitsrisiken bergen. Ein Closed-Source-Modell ist eines, bei dem der zugrunde liegende Code und die Komponenten privat bleiben, wie ein Rezept in einem Tresor. Open-Source-Modelle, bei denen jeder die inneren Funktionsweisen herunterladen und überprüfen kann, sind vollständig ausgeschlossen.

Der Rahmen besagt auch ausdrücklich, dass er nicht zur Beschränkung eines Open-Source-Modells nach seiner Veröffentlichung verwendet werden kann. Dies ist eine bemerkenswerte Ausnahme, da mehrere der heute verfügbaren leistungsfähigsten KI-Systeme, einschließlich Metas Llama-Familie, Open-Source sind.

KI-Unternehmen wie Anthropic, OpenAI und Google nahmen an einer Weißhaus-Briefing zum finalisierten Rahmen teil. Das Treffen folgte einer Durchführungsverordnung, die Präsident Trump im Juni unterzeichnete und KI-Unternehmen auffordert, ihre fortgeschrittensten Modelle vor der öffentlichen Veröffentlichung mit der Bundesregierung zu teilen.

Was bedeutet das für KI-Unternehmen?

In der Praxis sind Unternehmen nicht gesetzlich verpflichtet, sich daran zu halten. Die Richtlinien sind freiwillig.

Nach dem Rahmen hat die Regierung 30 Tage Zeit, um ein neues Modell nach der Einreichung durch ein Unternehmen zu überprüfen. Diese Überprüfungsfrist gilt nur für Closed-Source-Modelle, die sowohl hochmodern als auch so beurteilt werden, dass sie ein nationales Sicherheitsrisiko darstellen.

Das Problem ist, dass keine dieser Bedingungen irgendwo im Dokument definiert ist. Der Rahmen erklärt nicht, was sich als „State-of-the-Art" qualifiziert oder was als „nationales Sicherheitsrisiko" zählt. Für eine Politik, die speziell dafür konzipiert ist, diese Dinge zu evaluieren, ist das eine erhebliche Lücke.

Große Labore wie OpenAI und Anthropic haben Berichten zufolge für klarere Richtlinien plädiert und hoffen, zu verstehen, wo die Grenze liegt, bevor sie etwas veröffentlichen, das staatliche Aufmerksamkeit erregt. Kleinere KI-Unternehmen haben ein ähnliches Problem: Ohne klare Definitionen ist es schwer zu wissen, ob ein neues Modell überhaupt unter den Rahmen fällt oder ob die ruhige Veröffentlichung ihren Ruf bei der Administration beschädigen könnte.

Was kommt als Nächstes?

Die Administration plant nicht, den Rahmen öffentlich zu veröffentlichen, was bedeutet, dass externe Experten, Forscher und die Allgemeinheit die Standards nicht überprüfen können, die auf KI-Modelle angewendet werden, bevor sie alltägliche Benutzer erreichen.

Das ist wichtig. KI-Modelle werden bereits in Krankenakten, Einstellungswerkzeugen und Kundendienst-Systemen verwendet, die Millionen von Menschen betreffen. Ein Testrahmen mit undefinierten Begriffen und ohne öffentliche Rechenschaftspflicht bietet begrenzte Gewähr dafür, dass diese Systeme auf Risiken gründlich überprüft worden sind.

Die freiwillige Natur der Regeln bedeutet auch, dass ein Unternehmen, das schnell vorankommen möchte, einfach beschließen kann, nicht teilzunehmen.

Häufig gestellte Fragen

Wirkt sich dies auf KI-Tools aus, die ich bereits verwende?

Nicht direkt. Der Rahmen zielt auf neue Modelle vor der Veröffentlichung ab, nicht auf bereits auf dem Markt vorhandene. Tools, die Sie heute verwenden, sind nicht betroffen.

Warum ist es wichtig, dass Open-Source-Modelle ausgeschlossen sind?

Open-Source-KI-Modelle können von jedem heruntergeladen und verändert werden, einschließlich Menschen mit schädlichen Absichten. Ein Rahmen, der sich mit diesen Modellen nicht befassen kann, lässt einen erheblichen Teil der Risikolandschaft unberührt.

Ist dies ein Gesetz?

Nein. Der Rahmen ist freiwillige Anleitung, nicht Gesetzgebung. Unternehmen drohen keine rechtlichen Strafen für die Nichtbeachtung.