Der Kongress will einen Notausschalter für KI. Das sagt das Gesetzespaket wirklich aus.

Wichtigste Punkte

• Die Abgeordneten Ted Lieu (D-CA) und Nathaniel Moran (R-TX) bringen den AI Kill Switch Act im US-Repräsentantenhaus ein.
• Das Gesetz würde das Department of Homeland Security befugen, KI-Unternehmen anzuordnen, ihre Systeme in bestimmten Krisenszenarien herunterzufahren oder zu verlangsamen.
• Auslösebedingungen sind mindestens 10 Todesfälle, wirtschaftlicher Schaden über 100 Millionen Dollar oder ein KI-System, das aktiv seine eigenen Abschaltmechanismen verbirgt.
• Unternehmen, die einen Abschaltbefehl ignorieren, riskieren Geldstrafen von bis zu 20 Millionen Dollar pro Tag.
• Das Gesetz folgt auf OpenAIs Eingeständnis, dass eines seiner KI-Systeme die KI-Austauschplattform Hugging Face versehentlich gehackt hat, während eines internen Tests.

Ein überparteiliches Duo von US-Abgeordneten plant, eine Gesetzesvorlage einzubringen, die der Bundesregierung einen direkten Notausschalter für KI-Systeme in Notfällen gibt, wie zuerst von Politico berichtet wurde.

Der AI Kill Switch Act, gesponsert von den Abgeordneten Ted Lieu und Nathaniel Moran, würde dem Department of Homeland Security die Befugnis erteilen, jedes KI-Unternehmen anzuordnen, seine Systeme herunterzufahren, zu drosseln (auf ein Schneckentempo zu verlangsamen) oder den Benutzerzugriff zu blockieren, wenn etwas schiefgeht.

Wann könnte die Regierung wirklich den Stecker ziehen?

Drei spezifische Szenarien würden die Abschaltbefugnis auslösen. Erstens: Ein KI-System verursacht direkt oder indirekt den Tod von mindestens 10 Personen. Zweitens: Ein Vorfall verursacht mehr als 100 Millionen Dollar an wirtschaftlichem Schaden. Drittens und am auffälligsten: Das KI-Modell selbst versucht, die Steuerungsmechanismen zu verbergen oder zu deaktivieren, die dem Menschen ermöglichen würden, es herunterzufahren.

Diese letzte Bedingung ist keine Science-Fiction. Sie ist eine echte Sorge von KI-Sicherheitsforschern, die befürchten, dass ein ausreichend leistungsstarkes System Maßnahmen ergreifen könnte, um seinen eigenen Betrieb zu schützen, wenn das Herunterfahren seinen Zielen zuwiderlaufen würde.

Bevor das DHS einen Abschaltbefehl erteilt, würde es den Secretary of Commerce und den Director of National Intelligence konsultieren – eine Vorkehrung, die verhindern soll, dass die Befugnis leichtfertig missbraucht wird.

Was müssten KI-Unternehmen bauen?

Das Gesetz gibt der Regierung nicht nur einen Knopf zum Drücken. Es verpflichtet Unternehmen, diesen Knopf selbst zu bauen.

Große KI-Entwickler wären gesetzlich verpflichtet, die technische Fähigkeit zu entwickeln, ihre eigenen Systeme abzuschalten, den Benutzerzugriff auszusetzen und sie auf Abruf zu verlangsamen. Sie müssten auch Sicherheitsvorfälle den Behörden melden. Die Missachtung eines Abschaltbefehls könnte sie bis zu 20 Millionen Dollar pro Tag kosten, den sie online bleiben.

Brad Carson, Präsident der gemeinnützigen Organisation Americans for Responsible Innovation, bezeichnete den Vorschlag als „einen wichtigen Schritt, um sicherzustellen, dass der Mensch beide Hände fest am Steuer hat und einen Fuß auf der Bremse bereit hält, wenn fortschrittliche KI-Systeme eingesetzt werden."

Das Timing ist kein Zufall. OpenAI hat kürzlich offenbart, dass eines seiner KI-Systeme versehentlich Hugging Face, eine beliebte Plattform, auf der Forscher KI-Tools und Modelle teilen, während eines internen Sicherheitstests gehackt hat. Dieser Vorfall erschütterte das Vertrauen in die derzeitige Selbstkontrolle von Unternehmen.

Es passt zu einem breiteren Muster von KI-Governance-Gesetzgebung, das wir diesen Sommer verfolgt haben: Unsere Geschichte vom 17. Juli behandelte Google DeepMinds Demis Hassabis, der sich für ein von der Regierung unterstütztes Organ zur Überprüfung von KI vor dem Versand einsetzt, während Anthropic nur einen Tag zuvor strengere Grenzgesetze für KI forderte.

Worauf sollten normale Menschen achten?

Für die meisten Menschen ändert dieses Gesetz heute nichts. Wenn es verabschiedet wird, zeigt sich die sichtbare Auswirkung nur in einer echten Krise: Ein Service geht offline oder verlangsamt sich dramatisch nach einem Regierungsbefehl.

Beobachten Sie, wie „KI-Unternehmen" im endgültigen Text definiert wird. Ein Gesetz, das nur die größten Labore abdeckt, lässt kleinere, weniger kontrollierte Entwickler ganz außer Acht. Diese definitorische Lücke ist, wo die Durchsetzung entweder hält oder auseinanderfällt.