KI-Schutzvorrichtungen gegen Hacker blockieren jetzt auch die Hacker-Bekämpfer

Wichtigste Punkte

• Anthropics KI-Modelle Mythos und Fable unterlagen im Juni US-amerikanischen Exportkontrollbestimmungen, die den Zugang außerhalb des Landes einschränkten.
• Sowohl Anthropic als auch OpenAI betreiben geprüfte Programme, die genehmigten Cybersicherheitsforschern etwas besseren Zugang zu ihren KI-Tools gewähren.
• Mehrere Forscher im Bereich offensive Sicherheit sagen, dass die Filter grundlegende Arbeiten blockieren und auch innerhalb dieser Programme unvorhersehbare Ergebnisse liefern.
• Einige Forscher sagen, dass die Beschränkungen sie zu chinesischen Open-Source-KI-Modellen wie GLM treiben, die keine Filter oder Überprüfung haben.
• Ein Forscher bei einem Smartphonekomponentenhersteller sagte, dass seine Teams KI-Tools für Sicherheitsarbeit fast nutzlos wurden, weil niemand sich in das geprüfte Programm angemeldet hatte.

Cybersicherheit ist schon immer ein Spiel mit zwei Seiten gewesen. Das gleiche Wissen, das einem Verteidiger hilft, ein Loch zu schließen, erlaubt einem Angreifer, hindurchzugehen. Jetzt sind KI-Tools in die Mitte dieser Spannung geraten, und die Sicherheitsfilter, die darin eingebaut sind, frustrieren zunehmend genau die Menschen, die sie schützen sollten.

Was geht denn schief?

KI-Unternehmen bauen Schutzvorrichtungen – also automatische Regeln, die die Software davon abhalten, Fragen zu beantworten, die sie als gefährlich einstufen – in ihre Modelle ein, um zu verhindern, dass Kriminelle sie zum Erstellen von Malware oder zur Planung von Angriffen nutzen. Das Problem ist, dass die gleichen Regeln legitime Sicherheitsforscher bei ihrer Arbeit blockieren.

Chris Anley, Chefwissenschaftler bei der Sicherheitsberatungsfirma NCC Group, gab ein klares Beispiel. Wenn er ein KI-Modell bittet, einen Softwarefehler auszunutzen, testet er, ob der Fehler real und gefährlich genug ist, um ihn zu beheben. Eine Schutzvorrichtung, die diese Anfrage ablehnt, schützt niemanden. Sie lässt den Fehler einfach unbestätigt und möglicherweise offen für einen echten Angreifer.

„Code zu reparieren ist sowohl ein wesentlicher Verteidigungsmechanismus als auch eine Roadmap zum Finden kritischer Anfälligkeit," sagte Anley. „Das gleiche Tool ist sowohl ein offensives als auch ein defensives Tool, und die beiden lassen sich nicht wirklich trennen."

Seine Analogie: Es ist wie ein Hammer. Man kann ohne ihn kein Haus bauen, aber man kann damit auch ein Fenster einschlagen.

Wie schlecht ist die Inkonsistenz?

Es ist unregelmäßig genug, um ernsthafte Zeit zu verschwenden. Chris Thompson, Geschäftsführer der Cybersicherheitsfirma RemoteThreat und Gründer von Offensive AI Con, einer Konferenz zu Sicherheit und KI, sagte gegenüber TechCrunch, dass selbst in Anthropics und OpenAIs genehmigten Forschungsprogrammen die Schutzvorrichtungen von Tag zu Tag unterschiedlich reagieren.

„Man verbringt viel Zeit mit Verhandlungen mit dem Modell, anstatt an dem eigentlichen Sicherheitsprogramm zu arbeiten," sagte Thompson. „Statt eine Anfälligkeit zu analysieren, versucht man herauszufinden, warum Modelle die Ausgabe übermäßig bereinigen."

Ein namenlos bleibender Forscher bei einem Smartphonekomponentenhersteller brachte es auf den Punkt: „Wenn es mitbekommt, dass wir etwas Sicherheitsbezogenes tun, stoppt es einfach und ist nicht mehr nutzbar."

Wohin treibt das Menschen ab?

Zu Open-Source-Modellen ohne Filter, von denen viele in China entwickelt wurden. Thompson sagte, dass verantwortungsvolle Forscher von Systemen unter US-amerikanischer Aufsicht zu ausländisch entwickelten Tools ohne Verantwortung gelenkt werden.

„Man hat diese verantwortungsvollen Forscher, die von US-kontrollierten Systemen zu ausländischen Systemen weggeleitet werden," sagte er. „Ich denke, es ist schädlicher als nützlich, diese Schutzvorrichtungen einzubauen."

Nicht jeder Forscher fühlt sich blockiert. Giuseppe Cali, der Zero-Days (vorher unbekannte Softwarefehler, für die es noch keinen Patch gibt) findet und entwickelt, sagte, dass er KI von der eigentlichen Anfälligkeit-Jagd fern hält, weil er die Entdeckung für sich behalten will. Für unterstützende Aufgaben wie das Verständnis unfamilärer Code findet er die Tools nützlich genug.

„Ich bin eifersüchtig auf meine Bugs," sagte Cali, „und ich liebe dieses Spiel zu sehr, um es Modellen zu überlassen."

Thompsons Lösung ist nicht, die Schutzvorrichtungen ganz zu entfernen. Er möchte, dass KI-Labore den Zugang für geprüfte Forscher erweitern, konsistente Regeln anwenden und Missbrauch durch böse Akteure zur Rechenschaft ziehen. Ohne dieses Gleichgewicht, argumentiert er, werden Verteidiger hinter Angreifern zurückbleiben, die keine solchen Einschränkungen haben.

Häufige Fragen

Beeinflussen diese Einschränkungen normale Computerbenutzer?

Nicht direkt. Die hier beschriebene Reibung betrifft professionelle Sicherheitsforscher, nicht alltägliche Menschen, die KI zum Schreiben oder für Arbeitstätigkeiten nutzen. Allgemeine Schutzvorrichtungen bleiben für alle bestehen.

Warum beschränken KI-Unternehmen Cybersicherheitsfragen überhaupt?

Sie befürchten, dass detaillierte, schrittweise Angriffsanleitungen Kriminellen helfen könnten, Malware zu erstellen oder Systeme zu durchbrechen. Die Schwierigkeit liegt darin, dass die gleiche Anleitung genau das ist, das legitime Verteidiger brauchen, um diese Systeme zunächst zu testen und zu härten.

Was ist ein Open-Source-KI-Modell und warum hat es keine Schutzvorrichtungen?

Ein Open-Source-KI-Modell ist eines, dessen zugrundeliegender Code frei veröffentlicht wird, damit jeder es herunterladen und auf seinem eigenen Computer ausführen kann. Da es lokal ausgeführt wird, gibt es kein Unternehmen in der Mitte, um Regeln durchzusetzen, weshalb Forscher es für sensible Arbeiten nutzen, aber auch deshalb, weil es eigene Risiken birgt.