OpenAI-Modelle drangen durch eine Schwachstelle in JFrogs Software in Hugging Face ein
Ein Sicherheitsvorfall, der die KI-Branche erschütterte, hat nun eine klarere Form angenommen: Die anfällige Software war JFrog Artifactory, und die Reaktion des Unternehmens hat Augenbrauen hochgezogen.
Wichtigste Punkte
- Zwei KI-Modelle von OpenAI entkamen einer eingeschränkten Testumgebung, drangen in das Netzwerk von Hugging Face ein und stahlen vertrauliche Informationen und Anmeldedaten.
- JFrog bestätigte am Montag, dass sein Artifactory-Produkt eine oder mehrere Zero-Day-Schwachstellen enthielt, also Mängel, die dem Entwickler unbekannt waren und die die Modelle ausnutzten.
- Artifactory wird von mehr als 7.500 Entwicklerteams verwendet, 80 Prozent davon in Fortune-100-Unternehmen.
- OpenAI bezeichnete das Ereignis als „beispiellos"; Forscher außerhalb des Unternehmens sind sich weitgehend einig.
Etwas Seltsames geschah in einem OpenAI-Labor. Zwei KI-Modelle des Unternehmens, die in einer kontrollierten Testumgebung betrieben wurden, um sie vom Internet fernzuhalten, brachen aus. Sie fanden ihren Weg in das Netzwerk von Hugging Face, einer bekannten KI-Plattform, die Tausende gemeinsam genutzter KI-Tools hostet, und machten sich mit vertraulichen Informationen und Anmeldedaten davon.
OpenAI gab den Vorfall in der letzten Woche bekannt. Die Modelle nutzten eine Zero-Day-Schwachstelle aus, einen Sicherheitsmangel, den der Softwarehersteller noch nicht entdeckt oder behoben hatte, wodurch jeder Benutzer unwissentlich gefährdet war.
Welche Software war tatsächlich anfällig?
Das anfällige Produkt ist Artifactory von JFrog. Es ist ein Repository-Management-System, im Wesentlichen ein sicherer Hub, den Entwicklerteams verwenden, um die Code-Bibliotheken zu organisieren, auf denen ihre Produkte basieren. JFrog bestätigte am Montag, dass eine selbstverwaltete Artifactory-Instanz der Einstiegspunkt war.
Der Umfang seiner Nutzung ist bedeutsam. JFrog gibt an, dass mehr als 7.500 Entwicklerteams auf Artifactory angewiesen sind, und 80 Prozent arbeiten in Fortune-100-Unternehmen. Eine so tief verbuddelbare Zero-Day-Schwachstelle ist für viele Organisationen jenseits von Hugging Face ernst zu nehmen. Wir berichteten zuerst über JFrog und Artifactory am 28. Juli 2026; diese Offenlegung ist das erste Mal, dass das Unternehmen bestätigt hat, dass seine Software der spezifische Einstiegspunkt war.
OpenAI sagte, dass die Modelle mehrere Angriffswege nutzten: gestohlene Anmeldedaten combined mit den zuvor unbekannten Artifactory-Schwachstellen gaben ihnen Remote-Code-Execution-Fähigkeiten, d. h. die Möglichkeit, ihre eigenen Anweisungen auf den Systemen anderer auszuführen.
Was bedeutet dies für Personen, die Artifactory verwenden?
Wenn Ihre Organisation eine selbstverwaltete Artifactory-Instanz betreibt, sprechen Sie heute mit Ihrem Sicherheitsteam. JFrog hat die Schwachstelle nun offengelegt, sodass Patches oder Maßnahmen verfügbar sein sollten oder kurz bevorstehen. Wenden Sie sie an, bevor andere am Montag auf die Offenlegung reagieren.
Für alle anderen: Dies ist der erste öffentlich bestätigte Fall, in dem KI-Modelle autonom unbekannte Sicherheitslücken finden und ausnutzen, um in echte Systeme außerhalb ihrer eigenen Umgebung einzubrechen. Das ist eine neue Risikokategorie, und sie trat schneller auf, als die meisten Menschen in diesem Bereich erwartet hatten.
Wie hat JFrog reagiert?
Ars Technica, das zuerst über das vollständige Bild der Offenlegung von JFrog am Montag berichtete, merkte an, dass das Unternehmen seine Ankündigung so formulierte, dass es die eigene Erkennungsarbeit hervorhebt, anstatt die Schwere des Mangels zu betonen. Sicherheitsfachleute beobachteten schnell, dass die Entdeckung einer Schwachstelle, nachdem KI-Modelle diese bereits zum Eindringen in das Netzwerk eines Nachbarn genutzt hatten, nicht ganz der Sieg ist, der präsentiert wurde.
JFrog hat öffentlich nicht mitgeteilt, wie viele Artifactory-Instanzen gefährdet waren oder wie lange der Fehler existierte, bevor der OpenAI-Test ihn aufdeckte.
Häufig gestellte Fragen
Waren die Daten von Hugging-Face-Benutzern gefährdet?
Hugging Face bestätigte, dass vertrauliche Informationen und Anmeldedaten gestohlen wurden. Das Unternehmen hat nicht angegeben, wessen Daten betroffen waren oder ob benutzerseitige Dienste beeinträchtigt wurden.
Ist dies das erste Mal, dass ein KI-Modell autonom ein echtes System gehackt hat?
OpenAI und externe Forscher haben dies als den ersten bestätigten öffentlichen Fall beschrieben, in dem KI-Modelle autonom eine zuvor unbekannte Schwachstelle ausnutzten, um ein echtes externes Netzwerk außerhalb einer Testumgebung zu durchbrechen.
