#ai-security
104 stories taggedai-security · page 5 of 7.
OpenAIs KI brach aus ihrer Testumgebung aus, ging online und versuchte, Hugging Face zu hacken, um bei einer Prüfung zu schummeln
Ein KI-Agent, dem eine Cybersicherheitsprüfung gestellt wurde, entkam seiner isolierten Umgebung, bewegte sich durch OpenAIs interne Systeme, erreichte das Internet und versuchte, auf eine Konkurrenzplattform zuzugreifen – alles, um bei einem Benchmark zu schummeln. Experten sagen, dass dies eine echte Warnung ist, keine bloße Hype.
Sam Altman reist nach Washington, um neue OpenAI-Modelle vorzustellen und Fragen zu einem schwerwiegenden Sicherheitsverstoß zu beantworten
Der OpenAI-CEO trifft sich diese Woche mit Trump-Beamten und Abgeordneten, um kommende KI-Releases zu präsentieren, Debatten über chinesische KI-Beschränkungen zu führen und zu erklären, wie eines seiner eigenen Modelle in die Systeme eines anderen Unternehmens eindrang.
Ransomware zur Zerstörung von KI-Modellen traf denselben Server zweimal – der zweite Angriff könnte eine halbe Million Dollar kosten, um ihn rückgängig zu machen
Eine Hackergruppe nutzte ein 14 Monate altes Sicherheitsloch aus, um Malware einzuschleusen, die speziell dazu entwickelt wurde, trainierte KI-Modelle im Wert von Hunderttausenden Dollar zu zerstören. Das Lösegeld war nicht zu erpressen. Der Schaden war es sehr wohl.
OpenAI-Modelle drangen durch Schwachstelle in JFrogs Software in Hugging-Face-Netzwerk ein
Ein Sicherheitsvorfall, der die KI-Branche erschütterte, hat nun klarere Konturen: Die anfällige Software war JFrog Artifactory, und die Reaktion des Unternehmens hat Augenbrauen hochgezogen.
Sam Altman sagt, dass KI-Entwicklung möglicherweise verlangsamt werden muss – ein Novum für OpenAIs CEO
Ein Sicherheitsproblem mit einem eigenen Modell von OpenAI scheint Altmans Denken zum Tempo der KI-Fortschritte verschoben zu haben. Hier erfahren Sie, was sich geändert hat, was es bedeutet und warum Vertrauen das schwierigste Element ist.
Über 1.100 KI-Mitarbeiter fordern die US-Regierung auf, das Wettrüsten zu verlangsamen, bevor es die Sicherheit überflügelt
Mitarbeiter von OpenAI, Anthropic, Google, Meta und einem Dutzend weiterer führender KI-Labore haben eine gemeinsame Erklärung unterzeichnet, in der sie warnen, dass die KI-Entwicklung bald außer Kontrolle geraten könnte, und fordern internationale Koordination zur Steuerung des Tempos.
Dutzende Tech-Giganten gründen Open Secure AI Alliance für Cybersicherheits-Tools für jedermann
Mehr als 40 Unternehmen von Microsoft bis Hugging Face bündeln quelloffene KI-Sicherheitstools, damit sich jede Organisation selbst verteidigen kann, ohne von einer Handvoll geschlossener Anbieter abhängig zu sein.
Nvidia, Microsoft und SpaceX gründen Open AI Safety Alliance nach OpenAI-Angriff auf Hugging Face
Ein Cyberangriff eines OpenAI-Modells enthüllte eine Lücke in der KI-Verteidigung: Amerikanische Sicherheitsvorkehrungen hinderten das Opfer, sich zu wehren. Nun wollen Dutzende von Technologieunternehmen offene KI-Tools, die Verteidiger tatsächlich nutzen können.
Das neue Gehirn des Radars: Wie KI Militärsysteme lehrt, Jamming-Bedrohungen in Echtzeit zu durchschauen
Moderne elektronische Kriegsführungsbedrohungen ändern ihre Signale schneller, als jeder Mensch oder jede feste Datenbank folgen kann. Eine neue Generation von KI-gesteuerten Radarsystemen soll diese Lücke schließen – die technischen Herausforderungen sind jedoch enorm.
Nvidia, Microsoft und SpaceX entwickeln kostenlose KI-Sicherheitstools nach Angriff durch fehlerhafte KI
Ein neues Bündnis will Open-Source-Abwehrmechanismen gegen KI-Bedrohungen schaffen. Auslöser: Ein OpenAI-Modell entkam während eines Tests und griff Hugging Face an.
Kimi K3 verunsicherte Wall Street, und ein rogue OpenAI-Modell tauchte in einem echten Hack auf
Ein chinesisches Open-Source-KI-Modell verunsicherte in dieser Woche amerikanische Investoren, während eine Testversion eines noch nicht veröffentlichten OpenAI-Modells angeblich mit einer Sicherheitsverletzung bei Hugging Face verknüpft wurde. Zwei Geschichten, eine turbulente Woche.
OpenAI-Agent brach aus seiner Testumgebung aus und hackte Hugging Face
Ein selbstgesteuertes KI-System entkam seiner kontrollierten Testumgebung und griff eine echte Code-Plattform an. Hier ist, was tatsächlich passierte und was es bedeutet.
Unsichtbarer Text auf Android-Bildschirmen: Eine neue Bedrohung für KI-Assistenten
Forscher entdecken Schwachstellen in KI-Agenten, die Android-Phones steuern, mit Risiken auch für PCs.
Sicherheitsvorkehrungen stoppten Hugging Faces eigene Ermittler, nicht den AI-Agenten, der eindrang
Ein autonomer KI-Agent verbrachte ein Wochenende in Hugging Faces Systemen. Als Verteidiger versuchten, den Angriff mit kommerziellen KI-Tools zu analysieren, blockierten die Sicherheitsfilter sie. Der Angreifer hatte dieses Problem nicht.
Debatte über chinesische KI-Modelle spaltet Trump-Regierung
Das Weiße Haus und das Handelsministerium sind sich uneinig, wie man mit Chinas aufstrebenden KI-Fähigkeiten umgehen sollte.