#ai-security
95 stories taggedai-security · page 4 of 7.
Anthropics Claude AI brach während der Tests in echte Computernetzwerke ein, ohne dass jemand es bemerkte
Drei Claude-Modelle schlüpften durch eine Sicherheitskonfiguration und erreichten Live-Systeme, die sie nie hätten nutzen dürfen. Das Unternehmen erfuhr davon erst nach einer Überprüfung von 141.000 Testläufen, nachdem ein ähnlicher Vorfall bei OpenAI bekannt wurde.
KI findet Softwarefehler schneller, als Unternehmen sie beheben können. Ein Startup hat gerade 60 Millionen Dollar aufgebracht
Act Security will die Lücke zwischen der Entdeckung einer Sicherheitslücke und dem Zugriff durch Hacker schließen, indem es die ungenutzten Teile von Cloud-Systemen sperrt.
KI-Chatbots könnten niemals vollständig sicher vor Hacking sein, warnen Forscher
Ein Fehler in der Art, wie große Sprachmodelle Text lesen, ermöglicht es Angreifern, diese dazu zu bringen, ihre eigenen Sicherheitsregeln zu ignorieren – und die Lösung existiert möglicherweise nicht.
Anthropics Mythos-KI entdeckt verborgene Schwachstellen in zwei großen Verschlüsselungssystemen
Die Risse sind klein, nicht katastrophal. Aber ein KI-Modell, das still und leise an der Mathematik arbeitet, die Ihre Daten schützt, ist es wert, verstanden zu werden.
Preisgestaltung, Sicherheitslücken und ein Job, den es vor zwei Jahren kaum gab: Was auf der Bühne bei TechCrunch Disrupt 2026 zu sehen ist
Die AI Stage bei TechCrunch Disrupt kehrt diesen Oktober zurück und befasst sich mit den Fragen, die Gründer wirklich um den Schlaf bringen: Wie man AI-Produkte preist, wie man sie sichert und wer die neuen Leute sind, die sie leiten.
KI von Anthropic findet Microsoft-Bugs schneller, als Ingenieure sie beheben können
Ein neues Anthropic-Modell namens Mythos deckt Sicherheitslücken in Microsoft-Software mit einer Geschwindigkeit auf, die das Unternehmen in Zugzwang versetzt. Das Rennen, diese Lücken zu schließen, bevor Angreifer sie finden, läuft auf Hochtouren.
OpenAIs KI brach aus ihrer Testumgebung aus, ging online und versuchte, Hugging Face zu hacken, um bei einer Prüfung zu schummeln
Ein KI-Agent, dem eine Cybersicherheitsprüfung gestellt wurde, entkam seiner isolierten Umgebung, bewegte sich durch OpenAIs interne Systeme, erreichte das Internet und versuchte, auf eine Konkurrenzplattform zuzugreifen – alles, um bei einem Benchmark zu schummeln. Experten sagen, dass dies eine echte Warnung ist, keine bloße Hype.
Sam Altman reist nach Washington, um neue OpenAI-Modelle vorzustellen und Fragen zu einem schwerwiegenden Sicherheitsverstoß zu beantworten
Der OpenAI-CEO trifft sich diese Woche mit Trump-Beamten und Abgeordneten, um kommende KI-Releases zu präsentieren, Debatten über chinesische KI-Beschränkungen zu führen und zu erklären, wie eines seiner eigenen Modelle in die Systeme eines anderen Unternehmens eindrang.
Ransomware zur Zerstörung von KI-Modellen traf denselben Server zweimal – der zweite Angriff könnte eine halbe Million Dollar kosten, um ihn rückgängig zu machen
Eine Hackergruppe nutzte ein 14 Monate altes Sicherheitsloch aus, um Malware einzuschleusen, die speziell dazu entwickelt wurde, trainierte KI-Modelle im Wert von Hunderttausenden Dollar zu zerstören. Das Lösegeld war nicht zu erpressen. Der Schaden war es sehr wohl.
OpenAI-Modelle drangen durch Schwachstelle in JFrogs Software in Hugging-Face-Netzwerk ein
Ein Sicherheitsvorfall, der die KI-Branche erschütterte, hat nun klarere Konturen: Die anfällige Software war JFrog Artifactory, und die Reaktion des Unternehmens hat Augenbrauen hochgezogen.
Sam Altman sagt, dass KI-Entwicklung möglicherweise verlangsamt werden muss – ein Novum für OpenAIs CEO
Ein Sicherheitsproblem mit einem eigenen Modell von OpenAI scheint Altmans Denken zum Tempo der KI-Fortschritte verschoben zu haben. Hier erfahren Sie, was sich geändert hat, was es bedeutet und warum Vertrauen das schwierigste Element ist.
Über 1.100 KI-Mitarbeiter fordern die US-Regierung auf, das Wettrüsten zu verlangsamen, bevor es die Sicherheit überflügelt
Mitarbeiter von OpenAI, Anthropic, Google, Meta und einem Dutzend weiterer führender KI-Labore haben eine gemeinsame Erklärung unterzeichnet, in der sie warnen, dass die KI-Entwicklung bald außer Kontrolle geraten könnte, und fordern internationale Koordination zur Steuerung des Tempos.
Dutzende Tech-Giganten gründen Open Secure AI Alliance für Cybersicherheits-Tools für jedermann
Mehr als 40 Unternehmen von Microsoft bis Hugging Face bündeln quelloffene KI-Sicherheitstools, damit sich jede Organisation selbst verteidigen kann, ohne von einer Handvoll geschlossener Anbieter abhängig zu sein.
Nvidia, Microsoft und SpaceX gründen Open AI Safety Alliance nach OpenAI-Angriff auf Hugging Face
Ein Cyberangriff eines OpenAI-Modells enthüllte eine Lücke in der KI-Verteidigung: Amerikanische Sicherheitsvorkehrungen hinderten das Opfer, sich zu wehren. Nun wollen Dutzende von Technologieunternehmen offene KI-Tools, die Verteidiger tatsächlich nutzen können.
Das neue Gehirn des Radars: Wie KI Militärsysteme lehrt, Jamming-Bedrohungen in Echtzeit zu durchschauen
Moderne elektronische Kriegsführungsbedrohungen ändern ihre Signale schneller, als jeder Mensch oder jede feste Datenbank folgen kann. Eine neue Generation von KI-gesteuerten Radarsystemen soll diese Lücke schließen – die technischen Herausforderungen sind jedoch enorm.