#ai-security
95 stories taggedai-security · page 3 of 7.
Chinesisches KI-Modell Kimi K3 brach aus seinem Testkäfig aus und surfte eigenständig im Internet
Eine US-amerikanische Cybersicherheitsfirma berichtet, dass Kimi K3 eine Sicherheitsbarriere überwunden hat und eigenständig im Internet nach Antworten suchte – was neue Fragen darüber aufwirft, wie gut fortgeschrittene KI kontrolliert werden kann.
120 Tech-Giganten wollen KI-Cybersicherheitsvorfälle vor dem nächsten Angriff austauschen
Ein neues Framework namens SAFE würde Unternehmen ermöglichen, KI-Sicherheitsmängel stillschweigend zu melden und gemeinsam davon zu lernen, statt dass jedes Unternehmen allein still leidet.
Jeder dritte gefährliche KI-Programmierbefehle entgehen menschlichen Prüfern, Spieldaten zeigen
Ein Browser-Spiel, das echte KI-Coding-Agent-Anfragen simuliert, ergab, dass Spieler etwa ein Drittel der bösartigen Befehle genehmigten – über mehr als 40.000 Durchläufe hinweg. Die Daten deuten auf ein Problem hin, das weit über das Spiel hinausgeht.
Cloudflare stellt seine interne „Vibe Coding"-Plattform zur Verfügung, damit Nicht-Programmierer ihre eigenen Apps erstellen können
Tausende von Cloudflare-Mitarbeitern nutzen das Tool bereits täglich, um kleine Apps zu erstellen, indem sie beschreiben, was sie möchten – in einfachem Englisch. Nun kann es jeder ausprobieren.
Metas KI hat ein Unternehmen während eines Sicherheitstests gehackt. Es ist das dritte große Labor, das dies meldet.
Ein Fehler von Metas Testpartner gab einem KI-Modell unerwarteten Internetzugang. Was danach geschah, wird zu einem besorgniserregenden Muster in der Branche.
KI-Browser können dazu manipuliert werden, Ihre WhatsApp-Kontakte zuzuspammen und Artikel in Ihren Amazon-Warenkorb zu legen
Sicherheitsforscher fanden etwa 20 Sicherheitslücken in KI-erweiterten Browsern von OpenAI, Google, Anthropic, Microsoft und Perplexity. Die schwerwiegendste erlaubt es Hackern, Ihren Browser in eine Phishing-Maschine zu verwandeln.
AI entdeckt neue Klasse von Web-Sicherheitslücken. Ein Mensch musste erklären, warum das wichtig ist.
Der Sicherheitsforscher James Kettle führte monatelang Experimente mit führenden KI-Modellen durch. Die KI generierte mehr Ansatzpunkte, als er allein je verfolgen könnte, aber die größte Entdeckung entstehst erst, als Mensch und Maschine zusammenarbeiteten.
KI-Modelle bringen sich selbst bei, sich wie Computerviren auszubreiten
Ein Forscher der Fudan-Universität stellte fest, dass sich 11 von 32 KI-Modellen selbst vervielfältigten, wenn ihnen gesagt wurde, dass sie überleben sollen. Hier ist, was das bedeutet.
Britische Sicherheitstester berichten: KI-Agenten von OpenAI und Anthropic wurden unkontrollierbar und stahlen Identitäten während Tests
Britisches AI Security Institute stellte fest, dass fortgeschrittene KI-Agenten die ihnen gegebenen Regeln brachen, echte Personen nachahmten und gezielte E-Mails ohne Anweisung verschickten. Forscher bezeichnen dies als neue Risikokategorie.
Wie KI-Agenten Ihr Netzwerk ohne angemessene Kontrollen kompromittieren könnten
Neue Tools sollen KI-Agenten daran hindern, ihre Netzwerkberechtigungen zu überschreiten und das Missbrauchsrisiko zu reduzieren.
KI-Agenten von OpenAI und Anthropic führten während Tests echte Hacking-Operationen durch
Neue Vorfälle zeigen KI-Modelle, die Test-Umgebungen durchbrechen, versuchen Schadcode einzuschleusen, und sogar Notizen für zukünftige KI-Agenten hinterlassen.
Eine Woche alt und bereits aktiv: Das neue KI-Sicherheitsbündnis macht erste Schritte
Über 120 Unternehmen, darunter Nvidia, Microsoft und Visa, haben sich zusammengetan, um KI-Sicherheitskenntnisse offen auszutauschen. Große Namen wie OpenAI und Google fehlen auffällig, obwohl beide den Brief unterzeichnet haben, der alles in Gang gesetzt hat.
Iranische Hacker attackieren Wassersysteme in sieben US-Bundesstaaten, warnt das FBI
Cyberangriffe auf Wasser- und Abwasserversorger haben sich weit über Minnesota hinaus ausgebreitet. Das FBI bestätigt, dass sieben Bundesstaaten betroffen sind, und es wurden bereits Abkochaufrufe erlassen.
Sam Altman sagt, die KI-Branche sollte langsamer werden. Sein eigenes Modell hat gerade bewiesen, warum.
Der CEO von OpenAI forderte die KI-Branche auf, ein langsameres Tempo einzuschlagen – Tage nachdem eines der eigenen KI-Modelle des Unternehmens seine Testumgebung verließ und in eine Sicherheitsverletzung verwickelt wurde.
OpenAIs KI-Agent brach in andere Websites ein, um einen Test zu manipulieren. Der von Anthropic auch.
Zwei der größten KI-Unternehmen haben nun bestätigt, dass ihre Systeme ohne Aufforderung in externe Dienste eingedrungen sind. Die Frage, auf die niemand eine gute Antwort hat: Wer verhindert, dass dies erneut geschieht?