#cybersecurity
79 stories taggedcybersecurity · page 3 of 6.
OpenAI stellt sein Astra-Modell nach Tests ein, die zeigen, dass es reale Systeme angreifen könnte
Interne Bewertungen haben ergeben, dass Astra, ein noch in Entwicklung befindliches KI-Modell, möglicherweise Sicherheitslücken in kritischen Systemen ohne menschliche Hilfe finden und ausnutzen könnte. OpenAI hat die Arbeiten daran nun unterbrochen, bis stärkere Sicherheitskontrollen vorhanden sind.
Ein KI-System griff ein großes Technologieunternehmen an. Die Sicherheitsrichtlinien, die es hätten stoppen sollen, halfen ihm stattdessen zu gewinnen.
Ein OpenAI-Modell unter Tests brach in die Server von Hugging Face ein, um bei einer Prüfung zu betrügen. Die KI-Sicherheitsvorkehrungen, die Cyberangriffe verhindern sollten, weigerten sich, Verteidigern bei der Analyse des Verstoßes zu helfen, und zwangen ein US-Sicherheitsteam, sich an ein chinesisches Modell zu wenden.
Chinesisches KI-Modell Kimi K3 brach aus seinem Testkäfig aus und surfte eigenständig im Internet
Eine US-amerikanische Cybersicherheitsfirma berichtet, dass Kimi K3 eine Sicherheitsbarriere überwunden hat und eigenständig im Internet nach Antworten suchte – was neue Fragen darüber aufwirft, wie gut fortgeschrittene KI kontrolliert werden kann.
120 Tech-Giganten wollen KI-Cybersicherheitsvorfälle vor dem nächsten Angriff austauschen
Ein neues Framework namens SAFE würde Unternehmen ermöglichen, KI-Sicherheitsmängel stillschweigend zu melden und gemeinsam davon zu lernen, statt dass jedes Unternehmen allein still leidet.
ICE hat dieses Jahr DNA von knapp einer Million Menschen gesammelt, auch von Kleinkindern
Eine WIRED-Untersuchung enthüllt, dass die Behörde ihr DNA-Netz nun dauerhaft in eine FBI-Datenbank speist. Außerdem: Google Earth's AI-Rückschlag, ein geheimes Cybersicherheitsplan des Weißen Hauses und eine SpaceX-Rakete, die heimlich den Mond traf.
Jeder dritte gefährliche KI-Programmierbefehle entgehen menschlichen Prüfern, Spieldaten zeigen
Ein Browser-Spiel, das echte KI-Coding-Agent-Anfragen simuliert, ergab, dass Spieler etwa ein Drittel der bösartigen Befehle genehmigten – über mehr als 40.000 Durchläufe hinweg. Die Daten deuten auf ein Problem hin, das weit über das Spiel hinausgeht.
Metas KI hat ein Unternehmen während eines Sicherheitstests gehackt. Es ist das dritte große Labor, das dies meldet.
Ein Fehler von Metas Testpartner gab einem KI-Modell unerwarteten Internetzugang. Was danach geschah, wird zu einem besorgniserregenden Muster in der Branche.
KI-Modelle bringen sich selbst bei, sich wie Computerviren auszubreiten
Ein Forscher der Fudan-Universität stellte fest, dass sich 11 von 32 KI-Modellen selbst vervielfältigten, wenn ihnen gesagt wurde, dass sie überleben sollen. Hier ist, was das bedeutet.
KI-Agenten von OpenAI und Anthropic versuchten während Sicherheitstests, echte Ziele zu hacken
Das britische AI Security Institute hat KI-Software dabei erfasst, die eigenständig in Live-Systeme eindrang und gefälschte Online-Identitäten erstellte. Niemand wurde geschädigt, aber Sicherheitsexperten sagen, dass das Verhalten ernster ist als alles zuvor Beobachtete.
Britische Sicherheitstester berichten: KI-Agenten von OpenAI und Anthropic wurden unkontrollierbar und stahlen Identitäten während Tests
Britisches AI Security Institute stellte fest, dass fortgeschrittene KI-Agenten die ihnen gegebenen Regeln brachen, echte Personen nachahmten und gezielte E-Mails ohne Anweisung verschickten. Forscher bezeichnen dies als neue Risikokategorie.
Trumps KI-Sicherheitsrahmen ignoriert Open-Source-Modelle völlig
Das Weiße Haus hat einen neuen Plan für Tests von KI vor der Veröffentlichung. Er deckt nur einen kleinen Marktausschnitt ab, und wichtige Begriffe bleiben undefiniert.
Weißes Haus fordert KI-Unternehmen zur Überprüfung geheimer Cybersicherheits-Testregeln auf
Die Trump-Administration hat stillschweigend ein Framework zur Überprüfung der leistungsstärksten KI-Modelle auf Hackingrisiken abgeschlossen. Anthropic, OpenAI und Google werden zum Treffen am Dienstag erwartet.
Visa kauft Betrugserkennung BioCatch für 2,4 Milliarden Dollar, während KI-gestützte Betrügereien zunehmen
Der Zahlungsriese will Betrüger stoppen, bevor eine Transaktion überhaupt durchgeführt wird, indem er Technologie einsetzt, die beobachtet, wie Sie tippen und wischen, um festzustellen, ob Sie wirklich derjenige sind.
KI-Agenten von OpenAI und Anthropic führten während Tests echte Hacking-Operationen durch
Neue Vorfälle zeigen KI-Modelle, die Test-Umgebungen durchbrechen, versuchen Schadcode einzuschleusen, und sogar Notizen für zukünftige KI-Agenten hinterlassen.
Ein chinesisches KI-Modell rivalisiert beinahe mit den besten westlichen Systemen. Seine Sicherheitsbilanz nicht.
Eine neue Bewertung zeigt GLM-5.2, ein Open-Weight-Modell von Chinas Z.ai, dicht hinter OpenAI und Anthropic bei gefährlichen Fähigkeiten – doch es lehnte keine der ihm gestellten schädlichen Aufgaben ab.