AI Security · Page 4
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
Ein Mann versteckte geheime Anweisungen in Gerichtsdokumenten, um einen KI-Richterassistenten zu manipulieren
Ein Richter in Connecticut entdeckte unsichtbaren Text in einer Gerichtseinreichung, der KI-Software beeinflussen sollte. Es wird angenommen, dass dies der erste Fall dieser Art in den USA ist.
Google macht seine KI-Wasserzeichen optional, aber unsichtbare bleiben
Sie können das Glitzer-Logo auf KI-generierten Bildern, Videos und Musik in Gemini und Flow jetzt ausschalten. Verborgene Wasserzeichen kennzeichnen den Inhalt weiterhin.
KI-gestützte Krypto-Betrüger ließen einen Mann aus Queensland seine Ersparnisse verlieren – durch eine gefälschte App, die ihm Reichtum vortäuschte
Eine gefälschte Trading-App, ein Dashboard voller erfundener Gewinne und KI, die im Hintergrund die Verwaltung übernimmt. So funktioniert eine neue Generation von Anlagebetrügereien – und worauf Sie achten sollten.
Rogue KI-Agenten hackten Hugging Face. Jetzt fragt OpenAI, wie es passieren konnte.
Eine Gruppe von KI-Agenten brach aus ihren Testumgebungen aus, koordinierte sich auf einem geheimen Message Board und griffen eine externe Plattform an. OpenAI bezeichnet es als den größten Sicherheitszwischenfall in seiner Geschichte.
Anthropic ließ seine KI-Agenten die gleiche Aufgabe erfüllen. Sie erklärten sich gegenseitig den Krieg.
Neue Forschung von Anthropic zeigt, dass KI-Agenten, die widersprüchliche Ziele verfolgen, nicht einfach still scheitern. Sie schreiben Malware, kolludieren bei Preisen und verhandeln manchmal einen Waffenstillstand.
Taiwan sagt, dass KI Hacker bei Angriffen auf Behörden geholfen hat
Beamte entdeckten im Juli einen „ungewöhnlichen" KI-gestützten Angriff auf Regierungsnetzwerke. Hier erfahren Sie, was wir wissen und was es für alle anderen bedeutet.
OpenAI teilt sein Daybreak-Cybersicherheitsprogramm in zwei Stufen auf und startet ein neues sicherheitsorientiertes KI-Modell
Das Unternehmen gewährt geprüften Verteidigern tieferen Zugang zu seinen KI-Tools, einschließlich eines speziell entwickelten Modells namens GPT-5.6-Cyber, da KI-Agenten während Sicherheitstests Grenzen überschreiten, die sie nicht sollten.
AWS integriert seine Sicherheitstools in die Coding-Software von OpenAI und Anthropic
Amazons Cloud-Division möchte der Sicherheitswächter an der Tür jedes Entwicklers sein – unabhängig davon, welches KI-Modell dieser zum Schreiben von Code nutzt.
Brex baute einen Netzwerk-Watchdog für seine KI-Agenten, weil es annahm, dass diese bereits kompromittiert waren
Das Fintech-Unternehmen Brex konnte seine Sicherheitsabteilung nicht davon überzeugen, KI-Agenten im Netzwerk freizugeben. Deshalb entwickelte es einen eigenen Open-Source-Filter namens CrabTrap, der überwacht, was Agenten versenden, anstatt zu kontrollieren, was sie tun.
KI-Agenten sind die neuen Hacker – und Cybersecurity-Aktien boomen deshalb
Black Hat 2025 machte eines deutlich: KI-gesteuerte Angriffe entwickeln sich schneller als die Abwehr. Investoren strömten zu CrowdStrike und Palo Alto Networks, während Unternehmen nach Lösungen suchten.
Diese Schriftart macht Webseiten für KI-Scraper unleserlich, aber für Menschen normal
Zwei Designer haben eine Schriftart entwickelt, die Wörter in dem Code, den KI-Unternehmen sammeln, heimlich austauscht, während die Seite für normale Leser perfekt lesbar bleibt.
Ein 40-Minuten-Angriff legte Zugangsdaten von Microsoft, Amazon, Cisco und 2.500 weiteren Organisationen offen
Eine manipulierte Version eines weit verbreiteten KI-Entwicklungswerkzeugs stahl stillschweigend Zugangsschlüssel von Tausenden Unternehmen, bevor jemand es bemerkte. So ist es passiert und was es bedeutet.
KI-Agenten brechen die Regeln: Die Risiken übereifriger Algorithmen
KI-Agenten, die gefallen möchten, brechen aus und hacken Systeme. Was bedeutet das für die Cybersicherheit und wie bleiben wir sicher?
Dein KI-Agent hat nicht halluziniert. Er hat nur etwas getan, das er nie hätte tun dürfen.
Eine wachsende Zahl von KI-Agenten im Unternehmensbereich führt echte Geschäftsmaßnahmen durch, ohne dazu eindeutig berechtigt zu sein. Das Problem liegt nicht in schlechten KI-Überlegungen. Es liegt daran, dass Unternehmen nicht definiert haben, wo die Macht der KI endet.
KI entdeckte eine Zoom-Sicherheitslücke in einem Tag, wofür Nationalstaaten früher Monate brauchten
Ein Forschungsteam nutzte frei verfügbare KI-Tools, um eine Schwachstelle in Zooms Screen-Sharing-Funktion zu entdecken und auszunutzen. Zoom hat sie behoben, doch die Geschwindigkeit der Entdeckung wirft schwierigere Fragen auf, wer sonst noch so schnell Fehler findet.