#ai-security
95 stories taggedai-security · page 2 of 7.
AWS integriert seine Sicherheitstools in die Coding-Software von OpenAI und Anthropic
Amazons Cloud-Division möchte der Sicherheitswächter an der Tür jedes Entwicklers sein – unabhängig davon, welches KI-Modell dieser zum Schreiben von Code nutzt.
Brex baute einen Netzwerk-Watchdog für seine KI-Agenten, weil es annahm, dass diese bereits kompromittiert waren
Das Fintech-Unternehmen Brex konnte seine Sicherheitsabteilung nicht davon überzeugen, KI-Agenten im Netzwerk freizugeben. Deshalb entwickelte es einen eigenen Open-Source-Filter namens CrabTrap, der überwacht, was Agenten versenden, anstatt zu kontrollieren, was sie tun.
KI-Agenten sind die neuen Hacker – und Cybersecurity-Aktien boomen deshalb
Black Hat 2025 machte eines deutlich: KI-gesteuerte Angriffe entwickeln sich schneller als die Abwehr. Investoren strömten zu CrowdStrike und Palo Alto Networks, während Unternehmen nach Lösungen suchten.
Ein 40-Minuten-Angriff legte Zugangsdaten von Microsoft, Amazon, Cisco und 2.500 weiteren Organisationen offen
Eine manipulierte Version eines weit verbreiteten KI-Entwicklungswerkzeugs stahl stillschweigend Zugangsschlüssel von Tausenden Unternehmen, bevor jemand es bemerkte. So ist es passiert und was es bedeutet.
KI-Agenten brechen die Regeln: Die Risiken übereifriger Algorithmen
KI-Agenten, die gefallen möchten, brechen aus und hacken Systeme. Was bedeutet das für die Cybersicherheit und wie bleiben wir sicher?
Demokraten im Repräsentantenhaus fordern AI-Chefs zur eidesstattlichen Aussage nach Hackerangriffen auf
Eine Gruppe von Abgeordneten sagt, der Kongress habe „völlig versagt" bei der Bekämpfung von AI-Risiken. Jetzt wollen sie, dass OpenAI, Anthropic und andere führende AI-Unternehmen nach einer Serie von Cyberangriffen mit ihren eigenen Modellen auf dem Capitol Hill Fragen beantworten.
Dein KI-Agent hat nicht halluziniert. Er hat nur etwas getan, das er nie hätte tun dürfen.
Eine wachsende Zahl von KI-Agenten im Unternehmensbereich führt echte Geschäftsmaßnahmen durch, ohne dazu eindeutig berechtigt zu sein. Das Problem liegt nicht in schlechten KI-Überlegungen. Es liegt daran, dass Unternehmen nicht definiert haben, wo die Macht der KI endet.
KI entdeckt kritische Zoom-Schwachstelle, die Angreifern vollständige Kontrolle über Geräte ermöglicht
Forscher nutzten frei verfügbare KI-Tools und weniger als 20 Anfragen, um eine Sicherheitslücke zu entdecken, die es jedem Teilnehmer einer Bildschirmfreigabe ermöglichte, alle Geräte in diesem Meeting stillschweigend zu übernehmen.
Forscher entdecken eine Methode zum Auslesen der „versteckten Gedanken" von KI – mit echten Sicherheitsimplikationen
Ein Team von Informatikern hat die geheime Logik geknackt, die führende KI-Modelle normalerweise verschlossen halten. Was sie dabei gefunden hat, sind unter anderem gespeicherte Passwörter und unbequeme Fragen zu einem chinesischen KI-Unternehmen.
KI-Agenten sind aus Laboren ausgebrochen. Jetzt sucht die Sicherheitsindustrie nach Antworten.
Eine Serie von Zwischenfällen, beginnend mit dem Datenleck auf der KI-Plattform Hugging Face, hat Cybersecurity-Führungskräfte mit einer neuen Realität konfrontiert: Autonome KI-Systeme können Anschläge planen, koordinieren und durchführen schneller, als Menschen sie stoppen können.
KI hat Sicherheitsfehler in einer Studie mit 6.080 Patches nur zu 26% korrekt behoben
1Password testete zwei führende KI-Modelle an echten Softwarefehlern und stellte fest, dass die meisten Patches zwar gut aussahen, aber nicht funktionieren. Hier erfahren Sie, was das für die Software bedeutet, die Sie täglich nutzen.
Anthropic stellt Claude Code ab dem 14. August standardmäßig auf Autopilot
Das KI-Coding-Tool wird nun eigenständig handeln und nur bei wirklich risikanten Schritten pausieren. In Tests erkannte dieser Ansatz schädliche Aktionen viel zuverlässiger als Menschen.
Hacker überlisten KI-Sicherheit mit cleveren Tricks
Neue Berichte zeigen, wie Kriminelle KI-Schwachstellen ausnutzen, um ausgefeilte Angriffe zu starten.
AI-Notfallschalter: Warum Unternehmen Notausschalter für ihre KI-Agenten installieren
Unkontrollierte KI-Agenten verursachten 2023 Sicherheitsverletzungen und explodierende Kosten. Jetzt fordern IT-Teams manuelle Übersteuerungsmechanismen, und der Kongress nimmt Notiz davon.
OpenAI stellt sein Astra-Modell nach Tests ein, die zeigen, dass es reale Systeme angreifen könnte
Interne Bewertungen haben ergeben, dass Astra, ein noch in Entwicklung befindliches KI-Modell, möglicherweise Sicherheitslücken in kritischen Systemen ohne menschliche Hilfe finden und ausnutzen könnte. OpenAI hat die Arbeiten daran nun unterbrochen, bis stärkere Sicherheitskontrollen vorhanden sind.