#ai-security
95 stories taggedai-security · page 6 of 7.
Ihr KI-Chatbot funktioniert nicht. Ihre Daten-Pipeline ist das Problem.
Enterprise-AI-Projekte schlagen wiederholt fehl, und Unternehmen schieben die Schuld dem KI-Modell zu. Senior Data Engineer Naveen Ayalla sagt, dass das echte Problem eine Schicht tiefer sitzt – in den chaotischen Rohren, die Daten zunächst an das Modell liefern.
Anthropics Claude Mythos entdeckte über 10.000 Sicherheitslücken, dann schränkte die US-Regierung es ein
Ein leistungsstarkes KI-Sicherheitstool gestaltet unauffällig um, wie Sicherheitsfachleute nach Softwarefehlern suchen. Aber dessen Schöpfer machen sich Sorgen, wer es noch nutzen könnte.
KI erkennt Fehler in Minuten. Der Beweis, dass sie real sind, erfordert noch immer einen Menschen.
Sicherheitsteams ertrinken in KI-generierten Berichten über Sicherheitslücken, die überzeugend wirken, aber zusammenbrechen, sobald jemand versucht, sie nachzuvollziehen. Die alte Regel gilt immer noch: zeige deine Arbeit oder vergiss es.
Australiens AI-Moment: Warum eine gute Rede erst der Anfang ist
Premierminister Albanese hat das Gespräch über künstliche Intelligenz eröffnet. Forscher und Kommentatoren sagen, dass die schwierigeren Fragen – zu Leistungsfähigkeit, Sicherheit und wem es wirklich nutzt – noch immer beantwortet werden müssen.
AI-Smartbrillen können Fremde ohne Vorwarnung aufzeichnen. Das sollten Sie wissen.
Die KI-gestützten Brillen von Meta sind bereits auf Gesichtern im öffentlichen Raum zu sehen. Kritiker sagen, dass die Datenschutzrisiken besonders Frauen treffen, und das Gesetz kann nicht mithalten.
Warum KI-Sicherheit reale Validierung benötigt
KI-Agenten gehen in der Cybersicherheit über beratende Rollen hinaus. Pentera plädiert für evidenzbasierte Entscheidungen statt theoretischer Risiken.
Ein Sicherheitsleck in Claudes Chrome-Erweiterung hat acht Reparaturversuche überstanden und kann Ihre Gmail-Daten freilegen
Das Bug, genannt ClaudeBleed, ermöglicht es anderen Browser-Erweiterungen, still und leise E-Mails und Kalenderereignisse zu lesen, die Claude verarbeitet hat. Acht Patches später ist es immer noch da.
Ein KI-Bot brach in Hugging Face ein. Hugging Face nutzte KI, um ihn zu fassen.
Die KI-Forschungsplattform offenbarte einen Angriff in Echtzeit, der vollständig von autonomer Software durchgeführt wurde, und der Vorfall enthüllte eine Blindstelle, die jedes Unternehmen, das sich auf KI-Sicherheitstools verlässt, verstehen muss.
Forg365: Der 400-Dollar-Service, der Ihre Arbeits-E-Mails kapern lässt
Forg365, ein auf Telegram verkauftes Phishing-Kit, nutzt KI, um vertraute Business-Tools nachzuahmen und Zugriff auf Microsoft-365-Konten zu stehlen.
OpenAI hat ein KI-System entwickelt, das seine eigenen Modelle hackt, um sie sicherer zu machen
GPT-Red ist ein automatisiertes Red-Teaming-System, das OpenAIs eigene Chatbots angreift, um Schwachstellen zu finden, bevor echte Angreifer sie entdecken. Es hat bereits einen Trick entdeckt, den menschliche Tester übersehen hatten.
Suno gehackt: Datenpanne zeigt, wie das KI-Musikwerkzeug möglicherweise Millionen von Songs gescraped hat
Ein Hacker drang im November 2025 in Sunos Systeme ein, griff auf Kundendaten zu und fand Quellcode, der offenbar zeigt, dass der KI-Musikgenerator Audio von YouTube, Deezer und Podcast-Feeds ohne Genehmigung bezogen hat.
Microsoft behebt Rekord von 570 Sicherheitsmängeln – KI hat sie gefunden
Das größte monatliche Sicherheitsupdate des Unternehmens umfasst zwei Bugs, die bereits von Hackern ausgenutzt werden. KI-Tools sind der Grund für die hohe Zahl – und dafür, dass sie hoch bleiben wird.
Eine vergiftete E-Mail kann das Gedächtnis Ihres KI-Assistenten heimlich umschreiben
Ein neu beschriebener Angriff namens MemGhost zeigt, wie eine einzelne Nachricht in Ihrem Posteingang eine falsche „Tatsache" im Langzeitgedächtnis eines KI-Agenten einpflanzen kann, ohne dass Sie es je erfahren.
Ein Sicherheitsforscher trickste große KI-Chatbots aus, um Erklärungen zur Waffenherstellung zu geben. Niemand schien es zu interessieren.
Dave Kuszmar fand eine einfache Möglichkeit, große Sprachmodelle dazu zu bringen, ihre eigenen Sicherheitsregeln zu ignorieren. Es funktionierte bei fast jedem großen KI-System, das er testete, und die Unternehmen, die er warnte, reagierten meist gar nicht.
Unternehmen haben KI-Agenten ohne Sicherheitsvorkehrungen eingesetzt. Jetzt zahlen sie für Nachrüstungen.
Eine Umfrage unter 573 technischen Führungskräften zeigt, dass die meisten unternehmenseigenen „Agenten" aufgehübschte Chatbots sind, teure Hardware zu Hälfte ungenutzt steht, und zwei Drittel der Firmen auf vollständig automatisierte KI-Entscheidungen ohne menschliche Kontrolle zusteuern.