AI Security · Page 12
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
Patreon blockiert KI-Scraper statt sie nur höflich zu bitten
Die Creator-Plattform hat sich mit Cloudflare zusammengetan, um Bots aktiv daran zu hindern, die Werke von Creatorn zum Trainieren von KI-Modellen zu ernten, und verlässt damit den alten Ehrenkodex-Ansatz.
AI-Smartbrillen können Fremde ohne Vorwarnung aufzeichnen. Das sollten Sie wissen.
Die KI-gestützten Brillen von Meta sind bereits auf Gesichtern im öffentlichen Raum zu sehen. Kritiker sagen, dass die Datenschutzrisiken besonders Frauen treffen, und das Gesetz kann nicht mithalten.
Kleidung, die Kameras verwirrt: Der Modetrend aus der Angst vor Gesichtserkennung
Eine neue Welle von Designern webt Muster in Jacken und Tops, die dazu bestimmt sind, Gesichtserkennungssoftware zu täuschen. Könnte Anti-Überwachungsmode zum Mainstream werden?
Warum KI-Sicherheit reale Validierung benötigt
KI-Agenten gehen in der Cybersicherheit über beratende Rollen hinaus. Pentera plädiert für evidenzbasierte Entscheidungen statt theoretischer Risiken.
Ein Sicherheitsleck in Claudes Chrome-Erweiterung hat acht Reparaturversuche überstanden und kann Ihre Gmail-Daten freilegen
Das Bug, genannt ClaudeBleed, ermöglicht es anderen Browser-Erweiterungen, still und leise E-Mails und Kalenderereignisse zu lesen, die Claude verarbeitet hat. Acht Patches später ist es immer noch da.
1Password ermöglicht Claude die Anmeldung in Ihren Konten, ohne jemals Ihre Passwörter zu sehen
Eine neue Integration ermöglicht es Anthropics KI-Assistent, Aufgaben zu erledigen, die Ihre Anmeldedaten erfordern, während eine Sicherheitsebene Ihre tatsächlichen Zugangsdaten vor der KI schützt.
Ein KI-Bot brach in Hugging Face ein. Hugging Face nutzte KI, um ihn zu fassen.
Die KI-Forschungsplattform offenbarte einen Angriff in Echtzeit, der vollständig von autonomer Software durchgeführt wurde, und der Vorfall enthüllte eine Blindstelle, die jedes Unternehmen, das sich auf KI-Sicherheitstools verlässt, verstehen muss.
Google DeepMind und Isomorphic Labs öffnen ihr Bioresilienz-Playbook
Die beiden KI-Labore werden Modelle mit geprüften Partnern teilen, um die Impfstoffentwicklung zu beschleunigen und Ausbrüche früher zu erkennen – mit Schutzmaßnahmen gegen Missbrauch.
Forg365: Der 400-Dollar-Service, der Ihre Arbeits-E-Mails kapern lässt
Forg365, ein auf Telegram verkauftes Phishing-Kit, nutzt KI, um vertraute Business-Tools nachzuahmen und Zugriff auf Microsoft-365-Konten zu stehlen.
Microsoft nutzt KI-Agenten, um mathematisch zu beweisen, dass sein Verschlüsselungscode keine Fehler hat
Das Team hinter der Kryptografie-Bibliothek von Windows und Azure tut etwas Ungewöhnliches: Es testet nicht nur den Code, sondern beweist seine Korrektheit für jeden möglichen Input durch formale mathematische Beweise, die teilweise von KI geschrieben werden.
Gehackte Suno-Daten enthüllen Millionen von Songs, die von YouTube Music, Deezer und mehr gescraped wurden
Ein Sicherheitsleck beim KI-Musikgenerator legte internen Code frei, der zeigt, dass das Unternehmen über zwei Millionen Clips von Streaming-Plattformen bezog – und einige Kunden sagen, dass ihnen nie mitgeteilt wurde, dass auf ihre Daten zugegriffen wurde.
xAI verklagt Mann, der angeblich Grok zur Erstellung von Kindesmissbrauchsbildern nutzte
Das KI-Unternehmen von Elon Musk ergreift erstmals rechtliche Schritte gegen einen Nutzer wegen KI-generiertem Missbrauchsmaterial, nachdem ein Mann aus South Carolina bereits wegen acht Schwerverbrechen verhaftet wurde.
Bevor Ihr KI-Assistent diese Überweisung sendet: Weiß er, wie sicher er sich ist?
Apple ML Research warnt, dass KI-Agenten einen eingebauten Pausenknopf brauchen, bevor sie Maßnahmen ergreifen, die nicht rückgängig gemacht werden können. Hier erfahren Sie, warum das für alle wichtig ist, deren Bank, App oder Arbeitsplatz jetzt auf KI läuft.
OpenAI hat ein KI-System entwickelt, das seine eigenen Modelle hackt, um sie sicherer zu machen
GPT-Red ist ein automatisiertes Red-Teaming-System, das OpenAIs eigene Chatbots angreift, um Schwachstellen zu finden, bevor echte Angreifer sie entdecken. Es hat bereits einen Trick entdeckt, den menschliche Tester übersehen hatten.
Suno gehackt: Datenpanne zeigt, wie das KI-Musikwerkzeug möglicherweise Millionen von Songs gescraped hat
Ein Hacker drang im November 2025 in Sunos Systeme ein, griff auf Kundendaten zu und fand Quellcode, der offenbar zeigt, dass der KI-Musikgenerator Audio von YouTube, Deezer und Podcast-Feeds ohne Genehmigung bezogen hat.