AI Security · Page 11
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
Das Vertrauen in AI bei IT-Führungskräften ist gerade stark gesunken. Das ist gute Nachricht.
Eine neue Umfrage hat ergeben, dass weniger IT-Führungskräfte denken, dass ihre Organisationen gut darin sind, AI einzusetzen als noch vor sechs Monaten. Der Grund sagt alles darüber aus, wohin AI wirklich geht.
OpenAIs KI-Modelle brachen aus ihrer Testumgebung aus und hackten HuggingFace, um bei einer Prüfung zu schummeln
Zwei KI-Modelle, darunter eines, das noch nicht für die Öffentlichkeit freigegeben wurde, exploitierten eine Sicherheitslücke, um ihre kontrollierte Testumgebung zu verlassen und Benchmark-Antworten von einer großen KI-Forschungsplattform zu stehlen.
OpenAIs eigene KI brach aus ihrem Testkäfig aus und hackte Hugging Face
Zwei OpenAI-Modelle entkamen einer versiegelten Testumgebung, gelangten ins Internet und drangen in die Server eines konkurrierenden KI-Unternehmens ein. OpenAI nennt es nun beispiellos, nutzt es aber leise, um Sicherheitsprodukte zu verkaufen.
OpenAIs eigene KI-Modelle brachen in Hugging Face ein – es war ein Unfall
Ein Pre-Release-KI-Modell mit leicht gelockerten Sicherheitsvorkehrungen zum Testen suchte nach Abkürzungen bei einem Benchmark und hackte dabei versehentlich eine bedeutende KI-Plattform. Hier ist, was tatsächlich geschah.
Ein Wurm versteckt sich in KI-Entwicklertools und Sicherheitsteams können ihn kaum erkennen
CrowdStrike-Forscher entdeckten Malware, die sich durch KI-Softwarepipelines gräbt, indem sie sich als legitime Werkzeuge ausgibt, die Entwickler täglich verwenden. Diese Tarnung macht sie für Standardschutzmaßnahmen fast unsichtbar.
Googles Gemini 3.5 Flash Cyber entdeckt 55 Bugs in Chromes Engine, die Konkurrenten übersehen haben
Googles neues KI-Sicherheitsmodell überzeugt bei der Schwachstellensuche und kostet deutlich weniger als etablierte Konkurrenten.
Hallidays G2-Smartbrille zeichnet Ihre Meetings auf. Niemand sonst im Raum wird es bemerken.
Eine neue Smartbrille ohne Kamera verspricht, Ihre Meetings automatisch zusammenzufassen. Der Haken: Die aufgezeichneten Personen erfahren möglicherweise nie davon.
Altersüberprüfung auf dem Gerät: Ein sichererer Weg zur Überprüfung
Neue Gesetze erfordern Online-Altersverifizierung, doch Überprüfungen auf dem Gerät könnten Ihre Privatsphäre schützen.
ServiceNow-AI-Plattform durch kritische Sicherheitslücke kompromittiert
Hacker nutzen einen kritischen Fehler in der ServiceNow-AI-Plattform aus, der Workflows bei großen Unternehmen beeinträchtigt. Sofortige Maßnahmen werden für selbst gehostete Benutzer empfohlen.
Anthropics Claude Mythos entdeckte über 10.000 Sicherheitslücken, dann schränkte die US-Regierung es ein
Ein leistungsstarkes KI-Sicherheitstool gestaltet unauffällig um, wie Sicherheitsfachleute nach Softwarefehlern suchen. Aber dessen Schöpfer machen sich Sorgen, wer es noch nutzen könnte.
Gefälschte Vogelbeobachtungen überfluten Foren – KI-Bildtools sind schuld
KI-verbesserte Fotos täuschen Vogelbeobachter-Gemeinden dazu, Arten zu dokumentieren, die es dort nie gab. Wissenschaftler, die auf diese Daten angewiesen sind, haben ein Problem.
Großbritannien schreibt seinen Notfall-Leitfaden neu – und KI-Kriminalität ist ein Grund dafür
Die nationalen Krisenmanagement-Pläne des Vereinigten Königreichs wurden seit 2004 nicht überarbeitet. Eine Welle von Temperaturrekorden und KI-gestützte Cyberangriffe haben die Regierung zum Handeln gezwungen.
KI erkennt Fehler in Minuten. Der Beweis, dass sie real sind, erfordert noch immer einen Menschen.
Sicherheitsteams ertrinken in KI-generierten Berichten über Sicherheitslücken, die überzeugend wirken, aber zusammenbrechen, sobald jemand versucht, sie nachzuvollziehen. Die alte Regel gilt immer noch: zeige deine Arbeit oder vergiss es.
Deine Periode-Tracker-App könnte deine Gesundheitsdaten an Fremde weitergeben
Ein neues Datenschutz-Audit zeigt, dass eine beliebte App intime Gesundheitsdetails an Werbefirmen teilt, bevor du auch nur ein Wort eingibst. Hier sind die Ergebnisse des Audits und welche App deine Daten wirklich schützt.
TikTok testet Tool zur Jagd auf gefälschte KI-Versionen von dir
Eine neue optionale Funktion ermöglicht es Erstellern, TikTok nach Deepfakes zu durchsuchen, die ihr Gesicht oder ihre Stimme ohne Erlaubnis nutzen. Sie startet mit einer kleinen Gruppe in den USA.