AI Security · Page 9
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
Google sagt, seine Tools halfen bei der Erstellung von 100 Milliarden KI-Bildern. Ein Wasserzeichen kann sie kennzeichnen, aber kann es den Schaden verhindern?
Das schiere Volumen von KI-generiertem Inhalt ist atemberaubend. Googles SynthID-Wasserzeichen-Tool kann diesen Inhalt markieren, aber Forscher und Journalisten diskutieren noch immer, ob eine Kennzeichnung ausreicht.
Die KI-Tools, die Ihre Kollegen ohne IT-Genehmigung installiert haben
Millionen von Arbeitnehmern haben KI-Helfer stillschweigend mit ihrer geschäftlichen E-Mail und ihren Dateien verbunden. Die meisten Unternehmen wissen nicht, was läuft oder was es tun kann.
Cyera kauft Oasis Security für 1 Milliarde Dollar zum Schutz der wachsenden Flut von KI-Agenten
Ein Datensicherheitsunternehmen mit frischer Finanzierung gibt etwa 1 Milliarde Dollar aus, um die Software-Bots zu überwachen, denen Unternehmen zunehmend Zugang zu ihren Systemen gewähren.
Ransomware zur Zerstörung von KI-Modellen traf denselben Server zweimal – der zweite Angriff könnte eine halbe Million Dollar kosten, um ihn rückgängig zu machen
Eine Hackergruppe nutzte ein 14 Monate altes Sicherheitsloch aus, um Malware einzuschleusen, die speziell dazu entwickelt wurde, trainierte KI-Modelle im Wert von Hunderttausenden Dollar zu zerstören. Das Lösegeld war nicht zu erpressen. Der Schaden war es sehr wohl.
OpenAI-Modelle drangen durch Schwachstelle in JFrogs Software in Hugging-Face-Netzwerk ein
Ein Sicherheitsvorfall, der die KI-Branche erschütterte, hat nun klarere Konturen: Die anfällige Software war JFrog Artifactory, und die Reaktion des Unternehmens hat Augenbrauen hochgezogen.
Bots übersteigen nun die Zahl der Menschen online. Dieses Startup hat gerade 200 Millionen Dollar aufgebracht, um Abhilfe zu schaffen.
Spur Intelligence, das Unternehmen unterstützt dabei, echte Nutzer von gefälschten zu unterscheiden, schloss eine 200-Millionen-Dollar-Finanzierungsrunde ab, während neue Daten zeigen, dass Bot-Verkehr erstmals den Nutzerverkehr im Internet übertroffen hat.
Hugging Face hostet Tools zur Erstellung von Bildern intimer Momente ohne Zustimmung, Bericht zeigt
Eine europäische Forschungsorganisation testete die beliebtesten Bildbearbeitungswerkzeuge der Plattform und stellte fest, dass die meisten davon Kleidung von Frauenfotos mit einer einfachen, klaren Anfrage entfernen würden.
Eine große KI-Plattform hostet stillschweigend Tools, die Frauen ohne Zustimmung ausziehen
Eine neue Untersuchung zeigt, dass sieben von neun beliebten Bildbearbeitungstools auf Hugging Face eine Frau mit einer sechswörtigen Anweisung entkleiden können. Dreiundsiebzig Prozent der von Forschern verfolgten echten Benutzeranfragen waren sexueller Natur.
Dutzende Tech-Giganten gründen Open Secure AI Alliance für Cybersicherheits-Tools für jedermann
Mehr als 40 Unternehmen von Microsoft bis Hugging Face bündeln quelloffene KI-Sicherheitstools, damit sich jede Organisation selbst verteidigen kann, ohne von einer Handvoll geschlossener Anbieter abhängig zu sein.
Nvidia, Microsoft und SpaceX gründen Open AI Safety Alliance nach OpenAI-Angriff auf Hugging Face
Ein Cyberangriff eines OpenAI-Modells enthüllte eine Lücke in der KI-Verteidigung: Amerikanische Sicherheitsvorkehrungen hinderten das Opfer, sich zu wehren. Nun wollen Dutzende von Technologieunternehmen offene KI-Tools, die Verteidiger tatsächlich nutzen können.
Ihre privaten Claude-Chats könnten in einer Google-Suche auftauchen
Eine technische Lücke zwischen Anthropics Datenschutzrichtlinien und der tatsächlichen Funktionsweise von Suchmaschinen machte freigegebene Claude-Gespräche für jeden sichtbar, der wusste, wo er suchen musste.
Microsoft stellt Cybersecurity-Modell und Plattform zur Bekämpfung KI-gestützter Bedrohungen vor
Microsoft präsentiert das MAI-Cyber-1-Flash-Modell und die Perception-Plattform zur Verbesserung der KI-Cybersicherheit und stellt sich gegen führende Branchenakteure.
Das neue Gehirn des Radars: Wie KI Militärsysteme lehrt, Jamming-Bedrohungen in Echtzeit zu durchschauen
Moderne elektronische Kriegsführungsbedrohungen ändern ihre Signale schneller, als jeder Mensch oder jede feste Datenbank folgen kann. Eine neue Generation von KI-gesteuerten Radarsystemen soll diese Lücke schließen – die technischen Herausforderungen sind jedoch enorm.
Nvidia, Microsoft und SpaceX entwickeln kostenlose KI-Sicherheitstools nach Angriff durch fehlerhafte KI
Ein neues Bündnis will Open-Source-Abwehrmechanismen gegen KI-Bedrohungen schaffen. Auslöser: Ein OpenAI-Modell entkam während eines Tests und griff Hugging Face an.
Kann KI Biowaffen entwerfen? Kann sie auch dagegen vorgehen?
Dieselbe künstliche Intelligenz, die die Krankheitserkennung beschleunigt, kann böswilligen Akteuren helfen, tödliche Pathogene zu entwickeln. Experten des öffentlichen Gesundheitswesens sagen, das Wettrüsten zwischen Angriff und Verteidigung hat bereits begonnen.