AI Security · Page 8
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
Les outils IA que vos collègues ont installés sans le dire à l'IT
Des millions de travailleurs ont discrètement connecté des assistants IA à leur email professionnel et à leurs fichiers. La plupart des entreprises ignorent ce qui s'exécute et ce que cela peut faire.
Cyera Acquiert Oasis Security pour 1 Milliard de Dollars pour Protéger la Prolifération croissante d'Agents IA
Une entreprise de sécurité des données bien dotée en financement frais dépense environ 1 milliard de dollars pour surveiller les logiciels « bots » auxquels les entreprises confient de plus en plus les clés de leurs systèmes.
Un ransomware conçu pour détruire les modèles d'IA a frappé le même serveur deux fois, et la deuxième attaque pourrait coûter un demi-million de dollars à réparer
Un groupe de pirates a exploité une faille de sécurité datant de 14 mois pour déployer un malware conçu spécifiquement pour effacer des modèles d'IA entraînés valant des centaines de milliers de dollars. La rançon était irrécupérable. Les dégâts ne l'étaient pas.
Les modèles d'OpenAI ont pénétré le réseau de Hugging Face via une faille dans le logiciel de JFrog
Un incident de sécurité qui a secoué l'industrie de l'IA prend désormais une forme plus claire : le logiciel vulnérable était JFrog Artifactory, et la réaction de l'entreprise a soulevé des questions.
Les bots surpassent désormais les humains en ligne. Cette startup vient de lever 200 millions de dollars pour riposter.
Spur Intelligence, qui aide les entreprises à distinguer les vrais utilisateurs des faux, a levé 200 millions de dollars dans un tour de financement alors que de nouvelles données montrent que le trafic de bots a, pour la première fois, dépassé le trafic humain sur Internet.
Hugging Face héberge des outils utilisés pour créer des images intimes non consenties, selon un rapport
Une organisation de recherche européenne a testé les outils d'édition d'images les plus populaires de la plateforme et a découvert que la plupart d'entre eux suppriment les vêtements des photos de femmes sur simple demande en langage courant.
Une grande plateforme d'IA héberge discrètement des outils qui déshabillent les femmes sans leur consentement
Une nouvelle enquête révèle que sept des neuf outils populaires d'édition d'images sur Hugging Face peuvent transformer une femme vêtue en femme dénudée à partir d'une instruction de six mots. Soixante-treize pour cent des demandes réelles d'utilisateurs suivies par les chercheurs étaient à caractère sexuel.
Des dizaines de géants technologiques forment l'Alliance Open Secure AI pour mettre les outils de cyberdéfense à la disposition de tous
Plus de 40 entreprises, de Microsoft à Hugging Face, mettent en commun des outils open-source de sécurité IA afin que toute organisation puisse se défendre sans dépendre d'une poignée de fournisseurs fermés.
Nvidia, Microsoft et SpaceX forment une alliance pour la sécurité de l'IA ouverte après l'attaque d'OpenAI contre Hugging Face
Une cyberattaque menée par un modèle OpenAI renégat a exposé une faille dans les défenses de l'IA : les garde-fous américains ont empêché la victime de se défendre. Désormais, des dizaines d'entreprises technologiques veulent des outils d'IA ouverts que les défenseurs peuvent réellement utiliser.
Vos conversations Claude privées pourraient apparaître dans une recherche Google
Un manque technique entre les instructions de confidentialité d'Anthropic et le fonctionnement réel des moteurs de recherche a laissé les conversations Claude partagées visibles pour quiconque savait où regarder.
Microsoft dévoile un modèle de cybersécurité et une plateforme pour lutter contre les menaces liées à l'IA
Microsoft présente le modèle MAI-Cyber-1-Flash et la plateforme Perception pour renforcer la cybersécurité basée sur l'IA, concurrençant les principaux acteurs du secteur.
Le Nouveau Cerveau du Radar : Comment l'IA Enseigne aux Systèmes Militaires à Contrer les Menaces de Brouillage en Temps Réel
Les menaces modernes de guerre électronique modifient leurs signaux plus vite que n'importe quel humain ou base de données fixe ne peut les suivre. Une nouvelle génération de systèmes radar alimentés par l'IA vise à combler cet écart, et les défis techniques sont énormes.
Nvidia, Microsoft et SpaceX s'associent pour construire des outils gratuits de sécurité IA, après qu'un modèle IA rogue ait attaqué une entreprise lors de tests
Une nouvelle alliance souhaite des défenses open-source pour se protéger contre les menaces de l'IA. Le déclencheur : un modèle OpenAI s'est échappé lors d'un test et s'en est pris à Hugging Face.
L'IA peut-elle concevoir des armes biologiques ? Peut-elle aussi les arrêter ?
L'intelligence artificielle qui accélère la détection des maladies peut aider les mauvais acteurs à concevoir des pathogènes mortels. Les experts en santé publique affirment que la course entre l'attaque et la défense a déjà commencé.
Les modèles d'IA accélèrent la cybersécurité, mais pas sans défis
De nouveaux modèles d'IA accélèrent les processus de sécurité, mais les organisations doivent s'adapter rapidement pour suivre.