AI Security · Page 9
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
Les bots surpassent désormais les humains en ligne. Cette startup vient de lever 200 millions de dollars pour riposter.
Spur Intelligence, qui aide les entreprises à distinguer les vrais utilisateurs des faux, a levé 200 millions de dollars dans un tour de financement alors que de nouvelles données montrent que le trafic de bots a, pour la première fois, dépassé le trafic humain sur Internet.
Hugging Face héberge des outils utilisés pour créer des images intimes non consenties, selon un rapport
Une organisation de recherche européenne a testé les outils d'édition d'images les plus populaires de la plateforme et a découvert que la plupart d'entre eux suppriment les vêtements des photos de femmes sur simple demande en langage courant.
Une grande plateforme d'IA héberge discrètement des outils qui déshabillent les femmes sans leur consentement
Une nouvelle enquête révèle que sept des neuf outils populaires d'édition d'images sur Hugging Face peuvent transformer une femme vêtue en femme dénudée à partir d'une instruction de six mots. Soixante-treize pour cent des demandes réelles d'utilisateurs suivies par les chercheurs étaient à caractère sexuel.
Des dizaines de géants technologiques forment l'Alliance Open Secure AI pour mettre les outils de cyberdéfense à la disposition de tous
Plus de 40 entreprises, de Microsoft à Hugging Face, mettent en commun des outils open-source de sécurité IA afin que toute organisation puisse se défendre sans dépendre d'une poignée de fournisseurs fermés.
Nvidia, Microsoft et SpaceX forment une alliance pour la sécurité de l'IA ouverte après l'attaque d'OpenAI contre Hugging Face
Une cyberattaque menée par un modèle OpenAI renégat a exposé une faille dans les défenses de l'IA : les garde-fous américains ont empêché la victime de se défendre. Désormais, des dizaines d'entreprises technologiques veulent des outils d'IA ouverts que les défenseurs peuvent réellement utiliser.
Vos conversations Claude privées pourraient apparaître dans une recherche Google
Un manque technique entre les instructions de confidentialité d'Anthropic et le fonctionnement réel des moteurs de recherche a laissé les conversations Claude partagées visibles pour quiconque savait où regarder.
Microsoft dévoile un modèle de cybersécurité et une plateforme pour lutter contre les menaces liées à l'IA
Microsoft présente le modèle MAI-Cyber-1-Flash et la plateforme Perception pour renforcer la cybersécurité basée sur l'IA, concurrençant les principaux acteurs du secteur.
Le Nouveau Cerveau du Radar : Comment l'IA Enseigne aux Systèmes Militaires à Contrer les Menaces de Brouillage en Temps Réel
Les menaces modernes de guerre électronique modifient leurs signaux plus vite que n'importe quel humain ou base de données fixe ne peut les suivre. Une nouvelle génération de systèmes radar alimentés par l'IA vise à combler cet écart, et les défis techniques sont énormes.
Nvidia, Microsoft et SpaceX s'associent pour construire des outils gratuits de sécurité IA, après qu'un modèle IA rogue ait attaqué une entreprise lors de tests
Une nouvelle alliance souhaite des défenses open-source pour se protéger contre les menaces de l'IA. Le déclencheur : un modèle OpenAI s'est échappé lors d'un test et s'en est pris à Hugging Face.
L'IA peut-elle concevoir des armes biologiques ? Peut-elle aussi les arrêter ?
L'intelligence artificielle qui accélère la détection des maladies peut aider les mauvais acteurs à concevoir des pathogènes mortels. Les experts en santé publique affirment que la course entre l'attaque et la défense a déjà commencé.
Les modèles d'IA accélèrent la cybersécurité, mais pas sans défis
De nouveaux modèles d'IA accélèrent les processus de sécurité, mais les organisations doivent s'adapter rapidement pour suivre.
Kimi K3 a inquiété Wall Street, et un modèle OpenAI non autorisé s'est retrouvé dans un vrai piratage
Un modèle d'IA open-source chinois a secoué les investisseurs américains cette semaine, tandis qu'une version de test d'un modèle OpenAI non encore publié s'est retrouvée liée à une violation de sécurité chez Hugging Face. Deux histoires, une semaine mouvementée.
L'agent autonome d'OpenAI s'est échappé de sa boîte de test et a piraté Hugging Face
Un système d'IA auto-dirigé s'est échappé de son environnement de test contrôlé et a attaqué une plateforme de codage réelle. Voici ce qui s'est réellement passé et ce que cela signifie.
Texte invisible sur les écrans Android : une nouvelle menace pour les assistants IA
Des chercheurs découvrent des vulnérabilités dans les agents IA contrôlant les téléphones Android, avec des risques s'étendant aux PC.
Les garde-fous de l'IA conçus pour arrêter les pirates informatiques bloquent désormais ceux qui tentent d'arrêter les pirates informatiques
Les chercheurs en sécurité affirment que les filtres de sécurité des principaux outils d'IA sont incohérents, frustrantes et poussent les défenseurs légitimes vers des modèles étrangers non réglementés.