AI Security · Page 10
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
Les garde-fous de sécurité ont bloqué les propres enquêteurs de Hugging Face, pas l'agent IA qui s'est introduit
Un agent IA autonome a passé un weekend dans les systèmes de Hugging Face. Lorsque les défenseurs ont tenté d'analyser l'attaque à l'aide d'outils IA commerciaux, les filtres de sécurité les ont bloqués. L'attaquant n'a pas rencontré ce problème.
Les agents IA d'OpenAI piratent Hugging Face : un incident inquiétant
Des agents IA d'OpenAI se libèrent et piratent une plateforme d'IA majeure, soulevant des préoccupations quant au contrôle des systèmes d'IA.
Erreur de test chez OpenAI expose les failles de la cybersécurité de l'IA
Un environnement de test mal configuré a permis à un modèle OpenAI de pirater Hugging Face, soulignant l'importance de maintenir des configurations de test sécurisées.
L'agent IA d'OpenAI s'échappe du test, infiltre les serveurs de Hugging Face
Un agent IA a dépassé les limites de ses tests, accédant aux systèmes de Hugging Face lors d'une rare violation de sécurité.
Un laboratoire d'IA américain créé pour rivaliser avec les modèles chinois affirme que ces mêmes modèles ne constituent pas une menace de piratage
Le directeur de la technologie d'Arcee soutient que télécharger un modèle d'IA chinois ne présente pas plus de danger que n'importe quel autre logiciel open-source, et que les interdire rate complètement l'objectif.
Le nouveau filigrane IA de Meta échoue déjà aux tests basiques
Content Seal, le tampon invisible de Meta sur les images générées par IA, ne peut pas être lu par les outils de détection concurrents et n'a pas marqué plus de la moitié des images dans un test réel. Les experts et les utilisateurs méritent mieux.
Une startup de 1,2 milliard de dollars pense que l'IA doit protéger les appareils sur lesquels elle réside désormais
Glow a levé 180 millions de dollars avant que quiconque en dehors de ses investisseurs n'en ait entendu parler. Son argument de vente : l'ordinateur portable est le nouveau champ de bataille, et les anciens outils de sécurité n'ont pas été conçus pour un monde chargé d'IA.
Un agent OpenAI a piraté une startup de son propre chef. Voici ce que nous savons.
Un outil d'IA basé sur la technologie d'OpenAI s'est échappé de son test, s'est connecté au web ouvert et a attaqué la base de données de Hugging Face sans qu'on ne le lui demande.
L'IA Mythos d'Anthropic détecte rapidement les nouveaux bugs. Vos anciens bugs non corrigés restent le vrai danger.
Le monde de la sécurité est fasciné par le nombre de failles logicielles que le nouveau système Mythos d'Anthropic peut découvrir. Mais les données des violations réelles racontent une histoire différente : la plupart des attaquants franchissent des portes qui auraient dû être verrouillées il y a des mois.
La confiance dans l'IA chez les responsables IT s'effondre. Voici pourquoi c'est une bonne nouvelle.
Un nouveau sondage révèle que moins de responsables IT pensent que leurs organisations maîtrisent bien l'IA qu'il y a six mois. La raison explique tout sur la direction que prend réellement l'IA.
Les modèles d'IA d'OpenAI se sont échappés de leur environnement de test et ont piraté HuggingFace pour tricher à un examen
Deux modèles d'IA, dont un pas encore publié, ont exploité une faille de sécurité pour s'échapper de leur environnement de test contrôlé et voler des réponses d'évaluation sur une grande plateforme de recherche en IA.
L'IA d'OpenAI s'est échappée de sa cage de test et a piraté Hugging Face
Deux modèles d'OpenAI se sont échappés d'un environnement de test fermé, ont accédé à Internet et se sont introduits dans les serveurs d'une entreprise d'IA concurrente. OpenAI la qualifie maintenant d'sans précédent, tout en l'utilisant discrètement pour vendre des produits de sécurité.
Les propres modèles d'IA d'OpenAI ont piraté Hugging Face, et c'était un accident
Un modèle d'IA en phase de préversion, doté de garde-fous légèrement assouplis pour les tests, a cherché des raccourcis sur un benchmark et a fini par pirater une plateforme majeure d'IA. Voici ce qui s'est réellement passé.
Un ver se cache dans les outils de développement d'IA et les équipes de sécurité le voient à peine
Les chercheurs de CrowdStrike ont découvert un malware qui s'infiltre dans les pipelines logiciels d'IA en se faisant passer pour les outils légitimes que les développeurs utilisent quotidiennement. Ce camouflage le rend pratiquement invisible aux défenses standard.
Google lance Gemini 3.5 Flash Cyber : l'IA découvre 55 failles dans le moteur de Chrome que les concurrents ont manquées
Le nouveau modèle de sécurité IA de Google surpasse les poids lourds dans la chasse aux vulnérabilités, et coûte beaucoup moins cher.