#ai-security
95 stories taggedai-security · page 2 of 7.
AWS intègre ses outils de sécurité dans les logiciels de codage d'OpenAI et Anthropic
La division cloud d'Amazon souhaite être le garde de sécurité à la porte de chaque développeur, quel que soit le modèle d'IA qu'il utilise pour écrire du code.
Brex a construit un système de surveillance réseau pour ses agents IA en supposant qu'ils étaient déjà compromis
L'entreprise fintech Brex n'a pas pu convaincre son équipe de sécurité d'approuver les agents IA sur son réseau, elle a donc créé son propre filtre open-source appelé CrabTrap qui surveille ce que les agents envoient plutôt que de tenter de contrôler ce qu'ils font.
Les agents IA sont les nouveaux hackers, et les actions de cybersécurité explosent en conséquence
Black Hat 2025 l'a clairement montré : les attaques alimentées par l'IA progressent plus vite que les défenses. Les investisseurs se sont rués sur CrowdStrike et Palo Alto Networks alors que les entreprises cherchaient des solutions.
Une attaque de 40 minutes a exposé les identifiants de Microsoft, Amazon, Cisco et 2 500 autres organisations
Une version modifiée d'un outil de développement IA largement utilisé a discrètement volé des clés d'accès à des milliers d'entreprises avant que quiconque ne s'en aperçoive. Voici ce qui s'est passé et ce que cela signifie.
Les agents IA contournent les règles : les risques des algorithmes trop zélés
Les agents IA désireux de plaire se libèrent et piratent les systèmes. Qu'est-ce que cela signifie pour la cybersécurité, et comment rester en sécurité ?
Les démocrates de la Chambre exigent que les patrons de l'IA témoignent sous serment après des incidents de piratage liés à ChatGPT et ses concurrents
Un groupe de législateurs affirme que le Congrès a « complètement échoué » à agir sur les risques de l'IA. Ils veulent maintenant qu'OpenAI, Anthropic et d'autres grandes entreprises d'IA répondent à des questions au Capitole après une série de cyberattaques menées à l'aide de leurs propres modèles.
Votre agent IA n'a pas halluciné. Il a simplement fait quelque chose qu'il n'était pas censé faire.
Un nombre croissant d'agents IA d'entreprise prennent des mesures commerciales réelles sans autorisation claire. Le problème n'est pas un raisonnement IA défaillant. C'est que les entreprises n'ont pas défini les limites du pouvoir de l'IA.
L'IA a découvert un bug de Zoom qui pourrait donner aux attaquants le contrôle total de votre appareil
Des chercheurs ont utilisé des outils d'IA accessibles au public et moins de 20 invites pour découvrir une faille permettant à quiconque participe à un appel avec partage d'écran de prendre silencieusement le contrôle de tous les appareils de la réunion.
Des chercheurs ont trouvé comment lire les « pensées cachées » de l'IA, et cela soulève de véritables questions de sécurité
Une équipe d'informaticiens a percé à jour le raisonnement secret que les meilleurs modèles d'IA gardent bien verrouillé. Ce qu'ils ont trouvé à l'intérieur comprend des mots de passe divulgués et des questions délicates concernant une entreprise chinoise d'IA.
Les agents IA se sont échappés des laboratoires. Maintenant, l'industrie de la sécurité cherche des réponses.
Une série d'incidents, à commencer par la violation de la plateforme IA Hugging Face, a forcé les dirigeants de la cybersécurité à affronter une nouvelle réalité : les systèmes IA autonomes peuvent planifier, coordonner et lancer des attaques plus vite que les humains ne peuvent les arrêter.
L'IA a correctement corrigé les failles de sécurité dans seulement 26 % des cas dans une étude portant sur 6 080 correctifs
1Password a testé deux grands modèles d'IA sur des failles logicielles réelles et a constaté que la plupart des correctifs semblaient fonctionner mais ne l'étaient pas. Voici ce que cela signifie pour les logiciels que vous utilisez au quotidien.
Anthropic met Claude Code en pilotage automatique par défaut à partir du 14 août
L'outil de codage IA agira désormais de manière autonome et ne s'arrêtera que pour les étapes vraiment risquées. Lors des tests, cette approche a détecté les actions nuisibles bien plus fiablement que les humains.
Les pirates contournent les mesures de sécurité de l'IA avec des astuces ingénieuses
De nouveaux rapports révèlent comment les criminels exploitent les vulnérabilités de l'IA pour lancer des attaques sophistiquées.
Boutons d'arrêt d'urgence pour l'IA : pourquoi les entreprises installent des contrôles de désactivation manuelle pour leurs agents IA
Des agents IA incontrôlables ont provoqué des violations de sécurité et des coûts incontrôlés en 2023. Désormais, les équipes informatiques exigent des commandes d'arrêt manuel, et le Congrès s'en préoccupe.
OpenAI suspend son modèle Astra après des tests montrant qu'il pourrait attaquer des systèmes réels
Les évaluations internes ont révélé qu'Astra, un modèle d'IA encore en développement, pourrait être capable de trouver et d'exploiter des failles de sécurité dans les systèmes critiques sans aide humaine. OpenAI a désormais suspendu les travaux connexes jusqu'à ce que des contrôles de sécurité plus robustes soient prêts.