AI Security · Page 11
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
La plateforme IA de ServiceNow victime d'une exploitation de faille critique
Des pirates exploitent un bug critique de la plateforme IA ServiceNow, affectant les flux de travail de grandes entreprises. Une action immédiate est recommandée pour les utilisateurs auto-hébergés.
Claude Mythos d'Anthropic a découvert plus de 10 000 failles de sécurité, puis a été restreint par le gouvernement américain
Un outil puissant de sécurité IA redessine silencieusement la façon dont les défenseurs chassent les bugs logiciels. Mais ses propres créateurs s'inquiètent de qui d'autre pourrait l'utiliser.
Les faux signalements d'oiseaux inondent les forums ornithologiques, et les outils d'IA en sont responsables
Les photos améliorées par l'IA trompent les communautés d'ornithologues amateurs en les poussant à enregistrer des espèces qui n'ont jamais existé à ces endroits. Les scientifiques qui dépendent de ces données font face à un problème majeur.
La Grande-Bretagne réécrit son manuel d'urgence, et la criminalité liée à l'IA en est la raison
Les plans de crise nationaux du Royaume-Uni n'ont pas été modifiés depuis 2004. Une vague de records de chaleur et des cyberattaques alimentées par l'IA ont forcé la main du gouvernement.
L'IA détecte les bugs en quelques minutes. Prouver qu'ils sont réels, c'est encore du ressort des humains.
Les équipes de sécurité sont submergées par des rapports de vulnérabilités générés par l'IA qui semblent convaincants mais s'effondrent dès qu'on tente de les reproduire. La règle ancienne tient toujours : documentez votre travail ou abandonnez.
Votre application de suivi des règles peut envoyer vos données de santé à des étrangers
Un nouvel audit de confidentialité a révélé qu'une application populaire partage des détails intimes sur la santé avec des sociétés publicitaires avant même que vous ne tapiez un seul mot. Voici ce que l'audit a découvert et quelle application protège réellement vos données.
TikTok teste un outil pour traquer les fausses versions d'IA de vous-même
Une nouvelle fonction optionnelle permet aux créateurs de scanner TikTok à la recherche de deepfakes utilisant leur visage ou leur voix sans autorisation. Le test commence avec un petit groupe aux États-Unis.
Patreon commence à bloquer les robots IA au lieu de simplement les demander gentiment
La plateforme de créateurs s'est associée à Cloudflare pour arrêter activement les bots qui exploitent les œuvres des créateurs pour entraîner les modèles d'IA, dépassant l'ancienne approche fondée sur l'honneur.
Les lunettes intelligentes dotées d'IA peuvent enregistrer des étrangers sans avertissement. Voici ce que vous devez savoir.
Les lunettes compatibles IA de Meta sont déjà sur les visages dans les espaces publics. Les critiques affirment que les risques pour la vie privée pèsent particulièrement sur les femmes, et la loi peine à s'adapter.
Des vêtements qui désorientent les caméras : la tendance de mode née de la peur de la reconnaissance faciale
Une nouvelle vague de stylistes tisse des motifs dans des vestes et des tops conçus pour dérouter les logiciels de reconnaissance faciale. La mode anti-surveillance pourrait-elle devenir grand public ?
Pourquoi la sécurité de l'IA a besoin de validation dans le monde réel
Les agents d'IA dépassent les rôles consultatifs en cybersécurité. Pentera plaide pour des décisions basées sur des preuves plutôt que sur des risques théoriques.
Une faille de sécurité dans l'extension Chrome de Claude a survécu à huit tentatives de correction et peut exposer votre Gmail
Le bug, surnommé ClaudeBleed, permet à d'autres extensions de navigateur de lire discrètement les e-mails et les événements calendrier que Claude a traités. Huit correctifs plus tard, il est toujours présent.
1Password permet à Claude de se connecter à vos comptes sans jamais voir vos mots de passe
Une nouvelle intégration permet à l'assistant IA d'Anthropic d'accomplir des tâches nécessitant vos identifiants de connexion, tandis qu'une couche de sécurité garde vos véritables identifiants cachés à l'IA.
Un bot IA a piraté Hugging Face. Hugging Face a utilisé l'IA pour l'attraper.
La plateforme de recherche en IA a divulgué une attaque du monde réel entièrement menée par un logiciel autonome, et l'incident a exposé un point faible que chaque entreprise s'appuyant sur des outils de sécurité IA doit comprendre.
Google DeepMind et Isomorphic Labs dévoilent leur stratégie de bioresilience
Les deux laboratoires d'IA affirment qu'ils partageront leurs modèles avec des partenaires vérifiés pour accélérer la conception de vaccins et détecter les épidémies plus tôt, tout en ajoutant des garde-fous pour prévenir les abus.