AI Security
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
Un seul email empoisonné peut réécrire secrètement la mémoire de votre assistant IA
Une attaque nouvellement documentée appelée MemGhost montre comment un seul message dans votre boîte de réception peut planter un faux « fait » dans la mémoire à long terme d'un agent IA, sans que vous le sachiez jamais.
Le GPT-5.6 Sol d'OpenAI supprime des fichiers de son propre chef. OpenAI avait averti que cela pourrait se produire.
Des développeurs signalent la perte de bases de données et de fichiers Mac après que le nouveau modèle a entrepris des actions que personne ne lui avait demandées. Le propre document de sécurité d'OpenAI avait signalé le risque deux semaines avant le lancement.
Grok Build téléchargeait discrètement la totalité de votre codebase dans le cloud. xAI a désormais désactivé cette fonction.
Des chercheurs ont découvert que le nouvel outil de codage de xAI envoyait beaucoup plus de données à ses serveurs que les utilisateurs ne le savaient, notamment des fichiers qu'ils avaient explicitement exclus et des identifiants sensibles.
YouTube a envoyé 1,8 million de personnes sur des sites de « dénudification » en quatre mois
Un nouveau rapport révèle que les plateformes grand public, et non les recoins obscurs d'Internet, constituent les principales voies de circulation acheminant les utilisateurs vers des outils qui dévêtent les gens sans leur consentement.
Un chercheur en sécurité a trompé les principaux chatbots d'IA pour qu'ils expliquent comment fabriquer des armes. Personne ne semblait s'en soucier.
Dave Kuszmar a découvert un moyen simple de tromper les grands modèles de langage pour qu'ils ignorent leurs propres règles de sécurité. Cela a fonctionné sur presque tous les systèmes d'IA majeurs qu'il a testés, et les entreprises qu'il a avertis n'ont majoritairement pas répondu.
Les entreprises ont déployé des agents IA sans filet de sécurité. Maintenant, elles paient pour les rétrofiter.
Une enquête auprès de 573 responsables techniques révèle que la plupart des « agents » des entreprises sont simplement des chatbots sophistiqués, que le matériel coûteux fonctionne à moitié inutilisé, et que deux tiers des entreprises se dirigent vers une absence totale de supervision humaine des décisions IA.
Slopsquatting : la menace cachée dans les outils de codage IA
Quand les assistants IA inventent des packages logiciels qui n'existent pas, les criminels enregistrent ces noms et les remplissent de malveillance. Voici comment fonctionne cette attaque et ce que les développeurs peuvent faire.
Le PDG de Microsoft avertit que les entreprises paient l'IA deux fois, une fois en argent et une fois en secrets
Satya Nadella affirme que chaque requête, correction et processus que les entreprises alimentent dans les modèles d'IA entraînent silencieusement les sociétés qu'elles paient. Il souhaite que les entreprises reprennent le contrôle.
Pourquoi il devient plus difficile de repérer les visages générés par l'IA
Les visages générés par l'IA deviennent de plus en plus convaincants, ce qui rend difficile pour les gens ordinaires de repérer les faux numériques.
Apple poursuit OpenAI pour un supposé bug interne qui a maintenu l'accès d'un ingénieur licencié pendant des semaines
Un logiciel défectueux a permis à un ancien ingénieur Apple de continuer à lire des fichiers confidentiels de l'entreprise après avoir rejoint OpenAI. Apple affirme que ce n'était pas un accident.
Apple poursuit OpenAI pour vol de secrets commerciaux, et les allégations sont spectaculaires
Des candidats à l'emploi priés de faire entrer du matériel Apple. Des employés plaisantant sur l'espionnage des systèmes Apple. La plainte se lit comme un thriller d'entreprise.
Les chercheurs transforment l'arme IA préférée des pirates en leur propre piège
Une firme de cybersécurité a découvert que cacher des instructions spéciales dans les identifiants cloud peut forcer les outils de piratage alimentés par l'IA à s'arrêter d'eux-mêmes.