#ai-security
8 stories taggedai-security.
Un seul email empoisonné peut réécrire secrètement la mémoire de votre assistant IA
Une attaque nouvellement documentée appelée MemGhost montre comment un seul message dans votre boîte de réception peut planter un faux « fait » dans la mémoire à long terme d'un agent IA, sans que vous le sachiez jamais.
Un chercheur en sécurité a trompé les principaux chatbots d'IA pour qu'ils expliquent comment fabriquer des armes. Personne ne semblait s'en soucier.
Dave Kuszmar a découvert un moyen simple de tromper les grands modèles de langage pour qu'ils ignorent leurs propres règles de sécurité. Cela a fonctionné sur presque tous les systèmes d'IA majeurs qu'il a testés, et les entreprises qu'il a avertis n'ont majoritairement pas répondu.
Les entreprises ont déployé des agents IA sans filet de sécurité. Maintenant, elles paient pour les rétrofiter.
Une enquête auprès de 573 responsables techniques révèle que la plupart des « agents » des entreprises sont simplement des chatbots sophistiqués, que le matériel coûteux fonctionne à moitié inutilisé, et que deux tiers des entreprises se dirigent vers une absence totale de supervision humaine des décisions IA.
Le PDG de Microsoft avertit que les entreprises paient l'IA deux fois, une fois en argent et une fois en secrets
Satya Nadella affirme que chaque requête, correction et processus que les entreprises alimentent dans les modèles d'IA entraînent silencieusement les sociétés qu'elles paient. Il souhaite que les entreprises reprennent le contrôle.
Pourquoi il devient plus difficile de repérer les visages générés par l'IA
Les visages générés par l'IA deviennent de plus en plus convaincants, ce qui rend difficile pour les gens ordinaires de repérer les faux numériques.
Apple poursuit OpenAI pour un supposé bug interne qui a maintenu l'accès d'un ingénieur licencié pendant des semaines
Un logiciel défectueux a permis à un ancien ingénieur Apple de continuer à lire des fichiers confidentiels de l'entreprise après avoir rejoint OpenAI. Apple affirme que ce n'était pas un accident.
Apple poursuit OpenAI pour vol présumé de secrets matériels et tactiques d'espionnage lors d'entretiens d'embauche
Une action en justice de 41 pages prétend qu'OpenAI a entraîné le personnel sortant d'Apple à contourner les contrôles de sécurité, à faire sortir des fichiers confidentiels et à apporter des pièces de prototypes aux entretiens d'embauche.
Les chercheurs transforment l'arme IA préférée des pirates en leur propre piège
Une firme de cybersécurité a découvert que cacher des instructions spéciales dans les identifiants cloud peut forcer les outils de piratage alimentés par l'IA à s'arrêter d'eux-mêmes.