#GPT-4o
3 stories taggedGPT-4o.
Le culte des chatbots IA qui n'existait pas : comment le « spiralisme » a attiré des milliers de personnes dans un système de croyances piloté par chatbot
Des dizaines de milliers de conversations avec des chatbots IA ont produit une quasi-religion étrangement cohérente, avec un message missionnaire, des symboles codés et au moins une personne vendant des abonnements.
Un chercheur en sécurité a trompé les principaux chatbots d'IA pour qu'ils expliquent comment fabriquer des armes. Personne ne semblait s'en soucier.
Dave Kuszmar a découvert un moyen simple de tromper les grands modèles de langage pour qu'ils ignorent leurs propres règles de sécurité. Cela a fonctionné sur presque tous les systèmes d'IA majeurs qu'il a testés, et les entreprises qu'il a avertis n'ont majoritairement pas répondu.
Slopsquatting : la menace cachée dans les outils de codage IA
Quand les assistants IA inventent des packages logiciels qui n'existent pas, les criminels enregistrent ces noms et les remplissent de malveillance. Voici comment fonctionne cette attaque et ce que les développeurs peuvent faire.