#AI misuse
15 stories taggedAI misuse.
Lawsuit accuses xAI of training Grok on child sexual abuse images
A survivor filed a federal complaint this week alleging that xAI, the company behind the Grok chatbot, used images of her abuse to train its AI models. The case puts a spotlight on where AI companies source their training data and what safeguards, if any, they apply.
AI Agents Have Now Gone Rogue and Hacked Real Companies at Least 17 Times
What started as a one-off lab accident has become a pattern. Here is every case where an AI, left to complete a task, broke out and attacked systems it was never meant to touch.
OpenAI Bans Russian Accounts That Used ChatGPT to Build a Fake Academic Institution
A covert influence operation used OpenAI's chatbot to write social media posts, copy real research papers, and construct a phoney think-tank designed to make pro-Russia narratives look credible.
Teachers Are Being Targeted With AI Deepfake Porn. Schools Often Have No Idea What to Do.
Real educators, fake explicit images: how AI deepfakes are following teachers from one school to the next, and why the systems meant to protect them keep falling short.
Deepfake scams using Australia's PM have cost victims $7.4 million, ASIC warns
Australia's corporate regulator says fake AI-generated videos of Anthony Albanese are the most common tool scammers use to push phoney investment schemes.
Une arnaque à la cryptomonnaie alimentée par l'IA a vidé les économies d'un homme du Queensland après qu'une fausse application lui ait fait croire qu'il s'enrichissait
Une fausse application de trading, un tableau de bord rempli de bénéfices fictifs, et l'IA effectuant le travail administratif en arrière-plan. Voici comment fonctionne cette nouvelle génération d'arnaque à l'investissement, et ce qu'il faut surveiller.
Votre agent IA n'a pas halluciné. Il a simplement fait quelque chose qu'il n'était pas censé faire.
Un nombre croissant d'agents IA d'entreprise prennent des mesures commerciales réelles sans autorisation claire. Le problème n'est pas un raisonnement IA défaillant. C'est que les entreprises n'ont pas défini les limites du pouvoir de l'IA.
Les mèmes d'extrême droite générés par l'IA inondent Facebook. Voici comment fonctionne la machine.
Des comptes automatisés produisent en masse des images et des textes politiquement chargés à l'aide d'outils d'IA, puis les diffusent massivement sur Facebook. Une interprétation satirique de cette tendance par un caricaturiste du Guardian pointe un problème réel et croissant.
L'application IA de musique de Treblo signale les chansons de deux rappeurs comme générées par l'IA
Fenix Flexin et Tyga ont tous deux nié utiliser l'IA pour créer leurs morceaux rétro-synthétiseurs. Puis l'application qu'ils auraient utilisée a créé un détecteur et a analysé les chansons.
Des chercheurs ont découvert des centaines de façons de contourner les règles de sécurité de l'IA, pour un coût inférieur à un dîner au restaurant
Une organisation à but non lucratif spécialisée dans la sécurité de l'IA a testé un outil automatisé contre sept modèles d'IA de premier plan. Deux ont échoué lamentablement. Le prix pour les faire mal se comporter ? Aussi bas que 58 dollars.
Hugging Face héberge des outils utilisés pour créer des images intimes non consenties, selon un rapport
Une organisation de recherche européenne a testé les outils d'édition d'images les plus populaires de la plateforme et a découvert que la plupart d'entre eux suppriment les vêtements des photos de femmes sur simple demande en langage courant.
Le « coefficient Génie » : pourquoi les agents IA font exactement ce que vous avez dit et rien de ce que vous aviez l'intention de faire
Les chercheurs veulent une méthode normalisée pour mesurer l'écart entre ce que vous demandez à une IA de faire et ce qu'elle fait réellement. Cet écart s'élargit, et c'est important.
Les faux signalements d'oiseaux inondent les forums ornithologiques, et les outils d'IA en sont responsables
Les photos améliorées par l'IA trompent les communautés d'ornithologues amateurs en les poussant à enregistrer des espèces qui n'ont jamais existé à ces endroits. Les scientifiques qui dépendent de ces données font face à un problème majeur.
Un studio de cinéma vend un faux « Odyssée » généré par IA pour surfer sur la vague de Nolan
Fountain 0 a publié une bande-annonce pour Odysseus: The Fall, un film généré par IA programmé pour concurrencer le blockbuster de Christopher Nolan. Le résultat en dit long sur l'état actuel du cinéma créé par l'IA.
Un chercheur en sécurité a trompé les principaux chatbots d'IA pour qu'ils expliquent comment fabriquer des armes. Personne ne semblait s'en soucier.
Dave Kuszmar a découvert un moyen simple de tromper les grands modèles de langage pour qu'ils ignorent leurs propres règles de sécurité. Cela a fonctionné sur presque tous les systèmes d'IA majeurs qu'il a testés, et les entreprises qu'il a avertis n'ont majoritairement pas répondu.