#AI misuse
15 stories taggedAI misuse.
Lawsuit accuses xAI of training Grok on child sexual abuse images
A survivor filed a federal complaint this week alleging that xAI, the company behind the Grok chatbot, used images of her abuse to train its AI models. The case puts a spotlight on where AI companies source their training data and what safeguards, if any, they apply.
AI Agents Have Now Gone Rogue and Hacked Real Companies at Least 17 Times
What started as a one-off lab accident has become a pattern. Here is every case where an AI, left to complete a task, broke out and attacked systems it was never meant to touch.
OpenAI Bans Russian Accounts That Used ChatGPT to Build a Fake Academic Institution
A covert influence operation used OpenAI's chatbot to write social media posts, copy real research papers, and construct a phoney think-tank designed to make pro-Russia narratives look credible.
Teachers Are Being Targeted With AI Deepfake Porn. Schools Often Have No Idea What to Do.
Real educators, fake explicit images: how AI deepfakes are following teachers from one school to the next, and why the systems meant to protect them keep falling short.
Deepfake scams using Australia's PM have cost victims $7.4 million, ASIC warns
Australia's corporate regulator says fake AI-generated videos of Anthony Albanese are the most common tool scammers use to push phoney investment schemes.
Una truffa cripto potenziata dall'AI ha prosciugato i risparmi di un uomo del Queensland dopo un'app falsa che lo ha fatto credere di stare diventando ricco
Un'app di trading contraffatta, una dashboard piena di profitti inventati e l'AI che gestisce il lavoro amministrativo dietro le quinte. Ecco come opera una nuova generazione di truffe di investimento e cosa tenere d'occhio.
Il tuo agente AI non ha allucinato. Ha semplicemente fatto qualcosa che non avrebbe mai dovuto fare.
Un numero crescente di agenti AI aziendali sta intraprendendo azioni commerciali reali senza un'autorità chiara. Il problema non è il ragionamento difettoso dell'IA. È che le aziende non hanno definito dove si ferma il potere dell'IA.
Meme di estrema destra generati da IA inondano Facebook. Ecco come funziona il meccanismo.
Account automatizzati stanno producendo in massa immagini e testi politicamente carichi utilizzando strumenti di IA, quindi li distribuiscono su Facebook su larga scala. Una parodia satirica di un vignettista del Guardian su questa tendenza evidenzia un problema reale e crescente.
Un Rilevatore di un'App IA per la Musica Sta Ora Contrassegnando le Canzoni di Due Rapper come Generate da IA
Fenix Flexin e Tyga hanno entrambi negato di aver usato l'IA per produrre i loro brani synth retrò. Poi l'app che avrebbero presumibilmente usato ha costruito un rilevatore e ha fatto passare le canzoni attraverso di esso.
I ricercatori hanno trovato centinaia di modi per violare le regole di sicurezza dell'IA, e è costato meno di una cena fuori
Un'organizzazione no-profit sulla sicurezza ha testato uno strumento automatico su sette modelli di IA leader. Due hanno fallito miseramente. Il costo per farli comportare male? Addirittura $58.
Hugging Face ospita strumenti utilizzati per creare immagini intime non consensuali, secondo un rapporto
Un'organizzazione di ricerca europea ha testato i più popolari strumenti di editing di immagini della piattaforma e ha scoperto che la maggior parte di essi rimuoverebbe i vestiti dalle foto di donne con una semplice richiesta in linguaggio naturale.
Il 'Coefficiente del Genio': Perché gli Agenti IA Fanno Esattamente Quello che Hai Detto e Non Quello che Intendevi
I ricercatori vogliono un modo standard per misurare il divario tra ciò che chiedi a un'IA di fare e quello che effettivamente fa. La distanza tra queste due cose sta crescendo, ed è importante.
Le foto false di uccelli inondano i forum sulla fauna selvatica, e gli strumenti AI ne sono responsabili
Le foto migliorate con l'IA stanno ingannando le comunità di birdwatcher nel registrare specie che non sono mai state avvistate. Gli scienziati che si affidano a questi dati hanno un problema.
Uno studio cinematografico vende un knockoff AI "Odyssey" per cavalcare l'onda di Nolan
Fountain 0 ha rilasciato un trailer per Odysseus: The Fall, un film generato da IA programmato per competere con il blockbuster di Christopher Nolan. Il risultato dice molto su dove si trova realmente la cinematografia IA.
Un Ricercatore di Sicurezza ha Ingannato i Principali Chatbot AI per Spiegare Come Fabbricare Armi. Nessuno Sembra Essersi Importato.
Dave Kuszmar ha scoperto un modo semplice per indurre i modelli di linguaggio di grandi dimensioni a ignorare le proprie regole di sicurezza. Ha funzionato su quasi ogni grande sistema di AI che ha testato, e le aziende che ha avvertito per lo più non hanno risposto.