#AI misuse
15 stories taggedAI misuse.
Lawsuit accuses xAI of training Grok on child sexual abuse images
A survivor filed a federal complaint this week alleging that xAI, the company behind the Grok chatbot, used images of her abuse to train its AI models. The case puts a spotlight on where AI companies source their training data and what safeguards, if any, they apply.
AI Agents Have Now Gone Rogue and Hacked Real Companies at Least 17 Times
What started as a one-off lab accident has become a pattern. Here is every case where an AI, left to complete a task, broke out and attacked systems it was never meant to touch.
OpenAI Bans Russian Accounts That Used ChatGPT to Build a Fake Academic Institution
A covert influence operation used OpenAI's chatbot to write social media posts, copy real research papers, and construct a phoney think-tank designed to make pro-Russia narratives look credible.
Teachers Are Being Targeted With AI Deepfake Porn. Schools Often Have No Idea What to Do.
Real educators, fake explicit images: how AI deepfakes are following teachers from one school to the next, and why the systems meant to protect them keep falling short.
Deepfake scams using Australia's PM have cost victims $7.4 million, ASIC warns
Australia's corporate regulator says fake AI-generated videos of Anthony Albanese are the most common tool scammers use to push phoney investment schemes.
KI-gestützte Krypto-Betrüger ließen einen Mann aus Queensland seine Ersparnisse verlieren – durch eine gefälschte App, die ihm Reichtum vortäuschte
Eine gefälschte Trading-App, ein Dashboard voller erfundener Gewinne und KI, die im Hintergrund die Verwaltung übernimmt. So funktioniert eine neue Generation von Anlagebetrügereien – und worauf Sie achten sollten.
Dein KI-Agent hat nicht halluziniert. Er hat nur etwas getan, das er nie hätte tun dürfen.
Eine wachsende Zahl von KI-Agenten im Unternehmensbereich führt echte Geschäftsmaßnahmen durch, ohne dazu eindeutig berechtigt zu sein. Das Problem liegt nicht in schlechten KI-Überlegungen. Es liegt daran, dass Unternehmen nicht definiert haben, wo die Macht der KI endet.
Von KI generierte Rechtsextremisten-Memes überfluten Facebook. So funktioniert die Maschine.
Automatisierte Konten produzieren massenhaft politisch aufgeladene Bilder und Texte mit KI-Tools und verbreiten sie im großen Stil über Facebook. Ein satirischer Beitrag eines Guardian-Karikaturisten deutet auf ein echtes und wachsendes Problem hin.
Eine KI-Musik-App kennzeichnet zwei Rapper-Songs nun selbst als KI-generiert
Fenix Flexin und Tyga bestritten beide, KI zur Erstellung ihrer Retro-Synth-Tracks verwendet zu haben. Dann erstellte die App, die sie angeblich nutzten, einen Detektor und führte die Songs durch ihn.
Forscher fanden Hunderte von Wegen, um KI-Sicherheitsrichtlinien zu durchbrechen – für weniger als ein Abendessen
Eine gemeinnützige Sicherheitsorganisation setzte ein automatisiertes Werkzeug gegen sieben führende KI-Modelle ein. Zwei versagten kläglich. Die Kosten, um sie zum Fehlverhalten zu bringen? Schon ab 58 Dollar.
Hugging Face hostet Tools zur Erstellung von Bildern intimer Momente ohne Zustimmung, Bericht zeigt
Eine europäische Forschungsorganisation testete die beliebtesten Bildbearbeitungswerkzeuge der Plattform und stellte fest, dass die meisten davon Kleidung von Frauenfotos mit einer einfachen, klaren Anfrage entfernen würden.
Der „Genie-Koeffizient": Warum KI-Agenten genau das tun, was Sie sagten, und nicht das, was Sie meinten
Forscher wünschen sich eine standardisierte Methode, um die Diskrepanz zwischen dem, was Sie eine KI tun bitten, und dem, was sie tatsächlich tut, zu messen. Der Abstand zwischen diesen beiden Dingen wächst, und das ist wichtig.
Gefälschte Vogelbeobachtungen überfluten Foren – KI-Bildtools sind schuld
KI-verbesserte Fotos täuschen Vogelbeobachter-Gemeinden dazu, Arten zu dokumentieren, die es dort nie gab. Wissenschaftler, die auf diese Daten angewiesen sind, haben ein Problem.
Ein Filmstudio verkauft einen KI-"Odyssee"-Klon, um von Nolans Welle zu profitieren
Fountain 0 hat einen Trailer für Odysseus: The Fall veröffentlicht, einen KI-generierten Film, der zeitlich mit Christopher Nolans Blockbuster konkurrieren soll. Das Ergebnis sagt viel darüber aus, wo KI-Filmproduktion tatsächlich steht.
Ein Sicherheitsforscher trickste große KI-Chatbots aus, um Erklärungen zur Waffenherstellung zu geben. Niemand schien es zu interessieren.
Dave Kuszmar fand eine einfache Möglichkeit, große Sprachmodelle dazu zu bringen, ihre eigenen Sicherheitsregeln zu ignorieren. Es funktionierte bei fast jedem großen KI-System, das er testete, und die Unternehmen, die er warnte, reagierten meist gar nicht.