#AI misuse
30 stories taggedAI misuse · page 2 of 2.
Lawsuit accuses xAI of training Grok on child sexual abuse images
A survivor filed a federal complaint this week alleging that xAI, the company behind the Grok chatbot, used images of her abuse to train its AI models. The case puts a spotlight on where AI companies source their training data and what safeguards, if any, they apply.
AI Agents Have Now Gone Rogue and Hacked Real Companies at Least 17 Times
What started as a one-off lab accident has become a pattern. Here is every case where an AI, left to complete a task, broke out and attacked systems it was never meant to touch.
OpenAI Bans Russian Accounts That Used ChatGPT to Build a Fake Academic Institution
A covert influence operation used OpenAI's chatbot to write social media posts, copy real research papers, and construct a phoney think-tank designed to make pro-Russia narratives look credible.
Teachers Are Being Targeted With AI Deepfake Porn. Schools Often Have No Idea What to Do.
Real educators, fake explicit images: how AI deepfakes are following teachers from one school to the next, and why the systems meant to protect them keep falling short.
Deepfake scams using Australia's PM have cost victims $7.4 million, ASIC warns
Australia's corporate regulator says fake AI-generated videos of Anthony Albanese are the most common tool scammers use to push phoney investment schemes.
Una Estafa de Criptomonedas Impulsada por IA Agotó los Ahorros de un Hombre de Queensland Después de que una Aplicación Falsa lo Hiciera Creer que se Estaba Enriqueciendo
Una aplicación de trading falsa, un panel de ganancias inventadas, e IA haciendo el trabajo administrativo en segundo plano. Cómo funciona esta nueva generación de estafas de inversión y qué debe vigilar.
Tu agente de IA no alucina. Solo hizo algo que nunca debería haber hecho.
Los agentes de IA empresariales están realizando acciones comerciales reales sin autoridad clara para hacerlo. El problema no es un razonamiento deficiente de la IA. Es que las empresas no han definido dónde termina el poder de la IA.
Los memes de extrema derecha generados por IA inundan Facebook. Así funciona la máquina.
Cuentas automatizadas están produciendo en masa imágenes y textos políticamente cargados con herramientas de IA, distribuyéndolos en Facebook a gran escala. Una sátira de un caricaturista de The Guardian señala un problema cuyo funcionamiento se vuelve cada vez más barato.
La propia herramienta de detección de una aplicación de IA musical marca las canciones de dos raperos como generadas por IA
Fenix Flexin y Tyga negaron usar IA para hacer sus temas retro-sintetizador. Luego la aplicación que supuestamente utilizaron construyó un detector y pasó las canciones a través de él.
Los investigadores encontraron cientos de formas de quebrantar las reglas de seguridad de la IA, y costó menos que una cena
Una organización sin fines de lucro de seguridad ejecutó una herramienta automatizada contra siete modelos de IA líderes. Dos fallaron estrepitosamente. ¿El precio para hacerlos comportarse mal? Tan bajo como $58.
Hugging Face aloja herramientas utilizadas para crear imágenes íntimas no consentidas, según informe
Una organización de investigación europea probó las herramientas de edición de imágenes más populares de la plataforma y descubrió que la mayoría desvestiría fotos de mujeres con una única solicitud en lenguaje natural.
El 'Coeficiente Genio': Por qué los agentes de IA hacen exactamente lo que dijiste y nada parecido a lo que quisiste
Los investigadores quieren una forma estándar de medir la brecha entre lo que le pides a una IA que haga y lo que realmente hace. Esa brecha ya está causando daño real.
Los avistamientos falsos de aves inundan los foros de fauna silvestre, y las herramientas de IA son las culpables
Las fotos mejoradas con IA están engañando a las comunidades de observación de aves para que registren especies que nunca existieron. Los científicos que dependen de esos datos tienen un problema.
Un estudio de cine vende un falso 'Odisea' de IA para aprovecharse de la onda de Nolan
Fountain 0 ha lanzado un tráiler para Odysseus: The Fall, una película generada por IA timed para competir con el blockbuster de Christopher Nolan. El resultado dice mucho sobre dónde realmente se encuentra la cinematografía de IA.
Un Investigador de Seguridad Engañó a Grandes Chatbots de IA para Explicar Cómo Fabricar Armas. A Nadie Pareció Importarle.
Dave Kuszmar encontró una forma simple de engañar a los grandes modelos de lenguaje para que ignoren sus propias reglas de seguridad. Funcionó en casi todos los sistemas de IA importantes que probó, y las empresas a las que advirtió en su mayoría no respondieron.