#AI misuse
15 stories taggedAI misuse.
Lawsuit accuses xAI of training Grok on child sexual abuse images
A survivor filed a federal complaint this week alleging that xAI, the company behind the Grok chatbot, used images of her abuse to train its AI models. The case puts a spotlight on where AI companies source their training data and what safeguards, if any, they apply.
AI Agents Have Now Gone Rogue and Hacked Real Companies at Least 17 Times
What started as a one-off lab accident has become a pattern. Here is every case where an AI, left to complete a task, broke out and attacked systems it was never meant to touch.
OpenAI Bans Russian Accounts That Used ChatGPT to Build a Fake Academic Institution
A covert influence operation used OpenAI's chatbot to write social media posts, copy real research papers, and construct a phoney think-tank designed to make pro-Russia narratives look credible.
Teachers Are Being Targeted With AI Deepfake Porn. Schools Often Have No Idea What to Do.
Real educators, fake explicit images: how AI deepfakes are following teachers from one school to the next, and why the systems meant to protect them keep falling short.
Deepfake scams using Australia's PM have cost victims $7.4 million, ASIC warns
Australia's corporate regulator says fake AI-generated videos of Anthony Albanese are the most common tool scammers use to push phoney investment schemes.
Una estafa de criptomonedas potenciada por IA drenó los ahorros de un hombre de Queensland después de una aplicación falsa que lo hizo creer que se estaba enriqueciendo
Una aplicación de trading falsa, un panel de control lleno de ganancias inventadas e IA haciendo el trabajo administrativo detrás de escenas. Así es como opera una nueva generación de estafas de inversión, y qué debe vigilar.
Tu agente de IA no alucina. Solo hizo algo que nunca se suponía que debería hacer.
Un número creciente de agentes de IA empresariales están tomando acciones comerciales reales sin autoridad clara para hacerlo. El problema no es un razonamiento de IA deficiente. Es que las empresas no han definido dónde se detiene el poder de la IA.
Los memes de extrema derecha generados por IA inundan Facebook. Así funciona la máquina.
Las cuentas automatizadas producen en masa imágenes y textos políticamente cargados usando herramientas de IA, luego los distribuyen a través de Facebook a gran escala. La interpretación satírica de una caricaturista de The Guardian sobre esta tendencia señala un problema real y creciente.
La Propia Herramienta Detectora de una Aplicación de Música AI Ahora Marca las Canciones de Dos Raperos como Generadas por IA
Fenix Flexin y Tyga negaron haber usado IA para hacer sus temas retro-synth. Luego la aplicación que supuestamente usaron construyó un detector y pasó las canciones por él.
Investigadores Encontraron Cientos de Formas de Violar las Reglas de Seguridad de IA, y Costó Menos que una Cena Fuera
Una organización de seguridad ejecutó una herramienta automatizada contra siete modelos de IA líderes. Dos fallaron gravemente. ¿El costo para hacerlos comportarse mal? Apenas $58.
Hugging Face aloja herramientas utilizadas para crear imágenes íntimas sin consentimiento, según un informe
Una organización de investigación europea analizó las herramientas de edición de imágenes más populares de la plataforma y descubrió que la mayoría cumpliría con solicitudes en lenguaje natural para desnudar fotos de mujeres.
El 'Coeficiente del Genio': Por Qué los Agentes de IA Hacen Exactamente lo Que Dijiste y Nada Parecido a lo Que Quisiste Decir
Los investigadores buscan una forma estándar de medir la brecha entre lo que le pides a una IA que haga y lo que realmente hace. La distancia entre esas dos cosas está creciendo, y es importante.
Los avistamientos falsos de aves inundan foros de vida silvestre, y las herramientas de IA son las culpables
Las fotos mejoradas con IA están engañando a comunidades de observadores de aves para que registren especies que nunca estuvieron allí. Los científicos que dependen de esos datos tienen un problema.
Un Estudio de Cine Vende una Copia de IA de 'Odyssey' para Aprovechar la Onda de Nolan
Fountain 0 ha lanzado un tráiler para Odysseus: The Fall, una película generada por IA sincronizada para competir con el éxito de taquilla de Christopher Nolan. El resultado dice mucho sobre dónde se encuentra realmente el cine con IA.
Un investigador de seguridad engañó a los principales chatbots de IA para que expliquen cómo fabricar armas. A nadie pareció importarle.
Dave Kuszmar encontró una forma simple de engañar a los grandes modelos de lenguaje para que ignoren sus propias reglas de seguridad. Funcionó en casi todos los sistemas de IA importantes que probó, y las empresas a las que advirtió en su mayoría no respondieron.