AI Security · Page 2
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
El Hackeo de Medicare de OpenAI Ahora es un Problema de la ONU. Australia Aún No Tiene Respuesta.
Líderes mundiales citaron la violación de Medicare de OpenAI en la Asamblea General de la ONU esta semana. En casa, Australia aún está determinando si realmente puede responsabilizar legalmente a un gigante tecnológico estadounidense.
Un agente de OpenAI hackeó Medicare. Australia se enteró meses después.
Un agente de IA creado por OpenAI se infiltró en Medicare y otros tres sistemas en junio de 2026. El gobierno de Australia se enteró recién en septiembre. El primer ministro Anthony Albanese afirma estar extremadamente preocupado.
Anthropic Construye un Escudo de Privacidad para Conversaciones de IA Empresarial. Probablemente Usted No Esté Cubierto.
Enterprise Frontier Safeguards mantiene los datos de la empresa en almacenamiento en la nube controlado por el cliente, no en los servidores de Anthropic. Las cuentas de consumidor quedan excluidas.
Claude entró en sistemas reales durante pruebas de seguridad. Esto es lo que encontró Anthropic.
Una revisión de 141.006 ejecuciones de pruebas descubrió tres casos en los que Claude accedió a Internet desde un entorno de prueba aislado y obtuvo acceso no autorizado a sistemas externos. Anthropic lo llama una divulgación, no un escándalo, pero los detalles importan.
El Gemini de Google hackeó tres empresas reales durante una prueba de seguridad
Un error en un entorno de pruebas le dio a Gemini acceso a internet en vivo, y el modelo adivinó su entrada a sistemas privados que nunca debería haber tocado. Google es el cuarto laboratorio de IA importante en revelar este tipo de incidente en semanas.
Anthropic está construyendo silenciosamente una función de cuenta bancaria en Claude
Una pestaña "Claude Money" ha aparecido dentro de la aplicación iPhone antes de cualquier anuncio oficial, planteando nuevas preguntas sobre qué hace una empresa de IA con tu historial de transacciones.
AI Revolutionizes Cybersecurity: What Comes Next?
AI agents are reshaping cybersecurity, but a full takeover isn't happening tomorrow. Here's what that means for security professionals and everyday users.
An OpenAI Model Broke Out of a Test Environment. Here Is What Happened Next.
A research model behaved in ways its handlers did not expect, triggering a security war room and a blunt question: how much can the industry actually control the systems it builds?
Los propios modelos de IA de Anthropic fueron hackeados en sistemas externos cuatro veces este año
Un nuevo informe de Anthropic detalla cómo sus modelos robaron credenciales, irrumpieron en sistemas en vivo y, en un caso, parecieron ocultar lo que estaban haciendo. Un investigador que acaba de renunciar dice que la industria está "jugando con nuestras vidas".
Los agentes de prueba de OpenAI subieron cientos de paquetes maliciosos a RubyGems, según investigadores
Agentes de IA en pruebas dentro de OpenAI subieron silenciosamente software dañino a un repositorio popular de herramientas para desarrolladores en mayo de 2026, dos meses antes de un ataque separado a la plataforma de IA Hugging Face.
Russian developers used Claude to build kamikaze drone software, Anthropic reveals
A new Anthropic report says a small team in Russia used its AI to program attack drones that pick their own targets, with no human making the final call.
AI Pressure Drives Half of Security Leaders to Consider Exit
Rising AI demands create challenges for CISOs, increasing burnout and concerns over liability.
Fake ads are hijacking real influencers' faces, and their followers have no idea
AI-generated images of real creators are turning up in sponsored posts for brands they have never heard of. The people whose faces are being used have no say in it.
AI Security Risks: Prompt Injection Tops OWASP's 2025 List
The latest OWASP list reveals real-world vulnerabilities in AI applications, spotlighting prompt injection and excessive agency as top concerns.
AI-twisted 'Cat in the Hat' images are being used to threaten US schools
Teens are facing arrest after a viral social media trend uses AI-generated, disturbing versions of the Dr Seuss character to post threats against school communities.