#ai-security
105 stories taggedai-security · page 7 of 7.
Por qué la seguridad de IA necesita validación en el mundo real
Los agentes de IA van más allá de roles asesores en ciberseguridad. Pentera aboga por decisiones basadas en evidencia sobre riesgos teóricos.
Un fallo de seguridad en la extensión Chrome de Claude ha sobrevivido a ocho intentos de corrección y puede exponer tu Gmail
El error, apodado ClaudeBleed, permite que otras extensiones del navegador lean silenciosamente los correos electrónicos y eventos del calendario que Claude ha procesado. Ocho parches después, sigue ahí.
Un bot de IA irrumpió en Hugging Face. Hugging Face usó IA para atraparlo.
La plataforma de investigación en IA divulgó un ataque ejecutado íntegramente por software autónomo, e incidentes exponían un punto ciego que toda empresa que confíe en herramientas de seguridad basadas en IA necesita comprender.
Forg365: El servicio de $400 al mes que secuestra tu correo de trabajo
Forg365, un kit de phishing vendido en Telegram, utiliza IA para suplantar herramientas comerciales conocidas y robar acceso a cuentas de Microsoft 365.
OpenAI Creó una IA que Hackea sus Propios Modelos para Hacerlos Más Seguros
GPT-Red es un sistema automatizado de pruebas de seguridad que ataca los propios chatbots de OpenAI para encontrar vulnerabilidades antes que los atacantes reales. Ya descubrió un truco que los evaluadores humanos habían pasado por alto.
Suno Hackeado: Filtración Expone Cómo la Herramienta de Música IA Pudo Haber Raspado Millones de Canciones
Un hacker irrumpió en los sistemas de Suno en noviembre de 2025, accedió a datos de clientes y encontró código fuente que supuestamente muestra que el generador de música IA extrajo audio de YouTube, Deezer y feeds de podcasts sin permiso.
Microsoft corrige un récord de 570 vulnerabilidades de seguridad, y dice que la IA las encontró
La mayor actualización de seguridad mensual de la compañía incluye dos errores que ya están siendo utilizados por los hackers. Las herramientas de IA son la razón por la que el número es tan alto, y por qué se mantendrá alto.
Un Email Envenenado Puede Reescribir Secretamente la Memoria de tu Asistente de IA
Un ataque recién descrito llamado MemGhost muestra cómo un único mensaje en tu bandeja de entrada puede plantar un "dato" falso en la memoria a largo plazo de un agente de IA, sin que jamás lo sepas.
Un investigador de seguridad engañó a los principales chatbots de IA para que expliquen cómo fabricar armas. A nadie pareció importarle.
Dave Kuszmar encontró una forma simple de engañar a los grandes modelos de lenguaje para que ignoren sus propias reglas de seguridad. Funcionó en casi todos los sistemas de IA importantes que probó, y las empresas a las que advirtió en su mayoría no respondieron.
Las empresas implementaron agentes de IA sin medidas de seguridad. Ahora están pagando para retrofitear.
Una encuesta de 573 líderes técnicos encuentra que la mayoría de los "agentes" empresariales son chatbots disfrazados, el hardware costoso está semiinactivo, y dos tercios de las empresas avanzan hacia la supervisión humana cero de decisiones de IA.
El CEO de Microsoft advierte que las empresas pagan por IA dos veces: en efectivo y en secretos
Satya Nadella dice que cada indicación, corrección y flujo de trabajo que las empresas introducen en modelos de IA entrena silenciosamente a las compañías que pagan. Quiere que las empresas recuperen el control.
Por qué es cada vez más difícil detectar rostros generados por IA
Los rostros generados por IA se vuelven cada vez más convincentes, lo que dificulta que las personas ordinarias detecten falsificaciones digitales.
Apple demanda a OpenAI por un presunto error interno que mantuvo el acceso de un ingeniero despedido durante semanas
Un fallo de software permitió que un ingeniero de Apple que se fue retuviera acceso a archivos confidenciales de la empresa después de unirse a OpenAI. Apple sostiene que no fue un accidente.
Apple demanda a OpenAI por supuesto robo de secretos de hardware y tácticas de espionaje en entrevistas de trabajo
Una demanda de 41 páginas acusa a OpenAI de adiestrar a empleados que se marchaban de Apple para evadir controles de seguridad, contrabandear archivos confidenciales y llevar piezas prototipo a entrevistas de trabajo.
Los Investigadores Están Utilizando el Arma de IA Favorita de los Hackers en su Contra
Una empresa de ciberseguridad descubrió que ocultar instrucciones especiales dentro de credenciales en la nube puede hacer que las herramientas de piratería de IA se desactiven automáticamente.