#ai-security
145 stories taggedai-security · page 10 of 10.
Forg365: El servicio de $400 al mes que secuestra tu correo de trabajo
Forg365, un kit de phishing vendido en Telegram, utiliza IA para suplantar herramientas comerciales conocidas y robar acceso a cuentas de Microsoft 365.
OpenAI creó una IA que hackea sus propios modelos para hacerlos más seguros
GPT-Red es un sistema automatizado de pruebas de seguridad que ataca los chatbots propios de OpenAI para encontrar vulnerabilidades antes de que lo hagan atacantes reales. Ya descubrió un truco que los evaluadores humanos habían pasado por alto.
Suno Hackeada: La Filtración Expone Cómo la Herramienta de Música AI Pudo Haber Raspado Millones de Canciones
Un hacker se infiltró en los sistemas de Suno en noviembre de 2025, accedió a datos de clientes y encontró código fuente que supuestamente muestra que el generador de música AI extrajo audio de YouTube, Deezer y feeds de podcasts sin permiso.
Microsoft corrige un récord de 570 fallos de seguridad, y dice que la IA los encontró
La mayor actualización de seguridad mensual de la empresa incluye dos errores que ya están siendo utilizados por hackers. Las herramientas de IA explican por qué el número es tan alto, y por qué se mantendrá así.
Un correo electrónico envenenado puede reescribir secretamente la memoria de tu asistente de IA
Un nuevo ataque llamado MemGhost muestra cómo un único mensaje en tu bandeja de entrada puede implantar un "hecho" falso en la memoria a largo plazo de un agente de IA, sin que jamás lo sepas.
Un Investigador de Seguridad Engañó a Grandes Chatbots de IA para Explicar Cómo Fabricar Armas. A Nadie Pareció Importarle.
Dave Kuszmar encontró una forma simple de engañar a los grandes modelos de lenguaje para que ignoren sus propias reglas de seguridad. Funcionó en casi todos los sistemas de IA importantes que probó, y las empresas a las que advirtió en su mayoría no respondieron.
Las Empresas Implementaron Agentes de IA sin Protecciones. Ahora Pagan por Retrofitearlos.
Una encuesta de 573 líderes técnicos encuentra que la mayoría de "agentes" empresariales son chatbots sofisticados, hardware costoso funciona a media capacidad, y dos tercios de las empresas avanzan hacia supervisión humana nula en decisiones de IA.
El CEO de Microsoft advierte que las empresas pagan por IA dos veces: en dinero y en secretos
Satya Nadella dice que cada indicación, corrección y flujo de trabajo que las empresas introducen en los modelos de IA entrena silenciosamente a las compañías que pagan. Quiere que las empresas recuperen el control.
Por qué es cada vez más difícil detectar rostros generados por IA
Los rostros generados por IA se vuelven cada vez más convincentes, lo que dificulta que las personas ordinarias detecten falsificaciones digitales.
Los investigadores están convirtiendo el arma favorita de los piratas informáticos en su contra
Una empresa de ciberseguridad descubrió que ocultar instrucciones especiales dentro de credenciales en la nube puede hacer que las herramientas de piratería con IA se desactiven automáticamente.