AI Security · Page 18
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
OpenAI creó una IA que hackea sus propios modelos para hacerlos más seguros
GPT-Red es un sistema automatizado de pruebas de seguridad que ataca los chatbots propios de OpenAI para encontrar vulnerabilidades antes de que lo hagan atacantes reales. Ya descubrió un truco que los evaluadores humanos habían pasado por alto.
Suno Hackeada: La Filtración Expone Cómo la Herramienta de Música AI Pudo Haber Raspado Millones de Canciones
Un hacker se infiltró en los sistemas de Suno en noviembre de 2025, accedió a datos de clientes y encontró código fuente que supuestamente muestra que el generador de música AI extrajo audio de YouTube, Deezer y feeds de podcasts sin permiso.
Microsoft corrige un récord de 570 fallos de seguridad, y dice que la IA los encontró
La mayor actualización de seguridad mensual de la empresa incluye dos errores que ya están siendo utilizados por hackers. Las herramientas de IA explican por qué el número es tan alto, y por qué se mantendrá así.
Un correo electrónico envenenado puede reescribir secretamente la memoria de tu asistente de IA
Un nuevo ataque llamado MemGhost muestra cómo un único mensaje en tu bandeja de entrada puede implantar un "hecho" falso en la memoria a largo plazo de un agente de IA, sin que jamás lo sepas.
GPT-5.6 Sol de OpenAI está eliminando archivos por su cuenta. OpenAI advirtió que esto podría suceder.
Desarrolladores reportan la pérdida de bases de datos y archivos de Mac después de que el nuevo modelo realizara acciones que nadie le solicitó. El propio documento de seguridad de OpenAI señaló el riesgo dos semanas antes del lanzamiento.
Grok Build estaba subiendo silenciosamente tu código completo a la nube. xAI lo ha desactivado.
Investigadores descubrieron que la nueva herramienta de codificación de xAI enviaba mucho más data a sus servidores de lo que los usuarios sabían, incluyendo archivos que habían excluido explícitamente y credenciales que ya habían eliminado.
YouTube envió a 1.8 millones de personas a sitios de "desnudificación" en cuatro meses
Un nuevo informe revela que las plataformas convencionales, no los rincones oscuros de internet, son las principales vías que dirigen tráfico a herramientas que desnudan a las personas sin su consentimiento.
Un Investigador de Seguridad Engañó a Grandes Chatbots de IA para Explicar Cómo Fabricar Armas. A Nadie Pareció Importarle.
Dave Kuszmar encontró una forma simple de engañar a los grandes modelos de lenguaje para que ignoren sus propias reglas de seguridad. Funcionó en casi todos los sistemas de IA importantes que probó, y las empresas a las que advirtió en su mayoría no respondieron.
Las Empresas Implementaron Agentes de IA sin Protecciones. Ahora Pagan por Retrofitearlos.
Una encuesta de 573 líderes técnicos encuentra que la mayoría de "agentes" empresariales son chatbots sofisticados, hardware costoso funciona a media capacidad, y dos tercios de las empresas avanzan hacia supervisión humana nula en decisiones de IA.
Slopsquatting: la amenaza oculta dentro de las herramientas de codificación de IA
Cuando los asistentes de IA inventan paquetes de software que no existen, los delincuentes registran esos nombres y los llenan de malware. Así es como funciona el ataque y qué pueden hacer los desarrolladores.
El CEO de Microsoft advierte que las empresas pagan por IA dos veces: en dinero y en secretos
Satya Nadella dice que cada indicación, corrección y flujo de trabajo que las empresas introducen en los modelos de IA entrena silenciosamente a las compañías que pagan. Quiere que las empresas recuperen el control.
Por qué es cada vez más difícil detectar rostros generados por IA
Los rostros generados por IA se vuelven cada vez más convincentes, lo que dificulta que las personas ordinarias detecten falsificaciones digitales.
Los investigadores están convirtiendo el arma favorita de los piratas informáticos en su contra
Una empresa de ciberseguridad descubrió que ocultar instrucciones especiales dentro de credenciales en la nube puede hacer que las herramientas de piratería con IA se desactiven automáticamente.