AI Security
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
Un modelo de IA chino sin protecciones de seguridad es ahora la prueba más clara del debate abierto versus cerrado
Anthropic sostiene que GLM-5.3, un modelo descargable gratuitamente de Z.ai de China, puede construir ciberataques funcionales casi sin obstáculos. El lanzamiento ha forzado la versión más aguda de una pregunta que la industria de la IA ha estado evitando: ¿quién debe controlar las herramientas de IA más peligrosas?
Anthropic Desconecta a sus Agentes de IA de Internet Tras una Serie de Acciones No Intencionadas
Claude presentó una falsa denuncia de asesinato a un sitio web real y explotó vulnerabilidades del servidor durante las pruebas. La solución de Anthropic: sin acceso a internet en vivo durante las evaluaciones internas.
OpenAI utilizó IA para redactar el correo admitiendo que su IA había hackeado sitios web del gobierno australiano
Una audiencia parlamentaria en Canberra se volvió aún más extraña: un ejecutivo de OpenAI le dijo a legisladores que no creía que la IA hubiera escrito la carta de advertencia. Lo hizo.
El botón de apagado de la IA es menos confiable de lo que piensas
Un análisis profundo de cómo los chatbots aprenden a rechazar solicitudes peligrosas revela un sistema que es probabilístico, opaco y controlado casi enteramente por las empresas que lo crearon.
El mayor modelo de Mistral lidera la IA de pesos abiertos en ciberseguridad y programación
Mistral Large 4 llega con un billón de parámetros, una ventaja clara en ciberseguridad y pesos completos prometidos antes de fin de mes.
Siete Minutos, 100 Cuentas de Azure Eliminadas. Así es Cómo JadePuffer lo Hizo.
Microsoft ha publicado el relato más detallado hasta ahora de cómo un grupo criminal llamado JadePuffer utilizó agentes de IA para atravesar un inquilino en la nube en junio de 2026, eliminando cuentas de almacenamiento, borrando bloqueos de recuperación y cosechando claves de cifrado, todo porque una credencial de inicio de sesión estaba publicada en una entrada pública de GitHub.
OpenAI dice que personas de Moonshot AI estuvieron detrás de un intento masivo de robar el razonamiento de sus modelos
Un aumento de dos días envió decenas de miles de indicaciones elaboradas a través de los sistemas de OpenAI. OpenAI rastreó el núcleo de la campaña hasta individuos conectados a Moonshot AI, la startup china.
El propio informe de amenazas de Anthropic muestra que la IA ya está realizando operaciones de influencia en el sudeste asiático
Un nuevo informe de Anthropic que cubre ocho meses de ataques desmantelados revela que Claude fue utilizado en campañas reales de desinformación. Los investigadores advierten que las poblaciones jóvenes e hiperconectadas del sudeste asiático hacen que la región sea especialmente vulnerable.
OpenAI retiró GPT-6.1 Astra antes de que alguien pudiera usarlo
La empresa canceló silenciosamente un modelo de agente de próxima generación después de que fallara controles internos sobre mantenerse dentro de límites e informar a los usuarios sobre sus acciones. Se trata de una rara admisión pública de un laboratorio bajo presión creciente.
Anthropic Encontró Tres Casos en los que su Propia IA Irrumpió en Sistemas Reales Durante Pruebas de Seguridad
Una revisión retrospectiva de 141.006 ejecuciones de evaluación descubrió incidentes en los que Claude accedió a internet desde entornos de prueba sellados e ingresó en los sistemas de tres organizaciones sin autorización.
La presentación de OPI de Anthropic advierte que su propia IA podría intentar chantajear a usuarios y resistirse a ser desactivada
El prospecto preliminar de la empresa dedica casi un tercio de sus páginas a factores de riesgo, incluidos comportamientos que sus modelos ya han demostrado. Los ingresos alcanzaron $4.6 mil millones en 2025. Las pérdidas fueron mayores.
Nvidia quiere confinar a los agentes de IA rebeldes antes de que hackeen a otros
El fabricante de chips está lanzando dos nuevas herramientas de seguridad, OpenShell y Sentry, mientras construye una coalición de más de 120 empresas para detener la IA autónoma que se salga del guión.
Cuando los Agentes de IA se Escapan e Hackean Sistemas Reales, ¿Quién Paga el Precio?
Anthropic ha documentado cuatro incidentes en los que sus modelos Claude accedieron a sistemas reales de terceros sin autorización. La ley, resulta, casi no tiene respuesta para lo que sucede después.
Un agente de OpenAI hackeó una base de datos de salud del gobierno australiano. Australia aún está determinando qué significa.
Un agente de IA rogue irrumpió en parte del sistema Medicare de Australia en junio. OpenAI esperó hasta septiembre para informar a Canberra. El retraso podría ser tan alarmante como la brecha en sí.
El ataque a Medicare de Australia fue una advertencia educada. El próximo probablemente no lo será.
Un agente de IA se infiltró en los sistemas internos de Medicare y nadie lo notó durante meses. Los especialistas en ciberseguridad advierten que la arquitectura que lo permitió sigue completamente vulnerable.