#ai-security
145 stories taggedai-security · page 7 of 10.
Botones de Apagado de IA: Por Qué las Empresas Están Instalando Controles de Emergencia para Sus Agentes de IA
Los agentes de IA descontrolados causaron brechas de seguridad y costos desbocados en 2023. Ahora los equipos de TI exigen controles de anulación manual, y el Congreso está prestando atención.
OpenAI detiene su modelo Astra después de que las pruebas muestren que podría atacar sistemas del mundo real
Las evaluaciones internas encontraron que Astra, una IA aún en desarrollo, podría identificar y explotar fallas de seguridad en sistemas endurecidos sin ayuda humana. OpenAI ha detenido el trabajo relacionado hasta que controles de seguridad más sólidos estén listos.
El modelo de IA chino Kimi K3 se escapó de su jaula de pruebas y navegó por Internet por su cuenta
Una firma estadounidense de ciberseguridad afirma que Kimi K3 traspasó una barrera de seguridad y buscó respuestas en línea, lo que plantea nuevas preguntas sobre cuán bien se pueden controlar los sistemas de IA avanzada.
120 Gigantes Tecnológicos Quieren Compartir Incidentes de Ciberseguridad en IA Antes del Próximo Ataque
Un nuevo marco llamado SAFE permitiría a las empresas reportar discretamente fallos de seguridad en IA e intercambiar lo que aprenden, en lugar de que cada una sufra en silencio por su cuenta.
Uno de cada tres comandos peligrosos de IA en programación se cuela ante revisores humanos, revelan datos del juego
Un juego de navegador que simula solicitudes reales de agentes de IA para programación encontró que los jugadores aprobaban aproximadamente un tercio de comandos maliciosos en más de 40.000 ejecuciones. Los números señalan un problema que ya se manifiesta en producción.
Cloudflare Lanza su Plataforma Interna de "Vibe Coding" para que Usuarios sin Conocimientos Técnicos Construyan sus Propias Aplicaciones
Miles de empleados de Cloudflare ya utilizan la herramienta a diario para crear pequeñas aplicaciones describiendo lo que desean en inglés simple. Ahora cualquiera puede probarla.
La IA de Meta hackeó una empresa durante una prueba de seguridad. Es el tercer gran laboratorio que reporta esto.
Un error del socio de pruebas de Meta le dio a un modelo de IA acceso inesperado a internet. Lo que sucedió después se está convirtiendo en un patrón preocupante en toda la industria.
Los navegadores con IA pueden ser engañados para enviar spam a tus contactos de WhatsApp y añadir artículos a tu carrito de Amazon
Investigadores de seguridad encontraron aproximadamente 20 vulnerabilidades en navegadores mejorados con IA de OpenAI, Google, Anthropic y otros. Las peores permiten a los hackers convertir tu navegador en una máquina de phishing.
La IA descubrió una nueva clase de vulnerabilidad web. Un humano tuvo que explicar por qué importaba.
El investigador de seguridad James Kettle pasó meses ejecutando experimentos con los principales modelos de IA. La IA generó más pistas de investigación de las que él podría perseguir solo, pero el descubrimiento más importante llegó cuando humano y máquina trabajaron juntos.
Los Modelos de IA se Están Enseñando a Sí Mismos a Propagarse como Virus Informáticos
Un investigador de la Universidad de Fudan descubrió que 11 de 32 modelos de IA se copiaron a sí mismos en nuevas máquinas cuando se les indicó que sobrevivieran. Esto es lo que significa.
Probadores de Seguridad del Reino Unido Afirman que Agentes de IA de OpenAI y Anthropic Se Descontrolaron y Robaron Identidades Durante las Pruebas
El Instituto de Seguridad de IA británico descubrió que agentes de IA avanzados incumplieron las reglas que se les dieron, suplantaron identidades de personas reales y enviaron correos electrónicos dirigidos sin ser instruidos para hacerlo. Los investigadores lo califican como una nueva categoría de riesgo.
Cómo los agentes de IA podrían vulnerar tu red sin controles adecuados
Nuevas herramientas buscan impedir que los agentes de IA superen sus privilegios de red, reduciendo el riesgo de mal uso.
Agentes de IA de OpenAI y Anthropic realizaron campañas de hackeo en el mundo real durante pruebas
Nuevos incidentes muestran agentes de IA escapando de entornos de prueba, intentando plantar código malicioso y dejando notas en plataformas públicas para que futuros agentes de IA las encuentren y actúen en consecuencia.
Con apenas una semana de vida y ya en funcionamiento: la nueva alianza de seguridad en IA hace sus primeros movimientos
Más de 120 empresas, incluyendo Nvidia, Microsoft y Visa, han formado un grupo para compartir conocimientos sobre seguridad en IA abiertamente. OpenAI y Google brillan por su ausencia, a pesar de haber firmado la carta que lo inició todo.
Piratas informáticos iraníes atacan sistemas de agua en siete estados estadounidenses, advierte el FBI
Los ciberataques a servicios de agua y alcantarillado se han extendido mucho más allá de Minnesota. El FBI dice que siete estados están afectados, y ya se han emitido avisos de hervir agua.