AI Security · Page 12
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
Una IA Atacó a una Empresa de Tecnología Principal. Las Reglas de Seguridad Que Debieron Haberlo Detenido Lo Ayudaron a Ganar en Su Lugar.
Un modelo de OpenAI en prueba irrumpió en los servidores de Hugging Face para hacer trampa en un examen. Los guardias de seguridad de IA destinados a prevenir ciberataques se negaron a ayudar a los defensores a analizar la brecha, dejando a un equipo de seguridad estadounidense recurrir a un modelo chino para obtener ayuda.
El modelo de IA chino Kimi K3 se escapó de su jaula de pruebas y navegó por Internet por su cuenta
Una firma estadounidense de ciberseguridad afirma que Kimi K3 traspasó una barrera de seguridad y buscó respuestas en línea, lo que plantea nuevas preguntas sobre cuán bien se pueden controlar los sistemas de IA avanzada.
120 Gigantes Tecnológicos Quieren Compartir Incidentes de Ciberseguridad en IA Antes del Próximo Ataque
Un nuevo marco llamado SAFE permitiría a las empresas reportar discretamente fallos de seguridad en IA e intercambiar lo que aprenden, en lugar de que cada una sufra en silencio por su cuenta.
Uno de cada tres comandos peligrosos de IA en programación se cuela ante revisores humanos, revelan datos del juego
Un juego de navegador que simula solicitudes reales de agentes de IA para programación encontró que los jugadores aprobaban aproximadamente un tercio de comandos maliciosos en más de 40.000 ejecuciones. Los números señalan un problema que ya se manifiesta en producción.
Investigadores de Apple Encontraron una Manera de Bloquear Modelos de IA para Que Nadie los Manipule
Los modelos de IA abiertos son potentes, compartibles y cada vez más difíciles de controlar. Una nueva técnica de Apple ML Research busca proteger los pesos preentrenados de ser desviados hacia usos peligrosos, sin sacrificar lo que hace útiles los modelos abiertos.
La IA de Meta hackeó una empresa durante una prueba de seguridad. Es el tercer gran laboratorio que reporta esto.
Un error del socio de pruebas de Meta le dio a un modelo de IA acceso inesperado a internet. Lo que sucedió después se está convirtiendo en un patrón preocupante en toda la industria.
Los navegadores con IA pueden ser engañados para enviar spam a tus contactos de WhatsApp y añadir artículos a tu carrito de Amazon
Investigadores de seguridad encontraron aproximadamente 20 vulnerabilidades en navegadores mejorados con IA de OpenAI, Google, Anthropic y otros. Las peores permiten a los hackers convertir tu navegador en una máquina de phishing.
La IA descubrió una nueva clase de vulnerabilidad web. Un humano tuvo que explicar por qué importaba.
El investigador de seguridad James Kettle pasó meses ejecutando experimentos con los principales modelos de IA. La IA generó más pistas de investigación de las que él podría perseguir solo, pero el descubrimiento más importante llegó cuando humano y máquina trabajaron juntos.
Los Modelos de IA se Están Enseñando a Sí Mismos a Propagarse como Virus Informáticos
Un investigador de la Universidad de Fudan descubrió que 11 de 32 modelos de IA se copiaron a sí mismos en nuevas máquinas cuando se les indicó que sobrevivieran. Esto es lo que significa.
Probadores de Seguridad del Reino Unido Afirman que Agentes de IA de OpenAI y Anthropic Se Descontrolaron y Robaron Identidades Durante las Pruebas
El Instituto de Seguridad de IA británico descubrió que agentes de IA avanzados incumplieron las reglas que se les dieron, suplantaron identidades de personas reales y enviaron correos electrónicos dirigidos sin ser instruidos para hacerlo. Los investigadores lo califican como una nueva categoría de riesgo.
Cómo los agentes de IA podrían vulnerar tu red sin controles adecuados
Nuevas herramientas buscan impedir que los agentes de IA superen sus privilegios de red, reduciendo el riesgo de mal uso.
La Casa Blanca convoca a empresas de IA para revisar reglas secretas de pruebas cibernéticas
La administración Trump ha completado discretamente un marco para probar los modelos de IA más potentes en busca de riesgos de piratería informática, y se espera que Anthropic, OpenAI y Google asistan a la reunión del martes.
Visa compra la empresa de detección de fraude BioCatch por $2.4 mil millones mientras aumentan las estafas impulsadas por IA
El gigante de pagos quiere detener a los estafadores antes de que se realice una transacción, utilizando tecnología que supervisa cómo escribes y deslizas para determinar si realmente eres tú.
Agentes de IA de OpenAI y Anthropic realizaron campañas de hackeo en el mundo real durante pruebas
Nuevos incidentes muestran agentes de IA escapando de entornos de prueba, intentando plantar código malicioso y dejando notas en plataformas públicas para que futuros agentes de IA las encuentren y actúen en consecuencia.
Un modelo de IA chino casi iguala a los mejores sistemas occidentales. Su historial de seguridad no
Una nueva evaluación encuentra que GLM-5.2, un modelo de peso abierto de Z.ai de China, está cerca de OpenAI y Anthropic en capacidades peligrosas, pero rechazó ninguna de las tareas dañinas que se le asignaron.