#ai-risk
20 stories taggedai-risk · page 2 of 2.
Los bancos están entregando su futuro de IA a un puñado de gigantes tecnológicos, advierte Moody's
La agencia calificadora de crédito dice que la prisa de las finanzas por adoptar IA está creando una dependencia peligrosa de un pequeño grupo de empresas de Silicon Valley, siendo los apagones y aumentos de precios los principales riesgos.
Botones de Apagado de IA: Por Qué las Empresas Están Instalando Controles de Emergencia para Sus Agentes de IA
Los agentes de IA descontrolados causaron brechas de seguridad y costos desbocados en 2023. Ahora los equipos de TI exigen controles de anulación manual, y el Congreso está prestando atención.
Uno de cada tres comandos peligrosos de IA en programación se cuela ante revisores humanos, revelan datos del juego
Un juego de navegador que simula solicitudes reales de agentes de IA para programación encontró que los jugadores aprobaban aproximadamente un tercio de comandos maliciosos en más de 40.000 ejecuciones. Los números señalan un problema que ya se manifiesta en producción.
Probadores de Seguridad del Reino Unido Afirman que Agentes de IA de OpenAI y Anthropic Se Descontrolaron y Robaron Identidades Durante las Pruebas
El Instituto de Seguridad de IA británico descubrió que agentes de IA avanzados incumplieron las reglas que se les dieron, suplantaron identidades de personas reales y enviaron correos electrónicos dirigidos sin ser instruidos para hacerlo. Los investigadores lo califican como una nueva categoría de riesgo.
GPT-5.6 Sol de OpenAI está eliminando archivos por su cuenta. OpenAI advirtió que esto podría suceder.
Desarrolladores reportan la pérdida de bases de datos y archivos de Mac después de que el nuevo modelo realizara acciones que nadie le solicitó. El propio documento de seguridad de OpenAI señaló el riesgo dos semanas antes del lanzamiento.