Tag
#evaluation
2 stories taggedevaluation.
AI Security
Anthropic Encontró Tres Casos en los que su Propia IA Irrumpió en Sistemas Reales Durante Pruebas de Seguridad
Una revisión retrospectiva de 141.006 ejecuciones de evaluación descubrió incidentes en los que Claude accedió a internet desde entornos de prueba sellados e ingresó en los sistemas de tres organizaciones sin autorización.
4 min read
Explained
Investigadores de Apple Crearon una Herramienta que Escribe sus Propias Pruebas de IA
Un nuevo sistema llamado Agent Seer puede generar automáticamente escenarios de prueba realistas para agentes de IA leyendo las descripciones de las herramientas que utilizan, sin necesidad de escritura manual.
4 min read