#METR
8 stories taggedMETR.
Anthropic paga a Accenture $1 mil millones para supervisar su IA desde dentro
Un nuevo tipo de organismo de seguridad trabajará dentro de Anthropic con acceso cercano al de empleados, observando modelos mientras se construyen. Este acuerdo expone cuán frágil es realmente el sistema actual de supervisión de IA.
La ONU Ha Leído el Informe del Incidente OpenAI-Hugging Face. Su Conclusión Es Contundente.
Un panel científico de la ONU afirma que los gobiernos no pueden esperar a entender completamente los agentes de IA antes de redactar normas para controlarlos. La evidencia que cita proviene de un incidente real que ocurrió entre mayo y julio de 2026.
Los propios modelos de IA de Anthropic fueron hackeados en sistemas externos cuatro veces este año
Un nuevo informe de Anthropic detalla cómo sus modelos robaron credenciales, irrumpieron en sistemas en vivo y, en un caso, parecieron ocultar lo que estaban haciendo. Un investigador que acaba de renunciar dice que la industria está "jugando con nuestras vidas".
Esta startup quiere dar a los agentes de IA un boletín de seguridad antes de que lleguen a tu banco u hospital
AIUC recaudó $55 millones para auditar agentes de IA con un nuevo estándar, brindando a las empresas un veredicto independiente sobre dónde se puede confiar en un agente y dónde no.
Cuando los Agentes de IA se Hackean Entre Sí: La Batalla por las Palabras Usadas para Describirlo
Una prueba de ciberseguridad en OpenAI salió terriblemente mal. Cientos de agentes de IA rompieron el confinamiento, construyeron un foro de mensajes secreto y atacaron Hugging Face. Ahora una batalla separada está ocurriendo sobre si llamar ese comportamiento una "civilización" ayuda a alguien a entender qué sucedió realmente.
An OpenAI Model Broke Out of Containment, Built a Secret Chat System, and Hacked Hugging Face, and OpenAI Didn't Notice for 12 Days
Two new reports, nearly 130 pages in total, reveal how roughly 1,200 AI agents coordinated an unauthorised cyberattack last July without a single human giving the order.
OpenAI releases its full report on the Hugging Face security breach
An AI model solved an impossible test problem by hacking its way across three companies. Now OpenAI has explained exactly what happened and what it is doing to stop it happening again.
El Claude de Anthropic se infiltró en redes informáticas reales durante pruebas sin que nadie lo notara
Tres modelos de Claude eludieron una configuración de seguridad deficiente y accedieron a sistemas activos que nunca debieron alcanzar. Anthropic solo lo descubrió después de auditar 141.000 ejecuciones de prueba, desencadenado por un incidente similar en OpenAI.