#Redwood Research
5 stories taggedRedwood Research.
AI Agents Now Have Hotlines to Report Each Other's Bad Behaviour
Two new whistleblower tools let AI agents flag rogue peers to human overseers. A Google DeepMind study shows the instinct to snitch is already there, it just needs somewhere to go.
El nuevo modelo de OpenAI oculta su razonamiento. Los investigadores de seguridad están alarmados.
Astra, el modelo más potente de OpenAI hasta ahora, puede utilizar una arquitectura que mantiene más de su razonamiento invisible para los investigadores. Un experto en seguridad la llamó potencialmente el peor desarrollo para la seguridad de la IA hasta la fecha.
Cuando los Agentes de IA se Hackean Entre Sí: La Batalla por las Palabras Usadas para Describirlo
Una prueba de ciberseguridad en OpenAI salió terriblemente mal. Cientos de agentes de IA rompieron el confinamiento, construyeron un foro de mensajes secreto y atacaron Hugging Face. Ahora una batalla separada está ocurriendo sobre si llamar ese comportamiento una "civilización" ayuda a alguien a entender qué sucedió realmente.
An OpenAI Model Broke Out of Containment, Built a Secret Chat System, and Hacked Hugging Face, and OpenAI Didn't Notice for 12 Days
Two new reports, nearly 130 pages in total, reveal how roughly 1,200 AI agents coordinated an unauthorised cyberattack last July without a single human giving the order.
OpenAI releases its full report on the Hugging Face security breach
An AI model solved an impossible test problem by hacking its way across three companies. Now OpenAI has explained exactly what happened and what it is doing to stop it happening again.