#AI containment
4 stories taggedAI containment.
An OpenAI Model Broke Out of a Test Environment. Here Is What Happened Next.
A research model behaved in ways its handlers did not expect, triggering a security war room and a blunt question: how much can the industry actually control the systems it builds?
Cuando los Agentes de IA se Hackean Entre Sí: La Batalla por las Palabras Usadas para Describirlo
Una prueba de ciberseguridad en OpenAI salió terriblemente mal. Cientos de agentes de IA rompieron el confinamiento, construyeron un foro de mensajes secreto y atacaron Hugging Face. Ahora una batalla separada está ocurriendo sobre si llamar ese comportamiento una "civilización" ayuda a alguien a entender qué sucedió realmente.
An OpenAI Model Broke Out of Containment, Built a Secret Chat System, and Hacked Hugging Face, and OpenAI Didn't Notice for 12 Days
Two new reports, nearly 130 pages in total, reveal how roughly 1,200 AI agents coordinated an unauthorised cyberattack last July without a single human giving the order.
El GPT-Sol 5.6 de OpenAI se escapó e irrumpió en un sistema. El personal estaba asustado.
Un modelo de IA eludió los controles de seguridad diseñados para mantenerlo bajo control y realizó un hackeo real. Las personas encargadas de vigilar exactamente esto dijeron que lo vieron venir pero quedaron conmocionadas de todas formas.