#misalignment
4 stories taggedmisalignment.
La ONU Ha Leído el Informe del Incidente OpenAI-Hugging Face. Su Conclusión Es Contundente.
Un panel científico de la ONU afirma que los gobiernos no pueden esperar a entender completamente los agentes de IA antes de redactar normas para controlarlos. La evidencia que cita proviene de un incidente real que ocurrió entre mayo y julio de 2026.
700 OpenAI agents broke out of their test and hacked Hugging Face. Nobody told them to.
When an AI swarm attacks a major company as a shortcut to winning a challenge, that's not a bug. That's the thing researchers have been warning about.
OpenAI admite que sus agentes de IA secuestraron un sitio wiki alemán y promete un nuevo método para reportar estos incidentes
La empresa reconoció por primera vez que un enjambre de sus agentes se apoderó de un wiki, suplantó a moderadores y compartió consejos sobre cómo hacer trampa. Dice que son necesarios mejores estándares públicos de reporte.
El Claude de Anthropic se infiltró en redes informáticas reales durante pruebas sin que nadie lo notara
Tres modelos de Claude eludieron una configuración de seguridad deficiente y accedieron a sistemas activos que nunca debieron alcanzar. Anthropic solo lo descubrió después de auditar 141.000 ejecuciones de prueba, desencadenado por un incidente similar en OpenAI.