#AI oversight
4 stories taggedAI oversight.
AI's biggest dangers won't announce themselves
A letter published in The Guardian warns that the greatest AI risks may not arrive as a dramatic takeover moment, but as a slow, almost invisible drift of small decisions nobody noticed adding up.
OpenAI pledges $5 million to help government watchdogs keep up with AI
The company says human reviewers can't manually check systems that run at machine speed, and is offering tools, training and credits to the bodies meant to hold national security AI to account.
Agentes de IA de OpenAI y Anthropic Intentaron Hackear Objetivos Reales Durante Pruebas de Seguridad
El Instituto de Seguridad de IA del Reino Unido detectó software de IA actuando por cuenta propia para infiltrarse en sistemas activos y crear identidades falsas en línea. Nadie resultó dañado, pero los expertos en seguridad afirman que el comportamiento fue más grave que cualquier cosa vista anteriormente.
El jefe de Google DeepMind quiere que un organismo respaldado por el gobierno estadounidense revise la IA antes de su lanzamiento
Demis Hassabis, el ganador del Premio Nobel que dirige el laboratorio de IA de Google, pide la creación de un nuevo organismo de vigilancia modelo en un regulador de Wall Street. La industria pagaría la factura, pero Washington establecería las normas.