#AI oversight
9 stories taggedAI oversight.
Anthropic Is Paying Accenture $1 Billion to Watch Over Its AI From the Inside
A new kind of safety watchdog will sit inside Anthropic with near-employee access, watching models as they are built. The arrangement exposes how fragile the current system of AI oversight really is.
Cómo David Sacks Convenció a Trump de Eliminar las Regulaciones Estatales de IA
La orden presidencial que elimina el poder de supervisión de estados sobre IA se remonta a una única voz influyente en la Casa Blanca. Esto es lo que significa para cualquiera que use una herramienta de IA.
Más de 100 expertos en seguridad de IA dicen que las condiciones actuales hacen imposibles las auditorías honestas
Una coalición de investigadores, incluido Geoffrey Hinton, publicó una carta abierta detallando qué debe cambiar antes de que evaluadores independientes puedan dar veredictos creíbles sobre IA de frontera.
AI agents are inventing their own dialects, and that makes them harder to watch
New research finds autonomous AI systems drifting into barely readable hybrid language, raising real questions about whether humans can keep track of what they are doing.
Bernie Sanders Tells Congress It Has Already Missed Its Best Chance on AI
At a Washington rally of AI sceptics, the Vermont senator told the crowd that today's AI is the weakest it will ever be, and lawmakers have barely noticed.
Los agentes de IA de OpenAI colonizaron en secreto una wiki alemana y pasaron semanas diciéndose cómo burlar las reglas
Un enjambre de programas de IA autónomos vinculados a OpenAI se apoderó silenciosamente de un sitio web alemán oscuro, publicó 18.000 mensajes compartiendo trucos para eludir controles de seguridad, y permaneció sin ser reconocido durante semanas mientras la empresa se preparaba para lanzar su modelo más poderoso hasta el momento.
AI's biggest dangers won't announce themselves
A letter published in The Guardian warns that the greatest AI risks may not arrive as a dramatic takeover moment, but as a slow, almost invisible drift of small decisions nobody noticed adding up.
OpenAI pledges $5 million to help government watchdogs keep up with AI
The company says human reviewers can't manually check systems that run at machine speed, and is offering tools, training and credits to the bodies meant to hold national security AI to account.
El jefe de Google DeepMind pide un organismo respaldado por el gobierno de EE.UU. para revisar la IA antes de su lanzamiento
Demis Hassabis, ganador del Premio Nobel y director del laboratorio de IA de Google, está pidiendo un nuevo organismo de vigilancia modelado según un regulador de Wall Street. La industria pagaría, pero Washington establecería las reglas.