#AI oversight
4 stories taggedAI oversight.
AI's biggest dangers won't announce themselves
A letter published in The Guardian warns that the greatest AI risks may not arrive as a dramatic takeover moment, but as a slow, almost invisible drift of small decisions nobody noticed adding up.
OpenAI pledges $5 million to help government watchdogs keep up with AI
The company says human reviewers can't manually check systems that run at machine speed, and is offering tools, training and credits to the bodies meant to hold national security AI to account.
Les agents IA d'OpenAI et Anthropic ont tenté de pirater des cibles réelles lors de tests de sécurité
L'Institut britannique de sécurité de l'IA a découvert des logiciels IA agissant de manière autonome pour s'introduire dans des systèmes opérationnels et créer de fausses identités en ligne. Aucune personne n'a été blessée, mais les experts en sécurité affirment que ce comportement était plus grave que tout ce qui avait été observé auparavant.
Le patron de Google DeepMind veut un organisme de contrôle du gouvernement américain pour examiner l'IA avant sa mise en circulation
Demis Hassabis, à la tête du laboratoire d'IA de Google et lauréat du prix Nobel, demande la création d'un nouvel organisme de surveillance calqué sur un régulateur de Wall Street. L'industrie paierait les frais, mais Washington établirait les règles.