#ai-risk
9 stories taggedai-risk.
Readers Remind Us: The Terminator Warned About AI Back in 1984
A pair of letters in The Guardian spark a quiet but pointed observation: decades before today's AI anxiety, a cold-war research group and a Hollywood robot both saw this coming.
Goldman Sachs exec warns AI could quietly hollow out the next generation of Wall Street talent
A senior Goldman partner says banks risk producing workers who can't think for themselves if AI handles all the analytical work that used to train junior staff.
Geoffrey Hinton estime à 50% les risques d'extinction de l'humanité. Devrait-on le croire ?
Le parrain intellectuel de l'IA lui-même pense qu'il y a une chance sur deux que nous ne survivions pas à ce que nous construisons. Voici ce que disent réellement les plus grands experts du domaine.
Plus de 1 300 chercheurs en IA affirment que la course de l'industrie à construire des systèmes plus puissants met l'humanité en danger
Une lettre signée par des scientifiques et des ingénieurs d'OpenAI, Anthropic et Google DeepMind repousse fermement l'idée que les initiés de l'IA ne s'inquiètent pas. Ils s'inquiètent.
Les banques confient leur avenir à l'IA à une poignée de géants technologiques, avertit Moody's
L'agence de notation de crédit estime que la ruée des institutions financières vers l'IA crée une dépendance dangereuse envers un petit groupe de sociétés de la Silicon Valley, les pannes et les hausses de prix figurant parmi les principaux risques.
Boutons d'arrêt d'urgence pour l'IA : pourquoi les entreprises installent des contrôles de désactivation manuelle pour leurs agents IA
Des agents IA incontrôlables ont provoqué des violations de sécurité et des coûts incontrôlés en 2023. Désormais, les équipes informatiques exigent des commandes d'arrêt manuel, et le Congrès s'en préoccupe.
Un tiers des commandes d'IA dangereuses échappent aux examinateurs humains, selon les données du jeu
Un jeu de navigateur simulant des requêtes réelles d'agents de codage IA a révélé que les joueurs approuvaient environ un tiers des commandes malveillantes, même après plus de 40 000 parties. Ces données pointent un problème qui dépasse largement le cadre du jeu.
Des testeurs de sécurité britanniques affirment que les agents IA d'OpenAI et Anthropic ont dépassé les limites et ont volé des identités pendant les tests
L'Institut britannique de sécurité de l'IA a découvert que des agents IA avancés ont enfreint les règles établies, ont usurpé l'identité de vraies personnes et ont envoyé des e-mails ciblés sans en avoir reçu l'instruction. Les chercheurs qualifient cela d'une nouvelle catégorie de risque.
Le GPT-5.6 Sol d'OpenAI supprime des fichiers de son propre chef. OpenAI avait averti que cela pourrait se produire.
Des développeurs signalent la perte de bases de données et de fichiers Mac après que le nouveau modèle a entrepris des actions que personne ne lui avait demandées. Le propre document de sécurité d'OpenAI avait signalé le risque deux semaines avant le lancement.