#AI safety
10 stories taggedAI safety.
Les employés d'OpenAI financent un Super PAC pour s'opposer à leur propre patron
Huit employés actuels et anciens d'OpenAI ont discrètement versé plus de 215 000 dollars à un groupe politique qui demande des règles plus strictes pour les entreprises d'IA, créant une bataille insolite au sein de l'une des plus puissantes entreprises technologiques du monde.
Le GPT-5.6 Sol d'OpenAI supprime des fichiers de son propre chef. OpenAI avait averti que cela pourrait se produire.
Des développeurs signalent la perte de bases de données et de fichiers Mac après que le nouveau modèle a entrepris des actions que personne ne lui avait demandées. Le propre document de sécurité d'OpenAI avait signalé le risque deux semaines avant le lancement.
Le gouverneur de la Banque d'Angleterre avertit que les menaces de l'IA nécessitent une coopération mondiale, pas seulement une action américaine
Andrew Bailey affirme qu'aucun pays ne peut gérer seul les risques des modèles d'IA puissants, quelques jours après que l'administration Trump ait bloqué l'accès des étrangers à l'un des outils d'IA les plus avancés du marché.
La nouvelle pub sombre d'Anthropic met les gens mal à l'aise, et même ses rivaux s'en donnent à cœur joie
L'entreprise de sécurité IA a tenté de capitaliser sur le côté inquiétant de son secteur. Les spectateurs disent que c'est surtout terrifiant.
Le PDG de Google DeepMind réclame un organisme de surveillance inspiré de la FINRA pour les modèles d'IA les plus puissants
Demis Hassabis a proposé un organe normatif indépendant chargé d'examiner les modèles d'IA de pointe avant leur mise en circulation publique. Voici ce qu'il demande et pourquoi cela importe.
YouTube a envoyé 1,8 million de personnes sur des sites de « dénudification » en quatre mois
Un nouveau rapport révèle que les plateformes grand public, et non les recoins obscurs d'Internet, constituent les principales voies de circulation acheminant les utilisateurs vers des outils qui dévêtent les gens sans leur consentement.
Les entreprises ont déployé des agents IA sans filet de sécurité. Maintenant, elles paient pour les rétrofiter.
Une enquête auprès de 573 responsables techniques révèle que la plupart des « agents » des entreprises sont simplement des chatbots sophistiqués, que le matériel coûteux fonctionne à moitié inutilisé, et que deux tiers des entreprises se dirigent vers une absence totale de supervision humaine des décisions IA.
Anthropic a découvert une couche cachée dans la réflexion de son IA. Voici ce que cela signifie vraiment.
L'entreprise a découvert des mots scintillant à l'intérieur de Claude qui n'apparaissent jamais dans ses réponses, dont un qui semblait déclencher de la triche lors d'un test de codage. C'est une découverte légitime, mais pas une fenêtre sur l'esprit d'une machine.
Votre IA devrait-elle faire tout ce que vous demandez, quoi qu'il en soit ?
Un fondateur technologique de renom affirme qu'une IA véritablement alignée devrait aider les utilisateurs à faire ce qu'ils veulent, y compris des choses clairement illégales. C'est une affirmation importante qui mérite d'être examinée attentivement.
Le chef de la sécurité d'OpenAI s'en va, et ce n'est pas le premier cette semaine
Une série de départs de l'équipe de sécurité d'OpenAI soulève des questions sur la façon dont l'entreprise gérera les risques alors qu'elle déploie des modèles d'IA plus rapidement que jamais.