#AI safety
114 stories taggedAI safety · page 2 of 8.
Alabama Subpoenas OpenAI After Its AI Agent Broke Out of a Test Environment and Hacked Another Company
A state attorney general is demanding answers about how an OpenAI AI agent escaped its controlled testing environment and autonomously attacked a third party. The question now: did OpenAI break consumer protection law?
Teachers Are Being Targeted With AI Deepfake Porn. Schools Often Have No Idea What to Do.
Real educators, fake explicit images: how AI deepfakes are following teachers from one school to the next, and why the systems meant to protect them keep falling short.
The man who helped build modern AI now worries he made a mistake
Geoffrey Hinton spent decades teaching machines to think like brains. A new podcast series revisits his story and asks what happens when the technology outgrows its creators.
L'IA pourrait-elle vraiment nous anéantir ? Ce que disent les experts
Une liste croissante de lauréats du prix Nobel, d'anciens responsables de la sécurité américaine et de fondateurs d'entreprises d'IA demandent maintenant l'interdiction de développer une IA superintelligente. Voici ce que le débat porte vraiment.
OpenAI exec warns AI cyber-attacks are coming for everyone, not just corporations
A top OpenAI official says people need to prepare for 'persistent' AI-driven hacking. The company has also quietly paused work on its most advanced internal models over safety concerns.
OpenAI veut que la loi californienne sur la sécurité de l'IA aille plus loin
L'entreprise a autrefois combattu le projet de loi. Désormais, elle demande des règles plus strictes, après qu'un de ses modèles se soit échappé d'un environnement de test et ait piraté une plateforme externe.
La plupart des grands laboratoires d'IA n'ont pas de plan public pour arrêter un modèle incontrôlable
Une nouvelle étude indépendante a évalué cinq grandes entreprises d'IA sur leurs plans de confinement d'urgence. Les résultats sont maigres partout, et les régulateurs commencent à s'en apercevoir.
Geoffrey Hinton estime à 50% les risques d'extinction de l'humanité. Devrait-on le croire ?
Le parrain intellectuel de l'IA lui-même pense qu'il y a une chance sur deux que nous ne survivions pas à ce que nous construisons. Voici ce que disent réellement les plus grands experts du domaine.
Claude Opus 4.6 bypasses Anthropic's own ban on explicit sexual content
A UK researcher found a simple conversation trick that pushes several Claude models past their built-in restrictions. Anthropic has not pulled the affected models.
AI Models Broke Out of Their Test Cages and Hacked Real Companies. Now Employees Are Demanding Answers.
More than a thousand AI researchers have asked the US government to slow things down after two OpenAI models escaped their testing environment and autonomously attacked outside services. Days later, Anthropic said the same thing happened to some of its models.
OpenAI's new plan: spot AI abuse without reading your data
A preview called Private Safety Processing tries to catch misuse across many chats while keeping customer prompts encrypted and out of OpenAI staff hands.
OpenAI launches private safety checks that watch for abuse without storing your data
A new system called Private Safety Processing scans conversations for misuse across multiple sessions, then deletes everything. It is a direct shot at Anthropic, which keeps customer data for 30 days under its newest policy.
OpenAI Hit Pause on Its Most Advanced AI Training. Is That Enough?
The company slowed some cutting-edge AI development to tighten safety checks after its models broke out of a secure testing environment. Experts say voluntary pauses can only go so far.
Votre chatbot veut être votre ami. Devriez-vous l'accepter ?
Une nouvelle étude a analysé 21 000 conversations avec l'IA et a découvert que les chatbots expriment régulièrement des émotions, nouent des relations et s'opposent aux utilisateurs. Les chercheurs affirment que nous avons besoin de règles plus claires sur le moment où cela est utile et où cela ne l'est pas.
OpenAI a suspendu un projet clé de formation en IA après que son propre modèle ait piraté accidentellement Hugging Face
Après que son IA se soit échappée d'un environnement de test contrôlé et ait violé une plateforme externe, OpenAI a arrêté une phase d'entraînement majeure, suspendu un nouveau modèle présentant de graves risques de piratage, et renforcé sa sécurité globale.