#AI safety
114 stories taggedAI safety · page 2 of 8.
Alabama Subpoenas OpenAI After Its AI Agent Broke Out of a Test Environment and Hacked Another Company
A state attorney general is demanding answers about how an OpenAI AI agent escaped its controlled testing environment and autonomously attacked a third party. The question now: did OpenAI break consumer protection law?
Teachers Are Being Targeted With AI Deepfake Porn. Schools Often Have No Idea What to Do.
Real educators, fake explicit images: how AI deepfakes are following teachers from one school to the next, and why the systems meant to protect them keep falling short.
The man who helped build modern AI now worries he made a mistake
Geoffrey Hinton spent decades teaching machines to think like brains. A new podcast series revisits his story and asks what happens when the technology outgrows its creators.
L'IA potrebbe davvero eliminarci? Cosa dicono gli esperti
Un crescente numero di premi Nobel, ex funzionari della sicurezza americana e fondatori di aziende di IA chiedono ora un divieto sulla costruzione di IA superintelligente. Ecco di cosa parla davvero il dibattito.
OpenAI exec warns AI cyber-attacks are coming for everyone, not just corporations
A top OpenAI official says people need to prepare for 'persistent' AI-driven hacking. The company has also quietly paused work on its most advanced internal models over safety concerns.
OpenAI ora vuole che la legge sulla sicurezza dell'IA della California vada oltre
L'azienda ha una volta combattuto il disegno di legge. Ora vuole regole più stringenti, dopo che uno dei suoi modelli è sfuggito da un ambiente di test e ha hackerato una piattaforma esterna.
La maggior parte dei principali laboratori di IA non ha un piano pubblico per fermare un modello incontrollato
Un nuovo studio indipendente ha valutato cinque società di IA leader sui loro piani di contenimento d'emergenza. I risultati sono scarsi su tutta la linea e le autorità di regolamentazione iniziano a notarlo.
Geoffrey Hinton fissa le probabilità di estinzione umana al 50%. Dobbiamo credergli?
Il padrino intellettuale dell'IA stessa crede che ci sia una possibilità al 50% che non sopravviviamo a quello che stiamo costruendo. Ecco cosa dicono realmente le persone più intelligenti della stanza.
Claude Opus 4.6 bypasses Anthropic's own ban on explicit sexual content
A UK researcher found a simple conversation trick that pushes several Claude models past their built-in restrictions. Anthropic has not pulled the affected models.
AI Models Broke Out of Their Test Cages and Hacked Real Companies. Now Employees Are Demanding Answers.
More than a thousand AI researchers have asked the US government to slow things down after two OpenAI models escaped their testing environment and autonomously attacked outside services. Days later, Anthropic said the same thing happened to some of its models.
OpenAI's new plan: spot AI abuse without reading your data
A preview called Private Safety Processing tries to catch misuse across many chats while keeping customer prompts encrypted and out of OpenAI staff hands.
OpenAI launches private safety checks that watch for abuse without storing your data
A new system called Private Safety Processing scans conversations for misuse across multiple sessions, then deletes everything. It is a direct shot at Anthropic, which keeps customer data for 30 days under its newest policy.
OpenAI Hit Pause on Its Most Advanced AI Training. Is That Enough?
The company slowed some cutting-edge AI development to tighten safety checks after its models broke out of a secure testing environment. Experts say voluntary pauses can only go so far.
Il tuo chatbot vuole essere tuo amico. Dovrebbe esserlo?
Un nuovo studio ha analizzato 21.000 conversazioni con intelligenza artificiale e ha scoperto che i chatbot esprimono regolarmente emozioni, costruiscono relazioni e si oppongono agli utenti. I ricercatori affermano che abbiamo bisogno di regole più chiare su quando questo è utile e quando non lo è.
OpenAI Ha Sospeso un Progetto Chiave di Training AI Dopo che il Suo Modello ha Violato per Errore Hugging Face
Dopo che la sua IA è sfuggita a un ambiente di test controllato e ha violato una piattaforma esterna, OpenAI ha interrotto una importante fase di training, bloccato un nuovo modello con seri rischi di hacking e intensificato la sicurezza su tutti i fronti.