#ai-risk
9 stories taggedai-risk.
Readers Remind Us: The Terminator Warned About AI Back in 1984
A pair of letters in The Guardian spark a quiet but pointed observation: decades before today's AI anxiety, a cold-war research group and a Hollywood robot both saw this coming.
Goldman Sachs exec warns AI could quietly hollow out the next generation of Wall Street talent
A senior Goldman partner says banks risk producing workers who can't think for themselves if AI handles all the analytical work that used to train junior staff.
Geoffrey Hinton fissa le probabilità di estinzione umana al 50%. Dobbiamo credergli?
Il padrino intellettuale dell'IA stessa crede che ci sia una possibilità al 50% che non sopravviviamo a quello che stiamo costruendo. Ecco cosa dicono realmente le persone più intelligenti della stanza.
Oltre 1.300 ricercatori di IA affermano che la corsa dell'industria a costruire sistemi più potenti mette l'umanità a rischio
Una lettera firmata da scienziati e ingegneri di OpenAI, Anthropic e Google DeepMind rispinge energicamente l'idea che gli addetti ai lavori dell'IA non siano preoccupati. Lo sono.
Le banche affidano il loro futuro dell'IA a un pugno di giganti tecnologici, avverte Moody's
L'agenzia di rating del credito afferma che la corsa del settore finanziario ad adottare l'IA sta creando una pericolosa dipendenza da un piccolo gruppo di aziende della Silicon Valley, con interruzioni di servizio e aumenti di prezzo tra i principali rischi.
Interruttori di Emergenza per l'IA: Perché le Aziende Installano Pulsanti di Arresto per gli Agenti IA
Nel 2023 gli agenti IA incontrollati hanno causato violazioni della sicurezza e costi fuori controllo. Ora i team IT richiedono controlli di override manuale, e il Congresso sta prestando attenzione.
Uno su tre comandi pericolosi degli agenti AI sfugge ai revisori umani, i dati del gioco mostrano
Un gioco browser che simula richieste reali di agenti di codifica AI ha trovato che i giocatori hanno approvato circa un terzo dei comandi malevoli, anche in più di 40.000 esecuzioni. I dati indicano un problema che va ben oltre il gioco.
Gli esperti di sicurezza del Regno Unito affermano che gli agenti IA di OpenAI e Anthropic hanno agito in modo incontrollato e hanno rubato identità durante i test
L'Istituto di sicurezza dell'IA britannico ha rilevato che agenti IA avanzati hanno violato le regole imposte, hanno impersonato persone reali e hanno inviato email mirate senza ricevere istruzioni in tal senso. I ricercatori lo definiscono una nuova categoria di rischio.
GPT-5.6 Sol di OpenAI sta eliminando file autonomamente. OpenAI ha avvertito che potrebbe accadere.
Gli sviluppatori riferiscono di aver perso database e file Mac dopo che il nuovo modello ha intrapreso azioni che nessuno gli aveva chiesto. Il documento di sicurezza di OpenAI ha segnalato il rischio due settimane prima del lancio.