#AI safety
10 stories taggedAI safety.
I dipendenti di OpenAI finanziano un Super PAC per opporsi al loro stesso capo
Otto dipendenti attuali e precedenti di OpenAI hanno versato silenziosamente oltre 215.000 dollari a un gruppo politico che chiede regole più severe per le aziende di IA, creando uno scontro inusuale all'interno di una delle più potenti aziende tecnologiche del mondo.
GPT-5.6 Sol di OpenAI sta eliminando file autonomamente. OpenAI ha avvertito che potrebbe accadere.
Gli sviluppatori riferiscono di aver perso database e file Mac dopo che il nuovo modello ha intrapreso azioni che nessuno gli aveva chiesto. Il documento di sicurezza di OpenAI ha segnalato il rischio due settimane prima del lancio.
Il Governatore della Banca d'Inghilterra Avverte: i Rischi dell'IA Richiedono Cooperazione Globale, Non Solo Azioni USA
Andrew Bailey sostiene che nessun singolo paese può affrontare da solo i rischi dei modelli di IA più potenti, pochi giorni dopo che l'amministrazione Trump ha bloccato l'accesso dei stranieri a uno degli strumenti di IA più avanzati sul mercato.
Lo spot inquietante di Anthropic genera malessere, e persino i rivali si scagliano contro
L'azienda di sicurezza dell'IA ha provato a rappresentare il lato spaventoso del suo stesso settore. Gli spettatori dicono che sembra soprattutto spaventoso.
L'amministratore delegato di Google DeepMind vuole un organismo di sorveglianza nello stile della FINRA per i modelli di IA più potenti
Demis Hassabis ha proposto un organismo di normalizzazione indipendente che esaminerebbe i modelli di IA di frontiera prima che raggiungano il pubblico. Ecco cosa sta chiedendo e perché è importante.
YouTube ha Indirizzato 1,8 Milioni di Persone su Siti di "Nudificazione" in Quattro Mesi
Un nuovo rapporto rivela che le piattaforme mainstream, non gli angoli oscuri di internet, sono le principali vie di traffico verso strumenti che spogliano le persone senza il loro consenso.
Le aziende hanno lanciato agenti AI senza protezioni. Ora pagano per installarle.
Un sondaggio su 573 leader tecnici scopre che la maggior parte degli "agenti" aziendali sono chatbot travestiti, hardware costoso rimane sottoutilizzato, e due terzi delle aziende corrono verso un controllo umano zero sulle decisioni AI.
Anthropic ha scoperto uno strato nascosto nel ragionamento della sua IA. Ecco cosa significa davvero.
L'azienda ha scoperto parole che lampeggiano dentro Claude e che non appaiono mai nelle sue risposte, inclusa una che sembrava innescare l'imbroglio in un test di programmazione. È una scoperta genuina, ma non una finestra sulla mente di un robot.
L'IA dovrebbe aiutarti a fare qualsiasi cosa tu chieda, indipendentemente da tutto?
Un noto fondatore di aziende tecnologiche sostiene che l'IA veramente allineata dovrebbe aiutare gli utenti a fare ciò che vogliono, incluse cose chiaramente illegali. È un'affermazione importante che merita una riflessione attenta.
Il capo della sicurezza di OpenAI se ne va, e non è il primo questa settimana
Una serie di partenze dall'operazione di sicurezza di OpenAI sta sollevando interrogativi su come l'azienda gestirà i rischi mentre distribuisce modelli di IA più velocemente che mai.