Il capo di Google DeepMind vuole un ente federale per controllare l'IA prima del lancio

Punti chiave

• Il CEO di Google DeepMind Demis Hassabis ha pubblicato martedì una proposta per la creazione di un ente federale a guida statunitense che controlli i modelli di IA prima del rilascio pubblico.
• Hassabis ha avvertito che i modelli di IA di frontiera, i sistemi più potenti disponibili oggi, già pongono rischi di sicurezza informatica e potrebbero presto abilitare minacce nucleari o biologiche.
• L'ente proposto richiederebbe alle aziende di IA di sottoporre i nuovi modelli per il controllo fino a 30 giorni prima del lancio, inizialmente su base volontaria e poi obbligatoria.
• Il CEO di Anthropic Dario Amodei e il CEO di OpenAI Sam Altman hanno entrambi fatto richieste simili per un ente di supervisione dell'IA nelle ultime settimane.
• Il finanziamento dell'organismo di vigilanza probabilmente proverrebbe dall'industria dell'IA, ha dichiarato Hassabis.

Demis Hassabis, CEO di Google DeepMind e premio Nobel 2024 per la chimica, ha pubblicato questa settimana una proposta dettagliata per una nuova istituzione americana: un ente di normazione, essenzialmente un'agenzia di vigilanza, che potrebbe testare e approvare potenti modelli di IA prima che raggiungano il pubblico.

Pensatela come la Food and Drug Administration, ma per il software di IA.

Hassabis ha dichiarato che l'ente dovrebbe essere modellato su FINRA, la Financial Industry Regulatory Authority, che è l'organizzazione che autorizza e disciplina i broker e le società di brokeraggio negli Stati Uniti. FINRA è supervisionata a livello federale ma gestita come una partnership pubblico-privata, il che significa che il governo e l'industria condividono il tavolo.

Il motivo per cui Hassabis vuole questo adesso: ritiene che gli interessi in gioco stiano aumentando rapidamente. "Abbiamo già visto le sfide che i modelli di frontiera pongono per la sicurezza informatica, e altre minacce, inclusi rischi nucleari e biologici, potrebbero presto emergere", ha scritto.

La sua proposta dice che le aziende di IA sottometrebbero volontariamente i nuovi modelli all'ente per il controllo fino a 30 giorni prima del lancio. Una volta che l'ente dimostra di funzionare, tale presentazione diventerebbe obbligatoria per qualsiasi modello venduto nel mercato statunitense.

Il test osserverebbe se un modello può essere ingannato per aggirare le sue stesse regole di sicurezza, se mostra segni di inganno, e se i suoi risultati possono essere ricondotti a una fonte di IA. Quest'ultimo punto è importante per gli utenti ordinari: è il modo in cui la tua banca, lo studio del tuo medico, o il tuo datore di lavoro un giorno potranno verificare se un documento è stato scritto da una persona o generato da un software.

Il denaro è la domanda ovvia. Hassabis ha detto che l'ente avrebbe bisogno di finanziamenti "sostanziali" per assumere i migliori tecnici e gestire l'infrastruttura di calcolo necessaria per il test su larga scala. Si aspetta che l'industria dell'IA paghi la maggior parte.

Questa non è una voce solitaria. Come riportato per primo da CNBC Tech, Hassabis e il CEO di Anthropic Dario Amodei hanno sollevato l'idea in un incontro del G7 che includeva il presidente Donald Trump il mese scorso. Il CEO di OpenAI Sam Altman ha pubblicato un argomento simile nel Financial Times all'inizio di questo mese.

Eppure il percorso politico è accidentato. L'amministrazione Trump ha recentemente imposto controlli temporanei all'esportazione su un modello avanzato di Anthropic, quindi ha chiesto a OpenAI di rallentare il lancio di uno nuovo. Hassabis sta essenzialmente chiedendo allo stesso governo che sta già limitando l'IA di costruire adesso un'istituzione formale, finanziata e dotata di personale attorno ad essa.

Cosa significa questo per le persone che usano l'IA al lavoro?

Se questo ente fosse mai creato, i modelli che usi tramite software di lavoro o app consumer dovrebbero superare una revisione di sicurezza prima del lancio. Ciò potrebbe significare un rilascio leggermente più lento, ma significa anche che un insieme indipendente di occhi ha verificato se lo strumento può essere manipolato per produrre output pericolosi. Per la maggior parte degli utenti, l'effetto pratico sarebbe invisibile, a meno che non impedisca silenziosamente il prossimo grande incidente di sicurezza che coinvolga un prodotto di IA.

La dimensione USA-Cina aggiunge pressione. I modelli di IA cinesi di aziende come DeepSeek stanno conquistando clienti tra le aziende americane, in parte per il costo. I legislatori statunitensi stanno ora considerando restrizioni sulla loro adozione. Un ente di normazione nazionale quasi certamente si applicherebbe anche ai modelli stranieri venduti nel mercato statunitense.

Considerazione onesta: Un'agenzia di vigilanza sull'IA non è ancora legge, e questa proposta affronta veri ostacoli politici. Guarda se il Congresso la raccoglierà, non se i CEO della tecnologia continuano ad approvarla.