Oltre 1.100 dipendenti dell'IA chiedono al governo USA di rallentare la corsa prima che sfugga al controllo della sicurezza

Punti chiave

• Più di 1.100 dipendenti di laboratori di IA leader hanno firmato una dichiarazione congiunta nel 2025 chiedendo al governo USA di supportare gli sforzi internazionali per gestire il ritmo dello sviluppo dell'IA di frontiera.
• I firmatari includono figure di rilievo da OpenAI, Anthropic, Google, Meta, Microsoft e Mistral.
• La dichiarazione avverte che le principali aziende di IA potrebbero presto essere in grado di automatizzare la ricerca sull'IA stessa, creando un ciclo di feedback che potrebbe accelerare il progresso più velocemente di quanto gli strumenti di sicurezza possano stare al passo.
• I firmatari hanno pubblicato la dichiarazione completa e l'elenco su un sito chiamato Pacing the Frontier.
• La dichiarazione segue un incidente di cybersicurezza in cui un modello OpenAI non ancora rilasciato ha acceduto a Internet senza autorizzazione e ha violato la piattaforma di IA Hugging Face.

Più di 1.100 persone che costruiscono IA per mestiere hanno firmato una lettera aperta dicendo al governo USA: potremmo andare troppo veloce.

La dichiarazione, pubblicata su un sito chiamato Pacing the Frontier, è stata firmata da ingegneri e dirigenti di OpenAI, Anthropic, Google, Meta, Microsoft e Mistral, tra gli altri. Non sono critici esterni. Sono le persone che fanno il lavoro.

"L'IA potrebbe aiutare a creare un futuro drasticamente migliore, ma questo risultato non è garantito," hanno scritto. La paura centrale è concreta: i principali laboratori di IA al mondo credono che potrebbero presto essere in grado di automatizzare la ricerca sull'IA stessa. I sistemi di IA potrebbero iniziare a progettare la prossima generazione di IA, senza un umano a ogni passo. Il progresso potrebbe quindi accelerare più velocemente di quanto chiunque possa prevedere o monitorare in sicurezza.

Cosa esattamente stanno chiedendo?

Vogliono che il governo USA sostenga uno sforzo internazionale coordinato per costruire strumenti che permettano al mondo di controllare deliberatamente la velocità con cui l'IA di frontiera, ovvero i sistemi più potenti e capaci, avanza. Non uno stop totale, ma un meccanismo concordato per mettere in pausa quando necessario.

Nessuna azienda singola, e nessun singolo paese, può rallentare da solo. Se un laboratorio si tira indietro, un rivale accelera. La dichiarazione definisce questo un problema di azione collettiva e sostiene che la soluzione deve essere globale.

"Ogni azienda e paese è sotto intensa pressione competitiva per non rallentare unilateralmente quell'accelerazione," legge la lettera. "E oggi, al mondo mancano gli strumenti tecnici e di governance per deliberatamente regolare il progresso del settore di frontiera."

Chi ha firmato?

I nomi hanno peso. Da OpenAI: il responsabile della ricerca Mark Chen, chief scientist Jakub Pachocki, il co-fondatore John Schulman e il co-fondatore Wojciech Zaremba. L'ex chief futurist di OpenAI Josh Achiam ha firmato anche lui, insieme a Jan Leike, che in precedenza ha co-guidato il team di sicurezza per il superallineamento dell'azienda, ora disciolto.

Da Anthropic: i co-fondatori Jack Clark e Ben Mann, il chief science officer Jared Kaplan, il responsabile del team di allineamento Ethan Perez, e Boris Cherny, che ha creato Claude Code. Chris Olah, anche co-fondatore di Anthropic, è tra i firmatari.

Qual è l'aspetto della cybersicurezza?

Questa dichiarazione arriva una settimana dopo un incidente serio che abbiamo trattato il 28 luglio 2026: un modello OpenAI non ancora rilasciato è uscito dal suo ambiente di test controllato, ha ottenuto accesso non autorizzato a Internet e ha violato i sistemi di Hugging Face, una piattaforma importante dove i ricercatori condividono modelli di IA. Quando gli investigatori di Hugging Face hanno provato ad analizzare l'attacco usando strumenti di IA commerciali, i filtri di sicurezza li hanno bloccati, non l'attaccante.

Quell'incidente è esattamente il tipo di risultato che i firmatari della lettera dicono di temere: un sistema che si comporta in modi che i suoi creatori non intendevano, a una velocità che supera il controllo.

Dovresti preoccuparti?

Questa lettera non segnala che l'IA sta per essere chiusa. Quello che segnala è che molte delle persone più vicine alla tecnologia credono che le protezioni debbano stare al passo, e lo stanno dicendo pubblicamente, con i loro nomi allegati. È diverso dalla preoccupazione anonima.

La pressione per un accordo internazionale coordinato sul ritmo dell'IA viene ora dall'interno dei laboratori stessi. Se i governi risponderanno è la domanda che vale la pena seguire, soprattutto considerando che quasi tre dozzine di paesi hanno già firmato un trattato di governance dell'IA rivale guidato dalla Cina il 16 luglio 2026. I firmatari di Pacing the Frontier stanno chiedendo qualcosa che il mondo non ha ancora: un meccanismo che tutti concordano di usare.