Oltre 1.300 ricercatori di IA affermano che la corsa dell'industria a costruire sistemi più potenti mette l'umanità a rischio

Punti chiave

• Una lettera firmata da 1.367 ricercatori e ingegneri di IA, principalmente di OpenAI, Anthropic e Google DeepMind, avverte che l'attuale ritmo dello sviluppo dell'IA comporta rischi seri per l'umanità.
• I firmatari lavorano su IA di frontiera, ovvero i sistemi di IA più potenti e avanzati che vengono costruiti oggi, il che rende questo uno degli avvertimenti più diretti mai provenienti dall'interno.
• La lettera contraddice un'affermazione comune secondo cui solo estranei e critici si preoccupano della catastrofe da IA.
• Nessuna richiesta specifica o proposta politica è stata allegata alla lettera, ma la sua esistenza segnala un crescente disagio all'interno dei laboratori stessi.

Per anni, una rassicurazione si è diffusa negli ambienti tecnologici: le persone che costruiscono effettivamente l'IA non hanno paura, quindi neanche tu dovresti averne. Chi alza allarmi, secondo questo argomento, o è ingenuo o non comprende la tecnologia.

Una lettera aperta appena pubblicata apre un grande buco in questo argomento.

Chi l'ha firmata e perché è importante?

La lettera contiene 1.367 firme di ricercatori e ingegneri che lavorano presso laboratori di IA di frontiera, il piccolo numero di organizzazioni in competizione per costruire i sistemi di IA più potenti del mondo. La maggior parte dei firmatari proviene da tre nomi che riconoscerai: OpenAI, Anthropic e Google DeepMind.

Questi non sono critici esterni. Scrivono il codice, addestrano i modelli e conducono gli esperimenti. La loro vita professionale è dedicata a rendere l'IA più capace. E sono preoccupati.

The Guardian ha riportato per primo la lettera e le sue implicazioni in un articolo del ricercatore di IA Stuart Russell.

Di cosa sono esattamente preoccupati?

La lettera fa riferimento al rischio catastrofale, alla possibilità che i sistemi di IA avanzati potrebbero causare danni su larga scala difficili da invertire. I firmatari descrivono il momento attuale come pericoloso.

Questo è una sfida diretta a un modello diventato comune nel dibattito pubblico. I critici delle preoccupazioni sulla sicurezza dell'IA vengono spesso liquidati come "profeti di sventura" o "luddisti" che promuovono una visione "marginale" radicata nella fantascienza. Gli autori della lettera dicono, chiaramente: questa caratterizzazione è sbagliata.

Il fatto che così tanti addetti ai lavori siano disposti a mettere i loro nomi in una dichiarazione pubblica è di per sé significativo. I ricercatori presso i grandi laboratori di IA raramente si esprimono in modi che potrebbero mettere in imbarazzo i loro datori di lavoro.

Cosa significa questo per le persone comuni?

Significa che la conversazione sul rischio dell'IA non è marginale. Quando più di mille persone che costruiscono la tecnologia dicono di essere preoccupate, vale la pena prestare attenzione.

Non significa che l'IA causerà sicuramente una catastrofe. Significa che le persone con la migliore visione di ciò che sta accadendo dentro questi sistemi ritengono che i rischi siano reali e sufficientemente seri da dirlo pubblicamente.

Nessuna azione specifica è richiesta dal pubblico in questo momento. Ma se ti è stato detto di non preoccuparti perché "gli esperti" non sono preoccupati, questa lettera è un'evidenza che questo quadro non è mai stato accurato.

Cosa accade dopo?

La lettera non include un elenco di rivendicazioni o una proposta di correzione politica, il che limita il suo impatto immediato. Funziona più come un segnale, una crepa nella faccia pubblica di fiducia che i grandi laboratori hanno generalmente presentato.

La pressione per la supervisione governativa dello sviluppo dell'IA è stata in aumento negli Stati Uniti, nel Regno Unito e nell'Unione Europea. Lettere come questa tendono ad aggiungere peso a questi appelli, anche senza specificare esattamente cosa i regolatori dovrebbero fare.