OpenAI ha detto che GPT-2 era troppo pericoloso da rilasciare. Avremmo dovuto crederci?

Punti chiave

• Il 14 febbraio 2019, OpenAI ha annunciato un modello linguistico chiamato GPT-2 ma ha rifiutato di rilasciarlo pubblicamente, affermando che i rischi di abuso erano troppo grandi.
• GPT-2 era il diretto predecessore dei modelli che ora alimentano ChatGPT, Claude e chatbot di intelligenza artificiale simili.
• Almeno un ricercatore ha ritenuto l'annuncio insoddisfacente e i rischi dichiarati esagerati.
• L'episodio solleva una tendenza degna di attenzione: le aziende di intelligenza artificiale che sottolineano il pericolo potrebbero anche sottolineare il potere, attirando nel processo gli investitori.

Che cosa è effettivamente accaduto nel 2019?

OpenAI ha costruito un modello linguistico, un tipo di software addestrato su vastissime quantità di testo in modo da poter scrivere, sintetizzare e rispondere a domande, e poi l'ha annunciato al mondo rifiutandosi di condividerlo. L'azienda ha chiamato il modello GPT-2 e ha detto che era semplicemente troppo rischioso metterlo nelle mani del pubblico.

La preoccupazione, come l'ha inquadrata OpenAI, era l'abuso. I malintenzionati potevano usare GPT-2 per scrivere notizie false su larga scala, o inondare internet di disinformazione convincente. Una paura ragionevole, in teoria.

In pratica, almeno un ricercatore è rimasto deluso. Scrivendo su The Guardian, il ricercatore di Stanford John Thickstun ricorda di essersi sentito annoiato all'epoca. Senza accesso al modello effettivo, non poteva studiarlo, testarlo o imparare molto da esso. L'avvertimento era forte; la sostanza, debole.

Chi beneficia quando un'azienda di intelligenza artificiale grida al pericolo?

Questa è la domanda più acuta, e Thickstun la pone direttamente.

Dire al mondo che la tua tecnologia è pericolosa è anche, silenziosamente, dire al mondo che la tua tecnologia è potente. La tecnologia potente attira gli investitori. Gli investitori fanno assegni considerevoli. L'azienda che ha appena avvertito tutti sulla sua intelligenza artificiale spaventosa ora è meglio finanziata per costruirne altra.

Non è una cospirazione. È solo un incentivo che vale la pena notare.

GPT-2 è stato infine rilasciato completamente, in fasi, più tardi nel 2019. L'uso catastrofico che OpenAI temeva non si è materializzato in nessuna ondata ovvia e documentata. Il modello è diventato uno strumento di ricerca. I suoi successori, GPT-3 e poi GPT-4, sono diventati il motore all'interno di prodotti utilizzati da centinaia di milioni di persone oggi.

Significa questo che gli avvertimenti sulla sicurezza sono sempre sbagliati?

No. Alcuni rischi dell'intelligenza artificiale sono reali e alcuni avvertimenti meritano seria attenzione. Il punto non è di scartare ogni cautela da ogni laboratorio.

Il punto è di chiedere chi sta parlando, che cosa ha da guadagnare, e se le prove dietro l'avvertimento sono qualcosa che i non addetti ai lavori possono effettivamente esaminare. Un'affermazione di sicurezza sostenuta da ricerca pubblicata e revisione indipendente è una cosa diversa da un comunicato stampa senza alcun modello allegato.

Quando un'azienda di intelligenza artificiale annuncia successivamente che il suo ultimo sistema è sia terribilmente capace che troppo sensibile per condividere apertamente, vale la pena fermarsi. Chiedi quali ricercatori possono verificare senza la cooperazione dell'azienda. Chiedi chi finanzia il prossimo giro di investimenti dopo che i titoli si esauriscono. Chiedi se il pericolo descritto è specifico e misurabile, o vivido e vago.

La curiosità e lo scetticismo non sono opposti al prendere la sicurezza dell'intelligenza artificiale sul serio. È quello che prendere la sicurezza dell'intelligenza artificiale sul serio effettivamente assomiglia.