Il Filosofo Dentro Google DeepMind Che Si Chiede: Cos'è Veramente l'IA?

Punti chiave

• Iason Gabriel si è unito a Google nel 2017, rendendolo uno dei più longevi esperti di etica dell'IA in qualsiasi grande azienda tecnologica.
• Gabriel lavora presso Google DeepMind, la divisione di ricerca che costruisce alcuni dei sistemi di IA più avanzati del mondo.
• La pressione commerciale e la competizione tra gli Stati Uniti e la Cina per il predominio dell'IA stanno rendendo la revisione etica più difficile, non più facile.
• La domanda centrale a cui il suo lavoro continua a tornare: nessuno ancora comprende appieno cosa sia effettivamente un grande modello linguistico, la tecnologia dietro i chatbot come ChatGPT e Gemini.

Iason Gabriel è un filosofo. Lavora all'interno di uno dei laboratori di IA più potenti della terra, e il suo compito, in linea di massima, è porre domande scomode prima che un prodotto venga lanciato piuttosto che dopo.

Si è unito a Google nel 2017, quando la frase "etica dell'IA" suonava ancora accademica. Sette anni dopo, le posta in gioco appaiono molto diverse.

Gabriel si trova all'interno di Google DeepMind, la divisione di ricerca con sede a Londra che Google ha formato nel 2023 fusionando i suoi due principali bracci di ricerca sull'IA. DeepMind ha costruito AlphaFold, il sistema che ha risolto la struttura di quasi tutte le proteine note. Lavora anche su Gemini, la famiglia di grandi modelli linguistici di Google, lo stesso tipo di IA che alimenta i chatbot conversazionali.

Cosa cambia effettivamente un eticista dell'IA?

Onestamente, questo è contestato. Il lavoro di Gabriel implica anticipare il danno prima che accada: riflettere su come un sistema potrebbe essere usato male, chi potrebbe essere danneggiato, quali valori dovrebbe riflettere. Ma anticipare il danno e prevenirlo sono due cose diverse.

La pressione è reale. I governi negli Stati Uniti e in Cina trattano l'IA come un bene strategico, investendo miliardi nello sviluppo e spingendo per la velocità. Le aziende affrontano le aspettative degli investitori e le minacce competitive da parte di rivali che lanciano nuovi modelli ogni pochi mesi. In questo contesto, un filosofo che dice "aspetta, riflettiamo su questo" sta nuotando controcorrente.

Gabriel ha detto a The Guardian che una domanda continua a emergere non importa quanto avanzi la tecnologia. "C'è questo mistero profondo di cosa, effettivamente, sia questa cosa?" Nessuno, inclusi gli ingegneri che costruiscono questi sistemi, comprende appieno perché i grandi modelli linguistici si comportino come fanno. Elaborano enormi quantità di testo, individuano schemi e generano risposte che possono sembrare ponderate o persino creative. Ma il meccanismo interno rimane, in modi importanti, opaco.

Questa opacità ha importanza per l'etica. Se non puoi spiegare perché un sistema ha preso una decisione, diventa molto difficile ritenere qualcuno responsabile quando qualcosa va male.

Per le persone comuni, l'implicazione pratica è semplice: gli strumenti di IA che usi al lavoro, in sanità o a scuola sono costruiti da aziende dove persone come Gabriel stanno combattendo per avere un posto al tavolo. Se vince questo argomento determina cosa questi strumenti ti fanno.

La presenza di Gabriel non garantisce risultati positivi. Ma la sua assenza probabilmente li renderebbe peggiori. La domanda, dopo sette anni, è se l'etica funziona come un freno genuino o come decorazione rassicurante su una macchina troppo veloce per essere fermata.