L'IA è un prodotto umano, non una forza magica. Un nuovo libro vuole che tu capisca la differenza.

Punti chiave

• Il libro di Eleanor Drage sostiene che l'IA è costruita su lavoro umano, dall'estrazione di materie prime all'etichettatura dei dati di addestramento, non su alcuna intelligenza misteriosa.
• Drage sostiene che le grandi aziende tecnologiche non possono realizzare le loro promesse utopiche mentre danno priorità al profitto rispetto all'interesse pubblico.
• L'ossessione culturale per l'estinzione causata dall'IA, sostiene, distrae dalle soluzioni pratiche che potrebbero rendere l'IA più sicura fin da ora.
• Demistificare il linguaggio di marketing, come "il cloud" e "allucinazione", è un modo concreto in cui i cittadini possono opporsi alle narrazioni delle aziende tecnologiche.

La parola "intelligenza artificiale" ha un peso notevole. Evoca l'immagine di qualcosa di vasto e inconoscibile, quasi sovrumano. Eleanor Drage, eticista dell'IA presso l'Università di Cambridge, vuole dissolvere completamente questa impressione.

Il suo nuovo libro, recensito da The Guardian, sostiene che l'IA non è una forza mistica. È il prodotto di lavoratori nelle miniere di silicio e quarzo, nelle fabbriche di microchip e nei centri di etichettatura dei dati, dove le persone sono pagate per etichettare immagini e testi affinché i sistemi di apprendimento automatico, il software che apprende pattern da enormi set di dati, possano essere addestrati. Comprendere questa catena umana, dice Drage, è il modo in cui i cittadini iniziano a riprendere il potere dalle aziende che costruiscono questi sistemi.

Cosa significa veramente il gergo?

La mossa più semplice e utile di Drage è attaccare il linguaggio stesso. "Il cloud" suona come un fenomeno naturale. È solo il computer di qualcun altro. Un'"allucinazione" dell'IA, il termine usato quando un chatbot afferma con sicurezza qualcosa di falso, è in realtà un errore di sistema o un errore di etichettatura dei dati. Chiamarla allucinazione implica che la macchina abbia una mente che occasionalmente divaga. Non è così.

"Intelligenza" è il più grande trucco. La parola è ampia, carica di significato e, secondo Drage, potenzialmente fuorviante quando applicata a un software che predice la parola successiva in una frase.

Le persone dovrebbero preoccuparsi che l'IA cancelli l'umanità?

Drage è scettica sul fatto che l'incorniciatura apocalittica aiuti veramente le persone ordinarie. La storia dominante della Silicon Valley, secondo cui l'IA consegnerà un'era dorata o distruggerà la civiltà, è affascinante ma conveniente. Distrae l'attenzione da domande pratiche: chi controlla i dati che alimentano questi sistemi? Come dovrebbe essere regolata l'IA? Quali diritti hanno i lavoratori e gli utenti?

Il linguaggio apocalittico crea anche una falsa gerarchia dei problemi. Il cambiamento climatico, l'instabilità geopolitica e la disuguaglianza economica già causano enormi danni alle persone reali oggi. Drage sottolinea che risolvere quei problemi ridurrebbe anche molti rischi legati all'IA.

L'argomento più acuto del libro è semplice. La grande tecnologia non può onestamente promettere l'utopia mentre insegue il profitto e serve un gruppo ristretto di azionisti. I due obiettivi sono in tensione diretta.

Cosa può fare effettivamente una persona ordinaria?

Il consiglio pratico di Drage si concentra sullo scetticismo informato. Metti in discussione i termini di marketing. Chiediti chi beneficia quando un'azienda descrive il suo prodotto come "intelligente" o i suoi errori come "allucinazioni". Esigi regole più chiare su come i dati personali vengono raccolti e utilizzati per addestrare i modelli di IA.

Niente di questo richiede una laurea in informatica. Richiede le stesse competenze di lettura critica che le persone applicano a qualsiasi altra industria che fa promesse importanti.

Domande comuni

Che cos'è un centro di etichettatura dei dati?

È un luogo di lavoro dove alle persone viene pagato il compito di rivedere e etichettare contenuti, come contrassegnare quali immagini contengono un gatto o segnalare testi dannosi, affinché i sistemi di IA dispongano di informazioni pulite e organizzate da cui imparare.

Perché il linguaggio utilizzato dalle aziende tecnologiche è importante?

Parole come "allucinazione" o "intelligenza" modellano il modo in cui il pubblico pensa alla responsabilità. Se un chatbot "allucina", sembra un difetto al di là del controllo di chiunque. Se commette un errore di etichettatura, qualcuno è responsabile di correggerlo.