L'IA potrebbe curare il cancro o cementare l'autocrazia. Dipende da noi

Punti chiave

• Katherine Rundell, autrice e accademica di Oxford, avverte che l'IA sta già spostando ricchezza e potere verso un piccolo numero di individui.
• Sostiene che l'IA potrebbe essere utilizzata per diffondere disinformazione, consentire la sorveglianza di massa e controllare armi che uccidono senza piloti o soldati umani.
• Elenca anche i benefici genuini: ricerca più rapida sul cancro, migliori sistemi di allerta per i disastri, accesso più ampio all'assistenza legale.
• La sua tesi centrale, pubblicata su The Guardian, è che chi controlla l'IA conta più di ciò che l'IA può fare.

Due futuri convivono nella stessa tecnologia. Questo è l'argomento scomodo che Katherine Rundell, autrice e accademica, propone ai lettori questa settimana, ed è difficile scartarlo.

Da un lato: uno strumento che potrebbe, secondo le sue parole, accelerare la cura del cancro, aiutare le persone disabili a vivere più indipendentemente e fornire ai cittadini ordinari il tipo di conoscenza legale che attualmente costa centinaia di sterline all'ora. I sistemi di allerta precoce per alluvioni e incendi boschivi potrebbero diventare più precisi. Gli scienziati potrebbero trovare modelli negli ecosistemi terrestri che nessun team umano potrebbe individuare da solo.

Dall'altro lato c'è qualcosa di più oscuro.

Di cosa esattamente sta avvertendo Rundell?

La sua preoccupazione più acuta è la concentrazione del potere. L'IA, scrive, sta già consentendo uno "spostamento da brividi" di ricchezza da molti verso un minuscolo gruppo di uomini il cui atteggiamento verso la vita umana le appare allarmante. Non li nomina, ma il punto è chiaro.

Oltre alla ricchezza, individua tre pericoli specifici. Primo, la disinformazione su una scala che nessuna tecnologia precedente potrebbe eguagliare: l'IA può generare testo, immagini e video falsi senza eserciti di lavoratori umani dietro. Secondo, la sorveglianza di massa, la capacità dei governi o delle aziende di osservare e registrare i cittadini così completamente che il dissenso diventa pericoloso. Terzo, le armi autonome letali, sistemi militari che selezionano e uccidono bersagli senza che un umano prenda la decisione finale.

Considerati insieme, sostiene, questi mezzi descrivono qualcosa di simile a un kit di attrezzi pronto all'uso per il controllo autoritario.

Questo significa che l'IA è cattiva?

Rundell dice di no, ma pone una condizione difficile. I benefici si materializzano solo se le persone che controllano la tecnologia hanno valori almeno decenti. Se l'IA finisce nelle mani di "criminali e despoti", le scoperte mediche diventano irrilevanti.

Non è un argomento tecnico. È un argomento politico.

Il suo focus è l'educazione: le aule scolastiche sono dove la prossima generazione di elettori, ingegneri e responsabili politici forma le proprie assunzioni su cosa sia la tecnologia. È preoccupata che quelle menti vengano plasmate da strumenti costruiti per il coinvolgimento e l'efficienza piuttosto che per la curiosità e il pensiero critico.

Cosa significa questo per le persone comuni?

L'implicazione pratica riguarda meno quale app utilizzi e più chi voti e che domande poni alle aziende che costruiscono questi sistemi. L'articolo di Rundell è un invito, non un manuale.

Per genitori e insegnanti, la domanda più immediata che pone è se la versione dell'IA che gli studenti incontrano a scuola costruisce il loro pensiero o lo sostituisce silenziosamente. Questo dibattito sta accadendo in questo momento nelle sale insegnanti e nei documenti politici, e non può aspettare.

Domande frequenti

L'IA viene davvero già utilizzata per la sorveglianza?

Sì. I governi di diversi paesi utilizzano già il riconoscimento facciale alimentato da IA e l'analisi dei dati per monitorare i cittadini. La tecnologia non è ipotetica.

L'IA può davvero aiutare a trovare una cura per il cancro?

Gli strumenti di IA sono già utilizzati nella ricerca sul cancro per analizzare le scansioni mediche e identificare i candidati ai farmaci più velocemente di quanto potrebbero fare i ricercatori umani da soli. I risultati finora sono promettenti, ma le cure rimangono ancora anni lontani.

Devo preoccuparmi dell'IA e dell'educazione di mio figlio?

Il dibattito è aperto e non risolto. La cosa più utile che un genitore può fare adesso è chiedere alla scuola di suo figlio quale sia la sua politica su gli strumenti di IA e se il pensiero critico è ancora insegnato esplicitamente.