Il piano del Regno Unito di usare l'IA per giudicare l'età dei migranti mette a rischio i bambini rifugiati, avvertono le organizzazioni umanitarie

Punti chiave

• L'Home Office britannico intende introdurre software di stima dell'età facciale basato su IA per sottoporre a screening i migranti che arrivano nel Regno Unito.
• I gruppi per i diritti umani e le organizzazioni per i diritti dei bambini avvertono che la tecnologia presenta pregiudizi razziali che sistematicamente sovrastimano l'età dei bambini neri.
• I critici affermano che l'errore collocherà i bambini in strutture per adulti, esponendoli a gravi pericoli.
• Nessun dato di prova sottoposto a revisione paritaria per questo specifico utilizzo è stato pubblicato; gli avvertimenti si basano su difetti noti di sistemi comparabili.

Un bambino che fugge da una zona di guerra arriva nel Regno Unito da solo. Un algoritmo osserva il suo volto e decide che è un adulto. Viene mandato a vivere con persone adulte sconosciute in alloggi non progettati per proteggerli. Questo è lo scenario di cui i gruppi per i diritti umani ora avvertono che è probabile se l'Home Office procede con il suo piano di utilizzare la stima dell'età facciale basata su IA, una tecnologia che legge il volto di una persona e tenta di calcolare quanti anni ha, per sottoporre a screening i migranti.

Il Human Rights Network e varie organizzazioni per i diritti dei bambini, come riportato per primo da The Guardian, esortano i ministri a abbandonare il piano. Il loro argomento principale: i modelli di IA alla base di questi strumenti vengono addestrati principalmente su volti provenienti da paesi più ricchi, il che significa che funzionano meno accuratamente su tonalità di pelle più scure e leggono sistematicamente i volti neri come più vecchi di quanto non siano in realtà.

Qual è il rischio effettivo per i bambini?

I bambini valutati erroneamente come adulti perdono le protezioni legali che il Regno Unito concede ai minori non accompagnati. Possono essere alloggiati con adulti, negati supporto specialistico ed elaborati nel sistema di asilo senza un tutore. Per un bambino già traumatizzato dal conflitto, le conseguenze possono essere gravi.

La tecnologia di stima dell'età è genuinamente difficile anche per i clinici esperti. Gli assessor umani commettono già errori. Aggiungere uno strato di IA che presenta pregiudizi razziali documentati, secondo i critici, non rende il processo più accurato. Lo rende più veloce e più difficile da contestare.

Cosa dicono le prove sui pregiudizi in questi sistemi?

I ricercatori hanno documentato da anni che l'IA di analisi facciale funziona in modo disuguale su diverse tonalità di pelle. Uno studio ampiamente citato del 2018 del ricercatore MIT Joy Buolamwini ha rilevato che gli strumenti commerciali di analisi facciale hanno classificato erroneamente le donne dalla pelle più scura con tassi di errore fino a 34 punti percentuali più alti rispetto agli uomini dalla pelle più chiara. Gli strumenti di stima dell'età, che sono più complessi del semplice riconoscimento, portano rischi simili.

L'Home Office non ha pubblicato risultati indipendenti sottoposti a revisione paritaria che mostrino che il sistema da esso scelto funziona equamente su tutte le etnie. Questa assenza è estremamente importante quando la posta in gioco è la sicurezza di un bambino.

Cosa succede adesso?

Il governo non ha invertito il corso. I gruppi per i diritti umani chiedono che i piani siano abbandonati in attesa di un controllo trasparente e indipendente dell'accuratezza di qualsiasi strumento su tutte le tonalità di pelle e gruppi di età, con i bambini specificamente inclusi in tale test.

Per chiunque lavori con o sostenga i minori migranti non accompagnati, il messaggio pratico è chiaro: contestare qualsiasi valutazione dell'età basata su analisi facciale automatizzata, chiedere quale sistema sia stato utilizzato e se ha pubblicato audit sui pregiudizi, e insistere sulla revisione umana da parte di un assessor qualificato.

La tecnologia potrebbe eventualmente migliorare. Al momento, le prove che funziona equamente per i bambini che più probabilmente la affronteranno semplicemente non ci sono.

Domande comuni

L'IA facciale può determinare in modo affidabile l'età di qualcuno?

Non con l'accuratezza necessaria per una decisione legale. Anche i sistemi commerciali più importanti comportano tassi di errore misurabili, e questi errori non sono distribuiti equamente su tutte le etnie.

Ci sono misure di salvaguardia in atto?

L'Home Office non ha pubblicato dettagli di controlli indipendenti sui pregiudizi per il suo sistema pianificato. I gruppi per i diritti umani affermano che questo controllo deve avvenire prima di qualsiasi implementazione, non dopo.