Plano britânico para usar IA a avaliar idades de migrantes coloca menores refugiados em risco, alertam organizações de direitos

Pontos-chave

• A Administração de Assuntos Internos britânica planeia introduzir software de estimativa de idade facial por IA para rastrear migrantes que chegam ao Reino Unido.
• Grupos de direitos e organizações de proteção de menores alertam que a tecnologia tem preconceitos raciais que sistematicamente superestimam as idades de crianças negras.
• Críticos dizem que o erro colocará crianças em instalações para adultos, expondo-as a riscos graves.
• Nenhum dado de ensaio revisto por pares para esta implementação específica foi publicado; os alertas baseiam-se em falhas conhecidas em sistemas comparáveis.

Uma criança a fugir de uma zona de guerra chega ao Reino Unido sozinha. Um algoritmo observa o seu rosto e decide que é um adulto. É enviada para viver com estranhos adultos num alojamento não concebido para a proteger. Este é o cenário que os grupos de direitos estão agora a avisar que é provável se a Administração de Assuntos Internos prosseguir com o seu plano de usar estimativa de idade facial baseada em IA, uma tecnologia que lê o rosto de uma pessoa e tenta calcular a sua idade, para rastrear migrantes.

A Rede de Direitos Humanos e várias organizações de proteção de menores, como foi primeiro reportado pelo The Guardian, estão a instir para que os ministros abandonem o plano. O seu argumento central: os modelos de IA por trás destas ferramentas foram treinados principalmente com rostos de países mais ricos, o que significa que funcionam com menos precisão em tons de pele mais escura e sistematicamente leem rostos negros como sendo mais velhos do que realmente são.

Qual é o risco real para as crianças?

As crianças avaliadas incorretamente como adultos perdem as proteções legais que o Reino Unido oferece aos menores desacompanhados. Podem ser alojadas com adultos, negado o apoio especializado, e processadas através do sistema de asilo sem um tutor. Para uma criança já traumatizada pelo conflito, as consequências podem ser graves.

A tecnologia de estimativa de idade é genuinamente difícil, mesmo para clínicos experientes. Os avaliadores humanos já cometem erros. Adicionar uma camada de IA que tem preconceitos raciais documentados, dizem críticos, não torna o processo mais preciso. Torna um resultado enviesado mais rápido e mais difícil de contestar.

O que dizem as provas sobre preconceito nesses sistemas?

Investigadores documentaram durante anos que a IA de análise facial funciona desigualmente entre tons de pele. Um estudo muito citado de 2018 da investigadora do MIT Joy Buolamwini constatou que ferramentas comerciais de análise facial classificaram incorretamente mulheres de pele mais escura com taxas de erro até 34 pontos percentuais superiores às dos homens de pele mais clara. As ferramentas de estimativa de idade, que são mais complexas do que o simples reconhecimento, têm riscos similares.

A Administração de Assuntos Internos não publicou resultados de ensaios independentes e revisto por pares mostrando que o sistema escolhido funciona igualmente entre etnias. Esta ausência é extremamente importante quando o que está em jogo é a segurança de uma criança.

O que acontece a seguir?

O governo não inverteu o rumo. Os grupos de direitos estão a pedir que os planos sejam abandonados até haver auditoria independente e transparente da precisão de qualquer ferramenta em todas as etnias e grupos etários, com crianças especificamente incluídas nesse teste.

Para qualquer pessoa que trabalhe ou defenda menores migrantes desacompanhados, a mensagem prática é clara: questione qualquer avaliação de idade que se tenha baseado em análise facial automatizada, pergunte que sistema foi usado e se tem auditorias de preconceito publicadas, e insista numa revisão humana por um avaliador qualificado.

A tecnologia pode eventualmente melhorar. Neste momento, a prova de que funciona de forma justa para as crianças mais prováveis de a enfrentar simplesmente não existe.

Perguntas comuns

Pode a IA facial dizer de forma fiável qual é a idade de alguém?

Não com a precisão necessária para uma decisão legal. Mesmo os sistemas comerciais mais conceituados têm taxas de erro mensuráveis, e esses erros não são distribuídos igualmente entre etnias.

Existem salvaguardas implementadas?

A Administração de Assuntos Internos não publicou detalhes de auditoria de preconceito independente para o seu sistema planeado. Os grupos de direitos dizem que essa auditoria deve acontecer antes de qualquer implementação, não depois.