Le projet britannique d'utiliser l'IA pour évaluer l'âge des migrants met en danger les enfants réfugiés, avertissent les associations

Points clés

• Le ministère de l'Intérieur britannique envisage d'introduire un logiciel d'IA d'estimation de l'âge par reconnaissance faciale pour dépister les migrants arrivant au Royaume-Uni.
• Les groupes de défense des droits et les organisations d'aide à l'enfance avertissent que la technologie présente des biais raciaux qui surestiment systématiquement l'âge des enfants noirs.
• Les critiques affirment que cette erreur placera les enfants dans des installations pour adultes, les exposant à des risques graves.
• Aucune donnée d'essai examinée par les pairs pour ce déploiement spécifique n'a été publiée ; les avertissements reposent sur les défauts connus des systèmes comparables.

Un enfant fuyant une zone de guerre arrive seul au Royaume-Uni. Un algorithme examine son visage et décide qu'il s'agit d'un adulte. Il est placé dans un logement partagé avec des adultes dans un cadre non conçu pour le protéger. C'est le scénario que les groupes de défense des droits avertissent de voir se concrétiser si le ministère de l'Intérieur poursuit son projet d'utiliser une reconnaissance faciale alimentée par l'IA pour évaluer l'âge, une technologie qui analyse le visage d'une personne et tente de calculer son âge, afin de dépister les migrants.

Le Human Rights Network et plusieurs organisations d'aide à l'enfance, selon les premiers rapports du Guardian, exhortent les ministres à abandonner ce projet. Leur argument central : les modèles d'IA derrière ces outils sont formés principalement sur des visages provenant de pays plus riches, ce qui signifie qu'ils fonctionnent moins précisément sur les peaux plus foncées et lisent systématiquement les visages noirs comme plus âgés qu'ils ne le sont réellement.

Quel est le risque réel pour les enfants ?

Les enfants évalués à tort comme des adultes perdent les protections légales que le Royaume-Uni accorde aux mineurs non accompagnés. Ils peuvent être logés avec des adultes, privés d'un soutien spécialisé et traités dans le système d'asile sans tuteur. Pour un enfant déjà traumatisé par un conflit, les conséquences peuvent être graves.

L'estimation de l'âge par reconnaissance faciale est véritablement difficile, même pour les cliniciens expérimentés. Les évaluateurs humains font déjà des erreurs. Ajouter une couche d'IA présentant des biais raciaux documentés, selon les critiques, ne rend pas le processus plus précis. Cela rend un résultat biaisé plus rapide et plus difficile à contester.

Que dit la preuve sur les biais dans ces systèmes ?

Les chercheurs documentent depuis des années que l'IA d'analyse faciale fonctionne inégalement selon les tons de peau. Une étude très citée de 2018 menée par la chercheuse du MIT Joy Buolamwini a révélé que les outils commerciaux d'analyse faciale ont mal classé les femmes à peau plus foncée à des taux d'erreur jusqu'à 34 points de pourcentage plus élevés que pour les hommes à peau plus claire. Les outils d'estimation de l'âge, qui sont plus complexes que la simple reconnaissance, comportent des risques similaires.

Le ministère de l'Intérieur n'a pas publié de résultats d'essai indépendants et examinés par les pairs montrant que son système choisi fonctionne également selon les groupes ethniques. Cette absence est très importante quand l'enjeu est la sécurité d'un enfant.

Que se passe-t-il ensuite ?

Le gouvernement n'a pas changé de cap. Les groupes de défense des droits demandent l'abandon de ces plans en attente d'un audit transparent et indépendant de la précision de tout outil selon tous les tons de peau et tous les groupes d'âge, avec les enfants spécifiquement inclus dans cet essai.

Pour quiconque travaille avec ou défend les enfants migrants non accompagnés, le message pratique est clair : contestez toute évaluation d'âge basée sur une analyse faciale automatisée, demandez quel système a été utilisé et s'il a publié des audits de biais, et exigez un examen humain par un évaluateur qualifié.

La technologie pourrait s'améliorer. Actuellement, la preuve qu'elle fonctionne équitablement pour les enfants les plus susceptibles d'y faire face n'existe tout simplement pas.

Questions fréquemment posées

L'IA faciale peut-elle déterminer de manière fiable l'âge de quelqu'un ?

Non avec la précision requise pour une décision légale. Même les systèmes commerciaux les plus avancés présentent des taux d'erreur mesurables, et ces erreurs ne sont pas distribuées équitablement selon les groupes ethniques.

Existe-t-il des garde-fous en place ?

Le ministère de l'Intérieur n'a pas publié les détails d'un audit de biais indépendant pour son système prévu. Les groupes de défense des droits affirment que cet audit doit avoir lieu avant tout déploiement, pas après.