El plan del Reino Unido de usar IA para evaluar la edad de migrantes pone en riesgo a menores refugiados, advierten organizaciones benéficas
Los grupos de derechos humanos afirman que la tecnología de estimación de edad facial conlleva sesgo racial que enviará a menores negros de zonas de conflicto a alojamientos y detención de adultos.
Puntos clave
- La Oficina del Interior británica planea introducir software de estimación de edad facial con IA para examinar a migrantes que llegan al Reino Unido.
- Los grupos de derechos humanos y organizaciones de protección de menores advierten que la tecnología conlleva sesgo racial que sobrestima sistemáticamente la edad de menores negros.
- Los críticos afirman que este error colocará a menores en instalaciones para adultos, exponiéndolos a daños graves.
- No se han publicado datos de pruebas revisadas por pares para este despliegue específico; las advertencias se basan en defectos conocidos de sistemas comparables.
Un menor que huye de una zona de guerra llega al Reino Unido solo. Un algoritmo observa su cara y decide que es adulto. Lo envían a vivir con extraños adultos en un alojamiento no diseñado para protegerlo. Este es el escenario que los grupos de derechos humanos ahora advierten que es probable si la Oficina del Interior continúa con su plan de usar estimación de edad facial impulsada por IA, una tecnología que lee la cara de una persona e intenta calcular su edad, para examinar a migrantes.
La Red de Derechos Humanos y varias organizaciones benéficas de protección de menores, según informó primero The Guardian, instan a los ministros a abandonar el plan. Su argumento central: los modelos de IA detrás de estas herramientas se entrenan principalmente con caras de países más ricos, lo que significa que funcionan con menor precisión en tonos de piel más oscuros e interpretan sistemáticamente las caras negras como más viejas de lo que son.
¿Cuál es el riesgo real para los menores?
Los menores evaluados incorrectamente como adultos pierden las protecciones legales que el Reino Unido brinda a los menores no acompañados. Pueden ser alojados con adultos, se les niega apoyo especializado, se les retira un tutor durante el proceso de asilo. Para un menor ya traumatizado por un conflicto, las consecuencias pueden ser graves.
La estimación de edad es genuinamente difícil incluso para clínicos experimentados. Los evaluadores humanos ya cometen errores. Añadir una capa de IA que conlleva sesgo racial documentado, según dicen los críticos, no hace el proceso más preciso. Hace que un resultado sesgado sea más rápido y más difícil de cuestionar.
¿Qué dice la evidencia sobre el sesgo en estos sistemas?
Los investigadores han documentado durante años que la IA de análisis facial funciona desigualmente entre tonos de piel. Un estudio ampliamente citado de la investigadora del MIT Joy Buolamwini encontró que las herramientas comerciales de análisis facial clasificaron incorrectamente a mujeres de piel más oscura a tasas de error sustancialmente más altas que los hombres de piel más clara. Las herramientas de estimación de edad, que son más complejas que el reconocimiento simple, conllevan riesgos similares.
Nuestro informe del 28 de julio sobre cámaras de IA instaladas en farolas de Warwickshire encontró que grupos de libertades civiles planteaban la misma preocupación sobre sistemas faciales sin auditar siendo desplegados antes de completar pruebas de sesgo.
La Oficina del Interior no ha publicado resultados de pruebas independientes revisados por pares que demuestren que su sistema elegido funciona equitativamente entre etnias. Esta ausencia es enormemente importante cuando la seguridad de un menor está en juego.
¿Qué sucede a continuación?
El gobierno no ha dado marcha atrás. Los grupos de derechos humanos piden que se abandonen los planes pendiente una auditoría transparente e independiente de la precisión de cualquier herramienta en todos los tonos de piel y grupos de edad, con menores específicamente incluidos en esa prueba.
Para cualquiera que trabaje con o defienda a menores migrantes no acompañados, el mensaje práctico es este: cuestionar cualquier evaluación de edad que se basara en análisis facial automatizado, preguntar qué sistema se utilizó y si ha publicado auditorías de sesgo, e insistir en revisión humana por parte de un evaluador calificado.
La tecnología puede mejorar. En este momento, la evidencia de que funciona equitativamente para los menores más probables de enfrentarla simplemente no existe.
Preguntas frecuentes
¿Puede la IA facial determinar confiablemente la edad de alguien?
No con la precisión necesaria para una decisión legal. Incluso los sistemas comerciales líderes conllevan tasas de error medibles, y esos errores no se distribuyen equitativamente entre etnias.
¿Hay medidas de protección en su lugar?
La Oficina del Interior no ha publicado detalles de auditoría de sesgo independiente para su sistema previsto. Los grupos de derechos humanos dicen que esa auditoría debe ocurrir antes de cualquier despliegue, no después.
