El plan del Reino Unido de usar IA para juzgar la edad de migrantes pone en riesgo a menores refugiados, advierten organizaciones benéficas
Los grupos de derechos humanos advierten que la tecnología de estimación de edad facial tiene sesgos raciales que obligarán a niños negros de zonas de conflicto a alojamientos y detención para adultos.
Puntos clave
- La Oficina del Interior británica planea introducir software de estimación de edad facial basado en IA para evaluar a migrantes que llegan al Reino Unido.
- Grupos de derechos humanos y organizaciones benéficas para menores advierten que la tecnología tiene sesgos raciales que sobrestiman sistemáticamente la edad de niños negros.
- Los críticos dicen que este error colocará a niños en instalaciones para adultos, exponiéndolos a daños graves.
- No se han publicado datos de pruebas revisadas por pares para este despliegue específico; las advertencias se basan en defectos conocidos en sistemas comparables.
Un niño que huye de una zona de guerra llega al Reino Unido solo. Un algoritmo observa su cara y decide que es un adulto. Lo envían a vivir con extraños adultos en alojamientos no diseñados para protegerlo. Este es el escenario que los grupos de derechos humanos ahora advierten que es probable si la Oficina del Interior continúa con su plan de usar estimación de edad facial impulsada por IA, una tecnología que lee la cara de una persona e intenta calcular su edad, para evaluar migrantes.
La Red de Derechos Humanos y varias organizaciones benéficas para menores, según informó primero The Guardian, instan a los ministros a abandonar el plan. Su argumento principal: los modelos de IA detrás de estas herramientas se entrenan principalmente con caras de países más ricos, lo que significa que funcionan con menor precisión en tonos de piel más oscuros y leen sistemáticamente los rostros negros como más antiguos de lo que realmente son.
¿Cuál es el riesgo real para los niños?
Los niños evaluados erróneamente como adultos pierden las protecciones legales que el Reino Unido otorga a menores no acompañados. Pueden alojarse con adultos, se les niega apoyo especializado y se procesan a través del sistema de asilo sin un tutor. Para un niño ya traumatizado por el conflicto, las consecuencias pueden ser graves.
La tecnología de estimación de edad es genuinamente difícil incluso para clínicos experimentados. Los evaluadores humanos ya cometen errores. Agregar una capa de IA que tiene sesgos documentados, dicen los críticos, no hace que el proceso sea más preciso. Hace que un resultado sesgado sea más rápido y más difícil de cuestionar.
¿Qué dice la evidencia sobre sesgos en estos sistemas?
Los investigadores han documentado durante años que la IA de análisis facial funciona de manera desigual entre tonos de piel. Un estudio ampliamente citado de 2018 de la investigadora del MIT Joy Buolamwini encontró que las herramientas comerciales de análisis facial clasificaron erróneamente a mujeres de piel más oscura con tasas de error hasta 34 puntos porcentuales más altas que para hombres de piel más clara. Las herramientas de estimación de edad, que son más complejas que el reconocimiento simple, conllevan riesgos similares.
La Oficina del Interior no ha publicado resultados independientes de pruebas revisadas por pares que demuestren que su sistema elegido funciona de manera equitativa entre grupos étnicos. Esta ausencia importa enormemente cuando la apuesta es la seguridad de un niño.
¿Qué sucede a continuación?
El gobierno no ha cambiado de rumbo. Los grupos de derechos humanos piden que se abandonen los planes pendientes de auditorías independientes y transparentes de la precisión de cualquier herramienta en todos los tonos de piel y grupos de edad, con menores específicamente incluidos en esas pruebas.
Para cualquiera que trabaje con o defienda a menores migrantes no acompañados, el mensaje práctico es claro: cuestionar cualquier evaluación de edad que se basó en análisis facial automatizado, preguntar qué sistema se utilizó y si ha publicado auditorías de sesgos, e insistir en revisión humana por parte de un evaluador calificado.
La tecnología puede mejorar eventualmente. En este momento, la evidencia de que funciona de manera justa para los niños que tienen más probabilidades de enfrentarla simplemente no existe.
Preguntas frecuentes
¿Puede la IA facial determinar de manera confiable qué edad tiene alguien?
No con la precisión necesaria para una decisión legal. Incluso los sistemas comerciales líderes tienen tasas de error medibles, y esos errores no se distribuyen equitativamente entre grupos étnicos.
¿Hay salvaguardas en su lugar?
La Oficina del Interior no ha publicado detalles de auditorías de sesgos independientes para su sistema planeado. Los grupos de derechos humanos dicen que esa auditoría debe ocurrir antes de cualquier despliegue, no después.
