План Великобритании использовать ИИ для определения возраста мигрантов подвергает опасности детей-беженцев, предупреждают благотворительные организации

Ключевые моменты

• Министерство внутренних дел Великобритании планирует внедрить программное обеспечение ИИ для определения возраста по лицам мигрантов, прибывающих в Великобританию.
• Организации по защите прав и благотворительные организации для детей предупреждают, что эта технология содержит расовые предубеждения, которые систематически переоценивают возраст чёрных детей.
• Критики заявляют, что эта ошибка поместит детей в учреждения для взрослых, подвергая их серьёзной опасности.
• Не было опубликовано данных рецензируемых испытаний для этого конкретного применения; предупреждения основаны на известных недостатках аналогичных систем.

Ребёнок, спасающийся из зоны боевых действий, прибывает в Великобританию в одиночку. Алгоритм смотрит на его лицо и решает, что это взрослый. Его отправляют жить со взрослыми незнакомцами в жилое помещение, которое не предназначено для их защиты. Это сценарий, о котором организации по защите прав предупреждают, что он вероятен, если Министерство внутренних дел продолжит свой план использования ИИ-технологии определения возраста по лицам — технологии, которая анализирует лицо человека и пытается определить его возраст — для проверки мигрантов.

Сеть защиты прав человека и несколько благотворительных организаций для детей, как впервые сообщила газета The Guardian, требуют от министров отказаться от этого плана. Их основной аргумент: модели ИИ, лежащие в основе этих инструментов, обучены в основном на лицах из более богатых стран, что означает, что они работают менее точно с более тёмным тоном кожи и систематически определяют чёрные лица как более старые, чем они есть на самом деле.

Какова реальная опасность для детей?

Дети, неправильно определённые как взрослые, теряют правовую защиту, которую Великобритания предоставляет несопровождаемым несовершеннолетним. Они могут быть размещены со взрослыми, лишены специализированной поддержки и обработаны в системе предоставления убежища без опекуна. Для ребёнка, уже травмированного конфликтом, последствия могут быть серьёзными.

Технология определения возраста по лицам является действительно сложной задачей даже для опытных клиницистов. Человеческие оценщики уже допускают ошибки. Добавление слоя ИИ с документированными расовыми предубеждениями, утверждают критики, не делает процесс более точным. Это делает предвзятый результат более быстрым и более трудным для оспаривания.

Что говорит доказательственная база о предубеждениях в этих системах?

Исследователи на протяжении многих лет документировали, что ИИ для анализа лиц работает неравномерно на разных тонах кожи. Широко цитируемое исследование 2018 года исследователя MIT Джой Буоламвини показало, что коммерческие инструменты анализа лиц неправильно классифицировали женщин с более тёмной кожей с частотой ошибок на 34 процентных пункта выше, чем для мужчин со светлой кожей. Инструменты определения возраста, которые сложнее, чем простое распознавание, несут аналогичные риски.

Министерство внутренних дел не опубликовало независимые, рецензируемые результаты испытаний, показывающие, что его выбранная система работает одинаково хорошо на всех этнических группах. Это отсутствие имеет огромное значение, когда речь идёт о безопасности ребёнка.

Что дальше?

Правительство не изменило свой курс. Организации по защите прав требуют отказаться от этих планов до проведения прозрачного независимого аудита любого инструмента на предмет точности на всех тонах кожи и в возрастных группах, с конкретным включением детей в это тестирование.

Для всех, кто работает с несопровождаемыми детьми-мигрантами или выступает в их защиту, практический посыл ясен: оспаривайте любую оценку возраста, основанную на автоматизированном анализе лиц, спрашивайте, какая система была использована и есть ли опубликованные аудиты на предмет предубеждений, и требуйте проверки человеком с соответствующей квалификацией.

Технология может в конечном итоге улучшиться. В настоящее время доказательства того, что она работает справедливо для детей, которые, вероятнее всего, с ней столкнутся, просто отсутствуют.

Частые вопросы

Может ли ИИ для распознавания лиц надёжно определить возраст человека?

Нет, с точностью, необходимой для принятия правового решения. Даже ведущие коммерческие системы имеют измеримые уровни ошибок, и эти ошибки распределены неравномерно на разных этнических группах.

Имеются ли какие-либо меры защиты?

Министерство внутренних дел не опубликовало подробности независимого аудита на предмет предубеждений для своей запланированной системы. Организации по защите прав говорят, что этот аудит должен проводиться перед развёртыванием, а не после.