План Британії використовувати ШІ для визначення віку мігрантів загрожує дітям-біженцям, попереджують благодійні організації

Ключові моменти

• Британське Міністерство внутрішніх справ планує впровадити програмне забезпечення для визначення віку за обличчям на основі ШІ для перевірки мігрантів, які прибувають до Великобританії.
• Правозахисні групи та благодійні організації для захисту дітей попереджують, що технологія має расовий упередження, яке систематично переоцінює вік чорношкірих дітей.
• Критики стверджують, що помилка розмістить дітей у закладах для дорослих, піддавши їх серйозній небезпеці.
• Немає опублікованих даних рецензованих випробувань цього конкретного розгортання; попередження ґрунтуються на відомих недоліках порівнянних систем.

Дитина, яка тікає з воєнної зони, прибуває до Великобританії сама. Алгоритм дивиться на її обличчя і вирішує, що вона дорослий. Її відправляють жити з незнайомцями-дорослими в житлі, яке не було спроектовано для їх захисту. Це сценарій, який правозахисні групи тепер попереджують, є ймовірним, якщо Міністерство внутрішніх справ продовжить свій план щодо використання визначення віку за обличчям на основі ШІ — технології, яка аналізує обличчя людини та намагається обчислити її вік для перевірки мігрантів.

Мережа захисту прав людини та кілька благодійних організацій для захисту дітей, як спочатку повідомила The Guardian, закликають міністрів відмовитися від цього плану. Їх основний аргумент: моделі ШІ, які лежать в основі цих інструментів, навчаються переважно на обличчях людей з більш багатих країн, що означає, що вони менш точні на більш темних тонах шкіри та систематично сприймають чорні обличчя як старші, ніж вони насправді є.

Яка насправді небезпека для дітей?

Дітям, яким неправильно визначили вік як дорослим, втрачаються юридичні захисти, які Великобританія надає неповнолітнім, які залишилися одні. Вони можуть бути розміщені з дорослими, позбавлені спеціалізованої підтримки та оброблені в системі надання притулку без опікуна. Для дитини, уже травмованої конфліктом, наслідки можуть бути серйозними.

Технологія визначення віку справді складна навіть для досвідчених клініцистів. Людські оцінювачі вже роблять помилки. Додавання шару ШІ, який має документовані расові упередження, критики стверджують, не робить процес більш точним. Це робить упереджений результат швидшим та складнішим для оскарження.

Що говорить доказова база про упередження в цих системах?

Дослідники протягом років документували, що ШІ для аналізу облич працює нерівномірно на різних тонах шкіри. Широко цитована дослідження MIT 2018 року дослідниці Joy Buolamwini показала, що комерційні інструменти аналізу облич неправильно класифікували темношкірих жінок з частотою помилок на 34 відсоткових пункти вище, ніж для світлошкірих чоловіків. Інструменти для визначення віку, які є складнішими за простого розпізнавання, мають подібні ризики.

Міністерство внутрішніх справ не опублікувало незалежних, рецензованих результатів випробувань, які б показали, що його обрана система працює однаково на всіх етнічних групах. Ця відсутність надзвичайно важлива, коли ставки — безпека дитини.

Що буде далі?

Уряд не змінив свій курс. Правозахисні групи закликають скасувати ці плани, поки не буде проведено прозорого, незалежного аудиту точності будь-якого інструменту на всіх тонах шкіри та вікових групах, з конкретним включенням дітей в це тестування.

Для всіх, хто працює з неповнолітніми мігрантами, які залишилися одні, або виступає за них, практичне повідомлення зрозуміле: оскаржуйте будь-яку оцінку віку, яка спиралася на автоматизований аналіз облич, запитайте, яка система була використана та чи має вона опубліковані аудити упереджень, та наполягайте на перегляді людиною, кваліфікованим оцінювачем.

Технологія може в кінцевому підсумку поліпшитися. На даний момент докази того, що вона справедливо працює для дітей, які найбільш імовірно з нею зіткнуться, просто не існують.

Часті питання

Чи може ШІ для аналізу облич надійно визначити вік когось?

Ні, з точністю, необхідною для юридичного рішення. Навіть провідні комерційні системи мають вимірювані частоти помилок, і ці помилки розподіляються неоднаково на всіх етнічних групах.

Чи існують заходи безпеки?

Міністерство внутрішніх справ не опублікувало деталей незалежного аудиту упереджень для своєї запланованої системи. Правозахисні групи стверджують, що цей аудит повинен проводитися перед будь-яким розгортанням, а не після нього.