Britischer Plan zur KI-gestützten Altersbestimmung von Migranten gefährdet Kinderflüchtlinge, warnen Hilfsorganisationen

Wichtigste Punkte

• Das britische Innenministerium plant die Einführung von KI-Software zur Gesichtsaltersschätzung, um bei der Ankunft im Vereinigten Königreich ankommende Migranten zu überprüfen.
• Menschenrechtsgruppen und Kinderwohlfahrtsverbände warnen, dass die Technologie rassistische Vorurteile enthält und das Alter schwarzer Kinder systematisch überschätzt.
• Kritiker warnen davor, dass diese Fehler dazu führen, dass Kinder in Erwachseneneinrichtungen untergebracht werden, was sie erheblichen Schäden aussetzt.
• Es wurden keine begutachteten Testdaten für diese spezifische Anwendung veröffentlicht; die Warnungen stützen sich auf bekannte Mängel vergleichbarer Systeme.

Ein Kind, das aus einem Kriegsgebiet flieht, kommt allein im Vereinigten Königreich an. Ein Algorithmus betrachtet sein Gesicht und entscheidet, dass es erwachsen ist. Es wird in eine Unterkunft mit Erwachsenen verlegt, die nicht darauf ausgelegt ist, es zu schützen. Dies ist das Szenario, das Menschenrechtsgruppen jetzt warnen könnte eintreten, falls das Innenministerium seinen Plan verfolgt, KI-gestützte Gesichtsaltersschätzung einzusetzen – eine Technologie, die das Gesicht einer Person analysiert und versucht, das Alter zu bestimmen – um Migranten zu überprüfen.

Das Human Rights Network und mehrere Kinderwohlfahrtsverbände drängen, wie zuerst von The Guardian berichtet, die Minister, den Plan fallen zu lassen. Ihr Hauptargument: Die KI-Modelle hinter diesen Tools werden hauptsächlich anhand von Gesichtern aus wohlhabenderen Ländern trainiert, was bedeutet, dass sie bei dunkleren Hautfarben weniger genau funktionieren und schwarze Gesichter systematisch älter einstufen als sie sind.

Welches ist das tatsächliche Risiko für Kinder?

Kinder, die fälschlicherweise als Erwachsene eingestuft werden, verlieren den rechtlichen Schutz, den das Vereinigte Königreich unbegleiteten Minderjährigen gewährt. Sie können bei Erwachsenen untergebracht werden, erhalten keine spezialisierte Unterstützung und werden ohne Vormund durch das Asylsystem verarbeitet. Für ein Kind, das bereits durch Konflikte traumatisiert ist, können die Folgen schwerwiegend sein.

Altersschätzungstechnologie ist selbst für erfahrene Kliniker wirklich schwierig. Menschliche Bewerter machen bereits Fehler. Das Hinzufügen einer KI-Schicht mit dokumentierten rassistischen Vorurteilen macht den Prozess nach Ansicht von Kritikern nicht genauer. Es macht ein voreingenommenes Ergebnis schneller und schwerer anzufechten.

Was sagen die Erkenntnisse über Vorurteile in diesen Systemen?

Forscher haben seit Jahren dokumentiert, dass Gesichtserkennungs-KI bei verschiedenen Hautfarben ungleich funktioniert. Eine häufig zitierte Studie von 2018 der MIT-Forscherin Joy Buolamwini ergab, dass kommerzielle Gesichtserkennungstools dunklere Frauengesichter mit Fehlerquoten falsch klassifizierten, die bis zu 34 Prozentpunkte höher waren als bei hellhäutigen Männern. Altersschätzungstools, die komplexer sind als einfache Erkennung, tragen ähnliche Risiken.

Das Innenministerium hat keine unabhängigen, begutachteten Testergebnisse veröffentlicht, die zeigen, dass sein ausgewähltes System bei allen ethnischen Gruppen gleich gut funktioniert. Dieses Fehlen ist äußerst wichtig, wenn es um die Sicherheit eines Kindes geht.

Was kommt als Nächstes?

Die Regierung hat ihre Position nicht revidiert. Menschenrechtsgruppen fordern, dass die Pläne fallen gelassen werden, bis jedes Tool transparent und unabhängig auf seine Genauigkeit bei allen Hautfarben und Altersgruppen überprüft wurde, mit Kindern, die speziell in diese Tests einbezogen sind.

Für alle, die mit unbegleiteten Kindermigranten arbeiten oder sich für sie einsetzen, ist die praktische Botschaft klar: Hinterfragen Sie jede Altersbestimmung, die auf automatisierter Gesichtsanalyse basierte, fragen Sie, welches System verwendet wurde und ob es veröffentlichte Vorurteilsprüfungen hat, und bestehen Sie auf eine menschliche Überprüfung durch einen qualifizierten Bewerter.

Die Technologie könnte sich möglicherweise verbessern. Derzeit gibt es einfach keine Belege dafür, dass sie für die Kinder, die sie am wahrscheinlichsten betrifft, fair funktioniert.

Häufig gestellte Fragen

Kann Gesichts-KI zuverlässig bestimmen, wie alt jemand ist?

Nicht mit der für eine rechtliche Entscheidung erforderlichen Genauigkeit. Selbst führende kommerzielle Systeme weisen messbare Fehlerquoten auf, und diese Fehler sind nicht gleichmäßig auf ethnische Gruppen verteilt.

Gibt es Schutzmaßnahmen?

Das Innenministerium hat keine Details zur unabhängigen Vorurteilsprüfung für sein geplantes System veröffentlicht. Menschenrechtsgruppen sagen, dass diese Prüfung vor jeder Einführung stattfinden muss, nicht danach.