यूके की एआई योजना बाल शरणार्थियों को जोखिम में डालती है, दान संगठन चेतावनी देते हैं
अधिकार समूह कहते हैं कि चेहरे की आयु अनुमान तकनीक में नस्लीय पूर्वाग्रह है जो संघर्ष क्षेत्रों के काले बच्चों को वयस्क आवास और नजरबंदी में डाल देगा।
मुख्य बिंदु
- ब्रिटिश होम ऑफिस यूके में आने वाले प्रवासियों की जांच के लिए एआई चेहरा आयु अनुमान सॉफ्टवेयर पेश करने की योजना बना रहा है।
- अधिकार समूह और बाल दान संगठन चेतावनी देते हैं कि तकनीक में नस्लीय पूर्वाग्रह है जो काले बच्चों की आयु को व्यवस्थित रूप से अधिक आंकता है।
- आलोचकों का कहना है कि यह त्रुटि बच्चों को वयस्क सुविधाओं में रखेगी, जिससे उन्हें गंभीर नुकसान का खतरा होगा।
- इस विशेष परिनियोजन के लिए कोई सहकर्मी-समीक्षित परीक्षण डेटा प्रकाशित नहीं हुआ है; चेतावनियां तुलनीय प्रणालियों में ज्ञात खामियों पर आधारित हैं।
एक बच्चा युद्ध क्षेत्र से भाग कर अकेले यूके आता है। एक एल्गोरिदम उनके चेहरे को देखता है और तय करता है कि वह वयस्क हैं। उन्हें बड़े अजनबियों के साथ ऐसे आवास में रहने के लिए भेजा जाता है जो उनकी सुरक्षा के लिए डिज़ाइन नहीं किया गया है। यह वह परिदृश्य है जिससे अधिकार समूह अब चेतावनी दे रहे हैं कि यदि होम ऑफिस एआई-संचालित चेहरे की आयु अनुमान का उपयोग करने की अपनी योजना को आगे बढ़ाता है तो संभावना है, एक तकनीक जो किसी के चेहरे को पढ़ती है और यह गणना करने का प्रयास करती है कि वे कितने पुराने हैं, प्रवासियों की जांच के लिए।
मानवाधिकार नेटवर्क और कई बाल दान संगठन, जैसा कि पहली बार द गार्जियन द्वारा रिपोर्ट किया गया था, मंत्रियों से इस योजना को छोड़ने का आग्रह कर रहे हैं। उनका मुख्य तर्क: इन उपकरणों के पीछे की एआई मॉडल मुख्य रूप से अमीर देशों से चेहरों पर प्रशिक्षित हैं, जिसका अर्थ है कि वे गहरे रंग की त्वचा पर कम सटीकता से काम करते हैं और काले चेहरों को व्यवस्थित रूप से उनसे अधिक उम्र के रूप में पढ़ते हैं।
बच्चों के लिए वास्तविक जोखिम क्या है?
गलती से वयस्क के रूप में मूल्यांकन किए गए बच्चे यूके द्वारा अकेले नाबालिगों को दिए जाने वाले कानूनी सुरक्षा खो देते हैं। उन्हें वयस्कों के साथ रखा जा सकता है, विशेषज्ञ सहायता से वंचित किया जा सकता है, और अभिभावक के बिना शरणार्थी प्रणाली के माध्यम से संसाधित किया जा सकता है। एक बच्चे के लिए जो पहले से ही संघर्ष से आघात का सामना कर चुका है, परिणाम गंभीर हो सकते हैं।
आयु अनुमान तकनीक अनुभवी चिकित्सकों के लिए भी वास्तव में कठिन है। मानव मूल्यांकनकर्ता पहले से ही त्रुटियां करते हैं। एक एआई परत जोड़ना जिसमें दस्तावेज़ किया गया नस्लीय पूर्वाग्रह है, आलोचकों के अनुसार, प्रक्रिया को अधिक सटीक नहीं बनाता है। यह एक पूर्वाग्रहपूर्ण परिणाम को तेज और चुनौती देने में कठिन बनाता है।
इन प्रणालियों में पूर्वाग्रह के बारे में साक्ष्य क्या कहता है?
शोधकर्ताओं ने वर्षों से दस्तावेज़ किया है कि चेहरे विश्लेषण एआई त्वचा के रंग में असमान रूप से काम करता है। एमआईटी शोधकर्ता जॉय बुओलामविनी द्वारा 2018 के एक व्यापक रूप से उद्धृत अध्ययन में पाया गया कि वाणिज्यिक चेहरा विश्लेषण उपकरण हल्की त्वचा वाले पुरुषों की तुलना में गहरी त्वचा वाली महिलाओं को 34 प्रतिशत अंकों तक अधिक त्रुटि दर पर गलत वर्गीकृत किया। आयु अनुमान उपकरण, जो सरल पहचान से अधिक जटिल हैं, समान जोखिम रखते हैं।
होम ऑफिस ने स्वतंत्र, सहकर्मी-समीक्षित परीक्षण परिणाम प्रकाशित नहीं किए हैं जो दिखाते हैं कि इसकी चुनी गई प्रणाली सभी जातीयताओं में समान रूप से काम करती है। जब दांव बाल की सुरक्षा हो तो यह अनुपस्थिति काफी महत्वपूर्ण है।
आगे क्या होगा?
सरकार ने अपना रुख नहीं बदला है। अधिकार समूह पारदर्शी, स्वतंत्र ऑडिटिंग की प्रतीक्षा में योजनाओं को खत्म करने के लिए कह रहे हैं कि किसी भी उपकरण की सभी त्वचा के रंग और आयु समूहों में सटीकता, विशेषकर बच्चों को परीक्षण में शामिल किया जाए।
अकेले बाल प्रवासियों के साथ काम करने वाले या उनकी वकालत करने वाले किसी के लिए, व्यावहारिक संदेश स्पष्ट है: किसी भी आयु मूल्यांकन को चुनौती दें जो स्वचालित चेहरा विश्लेषण पर निर्भर करता था, पूछें कि कौन सी प्रणाली का उपयोग किया गया था और क्या इसमें प्रकाशित पूर्वाग्रह ऑडिट हैं, और एक योग्य मूल्यांकनकर्ता द्वारा मानव समीक्षा पर जोर दें।
तकनीक अंततः सुधार सकती है। अभी के लिए, यह साक्ष्य कि यह उन बच्चों के लिए न्यायसंगत रूप से काम करता है जिनके सामने आने की सबसे अधिक संभावना है, वहां नहीं है।
सामान्य प्रश्न
क्या चेहरे की एआई विश्वसनीय रूप से बता सकता है कि कोई कितना पुराना है?
कानूनी निर्णय के लिए आवश्यक सटीकता के साथ नहीं। यहां तक कि अग्रणी वाणिज्यिक प्रणालियां भी औसत त्रुटि दर ले जाती हैं, और वे त्रुटियां सभी जातीयताओं में समान रूप से वितरित नहीं होती हैं।
क्या कोई सुरक्षा उपाय हैं?
होम ऑफिस ने अपनी योजनाबद्ध प्रणाली के लिए स्वतंत्र पूर्वाग्रह ऑडिटिंग के विवरण प्रकाशित नहीं किए हैं। अधिकार समूह कहते हैं कि ऑडिट किसी भी परिनियोजन से पहले होना चाहिए, बाद में नहीं।
