AI भर्ती उपकरण मानव की तुलना में नौकरी आवेदकों को लेबल करने की अधिक संभावना रखते हैं, नए शोध में पता चला

मुख्य बिंदु

• प्रिंसटन और शिकागो विश्वविद्यालय के शोधकर्ताओं ने जुलाई 2025 में निष्कर्ष प्रकाशित किए, जो दर्शाते हैं कि बड़े भाषा मॉडल (LLM) नियंत्रित भर्ती सिमुलेशन में मानव की तुलना में नौकरी के उम्मीदवारों को अधिक गंभीरता से लेबल करते हैं।
• एक पृथक्करण स्केल पर जहां 2.0 का अर्थ समूह-से-नौकरी का पूर्ण प्रतिबंध है, मानव प्रतिभागियों का स्कोर 0.84 था। OpenAI के तर्क मॉडल o3 ने 1.83 का स्कोर प्राप्त किया।
• मॉडल को उचित होने के लिए कहना कम प्रभाव डालता है, लेकिन विविध भर्ती के लिए बोनस पुरस्कार देने से पूर्वाग्रहपूर्ण व्यवहार में उल्लेखनीय कमी आई।
• जब मॉडल को उम्मीदवारों के बारे में प्रासंगिक व्यक्तिगत विवरण दिए गए, जैसे कि आयु और शिक्षा, तो वे कम पूर्वाग्रहपूर्ण हो गए, लेकिन जब अप्रासंगिक विवरण दिए गए, जैसे कि बालों का रंग, तो वे समूह लेबलिंग पर लौट आए।
• MIT Technology Review द्वारा रिपोर्ट किए गए अनुसार, अब रिज्यूम स्क्रीनिंग के लिए AI तैनात करने वाली कंपनियों को एक गंभीर और व्यापक रूप से अनसुलझी निष्पक्षता समस्या का सामना करना पड़ रहा है।

इससे पहले कि कोई भी मानव भर्तिकर्ता आपका रिज्यूम पढ़े, एक AI प्रणाली पहले ही निर्णय ले सकती है कि आप सही फिट नहीं हैं। यह अब कोई दूरस्थ चिंता नहीं है। यह कई बड़े नियोक्ताओं में वर्तमान वास्तविकता है।

नया शैक्षणिक शोध दर्शाता है कि यह कितनी बुरी तरह गलत हो सकता है।

प्रिंसटन विश्वविद्यालय और शिकागो विश्वविद्यालय के शोधकर्ताओं ने तीन प्रमुख बड़े भाषा मॉडल (LLM, ChatGPT, Claude और Gemini जैसे चैटबॉट के पीछे की AI तकनीक) को एक सिमुलेटेड भर्ती गेम के माध्यम से चलाया। प्रत्येक मॉडल ने एक काल्पनिक शहर के लिए भर्ती सलाहकार की भूमिका निभाई। 40 राउंड में, मॉडल ने चार बनाए गए जातीय समूहों से 20 नौकरियों को भरने के लिए उम्मीदवारों को चुना, जो डॉक्टर और वकील से लेकर बाल देखभाल सहायक और सफाई कर्मचारी तक थीं।

यहां पकड़ है - मॉडल को यह नहीं पता था: प्रत्येक उम्मीदवार को सफल होने का समान मौका था, चाहे समूह कुछ भी हो।

मॉडल ने इस तरह से व्यवहार नहीं किया। जब एक समूह से एक प्रारंभिक भर्ती विफल रही, तो मॉडल जल्दी ही उस समूह को समान भूमिकाओं के लिए विचार करना बंद कर दिया और इसके बजाय उन्हें निम्न-स्थिति वाली नौकरियों में डालना शुरू कर दिया। एक बुरा परिणाम पूरी आबादी पर लागू नियम बन गया।

मानव भी ऐसा करते हैं। लेकिन मॉडल ने मूल मनोविज्ञान अध्ययन के मानव प्रतिभागियों की तुलना में लगभग 65 प्रतिशत अधिक आक्रामक तरीके से ऐसा किया, जिसके आधार पर प्रयोग अनुकूलित किया गया था।

क्या नौकरी खोजने वाले चिंतित होने चाहिए?

हाँ, और यहाँ ईमानदार तस्वीर है। अध्ययन एक सिमुलेशन था, लाइव भर्ती प्रणाली नहीं। वास्तविक दुनिया की AI भर्ती उपकरण को यह तत्काल प्रतिक्रिया नहीं मिलती है कि नए किराये का काम हो गया या नहीं, जो पूर्वाग्रह गठन को धीमा कर देता है। लेकिन शोध दल चेतावनी देता है कि विलंबित प्रतिक्रिया भी, जिस तरह की कंपनियों को भर्ती के महीनों बाद मिलती है, AI प्रणालियों को छोटे नमूनों से अत्यधिक सामान्यीकरण करने का कारण बन सकती है।

रायन लियू, प्रिंसटन में एक PhD छात्र और अध्ययन के सह-लेखक कहते हैं, LLM को स्पष्ट रूप से सीमित डेटा से सामान्यीकरण बनाने के लिए प्रशिक्षित किया जाता है। यह कोडिंग समस्याओं और तर्क पहेली के लिए उपयोगी है। सामाजिक सेटिंग्स में, वही प्रवृत्ति लेबलिंग में बदल जाती है।

नए, अधिक सक्षम तर्क मॉडल चीजों को बेहतर नहीं, बल्कि बदतर बनाते हैं। OpenAI का o3 और DeepSeek का R1 (चीन में निर्मित एक प्रतिद्वंद्वी AI तर्क मॉडल) दोनों ने पुराने, सरल मॉडलों की तुलना में मजबूत पूर्वाग्रह दिखाए।

किसी मॉडल को "उचित होने" के लिए कहना लगभग कुछ नहीं बदला। लेकिन विविध भर्ती परिणामों के लिए इसे पुरस्कृत करना काम करता है। अध्ययन में यह भी पाया गया कि एक उम्मीदवार के बारे में वास्तविक प्रासंगिक व्यक्तिगत जानकारी देना, जैसे उनका कार्य इतिहास या शिक्षा स्तर, लेबलिंग में कमी लाता है। इसे अप्रासंगिक विवरण खिलाना, जैसे कि शारीरिक उपस्थिति, इसे सीधे लोगों को समूह द्वारा छांटने में वापस भेजता है।

अभी नौकरियों के लिए आवेदन करने वाले किसी के लिए व्यावहारिक निष्कर्ष: नियोक्ताओं से सीधे पूछें कि क्या AI आपके आवेदन को स्क्रीन करता है और यदि हां, तो वे उस प्रणाली पर कौन से पूर्वाग्रह ऑडिट चलाते हैं। यह एक उचित प्रश्न है, और निष्पक्ष भर्ती के बारे में गंभीर कंपनी के पास तुरंत उत्तर तैयार होना चाहिए।