AI-інструменти для найму частіше створюють стереотипи щодо кандидатів, ніж люди, показує нове дослідження

Ключові моменти

• Дослідники Princeton та Чиказького університету опублікували у липні 2025 року висновки, що великі мовні моделі (LLM) створюють стереотипи щодо кандидатів на посаду набагато більше, ніж люди, у контрольованих симуляціях найму.
• За шкалою сегрегації, де 2,0 означає повне розподілення групи за професіями, люди отримали 0,84 балів. Модель o3 від OpenAI набрала 1,83.
• Прохання до моделей бути справедливими мало ефекту, але пропозиція бонусної винагороди за різноманітність найму значно зменшила упереджену поведінку.
• Моделі виявляли менше упереджень, коли отримували релевантні особисті деталі про кандидатів, такі як вік та освіта, але повертались до групових стереотипів, коли отримували нерелевантні деталі, як колір волосся.
• Як повідомляє MIT Technology Review, компанії, які нині використовують ШІ для скринінгу резюме, стикаються із серйозною та в основному невирішеною проблемою справедливості.

Перш ніж перший рекрутер прочитає ваше резюме, система ШІ вже могла вирішити, що ви не підходите. Це вже не віддалена загроза. Це поточна реальність на багатьох великих роботодавців.

Нове академічне дослідження показує, як погано це може завершитися.

Дослідники Princeton та Чиказького університету запустили три великі мовні моделі (LLM — технологія ШІ, що лежить в основі чатботів на кшталт ChatGPT, Claude та Gemini) через симульовану гру з найму. Кожна модель виконувала роль консультанта з найму для вигаданого міста. Протягом 40 раундів модель вибирала кандидатів із чотирьох вигаданих етнічних груп для заповнення 20 посад — від лікарів та адвокатів до помічниців у дитячих садках та прибиральниць.

Ось у чому була підвох: моделі не знали, що кожен кандидат мав однакові шанси на успіх незалежно від групи.

Моделі не поводилися так. Коли рано найнята людина з однієї групи не впоралася, модель швидко припинила розглядати цю групу для подібних посад і почала спрямовувати їх на нижчестатусні посади. Один негативний результат став правилом, застосованим до всієї популяції.

Люди роблять і так. Але моделі робили це приблизно на 65 відсотків агресивніше, ніж люди-учасники в оригінальному психологічному дослідженні, на якому ґрунтувався експеримент.

Чи повинні претенденти на роботу хвилюватися?

Так, і ось чесна картина. Дослідження було симуляцією, а не реальною системою найму. Реальні AI-інструменти для найму не отримують миттєвого зворотного зв'язку про те, чи вийшов на роботу новий співробітник, що уповільнює формування упереджень. Однак дослідницька команда попереджає, що навіть затриманий зворотний зв'язок, такий, який компанії отримують місяцями після найму, все ще може спричинити, що системи ШІ дуже узагальнюють від малих вибірок.

Райан Лю, аспірант Princeton та один із авторів дослідження, каже, що LLM явно навчені будувати узагальнення з обмежених даних. Це робить їх корисними для задач кодування та логічних головоломок. У соціальних ситуаціях цей самий інстинкт перетворюється на стереотипізацію.

Новіші, більш потужні моделі міркування погіршили ситуацію, а не покращили. OpenAI o3 та DeepSeek R1 (конкуруюча модель ШІ-міркування, побудована в Китаї) обидві показали сильніші упередження, ніж старші, простіші моделі.

Прохання до моделі «бути справедливою» майже нічого не змінило. Але винагорода за результати різноманітного найму спрацювала. Дослідження також виявило, що надання ШІ справді релевантної особистої інформації про кандидата, такої як його трудова історія або рівень освіти, зменшує стереотипізацію. Надання нерелевантних деталей, як зовнішність, відразу ж повертало його до розподілу людей за групами.

Практичний висновок для кожного, хто зараз шукає роботу: запитайте роботодавців напряму, чи ШІ скринує вашу заявку та які аудити упереджень вони проводять на цій системі. Це розумне питання, і компанія, яка серйозно ставиться до справедливого найму, має готову чесну відповідь.