Les outils d'IA pour l'embauche stéréotypent davantage les candidats que les humains, selon une nouvelle étude

Points clés

• Des chercheurs de Princeton et de l'Université de Chicago ont publié en juillet 2025 des résultats montrant que les grands modèles de langage (LLM) stéréotypent les candidats à l'emploi plus sévèrement que les humains dans des simulations d'embauche contrôlées.
• Sur une échelle de ségrégation où 2,0 signifie un confinement complet des groupes à des emplois, les participants humains ont obtenu un score de 0,84. Le modèle de raisonnement o3 d'OpenAI a obtenu 1,83.
• Demander aux modèles d'être justes n'a eu que peu d'effet, mais offrir une prime de rémunération pour l'embauche diversifiée a considérablement réduit les comportements biaisés.
• Les modèles sont devenus moins biaisés lorsqu'on leur a fourni des détails personnels pertinents sur les candidats, comme l'âge et l'éducation, mais ont revenu au stéréotypage de groupe lorsqu'on leur a fourni des détails sans pertinence, comme la couleur des cheveux.
• Selon le MIT Technology Review, les entreprises qui déploient actuellement l'IA pour cribler les CV font face à un grave problème d'équité largement non résolu.

Avant qu'un seul recruteur humain ne lise votre CV, un système d'IA peut avoir déjà décidé que vous n'êtes pas le candidat idéal. Ce n'est plus une préoccupation lointaine. C'est une réalité actuelle pour de nombreux grands employeurs.

De nouvelles recherches académiques montrent à quel point cela peut mal tourner.

Des chercheurs de l'Université de Princeton et de l'Université de Chicago ont soumis trois grands modèles de langage (LLM, la technologie d'IA derrière des chatbots comme ChatGPT, Claude et Gemini) à un jeu d'embauche simulé. Chaque modèle jouait le rôle d'un consultant en recrutement pour une ville fictive. Sur 40 tours, le modèle a choisi des candidats parmi quatre groupes ethniques inventés pour pourvoir 20 emplois allant de médecins et avocats à aides à la garde d'enfants et concierges.

Voici le hic : les modèles ne le savaient pas, mais chaque candidat avait une probabilité égale de réussir, quel que soit son groupe.

Les modèles ne se sont pas comportés de cette manière. Quand un candidat d'un groupe a échoué lors d'une première embauche, le modèle a rapidement cessé de considérer ce groupe pour des rôles similaires et a commencé à les orienter vers des emplois de statut inférieur. Un mauvais résultat est devenu une règle appliquée à une population entière.

Les humains font aussi cela. Mais les modèles l'ont fait environ 65 % plus agressivement que les participants humains dans l'étude originale de psychologie dont l'expérience était adaptée.

Les demandeurs d'emploi devraient-ils s'inquiéter ?

Oui, et voici le portrait honnête. L'étude était une simulation, pas un système de recrutement en direct. Les vrais outils d'IA pour l'embauche ne reçoivent pas de retours instantanés sur la réussite d'une nouvelle embauche, ce qui ralentit la formation du biais. Mais l'équipe de recherche avertit que même les retours tardifs, du type que les entreprises reçoivent des mois après l'embauche, pourraient toujours amener les systèmes d'IA à faire des généralisations excessives à partir de petits échantillons.

Ryan Liu, doctorant à Princeton et co-auteur de l'étude, affirme que les LLM sont explicitement entraînés à construire des généralisations à partir de données limitées. C'est ce qui les rend utiles pour les problèmes de codage et les énigmes logiques. Dans les contextes sociaux, ce même instinct devient du stéréotypage.

Les modèles de raisonnement plus nouveaux et plus sophistiqués ont empiré les choses, non les améliorées. Le o3 d'OpenAI et le R1 de DeepSeek (un modèle de raisonnement d'IA concurrent construit en Chine) ont tous deux montré des biais plus forts que les anciens modèles plus simples.

Dire à un modèle d'« être juste » n'a presque rien changé. Mais le récompenser pour des résultats d'embauche diversifiés a fonctionné. L'étude a également constaté que donner à l'IA des informations personnelles véritablement pertinentes sur un candidat, comme son historique professionnel ou son niveau d'éducation, réduisait le stéréotypage. Le lui fournir des détails sans pertinence, comme l'apparence physique, l'a ramené directement au classement des personnes par groupe.

Le conseil pratique pour quiconque postule à des emplois en ce moment : demandez directement aux employeurs si l'IA examine votre candidature et, le cas échéant, quels audits de biais ils effectuent sur ce système. C'est une question raisonnable, et une entreprise sérieuse quant à l'embauche équitable devrait avoir une réponse directe prête.