Gli strumenti AI per le assunzioni tendono a stereotipare i candidati più degli umani, secondo una nuova ricerca

Punti chiave

• Ricercatori di Princeton e dell'Università di Chicago hanno pubblicato a luglio 2025 risultati che mostrano come i modelli di linguaggio di grandi dimensioni (LLM) stereotipino i candidati ai lavori più severamente degli umani nelle simulazioni di assunzione controllate.
• Su una scala di segregazione dove 2,0 significa confinamento completo da gruppo a lavoro, i partecipanti umani hanno ottenuto 0,84. Il modello di ragionamento o3 di OpenAI ha ottenuto 1,83.
• Chiedere ai modelli di essere equi ha avuto poco effetto, ma offrire un bonus per le assunzioni diversificate ha ridotto significativamente il comportamento distorto.
• I modelli hanno mostrato minori distorsioni quando forniti di dettagli personali rilevanti sui candidati, come età e istruzione, ma hanno ripreso la stereotipizzazione per gruppo quando forniti di dettagli irrilevanti come il colore dei capelli.
• Come riportato da MIT Technology Review, le aziende che oggi implementano l'AI per la selezione dei curriculum affrontano un problema di equità grave e in gran parte irrisolto.

Prima che un singolo selezionatore umano legga il tuo curriculum, un sistema AI potrebbe aver già deciso che non sei la persona giusta. Non è più una preoccupazione lontana. È una realtà attuale presso molti grandi datori di lavoro.

Una nuova ricerca accademica mostra quanto possa andare storto.

Ricercatori dell'Università di Princeton e dell'Università di Chicago hanno sottoposto tre importanti modelli di linguaggio di grandi dimensioni (LLM, la tecnologia AI dietro chatbot come ChatGPT, Claude e Gemini) a un gioco di simulazione di assunzioni. Ogni modello ha svolto il ruolo di consulente per le assunzioni in una città fittizia. Nel corso di 40 turni, il modello ha scelto candidati da quattro gruppi etnici inventati per coprire 20 posti di lavoro che vanno da medici e avvocati ad assistenti per l'infanzia e bidelli.

Ecco il trucco: i modelli non lo sapevano, ma ogni candidato aveva le stesse possibilità di riuscire, indipendentemente dal gruppo.

I modelli non si sono comportati così. Quando una prima assunzione da un gruppo falliva, il modello smetteva rapidamente di considerare quel gruppo per ruoli simili e iniziava a canalizzarli verso lavori di status inferiore. Un cattivo risultato diventava una regola applicata a un'intera popolazione.

Gli umani lo fanno anche loro. Ma i modelli l'hanno fatto circa il 65% più aggressivamente dei partecipanti umani nello studio psicologico originale da cui è stato adattato l'esperimento.

I candidati dovrebbero preoccuparsi?

Sì, e ecco il quadro reale. Lo studio era una simulazione, non un sistema di reclutamento dal vivo. I veri strumenti AI per le assunzioni non ricevono un feedback istantaneo sul fatto che una nuova assunzione abbia funzionato, il che rallenta la formazione di distorsioni. Ma il team di ricerca avverte che anche il feedback ritardato, il tipo che le aziende ricevono mesi dopo l'assunzione, potrebbe comunque causare ai sistemi AI di ipergeneralizzare da piccoli campioni.

Ryan Liu, dottorando a Princeton e coautore dello studio, afferma che gli LLM sono esplicitamente addestrati a costruire generalizzazioni da dati limitati. Questo è ciò che li rende utili per i problemi di codifica e i puzzle logici. In contesti sociali, lo stesso istinto si trasforma in stereotipizzazione.

I modelli di ragionamento più nuovi e capaci hanno peggiorato le cose, non migliorate. O3 di OpenAI e R1 di DeepSeek (un modello AI di ragionamento concorrente costruito in Cina) hanno entrambi mostrato distorsioni più forti rispetto ai modelli più vecchi e semplici.

Dire a un modello di "essere equo" ha cambiato quasi nulla. Ma premiarla per risultati di assunzione diversificati ha funzionato. Lo studio ha anche scoperto che fornire all'AI informazioni personali genuinamente rilevanti su un candidato, come la sua storia lavorativa o il livello di istruzione, ha ridotto la stereotipizzazione. Fornire dettagli irrilevanti, come l'aspetto fisico, l'ha spinta direttamente a classificare le persone per gruppo.

Il consiglio pratico per chiunque stia cercando lavoro adesso: chiedi direttamente ai datori di lavoro se l'AI esamina la tua candidatura e, se sì, quali audit di distorsione eseguono su quel sistema. È una domanda ragionevole, e un'azienda seria riguardo all'assunzione equa dovrebbe avere una risposta chiara pronta.