Las herramientas de selección de personal con IA tienden más a estereotipar a los candidatos que los humanos, según nueva investigación

Puntos clave

• Investigadores de Princeton y la Universidad de Chicago publicaron hallazgos en julio de 2025 que demuestran que los modelos de lenguaje grande (LLM) estereotipan a los candidatos laborales de manera más severa que los humanos en simulaciones de selección controladas.
• En una escala de segregación donde 2,0 significa confinamiento completo de grupo a trabajo, los participantes humanos obtuvieron 0,84. El modelo de razonamiento o3 de OpenAI obtuvo 1,83.
• Indicar a los modelos que sean justos tuvo poco efecto, pero ofrecer una recompensa de bonificación por contratación diversa redujo significativamente el comportamiento sesgado.
• Los modelos mostraron menos sesgo cuando recibieron detalles personales relevantes sobre los candidatos, como edad y educación, pero volvieron al estereotipo de grupo cuando se les proporcionaron detalles irrelevantes como color de cabello.
• Según reportó MIT Technology Review, las empresas que actualmente despliegan IA para revisar currículums enfrentan un problema grave de equidad que en gran medida no se ha resuelto.

Antes de que un solo reclutador humano lea tu currículum, un sistema de IA puede haber decidido que no eres el candidato adecuado. Ya no es una preocupación lejana. Es una realidad presente en muchos grandes empleadores.

Nueva investigación académica muestra lo mal que esto puede salir.

Investigadores de la Universidad de Princeton y la Universidad de Chicago sometieron tres modelos principales de lenguaje grande (LLM, la tecnología de IA detrás de chatbots como ChatGPT, Claude y Gemini) a un juego de selección simulado. Cada modelo desempeñó el papel de consultor de selección para una ciudad ficticia. Durante 40 rondas, el modelo eligió candidatos de cuatro grupos étnicos inventados para llenar 20 trabajos que iban desde médicos y abogados hasta asistentes de guardería y conserjes.

Aquí está el detalle: los modelos no sabían que cada candidato tenía las mismas probabilidades de tener éxito, independientemente del grupo.

Los modelos no se comportaron de esa manera. Cuando un contrato temprano de un grupo fracasaba, el modelo dejaba de considerar rápidamente a ese grupo para roles similares y comenzaba a canalizarlos a trabajos de menor estatus. Un mal resultado se convertía en una regla aplicada a toda una población.

Los humanos también hacen esto. Pero los modelos lo hicieron aproximadamente un 65 por ciento más agresivamente que los participantes humanos en el estudio de psicología original del que se adaptó el experimento.

¿Deberían preocuparse los solicitantes de empleo?

Sí, y aquí está el panorama honesto. El estudio fue una simulación, no un sistema de reclutamiento en vivo. Las herramientas reales de selección de personal con IA no reciben retroalimentación instantánea sobre si un nuevo contratado funcionó bien, lo que ralentiza la formación de sesgos. Pero el equipo de investigación advierte que incluso la retroalimentación retrasada, del tipo que las empresas reciben meses después de contratar, podría hacer que los sistemas de IA generalicen excesivamente a partir de muestras pequeñas.

Ryan Liu, estudiante de doctorado en Princeton y coautor del estudio, dice que los LLM se entrenan explícitamente para construir generalizaciones a partir de datos limitados. Eso es lo que los hace útiles para problemas de codificación y acertijos lógicos. En contextos sociales, ese mismo instinto se convierte en estereotipización.

Los modelos de razonamiento más nuevos y capaces empeoraron las cosas, no las mejoraron. El o3 de OpenAI y el R1 de DeepSeek (un modelo de razonamiento de IA competidor construido en China) ambos mostraron sesgos más fuertes que los modelos antiguos y más simples.

Indicar a un modelo que "sea justo" cambió casi nada. Pero recompensarlo por resultados de contratación diversa funcionó. El estudio también encontró que proporcionar a la IA información personal genuinamente relevante sobre un candidato, como su historial laboral o nivel educativo, redujo la estereotipización. Alimentarlo con detalles irrelevantes, como apariencia física, lo llevaba directamente a clasificar a las personas por grupo.

La conclusión práctica para cualquiera que esté solicitando empleos ahora: pregunta directamente a los empleadores si la IA revisa tu solicitud y, si es así, qué auditorías de sesgo realizan en ese sistema. Es una pregunta razonable, y una empresa seria sobre la contratación justa debería tener una respuesta clara lista.