Un estudio sobre 4 millones de postulaciones laborales detectó que herramientas de IA utilizadas por grandes empresas rechazaban de forma sistemática a candidatos negros y asiáticos, generando preocupación sobre el uso masivo de algoritmos en recursos humanos.
La inteligencia artificial prometía hacer más eficientes y objetivas las contrataciones laborales. Sin embargo, una nueva investigación liderada por la Universidad de Stanford volvió a encender las alarmas sobre los riesgos de automatizar decisiones sensibles con algoritmos.
El estudio, considerado el análisis más grande realizado hasta ahora sobre sistemas de contratación basados en IA, concluyó que algunas herramientas utilizadas por grandes empleadores generan “disparidades raciales claras” y provocan lo que los investigadores describen como un fenómeno de “rechazo sistémico” de candidatos.
La investigación analizó 4 millones de postulaciones laborales realizadas entre diciembre de 2018 y diciembre de 2022 a través de la plataforma Pymetrics, actualmente propiedad de Harver. El sistema utiliza juegos online y evaluaciones conductuales para analizar rasgos como velocidad de respuesta, tolerancia al riesgo, confianza o empatía.
Los datos abarcaron 156 empleadores, la mayoría con ingresos anuales superiores a U$S 5.000 millones.
Cómo funcionan los sistemas de contratación con IA
Las plataformas como Pymetrics o HireVue se volvieron cada vez más populares entre grandes empresas que reciben enormes volúmenes de currículums y buscan automatizar filtros iniciales de selección.
En lugar de revisar únicamente antecedentes laborales o estudios, estos sistemas someten a los candidatos a pruebas gamificadas. Luego, los algoritmos comparan los resultados con patrones de empleados considerados exitosos dentro de cada compañía.
Los postulantes cuyos perfiles se asemejan más a esos modelos avanzan en el proceso. El resto queda descartado automáticamente.
El problema, según los investigadores, es que esos modelos pueden replicar o amplificar sesgos preexistentes.
“Rechazo sistémico” y disparidades raciales
Uno de los hallazgos más impactantes del estudio fue detectar que algunos candidatos eran rechazados repetidamente por distintas empresas debido a que utilizaban exactamente los mismos modelos algorítmicos.
Los investigadores identificaron 42 modelos compartidos entre diferentes compañías. Eso significa que una persona rechazada en una empresa podía obtener automáticamente el mismo resultado en otras organizaciones que utilizaran ese mismo sistema.
“Cuando una persona aplica a dos puestos en dos empresas distintas, razonablemente espera recibir dos evaluaciones independientes y, por lo tanto, tener dos oportunidades”, explicaron los investigadores. “Pero si ambas posiciones comparten el mismo modelo, su puntuación numérica será idéntica”.
El informe reveló que el 4% de quienes aplicaron a 10 posiciones distintas fueron rechazados en todas ellas por el algoritmo, una cifra superior a la esperable estadísticamente.
Además, el trabajo detectó “claras disparidades raciales” en los resultados.
Según el estudio, uno de cada 10 puestos analizados mostró un “impacto adverso” contra candidatos negros, mientras que uno de cada 20 hizo lo mismo contra postulantes asiáticos.
En Estados Unidos, el concepto de “impacto adverso” es utilizado por organismos federales cuando la tasa de selección de un grupo racial, étnico o de género es inferior al 80% respecto del grupo con mejores resultados.
El riesgo de concentrar decisiones en pocos proveedores
Kathleen Creel, coautora del estudio y profesora asistente de filosofía y ciencias de la computación en Northeastern University, advirtió sobre el riesgo de que pocos proveedores concentren decisiones laborales a gran escala.
“A medida que un único proveedor domina la toma de decisiones en un sector, sus defectos o limitaciones pueden extenderse a toda esa industria de una manera que antes no era posible”, sostuvo.
Harver, la compañía propietaria de Pymetrics, no respondió a las consultas realizadas por los investigadores sobre los resultados del estudio.
La investigación también retoma preocupaciones previas sobre discriminación algorítmica. Un trabajo realizado anteriormente por investigadores de la University of California, Berkeley y la University of Chicago había demostrado que los candidatos con “nombres distintivamente negros” tenían 2,1 puntos porcentuales menos de probabilidades de ser contactados por empleadores frente a personas con “nombres distintivamente blancos”.
La otra cara de la automatización laboral
El avance de la inteligencia artificial en recursos humanos se aceleró en los últimos años por la presión de las empresas para reducir tiempos y costos de contratación.
Pero mientras las compañías defienden estas herramientas por su capacidad para procesar miles de solicitudes rápidamente, los candidatos suelen cuestionar la falta de interacción humana y la opacidad de los sistemas.
Muchos postulantes pasan horas completando juegos, pruebas psicológicas y evaluaciones automatizadas sin recibir luego ningún tipo de devolución personalizada.
Los autores del estudio aclararon que los resultados no necesariamente se aplican a todos los sistemas de contratación algorítmica, ya que Pymetrics utiliza un enfoque basado en juegos que puede diferir de otros métodos como el filtrado automático de currículums.
Sin embargo, el trabajo vuelve a instalar una pregunta central para la industria tecnológica: si los algoritmos están siendo entrenados sobre patrones históricos de éxito corporativo, ¿pueden realmente eliminar los sesgos humanos o simplemente están automatizándolos a escala?
A medida que la inteligencia artificial gana espacio en decisiones críticas —desde contrataciones hasta créditos financieros o diagnósticos médicos—, el debate sobre transparencia, regulación y responsabilidad algorítmica empieza a convertirse en uno de los temas más sensibles del sector tecnológico global.
