AI es más propenso que los humanos a formar sesgos al contratar

Contexto

En los últimos años, la utilización de inteligencia artificial en el reclutamiento ha crecido exponencialmente. Muchas empresas han comenzado a implementar sistemas de IA para filtrar candidatos basándose en sus currículos antes de que un humano los evalúe. Esto ha llevado a un debate creciente sobre la efectividad y la justicia de estas herramientas. La experiencia previa ha demostrado que estas tecnologías aprenden de datos históricos, que a menudo contienen sesgos inherentes, lo que podría resultar en decisiones de contratación injustas.

Qué aporta esta novedad

La investigación más reciente en este campo ha revelado que no solo los modelos de lenguaje (LLMs) adoptan sesgos presentes en sus datos de entrenamiento, sino que también pueden desarrollar sus propios sesgos a partir de patrones aprendidos. Esto sugiere una complejidad adicional en la ética y la equidad del uso de IA en el empleo. Este fenómeno puede manifestarse en la preferencia por ciertos perfiles de candidatos basados en características que no son necesariamente relevantes para el desempeño laboral, lo que puede perpetuar desigualdades en el lugar de trabajo.

Por qué es relevante

La comprensión de cómo la inteligencia artificial puede ser influenciada por sesgos es crucial no solo para las empresas que buscan implementar estas tecnologías, sino también para los candidatos que podrían ver sus oportunidades laborales afectadas. Si los sistemas de IA están sesgados, los resultados pueden conducir a la exclusión de postulantes calificados simplemente por pertenecer a ciertos grupos demográficos o por tener antecedentes poco comunes. Además, esta situación plantea cuestiones de responsabilidad, dado que las empresas deben ser conscientes de cómo sus decisiones pueden impactar la diversidad y la inclusión en sus equipos.

Lectura final

A medida que la IA continúa integrándose en los procesos de contratación, es esencial que los responsables de la toma de decisiones comprendan los riesgos asociados a su implementación. La articulación de estrategias para mitigar los sesgos, como la revisión humana de resultados generados por la IA o el entrenamiento de modelos específicos para minimizar las parcialidades, se vuelve cada vez más necesaria. Además, fomentar un diálogo abierto sobre el uso de inteligencia artificial en la contratación puede ayudar a crear un entorno laboral más equitativo y justo.