Sesgo por acento: modelos de IA penalizan a ciertos hablantes en entrevistas y pruebas, revela un estudio de UW

Qué ocurrió

Un nuevo estudio realizado por investigadores de la Universidad de Washington ha puesto de manifiesto un sesgo significativo en los modelos de inteligencia artificial utilizados para evaluar el habla. Los hallazgos sugieren que estos modelos tienden a penalizar a hablantes con acentos no anglosajones, lo que podría tener implicaciones serias en contextos de entrevistas y pruebas de selección.

Los datos clave

Los modelos analizados, que incluyen tecnologías desarrolladas por Google y OpenAI, mostraron una clara preferencia por hablantes de inglés americano y británico. En las evaluaciones, los hablantes de chino y nigeriano fueron calificados de manera desproporcionada más baja, a pesar de que todos los participantes leían el mismo texto. Esta disparidad en la puntuación podría llevar a la discriminación en procesos de selección laboral y otros ámbitos donde se utilicen estas tecnologías.

Lo que aún no se sabe

El estudio no proporciona detalles sobre la magnitud exacta del sesgo ni sobre cómo se podría mitigar en futuras versiones de estos modelos. No se especifica si se realizaron pruebas adicionales para evaluar el impacto de este sesgo en diferentes contextos o si se están desarrollando soluciones para abordar este problema.

Lectura final

Los resultados de este estudio subrayan la necesidad de revisar y ajustar los modelos de inteligencia artificial para evitar que perpetúen sesgos culturales y lingüísticos. A medida que la IA se integra más en procesos de toma de decisiones, es crucial garantizar que estos sistemas sean justos y equitativos para todos los hablantes, independientemente de su acento o lengua materna.