El Departamento de Justicia y la Comisión de Igualdad de Oportunidades en el Empleo (EEOC, por sus siglas en inglés) publicaron esta semana una guía para los empleadores, quienes deben tener cuidado con el uso de herramientas algorítmicas cada vez más populares diseñadas para simplificar la selección de empleados y descripciones de puestos.
Los expertos del gobierno federal creen que su uso podría entrar en conflicto con la Ley de Estadounidenses con Discapacidades y advierten a los empleadores que estas herramientas podrían violar las leyes de derechos civiles.
“Estamos haciendo sonar la alarma sobre los peligros relacionados con la confianza ciega en la inteligencia artificial y otras tecnologías que los empleadores están adoptando cada vez más”, dijo el jueves a los reporteros del departamento la fiscal general adjunta Kristen Clarke, de la División de Derechos Civiles.
“El uso de la IA exacerba la discriminación de larga data contra las personas con discapacidades que buscan trabajo”, dijo el informe.
Distorsión tecnológica en el lugar de trabajo
Los expertos han advertido durante mucho tiempo que las herramientas de reclutamiento basadas en IA, aunque a menudo se presentan como un medio para erradicar el sesgo humano, en realidad pueden afianzar el sesgo en industrias donde las disparidades raciales y de género ya son frecuentes.
Los ejemplos incluyen escáneres de currículum, software de monitoreo de empleados que clasifica a los trabajadores en función de las pulsaciones de teclas, pruebas similares a juegos en línea para evaluar las habilidades laborales y software de entrevistas en video que mide los patrones de habla o las expresiones faciales de una persona.
Esta tecnología podría potencialmente excluir a las personas con discapacidades del habla, artritis severa que ralentiza la escritura o una variedad de otras discapacidades físicas o mentales, dijeron las autoridades.
“Reconocemos plenamente que existe un tremendo potencial para la simplificación. Pero no podemos permitir que estas herramientas se conviertan en una vía de alta tecnología para la discriminación”, dijo Charlotte Burrows, presidenta de la EEOC, que es responsable de hacer cumplir la ley El lugar de trabajo es responsable de lucha contra la discriminación.
Alternativas a la inteligencia artificial
Ifeoma Ajunwa, profesor de la Universidad de Carolina del Norte y director del Programa de Investigación de Toma de Decisiones de IA, dijo a la AP que la advertencia/consejo federal es un “gran primer paso”.
“Ahora se reconoce cómo estas herramientas, que normalmente se implementan como una intervención antisesgo, en realidad podrían crear más sesgo al tiempo que lo ofuscan”, dijo Ajunwa.
Una empresa de Utah que opera una de las herramientas de contratación basadas en IA más conocidas, el servicio de entrevistas en video HireVue, elogió los nuevos esfuerzos para educar a los trabajadores, empleadores y proveedores.
HireVue destaca su propio trabajo en el desarrollo de estas herramientas al examinar cómo los solicitantes autistas se desempeñan en sus evaluaciones de habilidades.
“Estamos de acuerdo con la EEOC y el DOJ en que los empleadores deben tener adaptaciones para los candidatos con discapacidades, incluida la posibilidad de solicitar una ruta alternativa para la prueba”, dijo Anthony Reynolds, director ejecutivo de HireVue, en un comunicado.
