Amazon descarta su algoritmo de reclutamiento por sexista

Amazon ha descartado un algoritmo de reclutamiento, el cual estaba en periodo de prueba, por dar preferencia a los candidatos masculinos, según un informe publicado por Reuters.

El gigante del comercio online ha estado trabajando desde 2014 en una aplicación que mecanizara el trabajo de búsqueda de los mejores currículums que optaran por diferentes puestos de trabajo. Miembros de la compañía han reconocido a Reuters, de forma anónima para preservar su identidad, que el sistema de inteligencia artificial efectivamente daba preferencia a los candidatos hombres.

El algoritmo servía para rastrear todas las candidaturas y darles una puntuación de una a cinco estrellas. «Literalmente, una máquina recibía cientos de candidaturas y, de todas ellas, sacaba las cinco mejores para ser contratados», han explicado miembros del equipo que desarrolló la aplicación. En el año 2015, la compañía se dio cuenta de que este nuevo sistema no puntuaba de forma neutral en cuanto al género que tuvieran las personas candidatas a la oferta de trabajo.

El problema se debía a que los ordenadores que usaba Amazon estaban entrenados para comparar las nuevas candidaturas con los currículums de las personas contratadas por la compañía durante un periodo de 10 años. Muchos de esos currículums correspondían a hombres, lo que refleja su dominancia en toda la industria tecnológica. Además, el algoritmo penalizaba las candidaturas que incluyeran la palabra «mujer» («women’s», en inglés), como por ejemplo «capitana del club de ajedrez femenino» («women’s chess club captain»).

El sexismo no era el único problema del algoritmo. El sistema recomendaba cualquier trabajo a candidatos que no estaban lo suficientemente cualificados.

Amazon volvió a editar el sistema para hacerlo más neutral, pero aún no estaba garantizado que las máquinas fueran del todo fiables. La compañía abandonó el proyecto y, aunque los reclutadores miraban las recomendaciones que generaba la herramienta, nunca siguieron esos rankings, según fuentes del proyecto.

Por su parte, la compañía ha señalado que «los reclutadores de Amazon nunca usaron el algoritmo para hacer evaluaciones de candidatos». La empresa ha informado de que, actualmente, su plantilla está compuesta por un 60% de hombres y un 40% de mujeres.

Aunque alrededor de un 55% de los reclutadores estadounidenses están convencidos de que la inteligencia artificial será una parte común de su trabajo en los próximos cinco años, según un estudio de la firma CareerBuilder, el experimento realizado por Amazon ofrece un caso de estudio sobre las limitaciones en el aprendizaje que presentan este tipo de tecnologías.

Se espera que la inteligencia artificial aplicada a los procesos de reclutamiento en empresas ponga fin a las opiniones subjetivas de los equipos de recursos humanos. Pero muchos científicos, como Nihar Shah, que enseña aprendizaje de máquinas en la Universidad de Carnegie Mellon, están de acuerdo de que aún queda mucho trabajo por hacer. «Cómo asegurar que el algoritmo es justo, cómo asegurar que el algoritmo es realmente interpretable… son cosas de las que aún estamos lejos», opina el profesor.