Buscar
  • Marta Furzi

Amazon acaba con una inteligencia artificial que favorece la desigualdad de género en el trabajo


El dicho sistema había sido entrenado con los empleados de los últimos 10 años, que resultaban ser hombres. De ahí que las mujeres acabaran por ser discriminadas.

En el 2014, los expertos de Amazon empezaron a construir un sistema de inteligencia artificial con el objetivo de revisar las hojas de vida de los solicitantes de empleo y asimismo escoger a los mejores talentos, de forma mecanizada.

Sin embargo, aunque el sistema era muy útil, su herramienta terminó discriminando a las mujeres, ya que se basaba en archivos donde sólo había postulantes hombres.

Consecuentemente, la herramienta de búsqueda, que solía evaluar a los candidatos con puntuación de una a cinco estrellas, aprendió que los hombres eran los candidatos preferibles.

Sin embargo, en 2015, la compañía se dio cuenta de que el sistema excluía a las mujeres de los candidatos apetecibles, en especial en puestos técnicos. Desde luego, “esto pasa cuando entrenas a un sistema con datos que sólo aparentemente no están sesgados, pero que en realidad lo están”, comenta Nerea Luis Mingueza, estudiante de doctorado en Inteligencia Artificial.

Así que, ocurría que el sistema penalizaba a postulantes en cuyas hojas de vida estaba la palabra “mujeres “. En efecto, afirma Luis, que si te enteras de que el sistema siempre está valorando a los hombres como mejores, no puede ser normal y por supuesto hay algo que no funciona.

Luego, cuando la compañía se dio cuenta del error, intentó editar el programa para que acabase con la discriminación pero, al final, tuve que abandonar el proyecto, por que siempre había el riesgo de que el sistema fallara de nuevo, a la hora de clasificar los solicitantes.

No obstante, no está claro si los reclutadores de Amazon tuvieran en cuenta las sugerencias del sistema de búsqueda mecanizada para contratar a los trabajadores.

De todas formas, las principales empresas tecnológicas todavía tienen que reducir la brecha de género en la contratación, que resulta ser más marcada en el sector técnico.

Esto influye mucho en la sociedad, con respecto a la percepción de las diferencia de género, visto que hay mujeres que se creen menos capacitadas de los hombres para realizar algunas tareas.

Pese a que cada vez más empresas automaticen el proceso de contratación, este el algo que tiene que ser revisionado.

Las expertas aquí mencionadas, concuerdan en que la inteligencia artificial puede ser útil pero que tienen que evitar el sesgo de los seres humanos.

Entonces, por ejemplo, se podría omitir variables como la del sexo en los algoritmos de los sistemas mecanizados así como evitar incluir fotografías, edad o nombre.

Para concluir, muchos expertos llevan años apuntalando que la inteligencia artificial puede empeorar la discriminación y reforzar los estereotipos, de ahí que la primera medida en contra de ese asunto sea una imprescindible formación en diversidad y la inclusión de mujeres en los equipos que crean dichos sistemas.


8 vistas0 comentarios

Entradas Recientes

Ver todo