¡Hasta el algoritmo del machismo! La lucha por la igualdad llega a internet

26/02/2020

Desde la imagen proyectada por un buscador, hasta la posibilidad de optar a un buen empleo: la ausencia de mujeres programadoras hace que la Inteligencia Artificial replique los peores estereotipos.

Pídale a Google que le muestre imágenes de CEO de empresas. Haga la prueba. Su pantalla se llenará de hombres bien peinados, encorbatados, blancos y sonrientes entre los que difícilmente encontrará a ¿dos mujeres? Ahora pida escenas relativas a la limpieza de cocinas. Sí. Para el buscador, ellas son (somos) las reinas del quitagrasas. Este sencillo ejemplo esconde una realidad compleja que nada que nada tiene que ver con la mera anécdota y que empieza a movilizar a las mujeres en el sector tecnológico: las máquinas y los algoritmos que rigen su forma de ‘pensar’ han aprendido del machismo que subyace en la sociedad y la Inteligencia Artificial (IA) amenaza con replicar y perpetuar la discriminación de la mujer. El problema es real. El propio Ministerio de Economía firma un documento que pone el acento sobre el asunto y ya se cuentan por decenas las iniciativas que combaten este nuevo tipo de discriminación.

Un algoritmo es una instrucción que opera con la lógica. Si [dato] entonces [deducción]. Por ello, simplificando mucho, si el dato dice que [el 80% de los CEO de empresas son hombres], la máquina siempre tiende a apostar por la tendencia mayoritaria para acertar, aunque se trate de un defecto. Así que en sus resultados deducirá que [un CEO es un hombre]. Sin más matices. No toman decisiones, sino que repiten patrones aprendidos. Aunque suceda de forma inconsciente. «La tecnología no es neutra, está impregnada de los prejuicios de aquellas personas que trabajan con ellas», apunta Vanessa Estorach, impulsora del movimiento Women in Mobile.

La IA no nos es ajena ni es algo lejano. Está en multitud de aspectos de nuestra realidad. No solo las grandes tecnológicas como Amazon, Facebook, Linkedin, Microsoft, IBM o Twitter funcionan con los citados algoritmos. También son empleados en herramientas financieras que valoran una persona puede hipotecarse. O en el sector de los seguros para calcular el riesgo de un cliente. Aunque quizá el campo que más atañe a la posible discriminación de la mujer sea el laboral. «Más del 98% de las empresas de la lista de Fortune 500 utiliza sistemas de IA para la selección de candidatos, así que podemos enfrentamos a un futuro laboral dominado por hombres», añade Estorach.

Los ejemplos abundan

El citado documento elaborado por los expertos de Economía reconoce que los ejemplos de algoritmos discriminatorios «abundan». Y cita: Amazon descubrió que su sistema de IA discriminaba a las mujeres en la primera selección de currículos de las personas que se postulaban a un empleo. «La herramienta basaba su inteligencia en la información de los archivos de solicitantes de empleo en los últimos 10 años y penalizaba los currículos que incluían la palabra mujer porque los que predominaban los de hombres».

En Linkedin, «una investigación periodística reveló que en una búsqueda de nombres femeninos, la herramienta mostraba sugerencias para nombres masculinos relacionados». También, la propia red elaboró un informe sobre el lenguaje en el entorno laboral y concluyó «que se tendía a usar un lenguaje más ‘emocional’ al tratar a las mujeres». En otro caso, investigadores de la Universidad de Carnegie Mellon analizaron 1.000 usuarios simulados que visitaron 100 páginas de búsqueda de empleo. El algoritmo mostró a ellos anuncios de puestos más prestigiosos y mejor pagados que a ellas.

Fuera del terreno laboral se puede recordar la pifia de la tarjeta bancaria de Apple. El sistema daba más crédito al hombre que a la mujer en una pareja con renta idéntica. La compañía reconoció el fallo, heredado de un sesgo en los datos que analizaba la herramienta, y obligó a replantear el sistema.

De la red a la vida real

El problema es que lo que pasa en la red no se queda en la red. A estas alturas nadie discute que es uno de los principales vehículos de transmisión cultural y de conocimiento. «Las implicaciones para la vida offline son preocupantes (...) ante la posibilidad de crear una sociedad más desigual justificada por la supuesta neutralidad de la IA», alertan desde Economía.

La pregunta clave es: ¿Quién está programando a las máquinas? Los datos abruman: en Google Brain, el 94% son hombres. A nivel global, solo el 13,5% de los trabajadores en IA son mujeres, según la experta Hanna Wallach. Y solo el 13% de la investigación del aprendizaje mecánico está liderado por mujeres. En Europa, el estudio ‘Women in the Digital Ag’e apunta a que suponen un escaso 5%. En España no hay datos exactos sobre IA, pero Eurostat reveló a una reducción de la presencia de las mujeres en las TIC, hasta bajar al 15,4%.

Como decía el poeta, la máquina la hace el hombre y es lo que el hombre hace con ella. «La falta de diversidad tiene un impacto muy elevado en todos los algoritmos que constituirán la base de la tecnología que usemos en el futuro», advierte Estorach.

Por ello, la importancia de que ellas estén ahí va más allá de la campaña puntual que quiera acabar con un estereotipo de género, como se ha visto hace una semana en el Día de la Mujer y la Niña en la Ciencia. Si las mujeres no trabajan en el desarrollo de la tecnologías del futuro, sencillamente, este no les pertenecerá.