martes, noviembre 19 de 2019

Datasketch

Agosto 23, 2019

A la Inteligencia Artificial le falta diversidad

A ninguna de las grandes compañías de tecnología le falta un departamento de Inteligencia Artificial, a todas les falta diversidad

Johan Romero

Johan Romero

@JohanS_Romero

Un software de Inteligencia Artificial (IA) puede aprender a reconocer objetos en una fotografía o puede conducir un automóvil.  Sin embargo, también puede aprender a decidir que las mujeres, por ser mujeres, no son aptas para un trabajo. Así lo supo Amazon en 2014 cuando desarrolló un sistema de IA para la selección de programadores. La idea era que un software identificara las hojas de vida que más se ajustaban a las vacantes de acuerdo con los currículos de quienes habían trabajado en la compañía durante los últimos diez años. Como la mayoría de quienes habían sido contratados eran hombres, la máquina lo reconoció y comenzó a calificar peor las hojas de vida de las mujeres.

Esto no fue un problema de la compañía, de su departamento de desarrollo de IA o de sus programadores. Fue y es asunto de una industria en la que el 80% de sus miembros son hombres blancos heterosexuales. Hacia allá apuntan las investigadoras del AI Now Institute de la New York University (Estados Unidos) Sarah Myers, Meredith Whittaker y Kate Crawford en su artículo Discriminating systems. Gender, Race, and Power in AI. En él señalan diferencias en la crianza de hombres y mujeres o la desconfianza en los lugares de trabajo a las personas negras como motivos por los cuales para mujeres y latinos, negros o asiáticos es difícil entrar y mantenerse en la industria de la tecnología.

También sostienen que la promoción de la diversidad en la academia y el campo de la IA, así como la transparencia en la creación de IA y su uso, es la solución a programas que padecen de racismo y sexismo. Al final del día, las máquinas aprenden de los datos que recogen de su entorno y de los que los humanos les suministran. 

¿Por qué no hay mujeres?

Según un reporte del Artificial Intelligence Index de 2018, 80% de profesores de IA en Estados Unidos son hombres. Mientras tanto, en compañías como Google y Facebook, la cantidad de mujeres en departamentos de IA no sobrepasa el 20%. Además, cerca de la mitad de las que se enrolan en una carrera de ciencia y tecnología termina desertando.

La razón del desequilibro en los números tiene su origen en la infancia. Tanto en el colegio como en la casa, “las estudiantes femeninas tienen más dificultades para acceder a computadores que sus compañeros hombres, por lo que están en desventaja cuando tratan de adquirir habilidades con los sistemas”, afirman las investigadoras. Esto las pone un paso por detrás de sus colegas una vez rompen la barrera de los estereotipos y deciden entrar a una carrera de sistemas en la universidad. 

Lo anterior mina su confianza y hace que muchas crean que son los hombres quienes tienen mejores promedios y mejor desempeño sin ser ese el caso. Incluso, las pone por detrás en programas que están estructurados para premiar los conocimientos adquiridos antes de entrar a la universidad. A esto hay que sumar que más del 20% de las mujeres que se anima a estudiar alguna carrera relacionada con ciencia y tecnología en Estados Unidos es o ha sido acosada por compañeros o docentes. 

La poca presencia de mujeres en IA se debe a que es un ambiente que se preconfigura para ser de pocas mujeres y que es hostil con ellas. Sin embargo, las investigadoras del AI Now Institute son claras en que la discriminación es más fuerte cuantas más capas de identidad se agregan a una persona. Las mujeres de la comunidad LGBTQ+ y con colores de piel distintas a la blanca son más acosadas y se encuentran con más dificultades que sus compañeras blancas heterosexuales. 

El color de piel, otro obstáculo

Los lugares de trabajo no son inmunes a los comportamientos discriminatorios que se ven en la calle. “Demasiados empleados negros cuentan historias en las que son agresivamente abordados, más allá de lo necesario, por el personal de seguridad del campus”, asegura Mark Luckie, exempleado de Facebook. Junto con esta hostilidad se mantiene la dificultad para permanecer en la industria de la IA.

La discriminación que se acentúa en las mujeres que no son blancas permea a los hombres. Anualmente, las personas latinas, asiáticas y negras que trabajan en empresas de tecnología ganan menos que sus colegas blancos (aproximadamente 16.000, 8.000 y 3.5000 dólares menos respectivamente, según la profesora de la Brown University Nicole Kreisberg). Además, la proporción de empleados no blancos en esta industria está lejos de ser equivalente a la de la población real. Al menos en Estados Unidos, la población negra es el 12% y la latina es superior al 15% (37 y 52 millones de personas respectivamente). A pesar de ello, solo 2,5% de los 103.000 empleados de tiempo completo que tiene Google son negros y 3,6%, latinos. En Facebook y en Microsoft las cifras no superan el 6% en ninguna de las dos categorías.

El problema con esto, según le contó al MIT Technology Review Timnit Gebru, quien ha trabajado para Microsoft y Google en las áreas de ética y transparencia en IA, es que “si no tenemos diversidad en nuestro grupo de investigadores, no vamos a abordar los problemas de la mayoría de las personas en el mundo. Cuando los problemas no nos afectan, pensamos que no son importantes y puede que ni siquiera sepamos qué problemas son porque no estamos interactuando con las personas que los tienen”.  

¿Hay solución?

Incrementar la diversidad de las personas en puestos directivos de todos departamentos de una compañía es una de las doce recomendaciones que proponen Myers y sus colegas. También apuntan a un cambio en las prácticas de selección de personal, esto es, contratar gente diferente de las universidades de élite y asegurar un enfoque especial para grupos subrepresentados es otro consejo de las investigadoras. 

Igualmente, sin importar cuán diverso sea un equipo de trabajo, los sesgos en sistemas de IA se mantendrán mientras dichos sistemas sean secretos. Por eso, aseguran que “La transparencia es esencial y comienza con llevar un registro público de dónde son usados los sistemas de IA y con qué propósito”. 

Finalmente hacen un llamado sobre la necesidad de pensarse cada uno desde su posición y actuar desde ahí: 

“Como autoras de este trabajo, sentimos que es importante reconocer que, como mujeres blancas, no experimentamos las opresiones interseccionales de la misma manera que las personas de color o de minorías sexuales, entre otros. Pero el silencio de quienes tiene el privilegio en estos espacios es el problema: es incluso parte del motivo por el cual las cuestiones sobre diversidad avanzan tan despacio. Es importante que aquellos de nosotras que trabajamos en tecnología abordemos abiertamente estas cuestiones y actuemos para poner en el centro a las comunidades más afectadas”.

 

compartir

Johan Romero

Johan Romero

@JohanS_Romero

Filósofo de profesión. Periodista de oficio.

artículos relacionados

Género

Julio 18, 2019

Mujeres en la programación, capítulo 4: Margaret Hamilton

Hablemos de la presencia femenina en el universo de la programación.

Género

Julio 10, 2019

Mujeres en la programación, capítulo 3: Mary Allen Wilkes

Hablemos de la presencia femenina en el universo de la programación.

Tecnología y Sociedad

Julio 10, 2019

Que otra persona conozca tus contraseñas es más fácil de lo que crees

Revisa si tu información ha sido comprometida en un incidente de seguridad digital.