La reciente propuesta del PSOE de hacer gratuita para las mujeres la primera matrícula de las carreras científico-técnicas (STEM), dentro del marco de un ‘Programa Común Progresista’ para un hipotético gobierno de izquierdas, generó ayer un encendido debate en las redes sociales . El objetivo de la propuesta lo dejaban claro: «cerrar la brecha de género en estos estudios».
La portavoz de Educación de Ciudadanos, sin embargo, cargó contra la propuesta . Marta Martín respondió por Twitter que «no somos tontitas las mujeres, que a lo mejor los tontitos y ignorantes son los que Hacen Medidas como estas profundamente regresivas y patriarcales «. La química Deborah García Bello se apuntaba a la tesis calificando de «insulto» la propuesta y generando un hilo donde una buena representación de la comunidad de tuiteros quiso dar su opinión.
Deborah García Bello@deborahciencia
Estoy horrorizada con lo de proponer que el primer año de las carreras científico-tecnológicas sea gratuito para las mujeres. Es un INSULTO para todas.
Os cuento por qué…
2.553 persones estan parlant sobre això
Algunos opinaban que el problema no existe, otros preguntaban si alguien pagaría el primer año de magisterio infantil para los hombres, muchos apuntaban a la idea de «la diferencia de intereses» entre hombres y mujeres -mientras otros rebatían que es pura construcción social y, también, existía la opinión contraria: las mujeres no se apuntan a las carreras STEM por falta de referentes, hay problemas de conciliación, falta de confianza de las mujeres , el desequilibrio se debe a inputs culturales …
Sin entrar a valorar la propuesta concreta del PSOE, el hecho es que hay menos mujeres dedicadas a carreras STEM. La Brecha Digital de género es una situación que preocupa en todo el mundo. Una de las consecuencias más preocupantes es que está favoreciendo que la visión de las mujeres no tenga presencia en tecnologías que cada vez son más relevantes en la definición de las estructuras sociales del futuro.
La Inteligencia Artificial, por ejemplo, es machista. Y así seguirá, de momento, si no se incorpora más diversidad en los campos de conocimiento que acaban decidiendo su funcionamiento.
El machismo convertido en IA
Amazon (la empresa multinacional, no la selva que continúa ardiendo, ahora más desprotegida que nunca) fue noticia en octubre del año pasado cuando se descubrió que había retirado un sistema de reclutamiento de personal que estaba discriminando las mujeres . Lo más preocupante no era la discriminación en sí, desgraciadamente muy habitual en el sector tecnológico, el verdadero problema era que detrás el sistema no había un ser humano misógino sino una inteligencia artificial que había aprendido de forma autónoma a discriminar los currículos de mujeres .
El sistema evaluaba los currículos de los candidatos de forma independiente, dando de una a cinco estrellas en cada resumen curricular como si se tratara de uno de los productos de venta en línea que han hecho crecer la empresa. Amazon comenzó a utilizar la herramienta en 2014 pero pronto se dio cuenta de su preferencia por los trabajadores masculinos : cualquier rasgo que indicara feminidad (palabras clave, expresiones, lugar de estudios …) puntuaba a la baja. Con este sistema, un currículum de una mujer nunca debería llevado cinco estrellas.
Amazon, por su parte, aseguraba que nunca llegó a basar la contratación de nadie en las calificaciones del sistema. La Inteligencia Artificial demostró poco fiable: estaba contaminada por una tendencia humana .
El algoritmo basaba su criterio de puntuación en el patrón de contratación y promoción de currículos que había seguido la compañía en los últimos 10 años. En este periodo, por lo que apuntan los datos, Amazon estuvo favoreciendo la contratación de trabajadores masculinos y fue esta misma inclinación la que copió y reflejar el algoritmo de reclutamiento para puntuar negativamente los currículos de las mujeres. El machismo cultural de la empresa se había infiltrado en un sistema moderno.
Las matemáticas también pueden tener prejuicios y ser injustas.
La aparente revestimiento objetivo y aséptico de un algoritmo , pura matemática, resquebrajaba ante la mirada de todo el mundo. Muchos descubrían por primera vez que las matemáticas también podían tener prejuicios y ser injustas.
A quien la noticia no cogió por sorpresa fue la matemática estadounidense Cathy O’Neil. La autora de Weapons of Math Destruction -una reflexión indispensable sobre el papel protagonista de los algoritmos y el Big Data en la perpetuación de injusticias e inequidades sociales – hacía un tiempo que esperaba que pasara algo similar. De hecho, ya había avanzado el proceso en el que un algoritmo que alimentara una Inteligencia Artificial podría beber de datos manchadas de patrones tóxicos o injustos -quizás inapreciables por los humanos a primera ojo- y, consecuentemente, reproducirlos en los sus algoritmos surgidos del aprendizaje automático.
Precisamente, Cathy O’Neil se dedica profesionalmente a auditar algoritmos. Analizar y evaluar cómo funcionan, ir más allá del conocido como efecto » black box » que impide saber exactamente cómo toman las decisiones las inteligencias artificiales y las máquinas de aprendizaje automático. O’Neil comprueba que los algoritmos no están contaminados por prejuicios humanos y que, por tanto, funcionarán realmente sin repetir los mismos errores que los humanos que los han programado.
Investigación en IA: monopolio de hombres
La Brecha Digital de género perpetuada en Inteligencia Artificial se encuentra en la misma raíz del problema. La fundación de innovación británica, Nesta (National Endowment for Science, Technology and the Arts), presentó en julio un estudio en el que había analizado el contenido de publicaciones sobre Inteligencia Artificial del reconocido repositorio en línea de documentos científicos arXiv .
Las conclusiones del estudio eran demoledoras. Menos del 14% de los autores de investigaciones científicas publicadas en el repositorio eran mujeres. Quedaba paja que y el problema de diversidad, aunque acentuado en según qué países, es transversal y afecta tanto a grandes empresas tecnológicas como universidades y otras instituciones de investigación.
Las publicaciones de autores tienen más carga ética y son socialmente más comprometidas.
El problema, además, quedaba especialmente evidenciado en el análisis cualitativo de los estudios analizados: todos aquellos que incorporan al menos una mujer en la lista de autores tienden a ser más socialmente comprometidos ya incorporar más a menudo términos y conceptos sociales como «equidad «,» movilidad humana «,» mentalidad «,» salud «,» género «y» personalidad «.
El estudio de Nesta también confirma que las publicaciones realizadas por al menos una mujer tienden a tener más carga social o ética. La diversidad en la investigación, por tanto, no aumenta sólo la cantidad de los puntos de vista sino que también amplía los campos investigados , en este caso en un tema tan sensible como la inteligencia artificial que amenaza al tener un papel importante en todo ámbito social.
Mujeres y TIC en Cataluña
En la última presentación del Barómetro del sector TIC en Cataluña del Círculo Tecnológico de Cataluña , el pasado 18 de julio, se demostró que, en Cataluña -como es habitual en el sector en el ámbito internacional-, el papel de la mujer en el ámbito tecnológico es minoritario (un 29% del total de los trabajadores del sector). Aún peor, este tiende a ser irrelevante en el sentido de que no suele encontrarse en posiciones de toma de decisiones o en posiciones realmente TIC (alrededor del 8% del total de trabajadores).
El problema también es económico: uno de los grandes frenos del desarrollo de las empresas TIC es la falta de talento y, en la actualidad, el hecho de que las TIC no favorezcan la incorporación de talento femenino y que, consecuentemente, las mujeres no se incorporen al sector, implica dejar al margen de las compañías tecnológicas la mitad de la población.
El problema de la Brecha Digital de género es más grave en Cataluña que en el resto de Europa
No hay mujeres en el sector y, de las que hay, pocas se dedican realmente a programar, construir herramientas o decidir el funcionamiento de los algoritmos . Marketing, comunicación, finanzas, etc. son los departamentos mayoritarios de destino. De hecho, el problema de la Brecha Digital de género es más grave en Cataluña que en el resto de Europa y lo peor es que no parece haber interés en solucionarlo: el 89% de las empresas TIC no tienen un plan específico orientado a la incorporación de mujeres en su empresa, según los datos del Barómetro.
La CEO de Redpoints , Laura Urquizu, soltó una frase durante la presentación del Barómetro 2019 que no pasó desapercibida, especialmente para las mujeres de la audiencia: «A mí no me gusta nada que todos los algoritmos que deciden por nosotros los extiende desarrollando hombres «.
Urquizu, en su condición de jefe de una de las empresas más destacadas del panorama startup catalán, pionera en la utilización de la Inteligencia Artificial, aprendizaje automático y reconocimiento automático de imágenes, es consciente del potencial de la IA y como es decisivo el papel de la programación de los algoritmos que, cada vez más, definen nuestra manera de tomar decisiones. Por eso es preocupante, por todo el conjunto de la sociedad, que este papel esté monopolizado por un perfil tan específico. Hay diversidad.
La IA debe ser una obra colectiva
A finales de agosto, los CEO de Alibaba y de Tesla, los influyentes Jack Ma y Elon Musk, ocuparon los titulares de todos los medios especializados por sus siempre interesantes opiniones -y desacords- sobre Inteligencia Artificial en un debate organizado en Shanghai. El primero, conocido también por sus declaraciones en defensa de las jornadas laborales de 12 horas (aunque en el mismo debate aseguró que las IA permitirían reducir la jornada a 12 horas de trabajo … a la semana), y el segundo, uno de los que sostienen la idea de bombardear Marte con armas atómicas(a pesar de tener un buen número de científicos que no lo ven nada claro). Durante más de 45 minutos estuvieron confrontando ideas sobre las implicaciones de la tecnología que confiere autonomía a las máquinas, con puntos de vista divergentes y algunas ideas comunes. Eso sí: ambos, multimillonarios; ambos, hombres. Y dos de los grandes inversores en esta tecnología, aunque el abandono de Openair de Musk.
Billionaire Elon Musk says AI will make jobs pointless and «probably the last job that will remain will be writing AI software.» He recommends people to study engineering. http://bloom.bg/324NqE2
379 persones estan parlant sobre això
Una de las frases más destacadas por los medios que siguieron este debate fue de Musk. Hablaba de cómo la IA acabará por convertir los trabajos en inútiles y que, seguramente, «el último trabajo que quedará será escribir software de IA». Si consideramos que los augurios de Musk son correctos y se llegará a un momento en el que todo quedará en manos de las máquinas , sus inteligencias recreadas artificialmente y los algoritmos que las configuran, es imperioso que éstas sean «educadas» en construir la mejor sociedad posible.
Si esta debe ser la última oportunidad del ser humano (sea en 25 años, en una cincuentena o en un siglo) para decidir los mecanismos sociales del futuro, como mínimo hay que asegurarse de acertar .
Teniendo en cuenta que los algoritmos son los que empiezan a tomar y tomarán la mayoría de las decisiones que afectan a nuestra cotidianidad , quien los investiga, los pone a prueba y los desarrolla debe ser necesariamente un equipo diverso de personas que evite la perpetuación de discriminaciones, ideologías únicas e injusticias. Se deben involucrar, desde hoy mismo, diferentes etnias, orígenes sociales, géneros, religiones e ideologías.
La programación de los algoritmos que guiarán el funcionamiento de las inteligencias artificiales del futuro debe aspirar a incluir todos los puntos de vista y todas las realidades humanas . Toda nuestra riqueza. Para evitar que volvamos a leer, dentro de unos años, un titular que denuncie que la Inteligencia Artificial es machista.
Imagen vía www.vpnsrus.com
