La Fundación Alternativas organizó la presentación virtual del documento ‘Inteligencia artificial e igualdad de género. Un análisis comparado entre la UE, Suecia y España’, de las investigadoras Lucía Ortiz de Zárate Alcarazo y Ariana Guevara Gómez. La Inteligencia Artificial (IA) es un grupo de tecnologías disruptivas que promete transformar el sector público y que ya es una realidad en muchos países. El uso de la IA tiene muchas ventajas, pero también grandes riesgos, como la presencia de sesgos en los datos y en los algoritmos, que pueden amplificar discriminaciones e injusticias ya existentes como la desigualdad de género. Abordar la adopción y el uso de la IA desde una perspectiva de género es fundamental para así poder garantizar un uso democrático de las nuevas tecnologías que sea respetuoso con los derechos humanos. El presente documento analiza las Estrategias de IA de la Unión Europea, Suecia y España para determinar en qué medida sus propuestas para la IA promueven (o no) la igualdad de género. También se presentan algunas propuestas de mejora para promover un uso igualitario de la IA en España.

Según el informe, la IA está “transformando las empresas, las administraciones públicas y la vida cotidiana de las personas”. Desde sistemas de análisis de datos y proyección de situaciones futuras, hasta chatbots y asistentes de voz, los sistemas de IA se están implementando cada vez más para “automatizar procesos, incrementar la eficacia y eficiencia de las instituciones, y producir oportunidades de negocios”. Si se tiene en cuenta el uso cada vez más extendido de estas tecnologías disruptivas, se hace necesario analizar sus potencialidades, beneficios y riesgos.

El documento se concentra en los “riesgos y oportunidades” que ofrece la IA para la igualdad de género. En primer lugar, el vínculo entre el desarrollo de la IA y las cuestiones de género sólo es posible si se considera una “perspectiva socio-técnica” de la tecnología, ya que existe una relación entre el diseño de los “avances tecnológicos y los asuntos sociales y éticos que se asocian a ellos”. Si se habla, además, de unos sistemas que emulan ciertas características de la inteligencia humana, no es posible desligar estos desarrollos de los “valores éticos de la sociedad”, en este caso concreto de Europa y España.

En el marco del sector público, la IA tiene el potencial de “incrementar la eficacia y eficiencia”, favorecer los procesos de detección de “problemas y predicción de soluciones”, avanzar hacia la personalización de los servicios que se “ofrecen a la ciudadanía”, y favorecer la “automatización” de procesos y trámites. Pero, al mismo tiempo, hay “retos en relación con la producción y perpetuación” de sesgos, la rendición de cuentas, la transparencia, la “privacidad” y la explicación de los algoritmos, que pueden tener un efecto en el “desarrollo de la democracia” y en el cumplimiento de los valores europeos y los derechos humanos.

Más concretamente, se ha demostrado que, en muchas ocasiones, los datos usados en los sistemas de IA reproducen “estereotipos de género”, y que el diseño de estas tecnologías disruptivas pueden contribuir con la perpetuación de roles asociados tradicionalmente a mujeres y hombres. Desde chatbots y asistentes de voz, hasta algoritmos en buscadores y sistemas de reconocimiento facial, existen ejemplos que demuestran cómo “los estereotipos de género permean en el diseño de la IA y cómo se hace necesaria la incorporación de una perspectiva que respete el principio de la igualdad de género en los desarrollos tecnológicos”.

En Europa existe un abordaje de los “principios éticos” que deben seguirse en el desarrollo de una IA centrada en los seres humanos, que sirva de marco de referencia para incluir la perspectiva de género en la IA. En un análisis de los principales documentos oficiales europeos, que abordan los aspectos éticos del diseño y la implementación de la IA, se demuestra que “la UE ha incluido referencias implícitas y explícitas que sirven de base para la incorporación de este enfoque de género en los avances tecnológicos de los Estados miembros”. El caso de Suecia, por ejemplo, es paradigmático, no sólo por la publicación de su estrategia nacional de IA casi a la par de la UE, sino porque ha desarrollado “iniciativas concretas para usar estas tecnologías disruptivas de una forma proactiva a favor de la igualdad de género”, en estas áreas: la influencia y el poder, la educación, la distribución igualitaria de los cuidados y el trabajo no remunerado, la igualdad económica, la lucha contra la violencia de género, y el acceso y disfrute igualitario a la salud.

ESTRATEGIA NACIONAL

España, por su parte, ha emitido recientemente algunos documentos que sirven de base para el “diseño e implementación” de la IA, entre ellos la estrategia nacional, publicada a finales de 2020. Estos documentos oficiales siguen la estela de la UE, con su apuesta por una IA “centrada en los seres humanos”. También los textos españoles incluyen referencias “implícitas y explícitas al género”, lo que se traduce en un buen punto de partida para diseñar e implementar sistemas de IA con un enfoque de género.

En este sentido, este documento ofrece “cinco recomendaciones” para concretar y profundizar en las propuestas generales que ha hecho España en relación con el género y la IA: la elaboración de guías para la implementación de la IA en las administraciones públicas (AAPP) con una perspectiva de género; la elaboración de un informe anual o bianual de IA con perspectiva de género, que contenga cifras y datos sobre el avance de proyectos que incluyan este enfoque; IA contra la violencia de género (diseñar e implementar un chatbot para ayudar a las mujeres que sufren violencia de género); IA contra la brecha salarial de género (impulsar el desarrollo de sistemas de IA para favorecer la transparencia retributiva en las empresas); IA para favorecer la salud de las mujeres (Diseñar e implementar un chatbot para ayudar a las mujeres a resolver sus dudas sobre salud).