IA y sesgos de género

La Inteligencia Artificial se presenta como un avance revolucionario en prácticamente todos los ámbitos y cada vez se encuentra más implantado a todos los niveles en la sociedad. De la misma forma, este instrumento conlleva una serie de retos en cuanto a su desarrollo y su forma de uso. El estudio «Challenging systematic prejudices» de la UNESCO refleja tendencias en los Modelos de Lenguaje Grandes a generar prejuicios de género, raciales y homófobos.

Origen de los sesgos

Los diferentes métodos de Inteligencia Artificial se estrucuturan mediante algoritmos con una serie de patrones que les permiten “aprender y desarrollarse”. Desde esta base, se alimentan de una gran cantidad de datos que, por ejemplo, revisan historiales de compras y de interacciones de los usuarios.

Así, para entender el origen de sus posibles sesgos, podemos identificar las fases que generan estos métodos:

• Desarrollo de la programación de la IA. La representación de diferentes perspectivas es importante desde el origen de esta tecnología. Los grupos heterogéneos e igualitarios dejan fuera muchos puntos de vista y realidades a tener en cuenta.
• “Aprendizaje” de la IA mediante análisis de bases de datos. La sociedad actual cuenta con múltiples sesgos, entre ellos los de género. Si los datos que propician el aprendizaje de la IA contienen estos sesgos, la misma los reproducirá o, incluso, puede conllevar su amplificación.

Así se ha comprobado que, por ejemplo, algunas IA al relatar historias ficticias asignaban trabajos más diversos y socialmente mejor valorados a hombres blancos.

Grupos similares, individuos particulares

Las tecnologías predictivas se basan en el desarrollo de perfiles. De esta forma buscan atributos promedios que tienen en común personas consideradas similares. De esta forma se pasan por alto muchas de las particularidades de cada individuo, estableciendo la preminencia de un individuo genérico. Fuera del mismo,las personas que no corresponden a los perfiles que el sistema especifica pasan a ser consideradas una desviación. En función de la programación, puede entenderse esta desviación como inexistente o sospechosa. En cualquier caso, la discrimina.

Como ejemplo, se pueden nombrar las IA aplicadas en procesos de selección de personal que se basan en el modelo OCEAN: openness, Conscientiousness, Extraversion, Agreableness, Neuroticism. Este modelo efectúa evaluaciones generalizadas sobre el comportamiento emocional de un grupo. Esto quiere decir que si el grupo de gente se modifica, las evaluaciones también cambiarán. Por tanto, pierde precisión sobre la evaluación personalizada de cada candidato. El modelo está basado en gran parte en la autoevaluación. Las personas, para autoevaluarse, buscan compararse con personas en posiciones similares. En este caso, si las mujeres se comparan con otras mujeres, su autoevaluación será diferente que si se comparan con personas de su entorno general o de la empresa. Esto se debe tanto a los sesgos en la propia percepción (menor autoestima) como en la sociedad (una mujer tiene menor capacidad de dirección).

¿Cómo trabajar por una #IAsinSesgos?

Los métodos de IA se van integrando paulatinamente en todos los ámbitos: ocio, selección de personal, trabajo, salud, procedimientos judiciales, etc. El desarrollo de una IA responsable es crucial para el progreso hacia una sociedad justa y avanzada. Para progresar en este sentido, se pueden considerar acciones a los siguientes niveles:

• Grupos de trabajo diversos para el desarrollo de métodos de IA. La inclusión de personas de distintos géneros, razas, clases sociales, culturas, etc., proporcionará estructuras que permitirán evitar sesgos desde el inicio. La realidad actual, según una estimación de la ONU, es que la presencia de mujeres en el campo de desarrollo de IA apenas alcanza el 22%.
• Selección activa de datos que reflejen las distintas circunstancias sociales. Representar de una forma realista las distintas culturas, eliminar sesgos históricos como los asociados con el género y la raza. El mencionado estudio de la UNESCO muestra cómo las mujeres aparecen más asociadas con términos como hogar, familia e hijos, mientras que los hombres se relacionan más con los negocios, salario o carrera.
• Educar y concienciar a la sociedad. Las personas deben conocer cómo funcionan estas herramientas y desarrollar una visión crítica que les permita identificar sesgos discriminatorios.

Desde la perspectiva legislativa, a nivel Europeo se aprobó el Reglamento 2024/1689 del Parlamento Europeo y del Consejo como medida de la Unión para promover el desarrollo responsable de estas tecnologías. La regulación normativa resulta indispensable para contar con una base jurídica, pero la misma no consigue ser efectiva sin la concienciación de la sociedad.

La IA como aliada en la lucha contra la discriminación

La Inteligencia Artificial no es una herramienta discriminatoria de origen, sino que su “comportamiento” se basa en los algoritmos que la estructuran y los datos que la alimentan para desarrollarse. Es por ello que también se trata de una herramienta que ofrece muchas posibilidades para la eliminación de sesgos.

Ejemplos como el ocurrido en el sector de las finanzas, en el que la IA se está utilizando como herramienta para superar sesgos históricos por los que las mujeres tenían más difícil el acceso al crédito.

Igualmente, este instrumento permite el análisis de una gran cantidad de datos en poco tiempo. Así puede utilizarse para localizar brechas salariales en la fuerza laboral. Bajo esta misma premisa, podrían realizarse modelos predictivos que permitan prever los efectos en la desigualdad de género de futuras leyes antes de su aprobación.

Puedes acceder a la fuente original de la noticia en los siguientes enlaces: enlace1, enlace2, enlace3

Publicación realizada para la campaña #IAsinSesgos con motivo del 17 de mayo, Día Mundial de Internet, dentro del marco del proyecto Empoderamiento e Igualdad para el Empleo, financiado por el Ministerio de Derechos Sociales, Consumo y Agenda 2030.