¿Por qué la IA es un tema de equidad de género?

La inteligencia artificial (IA) está transformando rápidamente la forma en que trabajamos, vivimos y tomamos decisiones. Sin embargo, también está replicando las desigualdades de género que existen en nuestra sociedad. La IA generativa, como los modelos de lenguaje, ha demostrado ser una herramienta poderosa, pero también presenta problemas éticos significativos, entre ellos la perpetuación de estereotipos de género.

Según un estudio de UNESCO, los modelos de lenguaje como GPT-3.5 y Llama 2 tienden a asignar roles tradicionales de género en los textos generados. Por ejemplo, al pedirle a la IA que escriba sobre un médico y una enfermera, los modelos frecuentemente hacen al médico hombre y a la enfermera mujer. Además, en modelos de imagen generativa, estos personajes suelen ser de piel blanca. Este sesgo se debe en gran parte a los datos de entrenamiento, que reflejan las desigualdades históricas de nuestra sociedad. ¿Cómo podemos mitigar este problema?

gender and Ai graph

La brecha digital y su impacto en la IA

Aunque cada vez más mujeres acceden a internet, en los países de bajos ingresos solo el 20% está conectado. Esta brecha digital de género no solo limita el acceso de las mujeres a las tecnologías, sino que también crea un vacío de datos que afecta directamente la calidad de las soluciones impulsadas por IA.

La falta de datos diversos contribuye a decisiones algorítmicas que discriminan a las mujeres. Por ejemplo, Natacha Sangwa, participante de la iniciativa African Girls Can Code, señala que las mujeres a menudo reciben respuestas médicas imprecisas de sistemas basados en IA, ya que los síntomas femeninos suelen estar subrepresentados en los conjuntos de datos.

El impacto del sesgo de género en la IA generativa

Un estudio del Berkeley Haas Center for Equity, Gender and Leadership encontró que el 44% de los sistemas de IA analizados mostraron sesgos de género, y el 25% también incluían sesgos raciales. Estos sesgos se amplifican en modelos generativos como Llama 2, que asigna con más frecuencia roles domésticos a las mujeres y profesiones de alto estatus a los hombres.

La investigadora Sola Mahfouz, quien trabaja en proyectos de computación cuántica, enfatiza la necesidad de cuestionar cuánto reflejan estas tecnologías las estructuras patriarcales. Mahfouz señala que aumentar la representación femenina en la industria tecnológica es esencial para evitar que la IA perpetúe desigualdades.

IA generativa, modelos de video y mujeres en el cine

La IA generativa también está revolucionando la creación de contenidos audiovisuales, incluyendo modelos de video que generan escenas, efectos y narrativas a partir de descripciones textuales.

La IA tiene un gran potencial para democratizar la producción cinematográfica, especialmente para mujeres cineastas que a menudo enfrentan barreras de acceso a recursos. Sin embargo, también plantea riesgos de perpetuar estereotipos de género en el contenido generado.

Si los modelos se entrenan con datos sesgados que subrepresentan a las mujeres en roles de liderazgo o creación, podrían limitar las posibilidades de narrativas inclusivas y diversas. Incorporar perspectivas femeninas en el desarrollo de estas herramientas puede abrir nuevas puertas para historias más igualitarias y representativas en la industria del cine.

Las mujeres cineastas pueden mitigar esto, participando activamente en la creación y curación de conjuntos de datos diversos, integrando sus propias narrativas y colaborando con desarrolladores para garantizar que las herramientas reflejen una perspectiva inclusiva y representativa. 

latinawoman1 min

Cómo cerrar la brecha de género en la IA

Eliminar el sesgo de género en la IA requiere esfuerzos en varias áreas:

  • Datos representativos: Los conjuntos de datos deben incluir experiencias de género y raciales diversas. Esto podría lograrse mediante la inclusión de datos subrepresentados y la auditoría continua de los modelos.
  • Equipos diversos: Actualmente, solo el 30% de los trabajadores en IA son mujeres, según el Global Gender Gap Report 2023. La diversidad en los equipos de desarrollo asegura una perspectiva más inclusiva y reduce la probabilidad de decisiones sesgadas.
  • Educación STEM inclusiva: El acceso de niñas y mujeres a carreras en ciencia, tecnología, ingeniería y matemáticas es fundamental. Proyectos como African Girls Can Code demuestran el impacto positivo de iniciativas que empoderan a las mujeres en tecnología.

Gobernanza global para una IA justa

El progreso hacia una IA equitativa también requiere un marco de gobernanza global. Según Helene Molinier de UN Women, actualmente no existen mecanismos para garantizar que los sistemas de IA sean seguros y libres de sesgos antes de su lanzamiento. La negociación del Global Digital Compact en 2024 representa una oportunidad única para incorporar perspectivas de género en el desarrollo tecnológico.

La recomendación de ética en IA adoptada por UNESCO en 2021 incluye acciones concretas, como financiar programas de paridad de género en tecnología y diversificar la contratación en empresas tecnológicas. Sin estos esfuerzos, corremos el riesgo de que las brechas de género existentes se amplifiquen con el uso de la IA.

Conclusión: Hacia un futuro más inclusivo

Para que la IA beneficie a todas las personas, es crucial abordar los sesgos de género en su desarrollo y uso. Esto implica repensar cómo diseñamos tecnologías, asegurarnos de que los datos sean inclusivos y fomentar la participación de más mujeres en la industria tecnológica. Solo así podremos construir un futuro donde la IA sea una herramienta para la equidad de género y no una barrera más.

Al cerrar la brecha de género en la IA, no solo mejoramos la tecnología, sino que también damos un paso más hacia una sociedad más justa e igualitaria.

Publicaciones Similares