La inteligencia artificial se equivoca al interpretar a las mujeres

La inteligencia artificial promueve estereotipos anticuados sobre el papel y el desempeño de la mujer en la sociedad. Por ello, ONU Mujeres requiere cambios en cada ciclo de vida de esa tecnología. Imagen: Elma Okic / ONU

Jayathma Wickramanayake, responsable de Tecnologías Digitales en esa entidad de las Naciones Unidas, ONU Mujeres, consideró que “lo más preocupante es que no se trata de un fallo de diseño, sino de una laguna política real que quedó completamente sin resolver”.

De 138 países evaluados en todo el mundo, solo 24 hicieron referencia al género en sus estrategias nacionales de IA, y apenas 18 incluyeron medidas sustantivas con perspectiva de género.

“Los modelos de IA extraen sesgos de décadas de textos escritos por personas, sobre personas, en un mundo donde las mujeres eran clasificadas dentro del ámbito del hogar y la familia, y los hombres dentro del ámbito de los negocios y la carrera profesional”, señaló la experta esrilanquesa.

Según ONU Mujeres, cuando investigadores pidieron a grandes modelos lingüísticos que simplemente completaran una oración que comenzaba con el género de una persona, una de cada cinco respuestas resultó ser sexista o misógina.

La evidencia sugiere que el problema está muy extendido. Un estudio de 133 sistemas de IA reveló que 44 % presentaba sesgos de género, mientras que más de una cuarta parte mostraba sesgos tanto de género como raciales.

Los sistemas de IA se basan en invasión masiva de la privacidad

En algunos casos, los sistemas de IA han generado respuestas que presentan a las mujeres como objetos sexuales o como subordinadas a los hombres.

Estudios recientes demuestran que, a medida que la IA generativa se ha convertido en parte de la vida cotidiana de miles de millones de personas -desde redactar correos electrónicos hasta planificar campañas y crear presentaciones-, las desigualdades también se están reforzando a través de algoritmos discriminatorios.

Tan solo en el Reino Unido, por ejemplo, 88 % de las agencias de publicidad y medios de comunicación ya utilizan esta tecnología de alguna forma.

Para muchas mujeres y niñas, los riesgos van más allá de los estereotipos. Las mujeres ya sufren niveles desproporcionados de abuso en línea, y la IA está facilitando la creación y propagación de algunas formas de violencia.

Según datos de ONU Mujeres, casi una de cada cuatro defensoras de derechos humanos, activistas y periodistas encuestadas declaró haber sufrido violencia en línea asistida por IA.

En ese estudio, 12 % de las encuestadas afirmó que sus imágenes personales se habían compartido sin su consentimiento, mientras que seis por ciento informó haber sido blanco de deepfakes o imágenes y vídeos manipulados.

A medida que el contenido generado por IA se convierte en la norma, crece la preocupación de que el acoso, la manipulación y el abuso basado en imágenes sean más difíciles de detectar y prevenir.

Al mismo tiempo, las mujeres siguen estando infrarrepresentadas en las industrias que desarrollan esta tecnología, lo que suscita preocupación por el hecho de que el futuro de la inteligencia artificial se esté construyendo sin que sus perspectivas se vean reflejadas en el proyecto.

Aunque se espera que la IA impulse el crecimiento en todos los sectores centrados en la tecnología, las mujeres representan solo 30 % de la fuerza laboral mundial en el campo de la IA, según la Organización Internacional del Trabajo (OIT).

ONU Mujeres advierte que las personas que construyen estos sistemas no reflejan adecuadamente la diversidad de las poblaciones a las que están destinados a servir.

Según la entidad, sin una mayor participación de las mujeres y otros grupos subrepresentados, los prejuicios existentes corren el riesgo de arraigarse en las tecnologías futuras.

El impacto económico de la IA también puede ser desigual. Las mujeres tienen casi el doble de probabilidades que los hombres de ocupar puestos de trabajo con alto riesgo de automatización fuera del sector de la IA.

Esos efectos pueden verse agravados por otros factores, como la raza, la discapacidad, los ingresos y la ubicación geográfica.

A medida que la IA transforma los mercados laborales, ONU Mujeres advierte que las comunidades que ya se enfrentan a la exclusión podrían quedar aún más rezagadas si no se toman medidas específicas.

Abordar los prejuicios no es solo una cuestión de derechos, según ONU Mujeres, sino que también tiene sentido desde el punto de vista comercial.

Un estudio de la Alianza contra los Estereotipos, una iniciativa convocada por ONU Mujeres, reveló que la publicidad libre de estereotipos de género genera mejores resultados comerciales.

Las marcas que utilizan publicidad inclusiva registraron un mayor crecimiento en ventas, una mayor fidelización de clientes y un mayor poder de fijación de precios que sus competidores.

A medida que la IA influye cada vez más en el mercadeo y la creación de contenido, es probable que las organizaciones que integren la inclusión en sus procesos de IA se beneficien, mientras que aquellas que no lo hagan pueden enfrentarse a riesgos comerciales y de reputación.

ONU Mujeres exige que la igualdad de género -y los derechos y experiencias de las mujeres y las niñas- se integren en cada etapa del ciclo de vida de la IA, desde el desarrollo hasta la implementación y la gobernanza.