el Sol noticias ahora también está en Mastodon
Imagen Ant Rozetsky - unsplash
La inteligencia artificial suele presentarse como una herramienta objetiva: te recomienda una receta de cocina, compara alimentos para mascotas, organiza una agenda o responde cómo hacer un trámite. En un contexto de crisis económica, soledad y deterioro de los lazos sociales, incluso ocupa lugares que antes estaban reservados para otras personas: para algunos se convierte en psicóloga, amiga o compañera de conversación. Pero esa aparente neutralidad es, en gran medida, una ilusión. Los sistemas de IA aprenden de los datos con los que fueron entrenados y, con ellos, también reproducen los prejuicios, las desigualdades y los estereotipos de género. A su vez, algunas generan daños medioambientales.
El informe El espejismo de la IA, un reflejo incómodo con alto impacto en los jóvenes, elaborado por Espejismo de Igualdad, señala que los modelos de inteligencia artificial suelen asociar a los varones con la fuerza, el liderazgo, la racionalidad y la eficacia, mientras que vinculan a las mujeres con la autenticidad, el cuidado, la belleza o el bienestar emocional. Lejos de ser respuestas inocentes, estas asociaciones reproducen mandatos culturales que presentan como naturales roles históricamente desiguales.
Por su parte, desde la Red Feminista de Inteligencia Artificial de América Latina y el Caribe entienden los sistemas de IA como algo más que artefactos técnicos: “son ensamblajes sociotécnicos que involucran narrativas, imaginarios, sistemas de conocimiento, procesos de producción de sujetos, gobiernos, instituciones, normas, infraestructuras, relaciones económicas y geopolíticas, comunidades y prácticas”.
Para saber más de la temática, sin recurrir a la IA, El Grito del Sur se comunicó con Ivana Feldfeber, integrante de @iafeminista.lat y cofundadora de DataGénero, un observatorio de datos con perspectiva de género que promueve el análisis y uso ético de la información en América Latina.
¿Por qué decimos que la IA tiene una brecha de género?
Decimos que la IA tiene brecha de género porque, si bien cuando pensamos en estas tecnologías suponemos que son neutrales, se trata de sistemas creados y embebidos en la sociedad. Todo lo que tenga que ver con las desigualdades de la sociedad, los prejuicios, los sesgos, el poder y las disputas sociales son reproducidos en los sistemas de inteligencia artificial. Desde la recolección de datos, desde los estereotipos de representación y hasta quién se encarga de crear estos sistemas de inteligencia artificial, vemos que hay no solamente sesgos de género, sino también sesgos raciales, capacitistas, edadistas, económicos. Hoy en día la IA no es una herramienta que esté puesta a disposición de la justicia social, simplemente sigue fomentando estas desigualdades.
¿Cuáles son específicamente estos sesgos?
Hay un estudio que hizo una firma de marketing que se llama LLYC, que estuvieron trabajando en meterle muchos prompts a estos chatbots de Open AI y diferentes modelos de lenguaje, para ver cómo le recomendaba diferentes acciones desagregadas por sexo, no por género porque es un estudio bastante binario. Eso ilustra cómo a las mujeres les dice que sean suaves, cuidadosas, tranquilas, complacientes, y a los varones que sean más expeditivos, que busquen, que activen, mientras a la mujer la pone más en un rol de pasividad.
Respecto, por ejemplo, a las profesiones, cuando uno le pregunta a una IA qué puede estudiar siendo una mujer argentina de X cantidad de años, en función de esa información te va a dar respuestas diferentes a lo que le dice a un varón de la misma edad, del mismo sector socio-económico. Es decir, es mucho más probable que el trabajo doméstico esté más asociado a lo femenino en estos modelos de lenguaje que al rubro de la mecánica. Estos modelos aprendieron de la sociedad, aprendieron de cómo valoramos y pensamos estas diferentes palabras y conceptos y lo reproducen.
¿Qué sucede con la población LGBTQ+?
Hay muchos ejemplos de discriminación vinculados a personas LGBTQ+ . En particular vemos que estos sistemas no son sensibles a la vida de las personas trans. Hay un proyecto del Laboratorio Abierto de Inteligencia Artificial, que se llama Voces Trans, que trabaja justamente cómo estos modelos de lenguaje, estos chatbots, no tienen en cuenta las voces trans y algunas propuestas vinculadas a que haya más inclusión en esos modelos.
La IA se plantea como una herramienta de capacidad absoluta. ¿Es posible resolver los grandes problemas de la humanidad?
La IA es una herramienta, no es una solución a ningún problema. Desde la Red de IA Feminista y Data Género siempre planteamos que la IA no va a solucionar la violencia de género, no va a solucionar la discriminación, no va a solucionar el cambio climático, la pobreza o los incendios forestales. A veces la IA puede ser un componente dentro de una solución, pero los problemas humanos requieren soluciones humanas y complejas.
Hay una ilusión más vinculada a las grandes empresas de tecnología, como Google, Amazon, Microsoft, Meta y OpenAI, que ponen mucho dinero en buscar soluciones a estos problemas de la humanidad con inteligencia artificial. No porque les interese resolver problemas de la humanidad, sino porque quieren ver de qué es capaz la inteligencia artificial. Esta ilusión, llamada optimismo tecnológico, se aplica en particular cuando hablamos de la IA generativa. Nos quieren hacer creer que esos chatbots son los nuevos humanos que nos van a resolver los problemas. Lo que terminamos viendo es que estas soluciones nos dan cosas muy deficientes y no terminan de atacar el problema.
¿Cúal es la huella medioambiental de la IA?
No todas las IAs tienen este costo ambiental, me parece que es muy importante decirlo. Hay una huella medioambiental tremenda ligada a la IA generativa, a la materialidad de la inteligencia artificial. Kate Crawford, en el “Atlas de la inteligencia artificial”, demuestra que esta nube de la que se habla en realidad son galpones gigantes llenos de computadoras a las que les hace falta agua para refrigerarlos porque levantan mucha temperatura, les hace falta todos los recursos para poder construir y mantener esas computadoras. En general las zonas donde se instalan estas nubes -los data centers- son zonas que terminan siendo muy afectadas, donde escasea el agua y sube mucho el costo de la electricidad porque se comparte con la del pueblo o el lugar donde esté emplazado.
¿Qué pasa con la creación de deepfakes con IA, como sucedió recientemente en el colegio Carlos Pellegrini y el Nacional Buenos Aires?
Con respecto a lo que pasó con las deep fakes, yo creo que es fundamental poder regular el uso de la inteligencia artificial a nivel Estado, a nivel región y sobre todo tener una mirada regional latinoamericana con respecto al uso de la inteligencia artificial. Considero que estas cosas que pasan en los secundarios, que son super graves y hay que trabajarlas, no solamente con sanciones, sino también desde la educación y de poder ver cómo esto puede afectar la vida de niñas, adolescentes y fomentar el bullying.
Ahí le tiro la pelota a todas estas X, que tiene este generador de imágenes (Grok): tal como uno pone a disponibilidad un generador de imágenes falsas, debería también permitir que se detecte qué imagen fue generada con inteligencia artificial. Eso se puede hacer, pero no está disponible. No tienen la voluntad de hacerlo porque no les interesa, no es parte de su agenda. Es clave tener conciencia de que la información que se le está dando a la inteligencia artificial puede ser utilizada en tu contra en algún momento.
Por ejemplo, en 2022 cuando asume Trump en Estados Unidos, empieza a haber un retroceso en cuanto a las leyes de aborto. En ese contexto, un Estado le pide información a Meta sobre los chats de una madre que estaba acompañando a su hija a abortar. Finalmente usaron esos chats como pruebas en un juicio para juzgarlas por haber abortado. Es decir, estas empresas -en un abrir y cerrar de ojos- pueden darle toda tu información, lo que vos consultaste a la Justicia, a gobiernos que no tengan las mejores intenciones.
