La inteligencia artificial se ha colado por completo en nuestra vida, hasta el punto de que le pedimos que nos haga un menú semanal, que nos eche una mano al redactar un correo e incluso le planteamos cuestiones personales. ¿Has probado a preguntarle por mujeres lesbianas?

Lo lógico sería pensar que las respuestas de cualquier plataforma de IA serán neutras y objetivas. Sin embargo, la inteligencia artificial aprende de la información que crean las personas, así que perfectamente puede heredar los prejuicios que tenemos como sociedad.

La IA aprende de internet, con sus cosas buenas… y malas

Los grandes modelos de lenguaje están entrenados con millones de textos, imágenes y contenidos disponibles en internet. El problema es que en la red hay muchísimo material y en absoluto refleja la realidad.

Al final, las mujeres lesbianas siempre hemos tenido mucha menos representación en la sociead. Y cuando aparecemos, lo hacemos bajo el juicio de miradas ajenas, con clichés o sexualizadas. Así que, si todos esos datos forman parte del entrenamiento de la IA, hay un riesgo muy alto de que se reproduzcan esos patrones.

Lo queer desaparece de los resultados

Uno de los principales problemas está en cómo algunos sistemas de moderación tratan ciertas palabras relacionadas con el colectivo LGTBIQ+. Hay investigaciones sobre la ética de la IA que denuncian que estas plataformas bloquean o filtran algunos términos, como ‘queer’, al considerarlos inapropiados. Sin ir más lejos, hace pocos años los buscadores consideraban que la palabra ‘bisexual’ era contenido para adultos.

La consecuencia es que, si todos estos términos desaparecen de los datos con los que aprende una IA, también disminuye la diversidad de información que ofrece a la población.

¿Qué ocurre cuando preguntas por mujeres lesbianas a la inteligencia artificial?

Por suerte, a medida que estos modelos de lenguaje crecen, la situación con nosotras y con otros colectivos ha ido mejorando. Pero es cierto que si preguntamos a la IA por las lesbianas, todavía nos devuelve respuestas que simplifican demasiado la realidad.

Por ejemplo, definiciones que se centran únicamente en la orientación sexual y dejan de lado aspectos culturales, históricos o sociales. En otros casos, prioriza referencias más conocidas e invisibiliza referentes menos mediáticos, sobre todo mujeres racializadas, mayores, con discapacidad o que vienen de países con menos representación.

También vemos muchos sesgos en la generación de imágenes. Hay estudios que demuestran que algunos modelos de lenguaje siguen estereotipando en exceso a las parejas de mujeres y reproducen cánones de belleza homogéneos. Como si todas las lesbianas fuéramos clones.

La tecnología tiene mucho que ver en la diversidad

¿Y cuál es la solución para que la inteligencia artificial deje de tener estos sesgos? Que los equipos que las entrenan sean más diversos. Y no nos referimos únicamente a ingenieros e ingenieras que sean buenos en su trabajo. También otro tipo de perfiles: humanidades, lingüística, sociología, antropología, estudios de género… Es decir, profesionales que estén más sensibilizados con este tipo de cuestiones y aporten una visión más amplia, inclusiva y diversa.

También tiene sentido que haya más personas LGTBIQ+ entrenando estos sistemas, porque la tecnología nunca será 100% objetiva. Para bien o para mal, refleja en buena medida las decisiones humanas que hay detrás, así que tenemos que hacer lo posible por usarlo a nuestro favor y construir una IA (que apunta a ser el futuro) que nos incluya a todas.