La inteligencia artificial está presente cada vez en más sectores, empresas y en el día a día de muchísimas personas, que recurren a ella para hacer consultas y hasta para responder a cuestiones personales.

Quizá tú misma le has hecho alguna vez alguna pregunta relacionada con tu sexualidad: para que te ayude a salir del armario con tu familia, para interpretar si la chica que te gusta te está mandando señales… ¿Alguna vez te has preguntado cómo ha aprendido la IA todo lo que sabe (y lo que todavía no) de diversidad sexual?

Al final, una IA no nace sabiendo lo que significa ser lesbiana, cómo hablar de una pareja de mujeres o qué términos son adecuados. Aprende a partir de un volumen de información muy grande y de procesos que están diseñados, supervisados y controlados por humanos.

El problema está en que mucha información que hay en internet sobre lesbianas y sobre el colectivo LGTBIQ+ está sesgada, reproduce prejuicios, estereotipos y no representa todas las realidades que existen dentro del colectivo.

De hecho, un estudio que la UNESCO publicó en el año 2024 (cuando todavía la inteligencia artificial no estaba tan desarrollada) ya reportaba sesgos de género y tendencias homófobas en los grandes modelos de lenguaje. En algunas pruebas, incluso, algunos modelos generaron respuestas negativas al pedirles que completaran frases sobre personas LGTBIQ+.

La inteligencia artificial no es neutral y aprende de lo que ya existe

Un modelo de inteligencia artificial tiene que pasar por un proceso (bastante largo) para construir su ‘propia’ visión del mundo. Es decir, que está entrenada por personas que le envían enormes volúmenes de datos para aprender relaciones entre palabras, conceptos y textos. Y después existen otras técnicas para ajustar sus respuestas.

El problema es que internet no es ni mucho menos neutral, y solo es un reflejo de una sociedad que sigue siendo patriarcal y homófoba en su mayoría. Las lesbianas tenemos menos representación y, aunque hayamos avanzado en muchos sentidos, seguimos sufriendo los estereotipos y los prejuicios. Así que era cuestión de tiempo que estos patrones se reflejaran en los modelos de IA.

El organismo estadounidense de referencia en estándares tecnológicos, NIST, advierte de que los sistemas de IA pueden amplificar los sesgos que ya están presentes en la sociedad.

¿Quién decide qué es una respuesta ‘correcta’?

La palabra ‘correcto’ es bastante relativa, pues aquí entra en juego el factor humano. Detrás de cualquier modelo de lenguaje hay expertos en ingeniería, datos, investigadores, personas que se encargan de analizar las respuestas y profesionales a cargo de la seguridad.

Es decir, que hay muchas personas entrenando a la inteligencia artificial y son las que deciden qué datos se utilizan, cuáles quedan fuera, cómo se etiqueta la información, qué respuestas son problemáticas y cómo corregirlas. Así que, evidentemente, las personas que están detrás de estos modelos de lenguaje son muy importantes.

La UNESCO señala que las mujeres están presentes en solo el 20% de los puestos técnicos en grandes compañías de aprendizaje automático y solo el 12% de las personas investigadoras en IA.

Por tanto, si quienes se encargan de entrenar a estos modelos de lenguaje no representan la diversidad de las personas que después los van a utilizar, hay muchas realidades que se quedan fuera.