Escrito por: Jerónimo Corregido
Un reciente estudio comprueba que la inteligencia artificial orienta sus respuestas de manera diferente si están dirigidas a un varón o a una mujer. Los patrones utilizados permiten percibir que el software tiene nociones de género que refuerzan los condicionamientos estructurales de la sociedad actual.
La inteligencia artificial generativa no es neutral sino que está cargada de ideología.
Inteligencia artificial: una herramienta sin neutralidad de género
Se creería que la inteligencia artificial, por ser un software, no estaría cargada de valoraciones sobre cómo deben ser las personas según su género. Sin embargo, las asociaciones que realiza tienen un fuerte sesgo, al punto de que las respuestas varían en gran medida si están dirigidas a un varón o a una mujer.
Esta conclusión proviene del estudio “Espejismo de igualdad”, realizado por LLYC. Se trata de una investigación que consistió en el análisis de alrededor de 10.000 respuestas entregadas por los cinco principales chats de inteligencia artificial (ChatGPT, Gemini, Llama, Mistral y Grok).
El proyecto se llevó a cabo en doce países y permitió observar cómo la inteligencia artificial reacciona ante 100 preguntas planteadas por perfiles de adolescentes y jóvenes. Desde LLYC no dudan en aseverar que los chats, invariablemente, activan nociones machistas del mundo, que definen las respuestas en uno u otro sentido.
A las jóvenes, la inteligencia artificial les presenta perspectivas de contención y las estimula a validar sus ideas ante otras personas. En cambio, con los varones es mucho más asertiva, los urge a definir sus roles y a demostrar su valor en sociedad.
El discurso masculino del software está encauzado hacia una mayor funcionalidad, con conversaciones que orientan a los usuarios hacia la acción. Cuando habla con chicas, el algoritmo decide sonar mucho más empático, personificándose aún más a partir de un entramado de emociones supuestamente compartidas.
Esto quiere decir que la inteligencia artificial activa parámetros del mundo que no son en absoluto naturales, sino que tienen un fuerte peso cultural. Para las adolescentes, la aprobación debe estar fuera de ellas, en algún lugar de la sociedad; en contraste, los varones deben consolidar su lugar como líderes.
El estudio comprobó que las chicas reciben hasta seis veces más estímulos para buscar validación externa. Una diferenciación que no es para nada neutral, sobre todo cuando se aplica a adolescentes. Se trata de un marco difícil de franquear para quienes están construyendo su identidad y convirtiéndose en adultos.
A imagen y semejanza: una inteligencia demasiado humana
Los contrastes entre respuestas para chicos y chicas resultan preocupantes, igual que los usos de la IA para llevar a cabo estafas. La enorme mayoría de los usuarios utiliza los chats para consultas personales, dudas cotidianas y hasta consejos psicológicos. En ese sentido, un software con tan pesados sesgos ideológicos no puede hacer más que consolidar los prejuicios dominantes.
La diferencia se vuelve más concreta cuando se ven las preguntas relacionadas con el futuro laboral. En el caso de los chicos, las respuestas se encaminan hacia carreras de resolución y liderazgo; mientras que a las chicas les recomienda dedicarse a tareas de cuidado, belleza personal y a las denominadas habilidades blandas.
Para la inteligencia artificial, las mujeres no tienen roles naturales de conducción. Una premisa que refleja hasta qué punto el sentido común de los programadores está inserto en el producto. Las asignaciones de género que realiza el software no son casuales ni inocentes: están cargadas de ideología y conducen a los usuarios hacia direcciones muy concretas.
A fin de cuentas, no es llamativo que la inteligencia artificial replique relaciones asimétricas de género. Lo preocupante es que la gente, y sobre todo los más jóvenes, utilicen el chat como si fuera algo realmente neutro, como si las respuestas provinieran de un cúmulo de objetividad.
En ese sentido, la inteligencia artificial no se dedica a otra cosa que a consolidar un esquema en el que los varones deben demostrar su valía y las mujeres deben atraer por su belleza.
Disfrazado de un gran progreso, lo que aquí nos encontramos en la práctica es un sistema cortesano medieval. El riesgo principal es que los usuarios tomen semejante visión del mundo como un orden natural: lo peor de toda manipulación es que los hilos sean invisibles.
