Todavía imaginamos a los bomberos como hombres y a las enfermeras como mujeres. El archivador mental de las profesiones aún no se ha adaptado a la realidad. Claro, puedes encontrar enfermeros y doctoras. Hablamos de romper estas cajas. La sociedad intenta presionar la aguja. Pero un nuevo estudio sugiere que algo podría estarnos arrastrando hacia atrás. Búsqueda de imágenes en línea. Podría estar deshaciendo años de progreso.
¿Por qué esto importa? El problema no son sólo las fotografías obsoletas. Se trata de lo que esas imágenes indican a los jóvenes. Cuando asignamos un género a un trabajo por defecto, creamos barreras invisibles. Una chica a la que le encanta construir cosas podría evitar la carpintería porque las imágenes en línea muestran solo hombres. Un niño al que le gusta cuidar a las personas podría evitar el cuidado de personas mayores. Podría preocuparse de parecer demasiado blando. Demasiado poco masculino.
El atajo mental
Nuestros cerebros aman los patrones. Anhelan atajos. Vemos un edificio en llamas. Nos imaginamos a un hombre vestido con equipo de protección. Vemos a un niño llorando. Nos imaginamos a una mujer vestida con una bata médica. Es un enlace automático. No siempre es exacto. Pero profundamente arraigado.
Algunos trabajos todavía están dominados por un género. La mecatrónica automotriz se inclina fuertemente hacia lo masculino. Los asistentes de práctica médica son predominantemente femeninos. Los datos apoyan el estereotipo. Pero el estereotipo también limita los datos. Crea un circuito de retroalimentación. Vemos hombres haciendo un trabajo. Asumimos que es un trabajo de hombres. Contratamos hombres. Mostramos imágenes de hombres. El lazo se tensa.
No se trata sólo de justicia. Se trata de potencial desperdiciado. Las manos talentosas quedan marginadas. Las mentes empáticas quedan filtradas. El costo es real.
Donde nos falla la búsqueda en línea
Piense en su última búsqueda de imágenes en Google. Escribiste “doctor”. ¿Qué apareció? Probablemente un hombre con bata blanca. Escribiste “enfermera”. Probablemente una mujer. Incluso si está buscando una doctora, el algoritmo aún podría priorizar las imágenes codificadas por hombres. Aprende de lo que hacemos clic. Y aquello en lo que hacemos clic está determinado por lo que ya creemos.
Aquí es donde la búsqueda de imágenes sale mal. Refleja un sesgo en lugar de corregirlo. Amplifica el status quo. Para los estudiantes que deciden una carrera profesional, estos elementos visuales actúan como guardianes. Susurran: Esto no es para ti.
El riesgo es sutil. No es un portazo. Es una cortina cerrada. Es posible que los jóvenes ni siquiera llamen a la puerta. Suponen que la sala está llena. O peor aún, que no sean bienvenidos.
La complicación de la IA
Ahora agregue inteligencia artificial a la mezcla. Generadores de imágenes de IA. Se entrenan con conjuntos de datos masivos. Principalmente extraído de Internet. Internet está lleno de imágenes de género. La IA aprende esos patrones. Los reproduce. Más rápido. Más económico. A escala.
Si le pides a una IA que “genere una imagen de un trabajador de la construcción”, es posible que el valor predeterminado sea un hombre. Pregunte por “maestra” y es posible que el valor predeterminado sea una mujer. No porque la construcción sea inherentemente masculina. No porque la enseñanza sea inherentemente femenina. Sino porque los datos de entrenamiento así lo dicen.
Esto empeora el problema. No solo nos muestra lo que ya existe. Crea nuevas imágenes sesgadas. Imágenes que parecen realistas. Imágenes que se sienten autoritarias. Incorporan estereotipos en el tejido del contenido digital. Antes incluso de que nos demos cuenta.
Por qué es importante romper el molde
Miremos el
El sesgo en la búsqueda de imágenes refuerza los estereotipos de género
Las escuelas están tratando de solucionar este problema. Los consejeros profesionales utilizan modelos carismáticos en roles no tradicionales para derribar barreras. El lenguaje neutral en cuanto al género, como “doctor” o “doctor*”, tiene como objetivo obligar al cerebro a imaginar tanto a hombres como a mujeres.
No funciona en el ámbito visual. Un nuevo estudio confirma que las búsquedas de imágenes en línea siguen estando muy sesgadas por estereotipos de género. Busque “doctor” y obtendrá un hombre con bata blanca. Estadísticamente, hombres y mujeres son iguales en este campo. Al algoritmo no le importa.
Esto no es un error gramatical. En inglés, “doctor” no tiene marcador de género. Sin embargo, las imágenes de “médicos” siguen estando dominadas por los hombres. El equipo de investigación lo demostró en Google Images, Wikipedia e Internet Movie Database (IMDb). Dale la vuelta a “modelo” y los hombres desaparecen.
El texto es más justo. Las imágenes no lo son.
Los artículos de noticias son sorprendentemente equilibrados. Google News mostró una sobrerrepresentación masculina en sólo el 56% de los textos. ¿Imágenes? 62%. Pasamos del texto. Nos quedamos mirando imágenes.
“Año tras año, la gente pasa menos tiempo leyendo y más tiempo mirando fotografías.”
Las imágenes se mantienen. En un experimento de seguimiento, los sujetos que buscaron imágenes de trabajos tenían prejuicios de género más fuertes tres días después que los que leyeron artículos. La huella mental es más profunda. El ciclo de retroalimentación es real.
La IA amplificará el sesgo
Bas Hofstra y Anne Maaike Mulders, de la Universidad de Radboud, advierten que esto no es sólo un reflejo de la realidad. Le da forma. Si los algoritmos sirven a los médicos varones, el estereotipo se endurece.
La inteligencia artificial lo empeora. Los modelos de IA se entrenan con imágenes existentes en línea. Si los datos de origen están sesgados, el resultado también lo está. Corremos el riesgo de automatizar la desigualdad. Los esfuerzos por lograr la igualdad de género en la fuerza laboral podrían deshacerse mediante un algoritmo de caja negra.
La pantalla miente. Y seguimos buscando.
