Immaginiamo ancora i vigili del fuoco come uomini e gli infermieri come donne. Lo schedario mentale delle professioni non è ancora al passo con la realtà. Certo, puoi trovare infermieri e dottoresse. Parliamo di rompere queste scatole. La società cerca di spingere l’ago. Ma un nuovo studio suggerisce che qualcosa potrebbe trascinarci indietro. Ricerca di immagini online. Potrebbe annullare anni di progressi.
Perché è importante? Il problema non sono solo le immagini obsolete. Riguarda ciò che quelle immagini comunicano ai giovani. Quando assegniamo un genere a un lavoro per impostazione predefinita, creiamo barriere invisibili. Una ragazza che ama costruire cose potrebbe evitare la falegnameria perché le immagini online mostrano solo uomini. Un ragazzo a cui piace prendersi cura delle persone potrebbe evitare l’assistenza agli anziani. Potrebbe preoccuparsi di sembrare troppo tenero. Troppo poco maschile.
La scorciatoia mentale
Il nostro cervello ama gli schemi. Bramano le scorciatoie. Vediamo un edificio in fiamme. Immaginiamo un uomo in tenuta da affluenza alle urne. Vediamo un bambino che piange. Immaginiamo una donna in camice. È un collegamento automatico. Non sempre accurato. Ma profondamente radicato.
Alcuni lavori sono ancora dominati da un genere. La meccatronica automobilistica è fortemente maschile. Gli assistenti dello studio medico sono fortemente femminili. I dati supportano lo stereotipo. Ma lo stereotipo limita anche i dati. Crea un ciclo di feedback. Vediamo uomini che fanno un lavoro. Partiamo dal presupposto che sia un lavoro da uomini. Assumiamo uomini. Mostriamo immagini di uomini. Il ciclo si stringe.
Non si tratta solo di equità. Si tratta di potenziale sprecato. Le mani di talento vengono messe da parte. Le menti empatiche vengono filtrate. Il costo è reale.
Dove la ricerca online fallisce
Pensa alla tua ultima ricerca di immagini su Google. Hai digitato “dottore”. Cosa è saltato fuori? Probabilmente un uomo in camice bianco. Hai digitato “infermiera”. Probabilmente una donna. Anche se stai cercando una dottoressa, l’algoritmo potrebbe comunque dare priorità alle immagini codificate per uomini. Impara da ciò su cui clicchiamo. E ciò su cui clicchiamo è modellato da ciò in cui già crediamo.
È qui che la ricerca delle immagini va storta. Riflette il pregiudizio anziché correggerlo. Amplifica lo status quo. Per gli studenti che decidono un percorso professionale, questi elementi visivi fungono da guardiani. Sussurrano: Questo non è per te.
Il rischio è sottile. Non è una porta sbattuta. È una tenda chiusa. I giovani potrebbero anche non bussare mai. Presumono che la stanza sia piena. O peggio, che non sono i benvenuti.
La complicazione dell’intelligenza artificiale
Ora aggiungi l’intelligenza artificiale al mix. Generatori di immagini AI. Si addestrano su enormi set di dati. Per lo più recuperati da Internet. Internet è pieno di immagini di genere. L’intelligenza artificiale apprende questi modelli. Li riproduce. Più veloce. Più economico. Su larga scala.
Se chiedi a un’intelligenza artificiale di “generare l’immagine di un operaio edile”, potrebbe essere un uomo per impostazione predefinita. Chiedi “insegnante” e potrebbe essere una donna per impostazione predefinita. Non perché la costruzione sia intrinsecamente maschile. Non perché l’insegnamento sia intrinsecamente femminile. Ma perché lo dicono i dati sulla formazione.
Ciò peggiora il problema. Non ci mostra solo ciò che già esiste. Crea nuove immagini distorte. Immagini che sembrano realistiche. Immagini che sembrano autorevoli. Inseriscono stereotipi nel tessuto dei contenuti digitali. Prima ancora che ce ne accorgiamo.
Perché è importante rompere gli schemi
Diamo un’occhiata a
I pregiudizi legati alla ricerca di immagini rafforzano gli stereotipi di genere
Le scuole stanno cercando di risolvere questo problema. I consulenti di carriera utilizzano modelli di ruolo carismatici in ruoli non tradizionali per abbattere le barriere. Un linguaggio neutro rispetto al genere come “dottore” o “dottore*” mira a forzare il cervello a immaginare sia uomini che donne.
Non funziona nel regno visivo. Un nuovo studio conferma che le ricerche di immagini online rimangono fortemente distorte dagli stereotipi di genere. Cerca “dottore” e otterrai un uomo in camice bianco. Statisticamente, uomini e donne sono uguali in campo. All’algoritmo non interessa.
Questo non è un problema grammaticale. In inglese, “dottore” non ha alcun indicatore di genere. Eppure le immagini del “dottore” sono ancora dominate dagli uomini. Il team di ricerca lo ha dimostrato su Google Immagini, Wikipedia e Internet Movie Database (IMDb). Passa a “modello” e gli uomini scompaiono.
Il testo è più giusto. Le immagini no.
Gli articoli di notizie sono sorprendentemente equilibrati. Google News ha mostrato una sovrarappresentazione maschile solo nel 56% dei testi. Immagini? 62%. Scorriamo oltre il testo. Fissiamo le immagini.
“Di anno in anno, le persone trascorrono meno tempo a leggere e più tempo a guardare le immagini.”
Le immagini si attaccano. In un esperimento di follow-up, i soggetti che cercavano immagini di lavoro presentavano pregiudizi di genere più forti tre giorni dopo rispetto a quelli che leggevano gli articoli. L’impronta mentale è più profonda. Il ciclo di feedback è reale.
L’intelligenza artificiale amplificherà i pregiudizi
Bas Hofstra e Anne Maaike Mulders della Radboud University avvertono che questo non è solo un riflesso della realtà. Lo modella. Se gli algoritmi sono al servizio dei medici uomini, lo stereotipo si irrigidisce.
L’intelligenza artificiale peggiora le cose. I modelli di intelligenza artificiale si addestrano su immagini online esistenti. Se i dati di origine sono distorti, anche l’output lo è. Rischiamo di automatizzare la disuguaglianza. Gli sforzi verso l’uguaglianza di genere nella forza lavoro potrebbero essere annullati da un algoritmo a scatola nera.
Lo schermo mente. E continuiamo a cercare.
