Nadal myślimy o strażakach jak o mężczyznach, a o pielęgniarkach jak o kobietach. Mentalny system klasyfikacji zawodów nie zdążył jeszcze dostosować się do rzeczywistości. Oczywiście można znaleźć pielęgniarzy lub lekarzy. Mówimy o przełamywaniu tych schematów. Społeczeństwo stara się popchnąć sprawy do przodu. Jednak nowe badania sugerują, że coś może nas odciągać. Wyszukiwanie obrazów w Internecie. Może cofnąć lata osiągnięć.
Dlaczego to jest ważne? Problemem nie są tylko nieaktualne zdjęcia. Chodzi o to, jakie przesłanie te obrazy wysyłają do młodych ludzi. Kiedy nie przypisujemy płci do konkretnego zawodu, tworzymy niewidzialne bariery. Dziewczyna, która lubi budować, może zrezygnować ze stolarki, ponieważ w Internecie pokazani są wyłącznie mężczyźni. Chłopiec, który lubi opiekować się ludźmi, może unikać opieki nad osobami starszymi. Może się martwić, że będzie wyglądał zbyt miękko. Zbyt niemęskie.
Skrót mentalny
Nasz mózg uwielbia wzorce. On pragnie skrótów. Widzimy płonący budynek. Przedstawiamy mężczyznę w ubraniu ochronnym. Widzimy płaczące dziecko. Przedstawiamy kobietę w mundurze medycznym. Jest to połączenie automatyczne. Nie zawsze dokładne. Ale głęboko zakorzenione.
W niektórych zawodach nadal dominuje jedna płeć. Mechatronika samochodowa jest mocno ukierunkowana na mężczyzn. Asystenci lekarzy są mocno nastawieni na kobiety. Dane potwierdzają stereotyp. Ale stereotyp ogranicza również dane. Tworzy to pętlę sprzężenia zwrotnego. Widzimy mężczyzn pracujących. Zakładamy, że jest to zajęcie dla mężczyzn. Zatrudniamy mężczyzn. Pokazujemy zdjęcia mężczyzn. Pętla się zaciska.
To nie jest tylko kwestia sprawiedliwości. To kwestia utraconego potencjału. Utalentowane ręce są odkładane na bok. Empatyczne umysły są odfiltrowywane. Koszt tego jest realny.
Tam, gdzie wyszukiwanie online zawodzi
Przypomnij sobie swoje ostatnie wyszukiwanie grafiki w Google. Wpisałeś „lekarz”. Co się pojawiło? Najprawdopodobniej mężczyzna w białym fartuchu. Wpisałeś „pielęgniarka”. Najprawdopodobniej kobieta. Nawet jeśli szukasz lekarza-kobiety, algorytm może nadal traktować priorytetowo obrazy powiązane z mężczyznami. Uczy się na podstawie tego, na co klikniesz. To, na co klikniesz, zależy od tego, w co już wierzysz.
W tym miejscu wyszukiwanie obrazów w Internecie kończy się niepowodzeniem. Raczej odzwierciedla uprzedzenia niż je koryguje. Wzmacnia status quo. Dla studentów wybierających ścieżkę kariery te obrazy wizualne pełnią rolę strażników. Szepczą: To nie jest dla ciebie.
Ryzyko tutaj jest subtelne. To nie są zamknięte drzwi. To jest zaciągnięta zasłona. Młodzi ludzie nie mogą nawet pukać. Zakładają, że sala jest pełna. Albo, co gorsza, że nie są chciani.
Trudności z AI
Teraz dodaj do tego sztuczną inteligencję. Generatory obrazów zasilane sztuczną inteligencją. Są szkoleni na ogromnych zbiorach danych. W większości zebrane z Internetu. Internet jest pełen zdjęć związanych z płcią. AI uczy się tych wzorców. Reprodukuje je. Szybciej. Tańsze. Na dużą skalę.
Jeśli poprosisz sztuczną inteligencję o „wygenerowanie obrazu pracownika budowlanego”, domyślnie może to być mężczyzna. Zapytaj o „nauczyciela”, a może domyślnie wybrać kobietę. Nie dlatego, że budownictwo jest z natury męskie. Nie dlatego, że nauczanie jest z natury kobiece. Ale ponieważ dane treningowe tak mówią.
To pogarsza problem. Nie tylko pokazuje nam to, co już istnieje. Tworzy to nowe stronnicze obrazy. Obrazy, które wyglądają realistycznie. Obrazy, które wydają się wiarygodne. Osadzają stereotypy w strukturze treści cyfrowych. Zanim w ogóle to zauważymy.
Dlaczego przełamanie schematów jest ważne
Przyjrzyjmy się
Stronniczość w wyszukiwaniu obrazów wzmacnia stereotypy dotyczące płci
Szkoły starają się naprawić tę sytuację. Doradcy zawodowi wykorzystują charyzmatyczne wzorce do naśladowania w nietradycyjnych rolach, aby przełamać bariery. Terminy neutralne pod względem płci, takie jak „lekarz” czy „lekarz*”, mają na celu oszukanie mózgu, aby wyobraził sobie zarówno mężczyzn, jak i kobiety.
Ale to nie działa w sferze wizualnej. Nowe badanie potwierdza, że wyniki wyszukiwania obrazów w Internecie w dalszym ciągu są silnie ukierunkowane na stereotypy dotyczące płci. Wpisz „lekarz”, a zobaczysz mężczyznę w białym fartuchu. Statystycznie mężczyźni i kobiety są w tej dziedzinie jednakowo reprezentowani. Algorytm się tym nie przejmuje.
To nie jest błąd gramatyczny. W języku angielskim słowo „lekarz” nie ma oznaczenia płci. Jednak wizerunki lekarzy nadal przedstawiają głównie mężczyzn. Zespół badawczy udowodnił to, korzystając z Grafiki Google, Wikipedii i internetowej bazy danych filmów (IMDb). Zmień wyszukiwane hasło na „model”, a mężczyźni znikną.
Tekst jest bardziej sprawiedliwy. Brak obrazów.
Artykuły prasowe są zaskakująco zrównoważone. Google News wykazało dominację mężczyzn jedynie w 56% tekstów. A co z obrazami? 62%. Przewijamy tekst. Wpatrujemy się w obrazy.
„Z roku na rok ludzie spędzają mniej czasu na czytaniu, a więcej na oglądaniu zdjęć”.
Obrazy wizualne są lepiej zapamiętywane. W dodatkowym eksperymencie uczestnicy, którzy szukali zdjęć zawodów, po trzech dniach wykazali silniejsze uprzedzenia związane z płcią niż ci, którzy czytali artykuły. Odcisk mentalny jest głębszy. Pętla sprzężenia zwrotnego jest realna.
Sztuczna inteligencja zwiększy to nastawienie
Bas Hofstra i Anna-Maike Mülders z Uniwersytetu Radburd ostrzegają, że nie jest to jedynie odzwierciedlenie rzeczywistości. Kształtuje to. Jeśli algorytmy pokażą lekarzy płci męskiej, stereotyp się wzmocni.
Sztuczna inteligencja pogarsza sytuację. Modele AI są szkolone na istniejących obrazach online. Jeśli dane wejściowe są stronnicze, wynik też taki będzie. Ryzykujemy automatyzację nierówności. Algorytm czarnej skrzynki może udaremnić wysiłki na rzecz osiągnięcia równości płci w miejscu pracy.
Ekran kłamie. I obserwujemy dalej.
