Hasiče stále považujeme za muže a zdravotní sestry za ženy. Mentální systém klasifikace profesí se ještě nestihl přizpůsobit realitě. Samozřejmě se dají najít mužské sestry nebo doktorky. Mluvíme o porušení těchto vzorců. Společnost se snaží posunout věci dopředu. Ale nový výzkum naznačuje, že nás něco může táhnout zpět. Vyhledávání obrázků na internetu. Může to zvrátit roky úspěchů.
Proč je to důležité? Problémem nejsou jen zastaralé obrázky. Jde o to, jaké poselství tyto obrázky vysílají mladým lidem. Když standardně přiřadíme pohlaví určité profesi, vytváříme neviditelné bariéry. Dívka, která ráda staví, se možná vzdá tesařství, protože na internetu se zobrazují pouze muži. Chlapec, který se rád stará o lidi, se může vyhýbat péči o seniory. Může se obávat, že bude vypadat příliš měkce. Příliš nemužské.
Mentální zkratka
Náš mozek miluje vzory. Touží po zkratkách. Vidíme hořící budovu. Představujeme muže v ochranné výstroji. Vidíme plačící dítě. Představujeme ženu v lékařské uniformě. Toto je automatické připojení. Ne vždy přesné. Ale hluboce zakořeněné.
Některým profesím stále dominuje jedno pohlaví. Automobilová mechatronika je silně vychýlená směrem k mužům. Lékařští asistenti jsou silně nakloněni ženám. Údaje potvrzují stereotyp. Stereotyp ale také limituje data. To vytváří zpětnovazební smyčku. Vidíme muže dělat práci. Předpokládáme, že je to mužská práce. Najímáme muže. Ukazujeme obrázky mužů. Smyčka se utahuje.
To není jen otázka spravedlnosti. Je to otázka ztraceného potenciálu. Talentované ruce zůstávají stranou. Empatické mysli jsou odfiltrovány. Cena za to je skutečná.
Kde nám selhává online vyhledávání
Vzpomeňte si na své poslední vyhledávání obrázků na Googlu. Zadali jste „doktor“. co se objevilo? S největší pravděpodobností muž v bílém plášti. Zadali jste “sestra”. S největší pravděpodobností žena. I když hledáte lékařku, algoritmus může stále upřednostňovat snímky spojené s muži. Učí se z toho, na co kliknete. A to, na co klikáte, je formováno tím, čemu už věříte.
Zde selhává online vyhledávání obrázků. Odráží zaujatost spíše než ji opravuje. Posiluje status quo. Pro studenty, kteří si vybírají profesní dráhu, tyto vizuální obrazy fungují jako strážci brány. Šeptají: To není pro tebe.
Riziko je zde nepatrné. To nejsou zavřené dveře. Toto je zatažená opona. Mladí možná ani neklepou. Předpokládají, že místnost je plná. Nebo, ještě hůř, že se jim nechce.
Potíže s AI
Nyní do mixu přidejte umělou inteligenci. Generátory obrazu poháněné umělou inteligencí. Jsou trénováni na obrovských souborech dat. Většinou sbíráno z internetu. Internet je plný genderových obrázků. AI se tyto vzorce učí. Reprodukuje je. Rychleji. Levnější. Ve velkém měřítku.
Pokud požádáte AI, aby „vygenerovala obrázek stavebního dělníka“, může to být výchozí nastavení pro muže. Zeptejte se “učitele” a on by mohl předat ženě. Ne proto, že by konstrukce byla ze své podstaty mužská. Ne proto, že by učení bylo ze své podstaty ženské. Ale protože to říkají tréninková data.
Tím se problém zhoršuje. Neukazuje nám jen to, co již existuje. To vytváří nové neobjektivní obrázky. Obrázky, které vypadají realisticky. Obrázky, které působí směrodatně. Vkládají stereotypy do struktury digitálního obsahu. Než si vůbec všimneme.
Proč je důležité porušovat vzorce
Pojďme se na to podívat
Zkreslení vyhledávání obrázků posiluje genderové stereotypy
Školy se snaží tuto situaci napravit. Kariérní poradci využívají k odbourávání bariér charismatické vzory v netradičních rolích. Genderově neutrální termíny jako „doktor“ nebo „doktor*“ jsou navrženy tak, aby oklamaly mozek, aby si představil muže i ženy.
To ale ve vizuální sféře nefunguje. Nová studie potvrzuje, že výsledky online vyhledávání obrázků jsou stále silně zaujaté vůči genderovým stereotypům. Zadejte „doktor“ a uvidíte muže v bílém plášti. Statisticky jsou muži a ženy v této oblasti zastoupeni rovnoměrně. Algoritmus se o to nestará.
Nejedná se o gramatickou chybu. V angličtině slovo „doctor“ nemá žádnou značku pohlaví. Obrázky lékařů jsou však stále převážně mužské. Výzkumný tým to dokázal pomocí obrázků Google, Wikipedie a internetové filmové databáze (IMDb). Změňte hledaný výraz na „model“ a muži zmizí.
Text je spravedlivější. Žádné obrázky.
Zpravodajské články jsou překvapivě vyrovnané. Zprávy Google ukázaly mužskou převahu pouze v 56 % textů. A co obrázky? 62 %. Procházíme textem. Díváme se na obrázky.
“Rok od roku lidé tráví méně času čtením a více času prohlížením obrázků.”
Vizuální obrazy se lépe pamatují. V dalším experimentu účastníci, kteří hledali obrázky profesí, vykazovali po třech dnech silnější genderové předsudky než ti, kteří četli články. Duševní otisk je hlubší. Zpětná vazba je skutečná.
Umělá inteligence toto zkreslení zvýší
Bas Hofstra a Anna-Maike Mülders z Radburdské univerzity varují, že to není jen odraz reality. Formuje to. Pokud algoritmy ukazují mužské lékaře, stereotyp je posílen.
Situaci zhoršuje umělá inteligence. Modely umělé inteligence jsou trénovány na existujících online obrázcích. Pokud jsou vstupní data zkreslená, bude zkreslený i výsledek. Riskujeme automatizaci nerovnosti. Snahy o dosažení genderové rovnosti na pracovišti mohou být narušeny algoritmem černé skříňky.
Obrazovka leží. A sledujeme dál.
