Ми, як і раніше, представляємо пожежників чоловіками, а медсестер — жінками. Ментальна система класифікації професій ще встигла підлаштуватися під реальність. Звичайно, можна знайти чоловіків-медсестер чи жінок-лікарів. Ми говоримо про руйнування цих шаблонів. Суспільство намагається зрушити справу з мертвої точки. Але нове дослідження припускає, що щось може нас тягнути назад. Пошук зображень в Інтернеті. Він може звести нанівець роки досягнень.
Чому це важливо? Проблема не лише у застарілих картинках. Йдеться про те, які сигнали ці зображення надсилають молодим людям. Коли ми за умовчанням приписуємо підлозі певну професію, ми створюємо невидимі бар’єри. Дівчинка, якій подобається будувати, може відмовитись від столярної справи, бо в інтернеті показують лише чоловіків. Хлопчик, якому подобається дбати про людей, може уникати догляду за людьми похилого віку. Він може турбуватися, що виглядатиме надто м’яким. Занадто не мужнім.
Ментальний ярлик
Наш мозок любить патерни. Він прагне коротких шляхів. Ми бачимо палаючу будівлю. Ми представляємо чоловіка у захисному екіпіруванні. Ми бачимо дитину, що плаче. Ми представляємо жінку у медичній формі. Це автоматичний зв’язок. Не завжди влучна. Але глибоко вкорінена.
Деякі професії, як і раніше, домінуються однією статтю. Автомобільна мехатроніка сильно зміщена у бік чоловіків. Помічники лікарів сильно зміщені у бік жінок. Дані підтверджують стереотип. Але стереотип також обмежує дані. Це створює петлю зворотний зв’язок. Ми бачимо чоловіків, які виконують роботу. Ми вважаємо, що це чоловіча робота. Ми наймаємо чоловіків. Ми показуємо зображення чоловіків. Петля затягується.
Це питання не лише справедливості. Це питання втраченого потенціалу. Талановиті руки опиняються осторонь. Емпатичні уми відфільтровуються. Ціна цього є реальною.
Де онлайн-пошук нас підводить
Згадайте останній пошук зображень у Google. Ви запровадили «лікар». Що виникло? Скоріш за все, чоловік у білому халаті. Ви запровадили «медсестра». Скоріш за все, жінка. Навіть якщо ви шукаєте жінку-лікаря, алгоритм може, як і раніше, віддавати пріоритет зображенням, що асоціюються з чоловіками. Він навчається на тому, на що ви кликаєте. А на що ви натискаєте, формується тим, у що ви вже вірите.
Саме тут онлайн-пошук зображень дає збій. Він відбиває упередженість, а чи не виправляє її. Він посилює статус-кво. Для студентів, які обирають кар’єрний шлях, ці візуальні образи діють як контролери. Вони шепочуть: Це не для тебе.
Ризик тут тонкий. Це не зачинені двері. Це опущена штора. Молоді люди можуть навіть не постукати. Вони припускають, що кімната заповнена. Або що ще гірше, що вони не бажані.
Складність з ІІ
Тепер додайте до суміші штучний інтелект. Генератори зображень з урахуванням ІІ. Вони навчаються на великих наборах даних. В основному зібрані з інтернету. Інтернет сповнений гендерно пофарбованих зображень. ІІ вивчає ці патерни. Він відтворює їх. Швидше. Дешевше. У великих масштабах.
Якщо ви попросите ІІ “згенерувати зображення робітника на будівництві”, він може за замовчуванням вибрати чоловіка. Попросіть «учитель», і він може за промовчанням вибрати жінку. Не тому, що будівництво за своєю природою чоловіче. Не тому, що викладання за своєю природою жіноче. А тому, що навчальні дані кажуть так.
Це посилює проблему. Це не просто свідчить про те, що вже існує. Це створює нові упереджені зображення. Зображення, що виглядають реалістично. Зображення, які видаються авторитетними. Вони впроваджують стереотипи у тканину цифрового контенту. Перш ніж ми помітимо.
Чому важливо ламати шаблони
Давайте подивимося на
Упередженість пошуку зображень зміцнює гендерні стереотипи
Школи намагаються виправити це становище. Кар’єрні консультанти використовують харизматичні рольові моделі в нетрадиційних ролях, щоб зруйнувати бар’єри. Гендерно-нейтральні терміни, такі як «лікар» або «лікар*», покликані змусити мозок уявляти як чоловіків, так і жінок.
Але у візуальній сфері це не працює. Нове дослідження підтверджує, що результати пошуку зображень в інтернеті, як і раніше, сильно зміщені у бік гендерних стереотипів. Введіть “лікар” – і ви побачите чоловіка у білому халаті. Статистично чоловіки та жінки представлені у цій сфері порівну. Алгоритму не діло до цього.
Це не граматична помилка. У англійській мові слово «doctor» немає гендерного маркера. Проте зображення лікарів, як і раніше, переважно чоловічі. Дослідницька команда довела це на прикладі Google Images, Wikipedia та Internet Movie Database (IMDb). Поміняйте запит на “модель” – і чоловіки зникають.
Текст більш справедливий. Зображення – ні.
Новинки дивовижно збалансовані. Google News показав переважання чоловіків лише у 56% текстів. Що стосується зображень? 62%. Ми перегортаємо текст. Ми дивимося на зображення.
«Із року в рік люди витрачають менше часу на читання і більше на перегляд картинок».
Візуальні образи запам’ятовуються краще. У додатковому експерименті учасники, які шукали зображення професій, за три дні демонстрували сильніші гендерні упередження, ніж ті, хто читав статті. Ментальний відбиток глибший. Цикл зворотний зв’язок реальний.
Штучний інтелект посилить цю упередженість
Бас Хофстра та Анна-Майке МюлдERS із Радбурдського університету попереджають, що це не просто відображення реальності. Воно її формує. Якщо алгоритми показують лікарів-чоловіків, то стереотип закріплюється.
Штучний інтелект посилює ситуацію. Моделі ІІ навчаються на існуючих онлайн-зображеннях. Якщо вихідні дані упереджені, то таким буде результат. Ми ризикуємо автоматизувати нерівність. Зусилля для досягнення ґендерної рівності на робочому місці можуть бути зведені нанівець алгоритмом-«чорним ящиком».
Екран бреше. А ми продовжуємо дивитися.
