Мы по-прежнему представляем пожарных мужчинами, а медсестёр — женщинами. Ментальная система классификации профессий ещё не успела подстроиться под реальность. Конечно, можно найти мужчин-медсестёр или женщин-врачей. Мы говорим о разрушении этих шаблонов. Общество пытается сдвинуть дело с мёртвой точки. Но новое исследование предполагает, что что-то может тянуть нас назад. Поиск изображений в интернете. Он может свести на нет годы достижений.
Почему это важно? Проблема не только в устаревших картинках. Речь идёт о том, какие сигналы эти изображения посылают молодым людям. Когда мы по умолчанию приписываем полу определённую профессию, мы создаём невидимые барьеры. Девочка, которой нравится строить, может отказаться от столярного дела, потому что в интернете показывают только мужчин. Мальчик, которому нравится заботиться о людях, может избегать ухода за пожилыми людьми. Он может беспокоиться, что будет выглядеть слишком мягким. Слишком не мужественным.
Ментальный ярлык
Наш мозг любит паттерны. Он жаждёт кратких путей. Мы видим горящее здание. Мы представляем мужчину в защитной экипировке. Мы видим плачущего ребёнка. Мы представляем женщину в медицинской форме. Это автоматическая связь. Не всегда точная. Но глубоко укоренившаяся.
Некоторые профессии по-прежнему доминируются одним полом. Автомобильная мехатроника сильно смещена в сторону мужчин. Помощники врачей сильно смещены в сторону женщин. Данные подтверждают стереотип. Но стереотип также ограничивает данные. Это создаёт петлю обратной связи. Мы видим мужчин, выполняющих работу. Мы предполагаем, что это мужская работа. Мы нанимаем мужчин. Мы показываем изображения мужчин. Петля затягивается.
Это вопрос не только справедливости. Это вопрос упущенного потенциала. Талантливые руки оказываются в стороне. Эмпатичные умы отфильтровываются. Цена этого реальна.
Где онлайн-поиск нас подводит
Вспомните свой последний поиск изображений в Google. Вы ввели «врач». Что появилось? Скорее всего, мужчина в белом халате. Вы ввели «медсестра». Скорее всего, женщина. Даже если вы ищете женщину-врача, алгоритм может по-прежнему отдавать приоритет изображениям, ассоциирующимся с мужчинами. Он учится на том, на что вы кликаете. А на что вы кликаете, формируется тем, во что вы уже верите.
Именно здесь онлайн-поиск изображений даёт сбой. Он отражает предвзятость, а не исправляет её. Он усиливает статус-кво. Для студентов, выбирающих карьерный путь, эти визуальные образы действуют как контролёры. Они шепчут: Это не для тебя.
Риск здесь тонкий. Это не закрытая дверь. Это опущенная штора. Молодые люди могут даже не постучать. Они предполагают, что комната заполнена. Или, что ещё хуже, что они не желанны.
Сложность с ИИ
Теперь добавьте в смесь искусственный интеллект. Генераторы изображений на основе ИИ. Они обучаются на огромных наборах данных. В основном собранных из интернета. Интернет полон гендерно окрашенных изображений. ИИ изучает эти паттерны. Он воспроизводит их. Быстрее. Дешевле. В больших масштабах.
Если вы попросите ИИ «сгенерировать изображение рабочего на стройке», он может по умолчанию выбрать мужчину. Попросите «учитель», и он может по умолчанию выбрать женщину. Не потому, что строительство по своей природе мужское. Не потому, что преподавание по своей природе женское. А потому, что обучающие данные говорят так.
Это усугубляет проблему. Это не просто показывает нам то, что уже существует. Это создаёт новые предвзятые изображения. Изображения, которые выглядят реалистично. Изображения, которые кажутся авторитетными. Они внедряют стереотипы в ткань цифрового контента. Прежде чем мы даже заметим.
Почему важно ломать шаблоны
Давайте посмотрим на
Предвзятость поиска изображений укрепляет гендерные стереотипы
Школы пытаются исправить это положение. Карьерные консультанты используют харизматичных ролевых моделей в нетрадиционных ролях, чтобы разрушить барьеры. Гендерно-нейтральные термины, такие как «врач» или «врач*», призваны заставить мозг представлять как мужчин, так и женщин.
Но в визуальной сфере это не работает. Новое исследование подтверждает, что результаты поиска изображений в интернете по-прежнему сильно смещены в сторону гендерных стереотипов. Введите «врач» — и вы увидите мужчину в белом халате. Статистически мужчины и женщины представлены в этой сфере поровну. Алгоритму нет дела до этого.
Это не грамматическая ошибка. В английском языке слово «doctor» не имеет гендерного маркера. Тем не менее, изображения врачей по-прежнему преимущественно мужские. Исследовательская команда доказала это на примере Google Images, Wikipedia и Internet Movie Database (IMDb). Поменяйте запрос на «модель» — и мужчины исчезают.
Текст более справедлив. Изображения — нет.
Новостные статьи удивительно сбалансированы. Google News показал преобладание мужчин только в 56% текстов. Что касается изображений? 62%. Мы пролистываем текст. Мы пристально смотрим на изображения.
«Из года в год люди тратят меньше времени на чтение и больше — на просмотр картинок».
Визуальные образы запоминаются лучше. В дополнительном эксперименте участники, которые искали изображения профессий, через три дня демонстрировали более сильные гендерные предубеждения, чем те, кто читал статьи. Ментальный отпечаток глубже. Цикл обратной связи реален.
Искусственный интеллект усилит эту предвзятость
Бас Хофстра и Анна-Майке МюлдERS из Радбурдского университета предупреждают, что это не просто отражение реальности. Оно её формирует. Если алгоритмы показывают врачей-мужчин, стереотип закрепляется.
Искусственный интеллект усугубляет ситуацию. Модели ИИ обучаются на существующих онлайн-изображениях. Если исходные данные предвзяты, то таковым будет и результат. Мы рискуем автоматизировать неравенство. Усилия по достижению гендерного равенства на рабочем месте могут быть сведены на нет алгоритмом-«чёрным ящиком».
Экран лжёт. А мы продолжаем смотреть.
