Агентство Саудовской Аравии по данным и искусственному интеллекту (SDAISA) только что выпустило первое издание Справочника по смещениям в ИИ.
Документ отличается высочайшей детализацией, что может даже тревожить.
В нем перечислено более 100 конкретных типов смещений. Это те тонкие сбои, которые проникают в алгоритмы, искажая точность и нарушая справедливость. В текущих условиях эти факторы имеют критическое значение.
Для каждого из указанных типов смещений справочник проделывает основную работу: объясняет причины возникновения, описывает потенциальные социальные последствия, а также приводит реальные примеры и способы предотвращения подобных проблем.
Почему это важно для ключевых отраслей
Некоторые секторы экономики являются «горячими точками».
Правоохранительная система, здравоохранение, образование.
Эти сферы сегодня все больше полагаются на решения, принимаемые с помощью ИИ. Ставки здесь чрезвычайно высоки. Смещенный алгоритм в суде — это не просто математическая ошибка, вопрос касается личной свободы людей. Предвзятый диагностический инструмент в больнице напрямую влияет на жизнь и здоровье пациентов.
Неконтролируемое смещение превращает ИИ из инструмента.
Вместо средства обеспечения равенства ИИ может стать машиной дискриминации. Это наносит ущерб репутации институтов и создает юридические риски, с которыми никто не хочет иметь дело.
SDAISA стремится успевать за развитием технологий.
По мере ускорения внедрения ИИ как в государственном, так и в частном секторе, риски естественно возрастают. Агентство играет ключевую образовательную роль: создатели систем и лица, принимающие решения, должны обладать практической информацией для минимизации рисков и внедрения ответственного подхода к ИИ.
Разбор причин смещений
Так откуда же берутся эти смещения?
Редко они возникают из-за вредоносного кода. Чаще всего они носят структурный характер.
Справочник указывает на нерепрезентативные обучающие данные как на главную причину. Если данные смещены, то и модель будет смещенной.
Также существуют алгоритмы, которые непреднамеренно отдают предпочтение определенным характеристикам. Ошибочные допущения, сделанные при интерпретации данных, добавляют еще один слой проблем.
Рассмотрим пример рекрутинга.
Возьмем инструмент найма, который отдает предпочтение кандидатам с элитным образованием, отклоняя равноквалифицированных специалистов из менее привилегированных учебных заведений. Это не особенность системы, а сбой в дизайне и курировании данных.
Справочники по предвзятости встречаются часто. Каталогизация 100 различных типов — это совсем другой уровень. Это сигнал перехода от простого осознания проблемы к оперативному контролю.
Опора на существующие рамки
Этот справочник не существует в вакууме.
SDAISA готовило почву для этого в течение длительного времени. Документ строится на более ранних работах, включая Принципы этики ИИ и Принципы генеративного ИИ для государственных органов.
Он также согласован с Рамками внедрения ИИ.
Недавно агентство опубликовало исследование «Смещения в системах искусственного интеллекта: проблемы и решения», в котором изучались места возникновения смещений на разных этапах разработки ИИ. Новый справочник служит дополнением к этому исследованию.
Он также дополняет Национальную рамку управления рисками в области искусственного интеллекта.
Эта рамка использует четырехэтапную методологию, охватывающую определение объема, выявление рисков, их смягчение и непрерывный мониторинг. Риски ИИ классифицированы на семь основных категорий для ясности.
Такой шаг свидетельствует об повышении уровня знаний об этических принципах в SDAISA. Агентство предоставляет конкретные детали для всех, кто разрабатывает или внедряет ИИ в Королевстве.
Рынку это необходимо. Технологии развиваются быстро, и руководящие принципы пытаются догнать их, если не превзойти.
Однако смещения трудно уловимы. Они меняют форму по мере усложнения моделей. Помогает ли каталогизация 100 типов, или это создает ложное чувство безопасности?
Возможно, оба варианта. Наличие карты лучше, чем блуждать вслепую.
