Агентство Саудівської Аравії за даними та штучним інтелектом (SDAISA) щойно випустило перше видання Довідника зі зсувів в ІІ.
Документ відрізняється найвищою деталізацією, що може навіть турбувати.
У ньому перераховано понад сто конкретних типів зсувів. Це тонкі збої, які проникають в алгоритми, спотворюючи точність і порушуючи справедливість. У умовах ці чинники мають критичне значення.
Для кожного із зазначених типів зсувів довідник робить основну роботу: пояснює причини виникнення, описує потенційні соціальні наслідки, а також наводить реальні приклади та способи запобігання подібним проблемам.
Чому це важливо для ключових галузей
Деякі сектори економіки є гарячими точками.
Правоохоронна система, охорона здоров’я, освіта.
Ці сфери сьогодні все більше покладаються на рішення, які приймає ІІ. Ставки тут надзвичайно високі. Зміщений алгоритм у суді – це не просто математична помилка, питання стосується особистої свободи людей. Упереджений діагностичний інструмент у лікарні безпосередньо впливає на життя та здоров’я пацієнтів.
Неконтрольоване усунення перетворює ІІ з інструменту.
Замість засобу забезпечення рівності ІІ може стати машиною дискримінації. Це завдає шкоди репутації інститутів та створює юридичні ризики, з якими ніхто не хоче мати справу.
SDAISA прагне встигати за розвитком технологій.
У міру прискорення впровадження ІІ як у державному, так і в приватному секторі ризики природно зростають. Агентство відіграє ключову освітню роль: творці систем та особи, які приймають рішення, повинні мати практичну інформацію для мінімізації ризиків та впровадження відповідального підходу до ІІ.
Розбір причин зсувів
То звідки ж беруться ці усунення?
Рідко вони виникають через шкідливий код. Найчастіше вони мають структурний характер.
Довідник вказує на нерепрезентативні навчальні дані як головну причину. Якщо дані зміщені, то модель буде зміщеною.
Також існують алгоритми, які ненавмисно віддають перевагу певним характеристикам. Помилкові припущення, зроблені при інтерпретації даних додають ще один шар проблем.
Розглянемо приклад рекрутингу.
Візьмемо інструмент найму, який віддає перевагу кандидатам з елітною освітою, відхиляючи рівнокваліфікованих спеціалістів із менш привілейованих навчальних закладів. Це не особливість системи, а збій у дизайні та куруванні даних.
Довідники з упередженості зустрічаються часто. Каталогізація 100 різних типів – це зовсім інший рівень. Це сигнал переходу від простого усвідомлення проблеми оперативного контролю.
Опора на існуючі рамки
Цей довідник немає у вакуумі.
SDAISA готувала ґрунт для цього протягом тривалого часу. Документ будується на ранніх роботах, включаючи Принципи етики ІІ та Принципи генеративного ІІ для державних органів.
Він також узгоджений із Рамками впровадження ІІ.
Нещодавно агентство опублікувало дослідження «Зміщення в системах штучного інтелекту: проблеми та рішення», в якому вивчалися місця виникнення зсувів на різних етапах розробки ІІ. Новий довідник є доповненням до цього дослідження.
Він також доповнює Національну рамку управління ризиками у галузі штучного інтелекту.
Ця рамка використовує чотириетапну методологію, що охоплює визначення обсягу, виявлення ризиків, їх пом’якшення та безперервний моніторинг. Ризики ІІ класифіковано на сім основних категорій для ясності.
Такий крок свідчить про підвищення рівня знань про етичні принципи SDAISA. Агентство надає конкретні деталі всім, хто розробляє чи впроваджує ІІ у Королівстві.
Ринку це потрібно. Технології розвиваються швидко, і керівні принципи намагаються наздогнати їх, якщо не перевершити.
Однак усунення важко вловимі. Вони змінюють форму у міру ускладнення моделей. Чи допомагає каталогізація 100 типів, чи це створює хибне почуття безпеки?
Можливо, обидва варіанти. Наявність карти краще, ніж блукати наосліп.
