Saudyjska Agencja Danych i Sztucznej Inteligencji (SDAISA) opublikowała właśnie pierwsze wydanie Podręcznika AI Bias.
Dokument jest niezwykle szczegółowy, co może nawet budzić niepokój.
Zawiera listę ponad 100 konkretnych typów przesunięć. Są to subtelne usterki, które wkradają się do algorytmów, zniekształcając dokładność i zakłócając uczciwość. W obecnej sytuacji czynniki te mają kluczowe znaczenie.
Dla każdego z tych typów uprzedzeń przewodnik wykonuje główną pracę: wyjaśnia przyczyny ich występowania, opisuje potencjalne konsekwencje społeczne, a także podaje realne przykłady i sposoby zapobiegania takim problemom.
Dlaczego ma to znaczenie dla kluczowych branż
Niektóre sektory gospodarki to gorące punkty.
System egzekwowania prawa, opieka zdrowotna, edukacja.
Obszary te dziś w coraz większym stopniu opierają się na decyzjach podejmowanych za pomocą sztucznej inteligencji. Stawka jest tu niezwykle wysoka. Stronniczy algorytm w sądzie to nie tylko błąd matematyczny; kwestia dotyczy wolności osobistej ludzi. Stronnicze narzędzie diagnostyczne w szpitalu ma bezpośredni wpływ na życie i zdrowie pacjentów.
Niekontrolowane przemieszczenie zamienia sztuczną inteligencję w narzędzie.
Zamiast być narzędziem równości, sztuczna inteligencja może stać się maszyną dyskryminacji. Szkodzi to reputacji instytucji i stwarza ryzyko prawne, z którym nikt nie chce się zmierzyć.
SDAISA stara się dotrzymać kroku rozwojowi technologicznemu.
W miarę przyspieszania wdrażania sztucznej inteligencji zarówno w sektorze publicznym, jak i prywatnym, ryzyko w naturalny sposób wzrasta. Agencja odgrywa kluczową rolę edukacyjną, dostarczając twórcom systemów i decydentom przydatne informacje, aby minimalizować ryzyko i promować odpowiedzialną sztuczną inteligencję.
Analiza przyczyn przemieszczeń
Skąd zatem biorą się te uprzedzenia?
Rzadko są one spowodowane złośliwym kodem. Najczęściej mają one charakter strukturalny.
Odniesienie wskazuje na niereprezentatywne dane szkoleniowe jako główną przyczynę. Jeśli dane są stronnicze, model będzie stronniczy.
Istnieją również algorytmy, które w sposób niezamierzony faworyzują pewne cechy. Fałszywe założenia przyjęte podczas interpretacji danych powodują kolejną warstwę problemów.
Spójrzmy na przykład rekrutacji.
Rozważ narzędzie rekrutacyjne, które faworyzuje kandydatów z elitarnym wykształceniem, jednocześnie odrzucając równie wykwalifikowane osoby z mniej uprzywilejowanych szkół. Nie jest to cecha systemu, ale błąd w projekcie i przechowywaniu danych.
Podręczniki dotyczące stronniczości są powszechne. Katalogowanie 100 różnych typów to zupełnie inny poziom. Jest to sygnał przejścia od prostej świadomości problemu do kontroli operacyjnej.
Opieranie się na istniejących ramach
Ten poradnik nie istnieje w próżni.
SDAISA przygotowywała pod to grunt od dłuższego czasu. Dokument opiera się na wcześniejszych pracach, w tym na Zasadach etyki sztucznej inteligencji i Zasadach generatywnej sztucznej inteligencji dla rządu.
Jest również zgodny z Ramy wdrażania sztucznej inteligencji.
Agencja opublikowała niedawno badanie Bias in Artificial Intelligence Systems: Challenges and Solutions, w którym zbadano, gdzie występuje błąd na różnych etapach rozwoju sztucznej inteligencji. Nowy przewodnik uzupełnia te badania.
Uzupełnia również Krajowe ramy zarządzania ryzykiem związanym ze sztuczną inteligencją.
Ramy wykorzystują czteroetapową metodologię obejmującą ustalanie zakresu, identyfikację ryzyka, ograniczanie ryzyka i ciągłe monitorowanie. Dla przejrzystości ryzyko związane ze sztuczną inteligencją podzielono na siedem głównych kategorii.
Posunięcie to pokazuje wzrost poziomu wiedzy na temat zasad etycznych w SDAISA. Agencja udostępnia szczegółowe informacje każdemu, kto opracowuje lub wdraża sztuczną inteligencję w Królestwie.
Rynek tego potrzebuje. Technologia szybko się rozwija, a decydenci starają się ją dogonić, jeśli nie prześcignąć.
Jednakże zmiany te są trudne do wykrycia. Zmieniają kształt, gdy modele stają się bardziej złożone. Czy katalogowanie 100 typów pomaga, czy stwarza fałszywe poczucie bezpieczeństwa?
Być może obie opcje. Lepiej mieć mapę niż błądzić po okolicy na ślepo.
