Saudská agentura pro data a umělou inteligenci (SDAISA) právě vydala první vydání Handbook of AI Bias.
Dokument je velmi podrobný, což může být dokonce alarmující.
Uvádí více než 100 konkrétních typů offsetů. Jedná se o jemné závady, které se vkrádají do algoritmů, narušují přesnost a narušují spravedlnost. V současném prostředí jsou tyto faktory kritické.
U každého z těchto typů zkreslení průvodce dělá hlavní práci: vysvětluje důvody jejich výskytu, popisuje potenciální sociální důsledky a také uvádí skutečné příklady a způsoby, jak takovým problémům předcházet.
Proč je to důležité pro klíčová odvětví
Některá odvětví ekonomiky jsou horkými místy.
Systém vymáhání práva, zdravotnictví, školství.
Tyto oblasti dnes stále více spoléhají na rozhodnutí přijímaná pomocí AI. Sázky jsou zde extrémně vysoké. Předpojatý algoritmus u soudu není jen matematická chyba; problém se týká osobní svobody lidí. Předpojatý diagnostický nástroj v nemocnici přímo ovlivňuje životy a zdraví pacientů.
Nekontrolovaný posun promění AI v nástroj.
Místo nástroje pro rovnost by se umělá inteligence mohla stát strojem diskriminace. To poškozuje pověst institucí a vytváří právní rizika, která nikdo nechce řešit.
SDAISA se snaží držet krok s technologickým vývojem.
Jak se přijetí AI zrychluje ve veřejném i soukromém sektoru, rizika přirozeně rostou. Agentura hraje klíčovou vzdělávací roli tím, že vybavuje tvůrce systémů a osoby s rozhodovací pravomocí informacemi, které lze využít k minimalizaci rizik a podpoře odpovědné umělé inteligence.
Analýza důvodů přesunů
Odkud se tedy tyto předsudky berou?
Zřídka jsou způsobeny škodlivým kódem. Nejčastěji jsou strukturální povahy.
Odkaz ukazuje na nereprezentativní tréninková data jako hlavní příčinu. Pokud jsou data zkreslená, model bude zkreslený.
Existují také algoritmy, které neúmyslně upřednostňují určité vlastnosti. Falešné předpoklady při interpretaci dat přidávají další vrstvu problémů.
Podívejme se na příklad náboru.
Zvažte náborový nástroj, který zvýhodňuje kandidáty s elitním vzděláním a zároveň odmítá stejně kvalifikované jedince z méně privilegovaných škol. Nejedná se o vlastnost systému, ale o selhání v návrhu a správě dat.
Příručky o zaujatosti jsou běžné. Katalogizace 100 různých typů je úplně jiná úroveň. Jde o signál přechodu od jednoduchého uvědomění si problému k operativnímu řízení.
Staví na existujících rámcích
Tato příručka neexistuje ve vzduchoprázdnu.
SDAISA k tomu připravuje půdu již dlouhou dobu. Dokument staví na dřívější práci, včetně Principles of AI Ethics a Principles of Generative AI for Government.
Je také v souladu s ** AI Implementation Framework**.
Agentura nedávno zveřejnila studii Bias in Artificial Intelligence Systems: Challenges and Solutions, která zkoumala, kde dochází ke zkreslení v různých fázích vývoje AI. Nový průvodce tento výzkum doplňuje.
Doplňuje také National Artificial Intelligence Risk Management Framework.
Rámec využívá čtyřstupňovou metodologii zahrnující stanovení rozsahu, identifikaci rizik, zmírňování rizik a průběžné monitorování. Rizika AI jsou kvůli přehlednosti rozdělena do sedmi hlavních kategorií.
Tento krok demonstruje zvýšenou úroveň znalostí o etických principech v SDAISA. Agentura poskytuje konkrétní podrobnosti pro každého, kdo vyvíjí nebo implementuje AI v království.
Trh to potřebuje. Technologie jdou rychle kupředu a tvůrci politik se snaží je dohnat, ne-li překonat.
Posuny je však těžké odhalit. Mění tvar, jak se modely stávají složitějšími. Pomáhá katalogizace 100 typů, nebo vytváří falešný pocit bezpečí?
Možná obě možnosti. Mít mapu je lepší než bloudit naslepo.
