Slovník výrazov AI/Zodpovedná AI a férovosť

Zodpovedná AI a férovosť

obmedzenie férovosti

Anglický výraz fairness constraint

pokročiléheslo č. 10815 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená obmedzenie férovosti?

Obmedzenie férovosti je matematická podmienka vložená do optimalizácie alebo výberu modelu, ktorá limituje povolený rozdiel zvolenej fairness metriky. Mení množinu prípustných riešení a vyjadruje konkrétnu hodnotovú voľbu.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Tím stanoví maximálny rozdiel záchytu päť percentuálnych bodov a hľadá model s najlepším výkonom v tejto hranici. Zverejní citlivosť výsledku na prísnejšie aj voľnejšie nastavenie.

Overiteľnosť

Odborné zdroje

  1. IBM AI Fairness 360 - Fairness metricsaif360.readthedocs.io
  2. Barocas, Hardt & Narayanan - Fairness and Machine Learningfairmlbook.org

Praktické odpovede

Často kladené otázky

Čo presne znamená obmedzenie férovosti?

Obmedzenie férovosti je matematická podmienka vložená do optimalizácie alebo výberu modelu, ktorá limituje povolený rozdiel zvolenej fairness metriky.

Kedy sa obmedzenie férovosti používa?

Tím stanoví maximálny rozdiel záchytu päť percentuálnych bodov a hľadá model s najlepším výkonom v tejto hranici.

Od čoho treba obmedzenie férovosti odlíšiť?

Penalizácia pridáva náklad do cieľa a môže obmedzenie porušiť; tvrdé constraint určuje hranicu prípustnosti.

Ako sa obmedzenie férovosti kontroluje?

Overí sa definícia skupín, metrika, tolerancia, optimalizačná medzera, stabilita na teste a správanie pri malých počtoch.

Aké obmedzenie má obmedzenie férovosti?

Prísne obmedzenie môže znížiť užitočnosť alebo byť splnené iba na vzorke, kým iný typ nerovnosti zostane bez kontroly.