Slovník výrazov AI/Zodpovedná AI a férovosť

Zodpovedná AI a férovosť

kontrafaktuálna férovosť

Anglický výraz counterfactual fairness

pokročiléheslo č. 10825 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená kontrafaktuálna férovosť?

Kontrafaktuálna férovosť požaduje, aby predikcia pre toho istého jednotlivca zostala rovnaká v kauzálne možnom svete, kde by sa zmenil chránený atribút a jeho potomkovia podľa štrukturálneho modelu. Nejde o jednoduché prepísanie jedného stĺpca.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Pri modeli príjmu tím zostaví kauzálny graf vzdelania, regiónu a historických príležitostí. Testuje, či zmena chráneného znaku v modeli neodôvodnene mení skóre, a robí citlivostnú analýzu alternatívnych grafov.

Overiteľnosť

Odborné zdroje

  1. Kusner et al. - Counterfactual Fairnessarxiv.org
  2. Barocas, Hardt & Narayanan - Fairness and Machine Learningfairmlbook.org

Praktické odpovede

Často kladené otázky

Čo presne znamená kontrafaktuálna férovosť?

Kontrafaktuálna férovosť požaduje, aby predikcia pre toho istého jednotlivca zostala rovnaká v kauzálne možnom svete, kde by sa zmenil chránený atribút a jeho potomkovia podľa štrukturálneho modelu.

Kedy sa kontrafaktuálna férovosť používa?

Pri modeli príjmu tím zostaví kauzálny graf vzdelania, regiónu a historických príležitostí.

Od čoho treba kontrafaktuálna férovosť odlíšiť?

Kontrastný test mení vstupné pole; counterfactual fairness potrebuje kauzálny model toho, čo by sa zmenilo spolu s ním.

Ako sa kontrafaktuálna férovosť kontroluje?

Kontrolujú sa kauzálne predpoklady, identifikovateľnosť, latentné premenné, citlivosť grafu, odborná validácia a výsledky podskupín.

Aké obmedzenie má kontrafaktuálna férovosť?

Nesprávny kauzálny graf môže označiť diskriminačnú cestu za legitímnu alebo odstrániť informáciu potrebnú na nápravu.