Slovník výrazov AI/Vysvetliteľnosť a interpretácia

Vysvetliteľnosť a interpretácia

Shapleyho hodnota

Anglický výraz Shapley value

základnéheslo č. 11685 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená Shapleyho hodnota?

Shapleyho hodnota je pravidlo z kooperatívnej teórie hier, ktoré rozdelí celkovú hodnotu medzi hráčov podľa ich priemerného marginálneho príspevku cez všetky poradia koalícií. Je jediným rozdelením spĺňajúcim konkrétne axiómy efektívnosti, symetrie, nulového hráča a aditivity.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Pri atribúcii príznakov sa každý znak chápe ako hráč a hodnota koalície ako očakávaná predikcia. Tím presne určí, čo znamená neprítomný príznak a aké rozdelenie tvorí očakávanie.

Overiteľnosť

Odborné zdroje

  1. Lundberg & Lee - A Unified Approach to Interpreting Model Predictionsproceedings.neurips.cc
  2. Molnar - Interpretable Machine Learningchristophm.github.io

Praktické odpovede

Často kladené otázky

Čo presne znamená Shapleyho hodnota?

Shapleyho hodnota je pravidlo z kooperatívnej teórie hier, ktoré rozdelí celkovú hodnotu medzi hráčov podľa ich priemerného marginálneho príspevku cez všetky poradia koalícií.

Kedy sa Shapleyho hodnota používa?

Pri atribúcii príznakov sa každý znak chápe ako hráč a hodnota koalície ako očakávaná predikcia.

Od čoho treba Shapleyho hodnota odlíšiť?

SHAP values sú modelové atribúcie odvodené zo Shapleyho konceptu; Shapley value je všeobecné matematické riešenie rozdelenia hodnoty.

Ako sa Shapleyho hodnota kontroluje?

Kontroluje sa definícia koaličnej hodnoty, baseline, presný alebo aproximačný algoritmus, axiómy, chyba odhadu a korelácie.

Aké obmedzenie má Shapleyho hodnota?

Výpočet všetkých koalícií je exponenciálny a výsledok závisí od sporného spôsobu simulácie neprítomných príznakov.