Presná definícia
Čo znamená hodnoty SHAP?
Hodnoty SHAP sú atribúcie založené na Shapleyho hodnotách, ktoré rozkladajú rozdiel medzi predikciou a zvolenou základnou hodnotou na príspevky príznakov. Konkrétny význam závisí od vysvetľovaného výstupu, background dát a predpokladu o chýbajúcich príznakoch.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Pri jednej predikcii tím uvedie baseline, jednotku výstupu a súčet SHAP príspevkov. Výsledok porovná pre reprezentatívne background vzorky a pri korelovaných premenných vysvetlí podmienenú interpretáciu.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Čo presne znamená hodnoty SHAP?
Hodnoty SHAP sú atribúcie založené na Shapleyho hodnotách, ktoré rozkladajú rozdiel medzi predikciou a zvolenou základnou hodnotou na príspevky príznakov.
Kedy sa hodnoty SHAP používa?
Pri jednej predikcii tím uvedie baseline, jednotku výstupu a súčet SHAP príspevkov.
Od čoho treba hodnoty SHAP odlíšiť?
Shapleyho hodnota je všeobecný koncept kooperatívnej hry; SHAP je rodina jeho aplikácií na vysvetlenie modelu.
Ako sa hodnoty SHAP kontroluje?
Overí sa lokálna additivita, background dataset, link function, presnosť aproximácie, korelácie, opakovania a verzia implementácie.
Aké obmedzenie má hodnoty SHAP?
Atribúcie sa môžu výrazne meniť s baseline a rozdelenie kreditu medzi korelované príznaky nemožno čítať ako kauzalitu.