Presná definícia
Čo znamená stabilita vysvetlenia?
Stabilita vysvetlenia je miera, do akej podobné vstupy alebo opakované spustenia vytvárajú podobné vysvetlenia, ak sa predikcia a relevantný kontext výrazne nemenia. Nestabilita môže signalizovať náhodnosť metódy alebo krehkú hranicu modelu.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Tím pridá malé realistické zmeny vstupu, opakuje aproximáciu s rôznymi semenami a porovná poradie aj hodnoty atribúcií. Hraničné prípady reportuje oddelene, nie ako chybu vysvetľovača.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Čo presne znamená stabilita vysvetlenia?
Stabilita vysvetlenia je miera, do akej podobné vstupy alebo opakované spustenia vytvárajú podobné vysvetlenia, ak sa predikcia a relevantný kontext výrazne nemenia.
Kedy sa stabilita vysvetlenia používa?
Tím pridá malé realistické zmeny vstupu, opakuje aproximáciu s rôznymi semenami a porovná poradie aj hodnoty atribúcií.
Od čoho treba stabilita vysvetlenia odlíšiť?
Konzistentnosť môže znamenať logickú zhodu naprieč metódami alebo verziami; stability sa zameriava na malé perturbácie a opakovanie.
Ako sa stabilita vysvetlenia kontroluje?
Meria sa vzdialenosť atribúcií pri zachovanej predikcii, variancia behov, citlivosť baseline, top-k zhoda a segmenty.
Aké obmedzenie má stabilita vysvetlenia?
Model môže byť skutočne nestabilný, takže vynútene hladké vysvetlenie by krehkosť skrylo namiesto jej objasnenia.