Slovník výrazov AI/Vysvetliteľnosť a interpretácia

Vysvetliteľnosť a interpretácia

permutačná dôležitosť

Anglický výraz permutation importance

základnéheslo č. 11635 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená permutačná dôležitosť?

Permutačná dôležitosť meria pokles hodnotiaceho výkonu po náhodnom premiešaní hodnôt jedného príznaku, čím naruší jeho vzťah k cieľu a ostatným premenným. Je modelovo agnostická a musí sa počítať na vhodných dátach.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Na časovo oddelenom teste tím opakovane permutuje každý príznak, zaznamená priemerný pokles straty a interval. Pri korelovaných premenných permutuje skupiny a kontroluje realistickosť zmenených riadkov.

Overiteľnosť

Odborné zdroje

  1. Molnar - Interpretable Machine Learningchristophm.github.io
  2. scikit-learn - Metrics and scoring: quantifying prediction qualityscikit-learn.org

Praktické odpovede

Často kladené otázky

Čo presne znamená permutačná dôležitosť?

Permutačná dôležitosť meria pokles hodnotiaceho výkonu po náhodnom premiešaní hodnôt jedného príznaku, čím naruší jeho vzťah k cieľu a ostatným premenným.

Kedy sa permutačná dôležitosť používa?

Na časovo oddelenom teste tím opakovane permutuje každý príznak, zaznamená priemerný pokles straty a interval.

Od čoho treba permutačná dôležitosť odlíšiť?

Impurity importance je vnútorná štatistika stromu; permutation importance meria vplyv na externú metriku po narušení dát.

Ako sa permutačná dôležitosť kontroluje?

Overí sa počet opakovaní, náhodné semeno, metrika, testovacia vzorka, skupinová permutácia a podmienený variant.

Aké obmedzenie má permutačná dôležitosť?

Nezávislé miešanie môže vytvoriť nemožné kombinácie a pri zastupiteľných príznakoch podhodnotiť význam oboch.