Slovník výrazov AI/Vysvetliteľnosť a interpretácia

Vysvetliteľnosť a interpretácia

vrstvové šírenie relevancie

Anglický výraz layer-wise relevance propagation

pokročiléheslo č. 11815 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená vrstvové šírenie relevancie?

Vrstvové šírenie relevancie LRP spätne rozdeľuje skóre siete cez jednotlivé vrstvy až na vstup podľa pravidiel zachovania relevancie. Rôzne pravidlá stabilizácie a spracovania vrstiev vytvárajú odlišné vysvetlenia, preto musia byť explicitné.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Pri klasifikácii obrazu tím zvolí pravidlá pre konvolúcie a normalizáciu, overí súčet relevancií voči skóre a porovná mapu po ablácii zvýraznených oblastí.

Overiteľnosť

Odborné zdroje

  1. Bach et al. - On Pixel-Wise Explanations by Layer-Wise Relevance Propagationjournals.plos.org
  2. Molnar - Interpretable Machine Learningchristophm.github.io

Praktické odpovede

Často kladené otázky

Čo presne znamená vrstvové šírenie relevancie?

Vrstvové šírenie relevancie LRP spätne rozdeľuje skóre siete cez jednotlivé vrstvy až na vstup podľa pravidiel zachovania relevancie.

Kedy sa vrstvové šírenie relevancie používa?

Pri klasifikácii obrazu tím zvolí pravidlá pre konvolúcie a normalizáciu, overí súčet relevancií voči skóre a porovná mapu po ablácii zvýraznených oblastí.

Od čoho treba vrstvové šírenie relevancie odlíšiť?

Backpropagation počíta gradient citlivosti; LRP redistribuuje konkrétne skóre podľa konzervačných pravidiel.

Ako sa vrstvové šírenie relevancie kontroluje?

Kontroluje sa pravidlo každej vrstvy, epsilon, znamienka, zachovanie súčtu, implementačná zhoda, sanity checks a stabilita.

Aké obmedzenie má vrstvové šírenie relevancie?

Nevhodné pravidlo pre vrstvu alebo normalizáciu môže vytvoriť artefakty a konzervácia súčtu sama nepreukazuje vernosť.