Slovník výrazov AI/Vysvetliteľnosť a interpretácia

Vysvetliteľnosť a interpretácia

aktivačná mapa

Anglický výraz activation map

pokročiléheslo č. 11775 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená aktivačná mapa?

Aktivačná mapa zobrazuje hodnoty výstupov neurónov alebo kanálov vo vybranej vrstve pre konkrétny vstup. Ukazuje, kde a ako silno sa vnútorná reprezentácia aktivovala, ale sama neurčuje, či aktivácia spôsobila konečnú predikciu.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Inžinier vizualizuje kanály konvolučnej vrstvy pri chybných obrazoch a porovná ich s čistými príkladmi. Aktivácie používa na diagnostiku saturácie a straty priestorovej informácie.

Overiteľnosť

Odborné zdroje

  1. Selvaraju et al. - Grad-CAM: Visual Explanations from Deep Networksopenaccess.thecvf.com
  2. Molnar - Interpretable Machine Learningchristophm.github.io

Praktické odpovede

Často kladené otázky

Čo presne znamená aktivačná mapa?

Aktivačná mapa zobrazuje hodnoty výstupov neurónov alebo kanálov vo vybranej vrstve pre konkrétny vstup.

Kedy sa aktivačná mapa používa?

Inžinier vizualizuje kanály konvolučnej vrstvy pri chybných obrazoch a porovná ich s čistými príkladmi.

Od čoho treba aktivačná mapa odlíšiť?

Saliency map pripisuje význam vstupným prvkom voči výstupu; activation map iba zobrazuje interný stav vrstvy.

Ako sa aktivačná mapa kontroluje?

Kontroluje sa správna vrstva a vstup, škálovanie, pred a po aktivácii, distribúcia kanálov, opakovateľnosť a väzba na abláciu.

Aké obmedzenie má aktivačná mapa?

Selektívne vybrané pekné kanály môžu podporiť príbeh, hoci väčšina reprezentácie alebo rozhodnutia funguje inak.