Slovník výrazov AI/Vysvetliteľnosť a interpretácia

Vysvetliteľnosť a interpretácia

mapovanie aktivácie tried

Anglický výraz class activation mapping

pokročiléheslo č. 11785 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená mapovanie aktivácie tried?

Mapovanie aktivácie tried CAM vytvára lokalizačnú mapu ako váženú kombináciu konvolučných feature maps pre vybranú triedu v architektúre s globálnym priemerovaním a lineárnou klasifikačnou vrstvou. Ukazuje diskriminačné oblasti použité na skóre triedy.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Pri klasifikácii poškodenia tím vytvorí CAM pre predikovanú aj alternatívnu triedu a overí, či mapa leží na súčiastke, nie na značke pozadia. Výsledok porovná s ohraničením odborníka.

Overiteľnosť

Odborné zdroje

  1. Selvaraju et al. - Grad-CAM: Visual Explanations from Deep Networksopenaccess.thecvf.com
  2. Molnar - Interpretable Machine Learningchristophm.github.io

Praktické odpovede

Často kladené otázky

Čo presne znamená mapovanie aktivácie tried?

Mapovanie aktivácie tried CAM vytvára lokalizačnú mapu ako váženú kombináciu konvolučných feature maps pre vybranú triedu v architektúre s globálnym priemerovaním a lineárnou klasifikačnou vrstvou.

Kedy sa mapovanie aktivácie tried používa?

Pri klasifikácii poškodenia tím vytvorí CAM pre predikovanú aj alternatívnu triedu a overí, či mapa leží na súčiastke, nie na značke pozadia.

Od čoho treba mapovanie aktivácie tried odlíšiť?

Grad-CAM používa gradienty a funguje na širšej triede architektúr; pôvodné CAM vyžaduje špecifickú štruktúru siete.

Ako sa mapovanie aktivácie tried kontroluje?

Overí sa kompatibilita architektúry, triedne váhy, priestorové rozlíšenie, lokalizačná metrika, sanity checks a stabilita.

Aké obmedzenie má mapovanie aktivácie tried?

Nízke rozlíšenie poslednej vrstvy vytvára hrubé mapy a zvýraznená oblasť nemusí byť jediným ani kauzálnym dôvodom.