Slovník výrazov AI/Vysvetliteľnosť a interpretácia

Vysvetliteľnosť a interpretácia

Grad-CAM

Anglický výraz Grad-CAM

pokročiléheslo č. 11795 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená Grad-CAM?

Grad-CAM vytvára triedne špecifickú mapu tým, že gradienty cieľového skóre použije na váženie aktivačných máp konvolučnej vrstvy a výsledok rektifikuje. Poskytuje hrubú lokalizáciu oblastí podporujúcich danú triedu.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Tím generuje Grad-CAM pre viac vrstiev, predikovanú aj konkurenčnú triedu a kontrolné modely. Mapu nepoužíva ako medicínsky dôkaz bez lokalizačnej validácie na nezávislých anotáciách.

Overiteľnosť

Odborné zdroje

  1. Selvaraju et al. - Grad-CAM: Visual Explanations from Deep Networksopenaccess.thecvf.com
  2. NIST - Four Principles of Explainable Artificial Intelligencedoi.org

Praktické odpovede

Často kladené otázky

Čo presne znamená Grad-CAM?

Grad-CAM vytvára triedne špecifickú mapu tým, že gradienty cieľového skóre použije na váženie aktivačných máp konvolučnej vrstvy a výsledok rektifikuje.

Kedy sa Grad-CAM používa?

Tím generuje Grad-CAM pre viac vrstiev, predikovanú aj konkurenčnú triedu a kontrolné modely.

Od čoho treba Grad-CAM odlíšiť?

Vanilla gradient map pracuje priamo so vstupom; Grad-CAM agreguje gradienty nad vnútornými feature maps.

Ako sa Grad-CAM kontroluje?

Kontroluje sa cieľové skóre, vrstva, zachytenie gradientov, interpolácia, náhodné parametre, perturbácie a lokalizačný výkon.

Aké obmedzenie má Grad-CAM?

Metóda môže vytvárať stabilne vyzerajúce mapy aj pri nesprávnej predikcii a je obmedzená pri architektúrach bez vhodnej vrstvy.