Slovník výrazov AI/Vysvetliteľnosť a interpretácia

Vysvetliteľnosť a interpretácia

úplnosť vysvetlenia

Anglický výraz explanation completeness

pokročiléheslo č. 11905 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená úplnosť vysvetlenia?

Úplnosť vysvetlenia vyjadruje, či zobrazené príspevky alebo pravidlá účtujú za celý vysvetľovaný modelový výstup podľa definície metódy. Pri aditívnej atribúcii sa často testuje, či súčet príspevkov s baseline rekonštruuje predikciu.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Tím pri SHAP reporte kontroluje súčet príspevkov voči logitu a zreteľne odlíši zoskupené malé faktory. Používateľovi neukáže iba tri priaznivé položky, ak zvyšok mení záver.

Overiteľnosť

Odborné zdroje

  1. Lundberg & Lee - A Unified Approach to Interpreting Model Predictionsproceedings.neurips.cc
  2. Sundararajan, Taly & Yan - Axiomatic Attribution for Deep Networksproceedings.mlr.press

Praktické odpovede

Často kladené otázky

Čo presne znamená úplnosť vysvetlenia?

Úplnosť vysvetlenia vyjadruje, či zobrazené príspevky alebo pravidlá účtujú za celý vysvetľovaný modelový výstup podľa definície metódy.

Kedy sa úplnosť vysvetlenia používa?

Tím pri SHAP reporte kontroluje súčet príspevkov voči logitu a zreteľne odlíši zoskupené malé faktory.

Od čoho treba úplnosť vysvetlenia odlíšiť?

Comprehensiveness v používateľskom zmysle môže zahŕňať kontext a možnosti nápravy; matematická completeness sa týka pokrytia výstupu.

Ako sa úplnosť vysvetlenia kontroluje?

Overí sa additivity alebo iný úplnostný axióm, jednotka, baseline, zvyškový člen, zaokrúhlenie a skryté preprocessingové kroky.

Aké obmedzenie má úplnosť vysvetlenia?

Úplný matematický rozklad môže byť nezrozumiteľný a stále nemusí poskytovať kauzálny, právny alebo prakticky užitočný dôvod.