Presná definícia
Čo znamená vernosť?
Vernosť vysvetlenia modelu je vlastnosť, že zvýraznené dôvody skutočne zodpovedajú funkčným závislostiam, ktoré model použil na daný výstup, a nie iba vierohodnému príbehu. Posudzuje sa zásahmi do vstupov, interných stavov alebo rozhodovacieho procesu.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Tím odstráni alebo zmení prvky označené za najdôležitejšie a porovná pokles cieľového skóre s náhodnými prvkami. Test opakuje pre viac prípadov a kontroluje aj opačný zásah.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Čo presne znamená vernosť?
Vernosť vysvetlenia modelu je vlastnosť, že zvýraznené dôvody skutočne zodpovedajú funkčným závislostiam, ktoré model použil na daný výstup, a nie iba vierohodnému príbehu.
Kedy sa vernosť používa?
Tím odstráni alebo zmení prvky označené za najdôležitejšie a porovná pokles cieľového skóre s náhodnými prvkami.
Od čoho treba vernosť odlíšiť?
Plausibility meria, či vysvetlenie vyzerá rozumne človeku; faithfulness sa pýta, či zodpovedá skutočnému výpočtu modelu.
Ako sa vernosť kontroluje?
Použijú sa deletion/insertion testy, kontrafaktuálne zásahy, sanity checks, fidelity, kontrolné vysvetlenia a nezávislé replikácie.
Aké obmedzenie má vernosť?
Aj intervenčný test môže vytvoriť vstup mimo distribúcie a zameniť citlivosť modelu za dôkaz kauzálneho mechanizmu sveta.