Slovník výrazov AI/Vysvetliteľnosť a interpretácia

Vysvetliteľnosť a interpretácia

vernosť vysvetlenia

Anglický výraz explanation fidelity

pokročiléheslo č. 11875 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená vernosť vysvetlenia?

Vernosť vysvetlenia vyjadruje, ako presne vysvetľujúca reprezentácia alebo zástupný model reprodukuje relevantné správanie pôvodného modelu v určenom rozsahu. Musí sa uviesť oblasť, metrika zhody a typ predikcie.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Lokálny lineárny surrogate dosiahne 96 % zhody v definovanom okolí vstupu, ale iba 61 % globálne. Rozhranie preto vysvetlenie označí ako lokálne a neodvodzuje z neho pravidlá pre všetkých.

Overiteľnosť

Odborné zdroje

  1. Ribeiro, Singh & Guestrin - Why Should I Trust You? Explaining the Predictions of Any Classifierdoi.org
  2. NIST - Four Principles of Explainable Artificial Intelligencedoi.org

Praktické odpovede

Často kladené otázky

Čo presne znamená vernosť vysvetlenia?

Vernosť vysvetlenia vyjadruje, ako presne vysvetľujúca reprezentácia alebo zástupný model reprodukuje relevantné správanie pôvodného modelu v určenom rozsahu.

Kedy sa vernosť vysvetlenia používa?

Lokálny lineárny surrogate dosiahne 96 % zhody v definovanom okolí vstupu, ale iba 61 % globálne.

Od čoho treba vernosť vysvetlenia odlíšiť?

Prediktívna presnosť porovnáva model s realitou; fidelity porovnáva vysvetlenie alebo surrogate s modelom, ktorý vysvetľuje.

Ako sa vernosť vysvetlenia kontroluje?

Kontroluje sa reprezentatívnosť sond, lokálna a globálna zhoda, triedy, kalibrácia, hraničné oblasti a nezávislé perturbácie.

Aké obmedzenie má vernosť vysvetlenia?

Vysoká fidelity na ľahkých alebo umelo vytvorených sondách môže prehliadnuť zriedkavé rozhodovacie hranice.