Slovník výrazov AI/Vysvetliteľnosť a interpretácia

Vysvetliteľnosť a interpretácia

lokálne vysvetlenie

Anglický výraz local explanation

základnéheslo č. 11615 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená lokálne vysvetlenie?

Lokálne vysvetlenie opisuje, ktoré faktory a vzťahy ovplyvnili jednu konkrétnu predikciu alebo malé okolie vstupu. Jeho platnosť je obmedzená na tento prípad a závisí od zvolenej baseline, susedstva alebo kontrafaktuálu.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Pracovník pri zamietnutej žiadosti vidí príspevky overiteľných znakov a najbližšiu uskutočniteľnú zmenu výsledku. Vysvetlenie sa spätne testuje zmenou týchto vstupov v modeli.

Overiteľnosť

Odborné zdroje

  1. Ribeiro, Singh & Guestrin - Why Should I Trust You? Explaining the Predictions of Any Classifierdoi.org
  2. Lundberg & Lee - A Unified Approach to Interpreting Model Predictionsproceedings.neurips.cc

Praktické odpovede

Často kladené otázky

Čo presne znamená lokálne vysvetlenie?

Lokálne vysvetlenie opisuje, ktoré faktory a vzťahy ovplyvnili jednu konkrétnu predikciu alebo malé okolie vstupu.

Kedy sa lokálne vysvetlenie používa?

Pracovník pri zamietnutej žiadosti vidí príspevky overiteľných znakov a najbližšiu uskutočniteľnú zmenu výsledku.

Od čoho treba lokálne vysvetlenie odlíšiť?

Globálne vysvetlenie sumarizuje správanie modelu; local explanation nemá byť zovšeobecnené na celú populáciu.

Ako sa lokálne vysvetlenie kontroluje?

Overí sa rekonštrukcia konkrétnej predikcie, citlivosť na baseline, lokálna fidelity, stabilita a súlad so zásahom do vstupu.

Aké obmedzenie má lokálne vysvetlenie?

Dve podobné osoby môžu dostať prudko odlišné lokálne vysvetlenia a atribúcia nemusí vyjadrovať kauzálny dôvod.