Slovník výrazov AI/Vysvetliteľnosť a interpretácia

Vysvetliteľnosť a interpretácia

globálne vysvetlenie

Anglický výraz global explanation

základnéheslo č. 11605 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená globálne vysvetlenie?

Globálne vysvetlenie opisuje všeobecné správanie modelu naprieč populáciou alebo definovaným rozsahom vstupov: hlavné závislosti, interakcie, pravidlá a segmenty. Nemusí presne vysvetliť konkrétnu predikciu.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Riadiaci tím dostane grafy ALE, permutačnú dôležitosť a skupinové chybovosti pre celý model. Analytici kontrolujú, či zistené vzťahy zodpovedajú doméne a nemenia sa medzi obdobiami.

Overiteľnosť

Odborné zdroje

  1. Molnar - Interpretable Machine Learningchristophm.github.io
  2. Apley & Zhu - Visualizing the Effects of Predictor Variables in Black Box Supervised Learning Modelsarxiv.org

Praktické odpovede

Často kladené otázky

Čo presne znamená globálne vysvetlenie?

Globálne vysvetlenie opisuje všeobecné správanie modelu naprieč populáciou alebo definovaným rozsahom vstupov: hlavné závislosti, interakcie, pravidlá a segmenty.

Kedy sa globálne vysvetlenie používa?

Riadiaci tím dostane grafy ALE, permutačnú dôležitosť a skupinové chybovosti pre celý model.

Od čoho treba globálne vysvetlenie odlíšiť?

Lokálne vysvetlenie sa vzťahuje na jednu predikciu; global explanation sumarizuje model alebo jeho správanie v oblasti.

Ako sa globálne vysvetlenie kontroluje?

Kontroluje sa pokrytie dátovej distribúcie, interakcie, korelované príznaky, segmenty, bootstrap stabilita a zhoda s lokálnymi sondami.

Aké obmedzenie má globálne vysvetlenie?

Agregácia môže zakryť opačné vzťahy v podskupinách a extrapolácia mimo dát vytvoriť neexistujúce globálne pravidlo.