Slovník výrazov AI/Vysvetliteľnosť a interpretácia

Vysvetliteľnosť a interpretácia

akumulované lokálne efekty

Anglický výraz accumulated local effects

základnéheslo č. 11665 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená akumulované lokálne efekty?

Akumulované lokálne efekty ALE odhadujú priemerný lokálny rozdiel predikcie v intervaloch príznaku a tieto rozdiely následne akumulujú. Používajú podmienené rozdelenie dát, preto obmedzujú extrapoláciu, ktorá trápi PDP pri korelovaných príznakoch.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Tím rozdelí príznak na intervaly s dostatkom pozorovaní, vypočíta lokálne zmeny a zobrazí ALE s neistotou. Výsledok porovná pri rôznych počtoch intervalov a podľa segmentov.

Overiteľnosť

Odborné zdroje

  1. Apley & Zhu - Visualizing the Effects of Predictor Variables in Black Box Supervised Learning Modelsarxiv.org
  2. Molnar - Interpretable Machine Learningchristophm.github.io

Praktické odpovede

Často kladené otázky

Čo presne znamená akumulované lokálne efekty?

Akumulované lokálne efekty ALE odhadujú priemerný lokálny rozdiel predikcie v intervaloch príznaku a tieto rozdiely následne akumulujú.

Kedy sa akumulované lokálne efekty používa?

Tím rozdelí príznak na intervaly s dostatkom pozorovaní, vypočíta lokálne zmeny a zobrazí ALE s neistotou.

Od čoho treba akumulované lokálne efekty odlíšiť?

PDP priemeruje predikcie po globálnom nahradení hodnoty; ALE priemeruje lokálne rozdiely v oblastiach podporovaných dátami.

Ako sa akumulované lokálne efekty kontroluje?

Kontroluje sa binning, počet bodov v intervaloch, centrovanie, okrajové oblasti, bootstrap stabilita a interakcie.

Aké obmedzenie má akumulované lokálne efekty?

Hrubé intervaly vyhladia dôležitý tvar, jemné sú šumové a ALE stále opisuje asociáciu modelu, nie kauzálny efekt.