Presná definícia
Čo znamená integrované gradienty?
Integrované gradienty priraďujú vstupným príznakom atribúciu integráciou gradientov modelového výstupu pozdĺž priamej cesty od zvolenej baseline po skúmaný vstup. Metóda spĺňa citlivosť a implementačnú invariantnosť a atribúcie sa sčítajú k rozdielu výstupov.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Pri textovom modeli tím zvolí niekoľko zmysluplných baseline, zvýši počet integračných krokov a kontroluje completeness error. Atribúcie porovná s vynechaním tokenov a doménovými očakávaniami.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Čo presne znamená integrované gradienty?
Integrované gradienty priraďujú vstupným príznakom atribúciu integráciou gradientov modelového výstupu pozdĺž priamej cesty od zvolenej baseline po skúmaný vstup.
Kedy sa integrované gradienty používa?
Pri textovom modeli tím zvolí niekoľko zmysluplných baseline, zvýši počet integračných krokov a kontroluje completeness error.
Od čoho treba integrované gradienty odlíšiť?
Okamžitý gradient meria lokálnu deriváciu v jednom bode; integrated gradients priemeruje zmenu pozdĺž celej cesty.
Ako sa integrované gradienty kontroluje?
Overí sa baseline, cesta, počet krokov, numerická chyba úplnosti, znamienko, škálovanie a stabilita medzi baseline.
Aké obmedzenie má integrované gradienty?
Nerealistická baseline alebo priama cesta môže prechádzať mimo dátovej oblasti a zásadne meniť rozdelenie atribúcií.