Presná definícia
Čo znamená TCAV?
TCAV testuje, či je modelový výstup citlivý na ľudsky definovaný koncept reprezentovaný CAV. Skóre udáva podiel príkladov, pri ktorých smerová derivácia cieľového skóre v smere konceptu má zvolený znak, často s opakovanými kontrolnými sadami.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Pri modeli kožných snímok tím testuje citlivosť na koncept pravítka v obraze, používa viac náhodných kontrol a štatistické porovnanie. Zistenie vedie k novému datasetovému a intervenčnému testu.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Čo presne znamená TCAV?
TCAV testuje, či je modelový výstup citlivý na ľudsky definovaný koncept reprezentovaný CAV.
Kedy sa TCAV používa?
Pri modeli kožných snímok tím testuje citlivosť na koncept pravítka v obraze, používa viac náhodných kontrol a štatistické porovnanie.
Od čoho treba TCAV odlíšiť?
CAV je reprezentácia konceptu; TCAV je procedúra a skóre citlivosti triedy na tento smer.
Ako sa TCAV kontroluje?
Overí sa kvalita príkladov, separabilita CAV, viac kontrol, vrstva, smerové derivácie, významnosť a reprodukcia.
Aké obmedzenie má TCAV?
Vysoké TCAV nepreukazuje kauzálne použitie konceptu a môže byť dôsledkom korelovaného artefaktu alebo nevhodnej kontroly.