Presná definícia
Čo znamená variačná inferencia?
Variačná inferencia premieňa výpočet nedostupného posterioru p(z|x) na optimalizáciu v zvolenej rodine aproximácií qφ(z). Hľadá q najbližšie posterioru podľa divergencie, zvyčajne maximalizáciou ELBO. Je často rýchlejšia a lepšie škáluje než MCMC, ale presnosť obmedzuje tvar variačnej rodiny a optimalizačný cieľ.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Používa sa pri VAE, bayesovských neurónových sieťach a veľkých pravdepodobnostných modeloch. Praktický postup porovná viac variačných rodín, sleduje ELBO a kalibráciu neistoty a na menšom probléme výsledok overí proti MCMC alebo známemu riešeniu. Rýchly výpočet sa nemá zamieňať s presným posteriorom.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Ako funguje variačná inferencia?
Parametre φ sa upravujú gradientom tak, aby qφ zvýšilo očakávanú log-vierohodnosť a zároveň zostalo primerane blízko prioru.
Kedy má variačná inferencia praktický význam?
Používa sa pri VAE, bayesovských neurónových sieťach a veľkých pravdepodobnostných modeloch.
S čím si pojem nezamieňať?
MCMC aproximuje posterior vzorkami z reťazca; variačná inferencia ho nahrádza optimalizovaným, výpočtovo pohodlným rozdelením.
Ako sa výsledok kontroluje?
Sleduje sa ELBO, posterior predictive výkon, pokrytie intervalov, citlivosť na inicializáciu a porovnanie s bohatšou aproximáciou.
Na čo si dať pozor?
Jednoduché q môže podhodnotiť neistotu, vynechať viac módov a poskytnúť stabilné, no systematicky skreslené výsledky.