Presná definícia
Čo znamená variačný autoenkóder?
Variačný autoenkóder je latentný generatívny model, ktorý učí aproximovaný posterior q(z|x) a dekóderové rozdelenie p(x|z). Optimalizuje dolnú hranicu log-pravdepodobnosti: rekonštrukčný člen plus KL regularizáciu voči prioru. Reparametrizačný trik zapisuje vzorku z ako diferencovateľnú transformáciu šumu, takže gradient prechádza parametrami enkódera.
Skúsenosť a kontext
Ako sa pojem používa v praxi
VAE sa používa na generovanie, interpoláciu, kompresiu a učenie neistých latentných reprezentácií. Tím musí zvoliť likelihood zodpovedajúci dátam, nie automaticky MSE, a oddelene sledovať rekonštrukciu a KL. Slabý dekóder vedie k rozmazaniu, priveľmi silný môže ignorovať latentný kód a spôsobiť posterior collapse. Vzorky z prioru, interpolácie a odhady na validačných dátach dopĺňajú jednu agregovanú stratu.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Čo predikuje enkóder?
Parametre približného rozdelenia latentnej premennej pre daný vstup.
Na čo slúži?
Definuje rozdelenie, z ktorého možno generovať nové latentné vzorky.
Aké časti obsahuje?
Očakávanú log-pravdepodobnosť dát a KL odchýlku q od prioru.
Prečo je potrebná?
Umožní diferenciáciu cez náhodné vzorkovanie posunutím šumu mimo parametrov.
Čo je posterior collapse?
q(z|x) sa priblíži k apriórnemu rozdeleniu a dekóder prestane kód využívať.