Presná definícia
Čo znamená model založený na vierohodnosti?
Model založený na vierohodnosti definuje normalizované rozdelenie pθ(x), prípadne jeho vypočítateľnú aproximačnú hranicu, a parametre učí maximalizáciou pravdepodobnosti pozorovaných dát. Autoregresné modely a normalizačné toky poskytujú explicitnú vierohodnosť; pri latentných modeloch sa často optimalizuje ELBO namiesto presného log pθ(x).
Skúsenosť a kontext
Ako sa pojem používa v praxi
Takýto model je užitočný, keď treba porovnávať pravdepodobnosť dát, robiť kompresiu, odhad hustoty alebo systematicky trénovať generátor. Pri výbere sa overuje, či je vierohodnosť presne vypočítateľná, aproximovaná alebo iba dolnou hranicou. Vysoká hodnota na testovacej množine sa má doplniť kontrolou kvality vzoriek a správania mimo distribúcie.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Ako funguje model založený na vierohodnosti?
Tréning zvyšuje súčet logaritmov pθ(x) pre pozorovania; architektúra musí umožniť výpočet normalizačnej konštanty alebo použiteľnej hranice.
Kedy má model založený na vierohodnosti praktický význam?
Takýto model je užitočný, keď treba porovnávať pravdepodobnosť dát, robiť kompresiu, odhad hustoty alebo systematicky trénovať generátor.
S čím si pojem nezamieňať?
Implicitný generatívny model vie produkovať vzorky bez dostupnej hustoty, kým model s vierohodnosťou poskytuje numerické skóre pod rozdelením.
Ako sa výsledok kontroluje?
Kontroluje sa testovacia negatívna log-vierohodnosť, bity na rozmer, kvalita vzoriek a rozdiel medzi tréningovým a validačným skóre.
Na čo si dať pozor?
Vierohodnosť nemusí korelovať s vnímanou kvalitou a môže byť vysoká aj pre niektoré dáta mimo očakávanej distribúcie.