Presná definícia
Čo znamená odhad maximálnej vierohodnosti?
Odhad maximálnej vierohodnosti (MLE) volí parametre θ, ktoré maximalizujú pθ(D), teda pravdepodobnosť pozorovaných dát pri zvolenom modeli; prakticky sa maximalizuje súčet log-vierohodností. MLE nepridáva prior nad parametrami a jeho vlastnosti závisia od modelovej špecifikácie, nezávislosti pozorovaní a množstva dát.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Používa sa pri trénovaní klasifikátorov, jazykových modelov, tokov aj klasických štatistických rozdelení. Tím definuje pravdepodobnostný model, optimalizuje negatívnu log-vierohodnosť a výsledok overí na oddelenej sade. Pri malých dátach sa kontroluje neistota a preučenie; vysoká tréningová vierohodnosť nie je cieľ sama osebe.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Ako funguje odhad maximálnej vierohodnosti?
Logaritmus zmení súčin pravdepodobností na súčet a gradientová alebo analytická optimalizácia hľadá jeho maximum.
Kedy má odhad maximálnej vierohodnosti praktický význam?
Používa sa pri trénovaní klasifikátorov, jazykových modelov, tokov aj klasických štatistických rozdelení.
S čím si pojem nezamieňať?
MAP odhad k log-vierohodnosti pridáva log-prior parametrov; MLE vychádza iba z modelu dát a pozorovaní.
Ako sa výsledok kontroluje?
Sleduje sa validačná log-vierohodnosť, reziduá, stabilita parametrov, kalibrácia a správanie pri opakovaných vzorkách.
Na čo si dať pozor?
Pri nesprávnom modeli môže byť odhad presný iba v technickom zmysle optimalizácie; pri separácii či malom súbore môžu parametre divergovat alebo mať vysokú varianciu.