Presná definícia
Čo znamená algoritmus očakávania a maximalizácie?
Algoritmus očakávania a maximalizácie (EM) iteratívne odhaduje parametre modelu s latentnými alebo chýbajúcimi premennými. E-krok vypočíta očakávanie úplnej log-vierohodnosti vzhľadom na aktuálne posteriorné rozdelenie latentných premenných; M-krok toto očakávanie maximalizuje. Každá iterácia neznižuje pozorovanú vierohodnosť, no negarantuje globálne optimum.
Skúsenosť a kontext
Ako sa pojem používa v praxi
V GMM E-krok vypočíta zodpovednosti komponentov za každý bod a M-krok z nich aktualizuje váhy, priemery a kovariancie. Inicializácia sa opakuje a vyberie sa riešenie s najlepšou platnou vierohodnosťou. Sleduje sa zmena dolnej hranice, maximálny počet iterácií a numerická stabilita. Zdanlivá konvergencia môže byť lokálne alebo degenerované riešenie, preto sa kontrolujú malé komponenty a kovariancie. Pri veľkých chýbajúcich dátach musí model správne opísať mechanizmus a nie iba technicky doplniť hodnoty.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Čo sa v ňom počíta?
Očakávané latentné priradenia alebo postačujúce štatistiky pri aktuálnych parametroch.
Čo sa maximalizuje?
Očakávaná úplná log-vierohodnosť získaná v E-kroku.
Zvyšuje EM vierohodnosť vždy?
Za presných krokov ju neznižuje, no môže sa zastaviť v lokálnom maxime alebo sedle.
Prečo je dôležitá?
Rôzne počiatočné parametre môžu viesť k odlišným lokálnym riešeniam.
Je EM iba pre Gaussove zmesi?
Nie. Je to všeobecný rámec pre modely s latentnými alebo chýbajúcimi premennými.