Slovník výrazov AI/Generatívna AI

Generatívna AI

Gibbsovo vzorkovanie

Anglický výraz Gibbs sampling

pokročiléheslo č. 4265 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená Gibbsovo vzorkovanie?

Gibbsovo vzorkovanie je MCMC algoritmus, ktorý opakovane vyberá každú premennú z jej úplného podmieneného rozdelenia pri aktuálnych hodnotách ostatných premenných. Jedna úplná séria aktualizácií tvorí prechod Markovovho reťazca s cieľovým spoločným rozdelením ako stacionárnym, ak platia podmienky ergodicity.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Je užitočné v bayesovských modeloch, keď sa spoločný posterior ťažko vzorkuje, ale úplné podmienené rozdelenia sú dostupné. Analytik spúšťa viac reťazcov, odstraňuje zahrievaciu fázu a sleduje konvergenciu. Pri silne korelovaných parametroch pomáha bloková aktualizácia alebo preparametrizovanie.

Overiteľnosť

Odborné zdroje

  1. Stan Reference Manual - MCMCmc-stan.org
  2. Stanford CS228 - sampling methodsermongroup.github.io

Praktické odpovede

Často kladené otázky

Ako funguje Gibbsovo vzorkovanie?

Každý krok obnoví jednu súradnicu podmienene na zvyšok; opakované cykly postupne zabudnú inicializáciu a aproximujú cieľ.

Kedy má Gibbsovo vzorkovanie praktický význam?

Je užitočné v bayesovských modeloch, keď sa spoločný posterior ťažko vzorkuje, ale úplné podmienené rozdelenia sú dostupné.

S čím si pojem nezamieňať?

Ancestrálne vzorkovanie prejde graf raz v smere rodičov; Gibbs opakovane mení hodnoty a vytvára korelovaný Markovov reťazec.

Ako sa výsledok kontroluje?

Používa sa diagnostika viacerých reťazcov, efektívna veľkosť vzorky, autokorelácia, trace plot a kontrola citlivosti na štart.

Na čo si dať pozor?

Reťazec sa môže pomaly presúvať medzi módmi alebo uviaznuť pri silných koreláciách; veľa iterácií neznamená veľa nezávislej informácie.