Slovník výrazov AI/Generatívna AI

Generatívna AI

odmietacie vzorkovanie

Anglický výraz rejection sampling

pokročiléheslo č. 4245 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená odmietacie vzorkovanie?

Odmietacie vzorkovanie získava nezávislé vzorky z cieľovej hustoty p pomocou ľahšieho návrhového rozdelenia q a konštanty M, pre ktorú p(x) ≤ Mq(x). Kandidát z q sa prijme s pravdepodobnosťou úmernou p(x)/(Mq(x)); normalizačnú konštantu p netreba poznať, ale musí existovať platná horná obálka.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Metóda je praktická pri nízkych rozmeroch alebo pri distribúcii s dobrou obálkou a využíva sa aj ako súčasť zložitejších vzorkovačov. Pred použitím sa numericky i analyticky overí nerovnosť obálky a zmeria podiel prijatí. Ak prijatie klesá, treba zmeniť q alebo použiť MCMC či významnostné vzorkovanie.

Overiteľnosť

Odborné zdroje

  1. Deep Learning Book - pravdepodobnostné modelovaniedeeplearningbook.org
  2. Stanford CS228 - sampling methodsermongroup.github.io

Praktické odpovede

Často kladené otázky

Ako funguje odmietacie vzorkovanie?

Algoritmus navrhne x z q a jednotné u; prijme x iba vtedy, keď u leží pod normalizovaným pomerom cieľa a obálky.

Kedy má odmietacie vzorkovanie praktický význam?

Metóda je praktická pri nízkych rozmeroch alebo pri distribúcii s dobrou obálkou a využíva sa aj ako súčasť zložitejších vzorkovačov.

S čím si pojem nezamieňať?

Významnostné vzorkovanie ponechá všetkých kandidátov s váhami, kým odmietací algoritmus časť kandidátov úplne zahodí.

Ako sa výsledok kontroluje?

Kontroluje sa platnosť M, miera prijatia, empirické momenty na testovacom rozdelení a nezávislosť prijatých vzoriek.

Na čo si dať pozor?

Vysoký rozmer alebo zlá zhoda q s p vedie k extrémne nízkemu prijatiu; porušenie obálky vytvorí systematicky nesprávne vzorky.