Slovník výrazov AI/Generatívna AI

Generatívna AI

ancestrálne vzorkovanie

Anglický výraz ancestral sampling

pokročiléheslo č. 4235 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená ancestrálne vzorkovanie?

Ancestrálne vzorkovanie generuje premenné v poradí danom orientovaným acyklickým grafom alebo autoregresným rozkladom. Najprv vyberie koreňové premenné, potom každú ďalšiu z podmieneného rozdelenia pri už vybraných rodičoch. Ak sú všetky podmienené distribúcie priamo vzorkovateľné, výsledok pochádza presne zo spoločného modelu.

Skúsenosť a kontext

Ako sa pojem používa v praxi

V autoregresnom jazykovom modeli postupne vytvára tokeny; v bayesovskej sieti simuluje scenáre od príčin k následkom. Implementácia musí dodržať topologické poradie a správne preniesť už zvolené hodnoty. Pri dlhých sekvenciách sa sleduje, ako skoré náhodné voľby menia neskorší výstup.

Overiteľnosť

Odborné zdroje

  1. Pixel Recurrent Neural Networksarxiv.org
  2. Deep Learning Book - pravdepodobnostné modelovaniedeeplearningbook.org

Praktické odpovede

Často kladené otázky

Ako funguje ancestrálne vzorkovanie?

Každý uzol sa vzorkuje z p(x_i|pa_i) až po jeho rodičoch; súčin týchto podmienok tvorí spoločné rozdelenie.

Kedy má ancestrálne vzorkovanie praktický význam?

V autoregresnom jazykovom modeli postupne vytvára tokeny; v bayesovskej sieti simuluje scenáre od príčin k následkom.

S čím si pojem nezamieňať?

Gibbsovo vzorkovanie opakovane aktualizuje premenné podmienené všetkými ostatnými a potrebuje reťazec; ancestrálny postup je jednosmerný prechod.

Ako sa výsledok kontroluje?

Na malej sieti sa porovnajú empirické frekvencie s presnými pravdepodobnosťami a pri sekvenciách sa kontroluje log-vierohodnosť i rozmanitosť.

Na čo si dať pozor?

Nie je priamo použiteľné, ak podmienené rozdelenie nemožno efektívne vzorkovať; chyby v skorých krokoch sa v autoregresnej tvorbe kumulujú.