Presná definícia
Čo znamená jadrové vzorkovanie?
Jadrové vzorkovanie je pôvodné pomenovanie stratégie top-p: v každom kroku vytvorí dynamické jadro najpravdepodobnejších tokenov, ktorých kumulatívna pravdepodobnosť dosiahne prah p, a vzorkuje iba z neho. Cieľom je odstrániť nespoľahlivý chvost rozdelenia bez pevného počtu kandidátov.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Používa sa na otvorené textové generovanie, kde sa neistota mení token po tokene. V evale sa zaznamenáva priemerná aj extrémna veľkosť jadra a porovnáva koherencia, rozmanitosť a opakovanie pri viacerých p. Produkcia musí uviesť aj teplotu, semeno a poradie filtrov, pretože názov nucleus neurčuje celý dekódovací recept.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Ako funguje jadrové vzorkovanie?
Tokeny sa zoradia, vezme sa najmenší prefix kumulatívnej hmotnosti aspoň p, pravdepodobnosti sa renormalizujú a vykoná náhodný výber.
Kedy má jadrové vzorkovanie praktický význam?
Používa sa na otvorené textové generovanie, kde sa neistota mení token po tokene.
S čím si pojem nezamieňať?
Jadrové vzorkovanie a top-p sú ten istý princíp; top-k sa líši tým, že kandidátnu množinu určuje pevným počtom.
Ako sa výsledok kontroluje?
Kontroluje sa implementačná zhoda s top-p, veľkosť jadra, entropia, stabilita dlhého textu a citlivosť na prah.
Na čo si dať pozor?
Nesprávne vynechanie tokenu prekračujúceho prah môže vytvoriť prázdne alebo príliš úzke jadro; nízke p potláča potrebné alternatívy.