Slovník výrazov AI/Generatívna AI

Generatívna AI

vzorkovanie

Anglický výraz sampling

pokročiléheslo č. 4225 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená vzorkovanie?

Vzorkovanie je postup, ktorý vyberá realizácie z pravdepodobnostného rozdelenia alebo z jeho aproximácie. V generatívnej AI premieňa naučené pravdepodobnosti na konkrétny výstup; môže byť priamy, sekvenčný, odmietací alebo založený na Markovovom reťazci. Kvalita vzorkovača určuje, či výsledky zodpovedajú cieľovému rozdeleniu.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Pri jazykovom modeli sa vyberá ďalší token, pri difúzii sa uskutočňuje trajektória od šumu a pri bayesovskej analýze sa približuje posterior. Nastavenie treba dokumentovať spolu so semenom, teplotou, počtom krokov a kritériom ukončenia. Hodnotí sa rozmanitosť aj stabilita súhrnov medzi nezávislými behmi.

Overiteľnosť

Odborné zdroje

  1. Deep Learning Book - pravdepodobnostné modelovaniedeeplearningbook.org
  2. Stan Reference Manual - MCMCmc-stan.org

Praktické odpovede

Často kladené otázky

Ako funguje vzorkovanie?

Algoritmus používa náhodné čísla a pravidlo prechodu alebo výberu tak, aby dlhodobo vytváral požadované frekvencie výsledkov.

Kedy má vzorkovanie praktický význam?

Pri jazykovom modeli sa vyberá ďalší token, pri difúzii sa uskutočňuje trajektória od šumu a pri bayesovskej analýze sa približuje posterior.

S čím si pojem nezamieňať?

Optimalizácia hľadá jeden najlepší bod, zatiaľ čo vzorkovanie zachytáva viac možných výsledkov a ich relatívnu pravdepodobnosť.

Ako sa výsledok kontroluje?

Overuje sa histogram či momenty na známych rozdeleniach, efektívna veľkosť vzorky, autokorelácia a reprodukcia pri pevnom semene.

Na čo si dať pozor?

Korelované alebo zle premiešané vzorky dávajú falošný pocit veľkého súboru; technické nastavenie môže potlačiť zriedkavé, no dôležité oblasti.