Slovník výrazov AI/Veľké jazykové modely

Veľké jazykové modely

lúčové vyhľadávanie

Anglický výraz beam search

pokročiléheslo č. 4825 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená lúčové vyhľadávanie?

Lúčové vyhľadávanie je heuristické dekódovanie, ktoré v každom kroku udržiava b najlepších čiastočných sekvencií podľa kumulatívneho skóre a rozširuje ich ďalšími tokenmi. Nehľadá všetky možnosti, preto negarantuje globálne optimum; výsledok výrazne ovplyvňuje šírka lúča, normalizácia dĺžky a podmienka ukončenia.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Používa sa v preklade, prepisovaní a úlohách s užším správnym výstupom. Vývojár ladí beam size a length penalty na úlohovom evale a porovnáva s greedy aj vzorkovaním. Implementácia musí správne uchovávať hotové hypotézy a nerozširovať ich na úkor lepších neukončených možností.

Overiteľnosť

Odborné zdroje

  1. When to Finish? Optimal Beam Search for Neural Text Generationaclanthology.org
  2. Attention Is All You Needarxiv.org

Praktické odpovede

Často kladené otázky

Ako funguje lúčové vyhľadávanie?

Všetky b hypotézy vytvoria kandidátov pre ďalší token, skóre sa sčítajú a do ďalšieho kroku prejde najlepších b sekvencií.

Kedy má lúčové vyhľadávanie praktický význam?

Používa sa v preklade, prepisovaní a úlohách s užším správnym výstupom.

S čím si pojem nezamieňať?

Greedy decoding ponechá iba jednu hypotézu; beam search udržiava viac vetiev, ale na rozdiel od sampling je zvyčajne deterministický.

Ako sa výsledok kontroluje?

Meria sa úlohová kvalita, skóre a dĺžka hotových hypotéz, čas a pamäť podľa b a zhoda s referenčným malým exhaustive search.

Na čo si dať pozor?

Širší lúč môže zhoršiť prirodzenosť, uprednostniť krátke texty alebo zvýšiť cenu bez zisku; chybný stop rule vráti suboptimálny výsledok.