Promptovanie

dekódovanie obmedzené gramatikou

Anglický výraz grammar-constrained generation

pokročiléheslo č. 5845 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená dekódovanie obmedzené gramatikou?

Dekódovanie obmedzené gramatikou je druh obmedzeného dekódovania, pri ktorom formálna gramatika - napríklad regulárna, bezkontextová alebo odvodená z JSON Schema - určuje povolené výstupné postupnosti. Dekodér priebežne sleduje stav parsera. Gramatická platnosť neznamená sémantickú správnosť ani bezpečnosť.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Sémantický parser generuje iba dotazy z povolenej gramatiky, potom samostatná vrstva overí tabuľky, typy, náklady a oprávnenia. Gramatika sa testuje generovaním platných aj neplatných prípadov a pri zmene verzuje. Chybový stav musí viesť k abstinovaniu, nie k obchádzaniu obmedzenia voľným textom.

Overiteľnosť

Odborné zdroje

  1. JSON Schema - specificationjson-schema.org
  2. OpenAI - Function calling and Structured Outputsplatform.openai.com

Praktické odpovede

Často kladené otázky

Ako funguje dekódovanie obmedzené gramatikou?

Inkrementálny parser vypočíta tokeny kompatibilné s aspoň jedným dokončením gramatiky a ostatné pri vzorkovaní zamaskuje.

Kedy má dekódovanie obmedzené gramatikou praktický význam?

Sémantický parser generuje iba dotazy z povolenej gramatiky, potom samostatná vrstva overí tabuľky, typy, náklady a oprávnenia.

S čím si pojem nezamieňať?

Obmedzené dekódovanie je širšie a môže používať zoznam či regulárny výraz; grammar-constrained používa explicitnú formálnu gramatiku.

Ako sa výsledok kontroluje?

Meria sa syntaktická validita, úplnosť jazyka, dead-end prípady, latencia a samostatná sémantická presnosť.

Na čo si dať pozor?

Neúplná gramatika blokuje legitímne prípady a príliš široká povoľuje nebezpečné kombinácie, ktoré musí zachytiť autorizácia.