Slovník výrazov AI/Veľké jazykové modely

Veľké jazykové modely

ukončovacia sekvencia

Anglický výraz stop sequence

pokročiléheslo č. 4855 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená ukončovacia sekvencia?

Ukončovacia sekvencia je vopred určený textový alebo tokenový vzor, pri ktorého vytvorení dekodér zastaví ďalšie generovanie. Rozhrania sa líšia v tom, či ju vrátia vo výstupe, ako riešia viac vzorov a či porovnávajú text alebo tokeny. Nie je totožná s naučeným tokenom konca sekvencie.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Používa sa na oddelenie záznamov, ukončenie odpovede pred ďalšou šablónou a obmedzenie agentového protokolu. Vzor sa vyberá tak, aby sa bežne nevyskytoval v obsahu, a testuje sa jeho tokenizácia, prekrytie a streamovanie po častiach. Na bezpečné parsovanie sa aj tak používa validátor štruktúry.

Overiteľnosť

Odborné zdroje

  1. OpenAI API - parametre generovania odpovedeplatform.openai.com
  2. Transformers - generation strategies and parametershuggingface.co

Praktické odpovede

Často kladené otázky

Ako funguje ukončovacia sekvencia?

Po pridaní nových tokenov dekodér alebo klient priebežne porovnáva koniec bufferu so zoznamom stop vzorov a pri zhode ukončí slučku.

Kedy má ukončovacia sekvencia praktický význam?

Používa sa na oddelenie záznamov, ukončenie odpovede pred ďalšou šablónou a obmedzenie agentového protokolu.

S čím si pojem nezamieňať?

Maximálny počet výstupných tokenov je tvrdý dĺžkový strop; stop sequence je obsahová podmienka, ktorá môže ukončiť výstup skôr.

Ako sa výsledok kontroluje?

Kontroluje sa presná zhoda vrátane medzier, viac-tokenové hranice, streamované kúsky, prítomnosť vzoru v odpovedi a dôvod ukončenia.

Na čo si dať pozor?

Príliš bežný vzor predčasne odreže obsah, neobvyklá tokenizácia ho nemusí zachytiť a používateľský vstup môže narušiť naivný protokol.