Presná definícia
Čo znamená ladenie promptu?
Ladenie promptu je parameter-úsporná adaptácia, pri ktorej sa pri vstupe učí malá množina spojitých vektorov - mäkký prompt - zatiaľ čo parametre predtrénovaného modelu zostávajú zmrazené. Naučené vektory nemusia zodpovedať čitateľným tokenom. Metóda sa líši od ručného promptovania aj od dolaďovania celého modelu a jej účinnosť rastie s mierkou modelu a podobnosťou úlohy.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Pre každú textovú úlohu sa vytvorí vlastný mäkký prompt a rovnaký zmrazený jazykový model. Počet virtuálnych tokenov, inicializácia a formát cieľa sa ladia na validácii. Ukladajú sa iba vektory promptu a identifikátor základného checkpointu, čo uľahčuje distribúciu viacerých úloh. Test musí porovnať ručný prompt, lineárnu hlavu, adaptér a plné dolaďovanie pri rovnakej sade príkladov.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Sú mäkké promptové tokeny čitateľné slová?
Nie, sú to priamo učené vektory.
Menia sa váhy základného modelu?
Pri čistom prompt tuningu zostávajú zmrazené.
Koľko parametrov sa učí?
Počet virtuálnych tokenov krát rozmer vnorovania, prípadne výstupná hlava.
Je jeden prompt univerzálny?
Zvyčajne sa učí osobitne pre konkrétnu úlohu.
Čo treba uložiť?
Prompt, checkpoint, tokenizer a presný formát vstupu i cieľa.