Presná definícia
Čo znamená mäkký prompt?
Mäkký prompt je krátka sekvencia trénovateľných spojitých vektorov vložených do vstupu zamrznutého modelu. Nezodpovedá čitateľným slovám; optimalizuje sa gradientom na konkrétnej úlohe a ukladá len malý počet parametrov. Jeho účinok je viazaný na model, tokenizačné rozhranie a miesto vloženia.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Organizácia môže pre každú klasifikačnú úlohu natrénovať samostatný mäkký prompt bez kopírovania celého modelu. Uchová jeho váhy, základný checkpoint, seed a tréningové dáta. Pred nasadením overí prenos medzi verziami modelu, výkon na nezadržaných prípadoch a či malý adaptér neobsahuje naučené citlivé vzory.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Ako funguje mäkký prompt?
Gradientný zostup upravuje virtuálne embeddingy tak, aby s fixnými parametrami modelu minimalizovali úlohovú stratu.
Kedy má mäkký prompt praktický význam?
Organizácia môže pre každú klasifikačnú úlohu natrénovať samostatný mäkký prompt bez kopírovania celého modelu.
S čím si pojem nezamieňať?
Tvrdý prompt tvorí diskrétny čitateľný text; mäkký prompt sú naučené vektory, ktoré nemožno priamo interpretovať ako vetu.
Ako sa výsledok kontroluje?
Porovnáva sa s plným dolaďovaním a tvrdým promptom, meria sa stabilita seedov, dátová efektívnosť a kompatibilita checkpointu.
Na čo si dať pozor?
Vektory sú ťažko auditovateľné, neprenášajú sa medzi modelmi a pri malej sade môžu memorovať alebo preučiť úlohu.