Few-shot prompting: keď je dobrý príklad presnejší než ďalšie pravidlo

Few-shot príklady sú dočasné demonštrácie v kontexte, nie tréning modelu. Fungujú ako malá dátová sada a prenášajú zamýšľané pravidlá aj vlastné chyby.

Few-shot prompting znamená, že modelu pred riešením novej úlohy ukážete niekoľko dvojíc vstup - správny výstup. Model sa počas toho nepretrénuje a jeho parametre sa nezmenia. Príklady fungujú ako dočasné demonštrácie v kontexte: ukazujú, čo v tejto úlohe považujete za správny výsledok. V kontexte môže model odvodiť viac vecí naraz: význam štítkov, poradie polí, požadovaný tón, mieru detailu, spôsob riešenia hraničných prípadov aj pravidlo, ktoré ste výslovne nenapísali. To je sila aj riziko few-shot promptingu. Príklad odovzdáva nielen to, čo ste zamýšľali, ale aj svoje náhodné vlastnosti. Ak všetky ukážky zákazníckych odpovedí začínajú slovom „Samozrejme“, model môže tento zvyk prebrať. Ak sa v ukážkach pri nejasnom vstupe vždy háda, model sa môže naučiť hádať. Demonštrácie preto treba posudzovať ako dátový súbor v malom, nie ako dekoráciu promptu. Najprv vytvorte jednoduchý zero-shot baseline. Moderný model môže jasnú úlohu zvládnuť bez ukážok, čo šetrí tokeny aj údržbu. Príklady pridajte, keď potrebujete: Ak je problémom chýbajúci fakt, nejasná politika alebo nepodporovaný nástroj, viac príkladov ho nevyrieši. Vtedy treba doplniť zdroj, pravidlo alebo funkciu.

Ťažisko tvoria časti „Čo sa model z príkladov skutočne učí“, „Kedy začať bez príkladov“ a „Anatómia čitateľnej demonštrácie“. Nejde iba o vysvetlenie pojmov. Kapitola ich prepája s rozhodnutiami, príkladmi a hranicami, ktoré treba poznať pri reálnom použití.

Po prečítaní budete vedieť rozlíšiť zero-shot, one-shot a few-shot zadanie a vybrať typické, hraničné a negatívne demonštrácie. Praktickým výsledkom bude schopnosť otestovať citlivosť na poradie a formát príkladov.

Kapitola odpovedá aj na otázku „Koľko príkladov je pri few-shot promptingu potrebných?“ Najmenší počet, ktorý merateľne zlepší výsledok. Začnite zero-shot baseline a pridávajte reprezentatívne príklady podľa pozorovaných zlyhaní.