Pokročilé techniky promptovania: skladajte postupy podľa typu problému

Pokročilá technika má riešiť pomenované zlyhanie: retrieval chýbajúci fakt, nástroj výpočet, dekompozícia viac krokov a verifikátor kontrolu. Zložitosť si musí obhájiť evalom.

Pokročilé promptovanie nie je zbierka magických viet. Je to návrh postupu, v ktorom model niečo rozloží, vyhľadá, vypočíta, skontroluje alebo odovzdá ďalšej vrstve. Každá technika zvyšuje zložitosť, tokeny a počet miest, kde môže systém zlyhať. Má zmysel iba vtedy, ak oproti jednoduchému baseline prináša merateľné zlepšenie. Zložitú úlohu rozdeľte na časti, ktoré majú samostatný vstup, výstup a kontrolu. Pri tvorbe odborného článku môže ísť o výskumnú otázku, zber primárnych zdrojov, mapu tvrdení, osnovu, návrh a faktickú kontrolu. Dekompozícia pomáha, keď sa model v jednom výstupe snaží naraz hľadať, rozhodovať aj štylizovať. Nepomáha, ak sú kroky iba slovná výplň. Každý checkpoint má odhaliť konkrétnu chybu alebo vytvoriť použiteľný artefakt. Pri prompt chainingu sa výstup jedného kroku stáva vstupom ďalšieho. Výhodou je menší lokálny problém a možnosť validácie medzi krokmi. Nevýhodou je šírenie chyby. Bezpečný reťazec preto nepreberá voľný text automaticky. Medzivýstup má schému, zdroj a validačné pravidlo. Ak prvý krok nenájde dôkaz, ďalší nemá vytvoriť záver z prázdneho miesta. Jeden univerzálny prompt býva horší než niekoľko úzkych ciest.

Ťažisko tvoria časti „Dekompozícia: od veľkého cieľa k kontrolným bodom“, „Prompt chaining“ a „Routing: rôzne úlohy, rôzne cesty“. Nejde iba o vysvetlenie pojmov. Kapitola ich prepája s rozhodnutiami, príkladmi a hranicami, ktoré treba poznať pri reálnom použití.

Po prečítaní budete vedieť vybrať techniku podľa mechanizmu chyby a navrhnúť prompt chain s kontrolovanými medzivýstupmi. Praktickým výsledkom bude schopnosť porovnať routing, RAG, nástroje a riadené hľadanie s baseline.

Kapitola odpovedá aj na otázku „Kedy použiť prompt chaining?“ Keď má zložitá úloha prirodzené podkroky, medzi ktorými možno výstup validovať. Reťazec bez kontrol iba prenáša chybu ďalej.