Kontextové zadania: ako modelu dodať správne informácie bez informačného smogu

Kontext engineering riadi všetky informácie, ktoré model dostane: pravidlá, históriu, dokumenty, príklady, nástroje aj stav. Cieľom nie je maximum textu, ale minimum vysoko relevantných dôkazov.

Prompt nie je iba posledná veta, ktorú používateľ napíše do chatu. Odpoveď môže ovplyvňovať systémová inštrukcia, história rozhovoru, priložené dokumenty, výsledky vyhľadávania, definície nástrojov, používateľské nastavenia aj aktuálny dátum. Kontextové zadanie navrhuje celý tento informačný priestor. Tieto vrstvy nemajú rovnakú autoritu. Text webovej stránky nemôže zrušiť bezpečnostné pravidlo. Staršia poznámka nemôže prebiť novšie schválené rozhodnutie. Hierarchiu musí presadzovať aplikácia, nielen formulácia promptu. Dokument môže byť tematicky podobný a zároveň zastaraný. Aktuálny blog môže byť zasa neautoritatívny. Do kontextu preto pridajte metadáta: názov, vlastník, dátum účinnosti, jurisdikcia a identifikátor verzie. Veľké kontextové okno nie je dôvod vložiť všetko. Nadbytočný text zvyšuje náklady, spomaľuje odpoveď a vytvára viac miest, kde sa model môže zachytiť nesprávneho detailu. Anthropic pre agentické systémy opisuje cieľ ako hľadanie najmenšej sady vysoko informačných tokenov, ktoré podporujú želané správanie. Ak sa kontext nezmestí, nezrezávajte náhodne koniec. Zhrňte starú históriu, vyhľadajte menší počet pasáží alebo rozdeľte úlohu na kroky. Značky pomáhajú so štruktúrou, ale nie sú bezpečnostnou bariérou. Útočný dokument môže model presviedčať, aby pravidlá ignoroval.

Ťažisko tvoria časti „Z čoho sa skladá kontext“, „Relevantnosť, dôveryhodnosť a aktuálnosť“ a „Kontextový rozpočet“. Nejde iba o vysvetlenie pojmov. Kapitola ich prepája s rozhodnutiami, príkladmi a hranicami, ktoré treba poznať pri reálnom použití.

Po prečítaní budete vedieť navrhnúť hierarchiu pravidiel, dát a zdrojov a pracovať s pôvodom, aktuálnosťou a konfliktom dokumentov. Praktickým výsledkom bude schopnosť merať retrieval, uzemnenie, citácie a bezpečnosť oddelene.

Kapitola odpovedá aj na otázku „Čím viac kontextu, tým lepšia odpoveď?“ Nie. Nadbytočný text zvyšuje náklady a šum. Vyberajte najmenšiu sadu podkladov, ktorá pokrýva úlohu a umožňuje overenie.