Presná definícia
Čo znamená kompresia kontextu?
Kompresia kontextu zmenšuje množstvo textu posielaného modelu pri zachovaní informácií potrebných pre aktuálnu úlohu. Používa výber, sumarizáciu, deduplikáciu alebo štruktúrovanú pamäť. Je stratová, ak odstráni výnimku, zdroj alebo presné znenie, preto musí byť cieľovo a dôkazovo hodnotená.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Dlhý rozhovor sa prevedie na stav s potvrdenými rozhodnutiami, otvorenými otázkami a citáciami; posledné ťahy zostanú doslovne. Pred kompresiou sa chránia právne podmienky, čísla a používateľské opravy. Eval znovu prehrá úlohy s plným a komprimovaným kontextom a porovná chyby i úsporu tokenov.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Ako funguje kompresia kontextu?
Algoritmus ohodnotí relevanciu segmentov a vytvorí kratšiu extraktívnu alebo abstraktívnu reprezentáciu pod stanoveným rozpočtom.
Kedy má kompresia kontextu praktický význam?
Dlhý rozhovor sa prevedie na stav s potvrdenými rozhodnutiami, otvorenými otázkami a citáciami; posledné ťahy zostanú doslovne.
S čím si pojem nezamieňať?
Správa kontextu riadi celý životný cyklus; kompresia je konkrétny zásah na zníženie jeho dĺžky.
Ako sa výsledok kontroluje?
Meria sa zachovanie kľúčových faktov, task success, citácie, tokenová úspora a regresie na dlhých závislostiach.
Na čo si dať pozor?
Súhrn môže zmeniť význam alebo zabudnúť výnimku a opakovaná kompresia postupne akumuluje skreslenie.