Presná definícia
Čo znamená vloženie kontextu?
Vloženie kontextu je programové doplnenie relevantných údajov - napríklad výsledkov vyhľadávania, profilu úlohy alebo stavu - do promptu pred volaním modelu. Od prompt injection sa líši účelom: je to legitímny dátový tok. Vložený obsah však môže byť nedôveryhodný a musí mať pôvod, hranice a správnu autoritu.
Skúsenosť a kontext
Ako sa pojem používa v praxi
RAG systém vloží tri nájdené odseky s URL, dátumom a označením „zdrojové dáta“. Aplikácia odstráni nepotrebné osobné údaje, limituje dĺžku a nedovolí textu meniť oprávnenia nástrojov. Eval meria kvalitu retrievalu, podporu odpovede aj útoky ukryté v dokumentoch.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Ako funguje vloženie kontextu?
Orchestrátor vyberie dáta, serializuje ich do oddelenej časti kontextu a pridá metadáta potrebné na citovanie a filtrovanie.
Kedy má vloženie kontextu praktický význam?
RAG systém vloží tri nájdené odseky s URL, dátumom a označením „zdrojové dáta“.
S čím si pojem nezamieňať?
Prompt injection je pokus presadiť cudzie pokyny; context injection je riadené pridanie dát, ktoré môže útok neúmyselne preniesť.
Ako sa výsledok kontroluje?
Kontroluje sa relevance, provenance, úplnosť, tokenový rozpočet, citácie a správanie pri škodlivom texte v zdroji.
Na čo si dať pozor?
Zastaraný alebo kontaminovaný zdroj zvedie model a nadbytočný kontext vytlačí dôležité pokyny či zvýši únik citlivých dát.