Presná definícia
Čo znamená útok nepriamou injekciou?
Útok nepriamou injekciou nastáva, keď model načíta škodlivé pokyny z externého obsahu, ktorý používateľ priamo nenapísal, napríklad z webu, e-mailu alebo dokumentu. Riziko rastie, ak model môže podľa obsahu vykonať nástrojovú akciu.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Agent pri sumarizácii stránky ignoruje vložené pokyny a extrahuje iba požadované údaje. Nástrojová vrstva používa allowlist cieľov, minimálne oprávnenia a nezávislé potvrdenie pred odoslaním alebo zmenou dát.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Čo presne znamená útok nepriamou injekciou?
Útok nepriamou injekciou nastáva, keď model načíta škodlivé pokyny z externého obsahu, ktorý používateľ priamo nenapísal, napríklad z webu, e-mailu alebo dokumentu.
Kedy sa útok nepriamou injekciou používa?
Agent pri sumarizácii stránky ignoruje vložené pokyny a extrahuje iba požadované údaje.
Od čoho treba útok nepriamou injekciou odlíšiť?
Priama prompt injection prichádza v používateľskom vstupe; nepriama sa prenesie cez načítaný zdroj alebo výsledok nástroja.
Ako sa útok nepriamou injekciou kontroluje?
Testuje sa obsah vo všetkých konektoroch, skrytý text, viac krokov, citlivé akcie, oddelenie pôvodu a používateľské potvrdenie.
Aké obmedzenie má útok nepriamou injekciou?
Dokument môže zostať neškodný pre človeka, ale obsahovať text, ktorý model mylne interpretuje ako dôveryhodnú inštrukciu.