Promptovanie

hierarchia pokynov

Anglický výraz instruction hierarchy

základnéheslo č. 5695 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená hierarchia pokynov?

Hierarchia pokynov je pravidlo, podľa ktorého model alebo aplikácia rieši konflikty medzi pokynmi rôzneho pôvodu a autority. Typicky uprednostňuje systémové a vývojárske pravidlá pred používateľskými požiadavkami a nedôveryhodným obsahom. Časová následnosť sama neurčuje prioritu a text v dokumente sa nemá povýšiť na pokyn.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Agent pri čítaní webu označí obsah stránky ako dáta, takže veta na stránke nemôže zmeniť oprávnenia. Konfliktný používateľský cieľ sa splní iba v povolenom rozsahu a dôvod obmedzenia sa vysvetlí. Testy kombinujú viac úrovní, nepriame injection a legitímne výnimky; citlivé akcie vyžadujú serverovú autorizáciu.

Overiteľnosť

Odborné zdroje

  1. OpenAI - The Instruction Hierarchyopenai.com
  2. OpenAI Model Spec - chain of commandmodel-spec.openai.com

Praktické odpovede

Často kladené otázky

Ako funguje hierarchia pokynov?

Runtime zachová metadáta rolí a model bol trénovaný vyberať inštrukciu vyššej autority pri zistenom konflikte.

Kedy má hierarchia pokynov praktický význam?

Agent pri čítaní webu označí obsah stránky ako dáta, takže veta na stránke nemôže zmeniť oprávnenia.

S čím si pojem nezamieňať?

Poradie správ je technická postupnosť; hierarchia určuje normatívnu prednosť podľa zdroja, nie podľa toho, čo prišlo posledné.

Ako sa výsledok kontroluje?

Overuje sa presná sada konfliktových scenárov, odolnosť voči vloženému textu a správne splnenie neprotirečivých pokynov.

Na čo si dať pozor?

Model nemusí konflikt rozpoznať a obsah môže predstierať vyššiu rolu; hierarchia bez izolácie nástrojov nie je bezpečnostná hranica.