Presná definícia
Čo znamená odmietnutie modelu?
Odmietnutie modelu je odpoveď, ktorou systém nevyhovie požiadavke, pretože je mimo pravidiel, oprávnení, dostupných dôkazov alebo schopností. Kvalitné odmietnutie je primerané, stručné a podľa situácie ponúkne bezpečný či uskutočniteľný smer. Nie každé „neviem“ je bezpečnostné odmietnutie.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Asistent odmietne neoprávnený zápis alebo požiadavku bez potrebných dôkazov a vysvetlí, čo môže urobiť namiesto nej. Tím testuje nielen rizikové vstupy, ale aj podobné legitímne otázky, aby znížil over-refusal. Pri nástrojoch odmietnutie vzniká aj z reálneho stavu autorizácie, nie iba z textovej politiky.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Ako funguje odmietnutie modelu?
Model alebo aplikačná brána klasifikuje požiadavku a zvolí odmietaciu odpoveď či abstinovanie podľa pravidla a neistoty.
Kedy má odmietnutie modelu praktický význam?
Asistent odmietne neoprávnený zápis alebo požiadavku bez potrebných dôkazov a vysvetlí, čo môže urobiť namiesto nej.
S čím si pojem nezamieňať?
Guardrail prompt môže správanie usmerniť; refusal je konkrétny výsledok rozhodnutia v jednom prípade.
Ako sa výsledok kontroluje?
Hodnotí sa recall správnych odmietnutí, miera falošných odmietnutí, konzistentnosť, vysvetlenie a bezpečnosť alternatívy.
Na čo si dať pozor?
Nadmerné odmietanie znižuje prístup k legitímnej pomoci, kým príliš všeobecné ospravedlnenie môže byť nejasné alebo nekonzistentné.