Presná definícia
Čo znamená ukotvenie v zdrojoch?
Ukotvenie v zdrojoch je vlastnosť odpovede, ktorej tvrdenia sú obmedzené a podporené poskytnutými dátami, dokumentmi alebo pozorovaním. Grounding je vzťah výstupu k dôkazu, nie všeobecná pravdivosť zdroja. Odpoveď môže byť verná chybnému dokumentu, preto sa hodnotí aj kvalita podkladu.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Asistent dostane platnú smernicu a pri každom faktickom tvrdení uchová podporujúci úsek. Ak zdroje konfliktujú, uvedie rozdiel a dátum namiesto syntézy do jedného faktu. Eval rozkladá odpoveď na tvrdenia a kontroluje entailment, pokrytie aj absenciu nepodložených doplnkov.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Ako funguje ukotvenie v zdrojoch?
Retriever dodá kontext a generátor je promptom, tréningom alebo verifikátorom vedený k používaniu iba podporených informácií.
Kedy má ukotvenie v zdrojoch praktický význam?
Asistent dostane platnú smernicu a pri každom faktickom tvrdení uchová podporujúci úsek.
S čím si pojem nezamieňať?
Citácia ukazuje na zdroj; grounding vyžaduje, aby obsah zdroja skutočne podporoval konkrétne tvrdenie.
Ako sa výsledok kontroluje?
Hodnotí sa claim-level entailment, coverage, správna abstinencia, kvalita zdrojov a ľudský audit kritických tvrdení.
Na čo si dať pozor?
Model môže citovať relevantný dokument, ktorý však danú vetu nepodporuje, alebo prehliadnuť podmienku uvedenú inde.