Presná definícia
Čo znamená generovanie podporené vyhľadávaním?
Generovanie podporené vyhľadávaním (RAG) kombinuje generatívny model s externým vyhľadaním podkladov. Retriever pred odpoveďou vyberie relevantné dokumenty alebo segmenty a model z nich zostaví výstup. Znalosti preto nemusia byť iba vo váhach, no prítomnosť zdroja ešte nezaručuje, že ho odpoveď správne použije.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Interný asistent najprv vyhľadá platnú smernicu, vloží jej označené úseky do kontextu a odpovie s citáciami. Tím oddelene meria záchyt vyhľadávania, podporu tvrdení a úplnosť odpovede. Pri chýbajúcom dôkaze systém abstinuje; oprávnenia sa uplatnia už pri retrieveli, nie až po vygenerovaní textu.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Ako funguje generovanie podporené vyhľadávaním?
Dopyt sa zakóduje, index vráti kandidátne podklady a generátor podmieni ďalšie tokeny otázkou aj získaným kontextom.
Kedy má generovanie podporené vyhľadávaním praktický význam?
Interný asistent najprv vyhľadá platnú smernicu, vloží jej označené úseky do kontextu a odpovie s citáciami.
S čím si pojem nezamieňať?
Dolaďovanie mení parametre modelu; RAG prináša informácie pri každom behu bez nutnosti pretrénovania.
Ako sa výsledok kontroluje?
Kontroluje sa retrieval recall, relevancia top-k, podporovanosť každej odpovede, kvalita citácií a abstinovanie.
Na čo si dať pozor?
Slabý retrieval vynechá dôkaz a model môže zdroj ignorovať, nesprávne zlúčiť alebo plynulo doplniť nepodložený fakt.