Presná definícia
Čo znamená model vnorení?
Model vnorení mapuje objekt, napríklad text alebo obraz, na pevne dlhý numerický vektor tak, aby zvolená geometria zachytávala vzťahy užitočné pre tréningovú úlohu. Vektory z rôznych checkpointov alebo priestorov nie sú automaticky porovnateľné. Kvalitu určuje doména, jazyk, pooling a tréningové páry.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Pred indexovaním slovenských dokumentov tím porovná modely na vlastnom súbore na hodnotenie relevantnosti, zvolí normalizáciu a zaznamená verziu. Dopyty a dokumenty kóduje kompatibilným režimom. Pri zmene modelu vytvorí nový index a neprepisuje staré vektory postupne v jednom priestore.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Ako funguje model vnorení?
Encoder transformuje vstupné tokeny a pooling vytvorí jeden alebo viac vektorov trénovaných kontrastnou či podobnostnou stratou.
Kedy má model vnorení praktický význam?
Pred indexovaním slovenských dokumentov tím porovná modely na vlastnom súbore na hodnotenie relevantnosti, zvolí normalizáciu a zaznamená verziu.
S čím si pojem nezamieňať?
Jazykový model predikuje alebo generuje tokeny; embedding model poskytuje reprezentáciu určenú na porovnanie či ďalší model.
Ako sa výsledok kontroluje?
Meria sa retrieval recall/nDCG, STS korelácia, výkon podľa jazyka, dĺžky a domény, rýchlosť a rozmer.
Na čo si dať pozor?
Vysoké benchmarkové skóre sa nemusí preniesť na interné termíny a vektory môžu zakódovať citlivé či nežiaduce asociácie.