Slovník výrazov AI/RAG a vyhľadávanie

RAG a vyhľadávanie

veľkosť segmentu

Anglický výraz chunk size

pokročiléheslo č. 6215 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená veľkosť segmentu?

Veľkosť segmentu je cieľový alebo maximálny rozsah jednej indexovanej jednotky, meraný tokenmi, znakmi, vetami alebo štruktúrnymi blokmi. Ovplyvňuje granularitu retrievalu, kvalitu embeddingu a množstvo kontextu pre generátor. Optimálna hodnota je závislá od dokumentov, otázok a modelového okna.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Tím otestuje napríklad malé, stredné a štruktúrne segmenty pri rovnakom retrieveli. Sleduje, či odpoveď vyžaduje celý postup alebo jedinú vetu, a započítava nadpisy a metadáta do tokenového rozpočtu. Nastavenie sa verzuje s indexom; zmena veľkosti vyžaduje reindexáciu.

Overiteľnosť

Odborné zdroje

  1. Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasksarxiv.org
  2. Lost in the Middle: How Language Models Use Long Contextsaclanthology.org

Praktické odpovede

Často kladené otázky

Ako funguje veľkosť segmentu?

Chunker akumuluje jednotky do limitu a pri prekročení ukončí segment na najbližšej povolenej hranici.

Kedy má veľkosť segmentu praktický význam?

Tím otestuje napríklad malé, stredné a štruktúrne segmenty pri rovnakom retrieveli.

S čím si pojem nezamieňať?

Context window je maximálna kapacita modelu; chunk size je návrhová voľba jednej retrieval jednotky.

Ako sa výsledok kontroluje?

Porovnáva sa recall@k, faithfulness, počet tokenov, redundancia a výkon podľa typu dokumentu a otázky.

Na čo si dať pozor?

Jedna globálna hodnota nevyhovuje kódu, tabuľke aj próze a meranie znakmi nezodpovedá vždy tokenom.