Presná definícia
Čo znamená priepustnosť?
Priepustnosť je počet úspešne spracovaných jednotiek za čas pri definovanej veľkosti a kvalite služby, napríklad predikcií za sekundu. Musí sa uvádzať spolu s latenciou, chybovosťou, dávkou a hardvérom, pretože maximálny počet pokusov môže rásť aj za cenu timeoutov.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Tím meria predikcie za sekundu pri p99 pod 250 ms a chybovosti pod 0,1 %. Zvyšuje súbežnosť a batching, kým niektorá z ochranných hraníc prestane platiť.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Ako funguje priepustnosť?
Záťažový test generuje kontrolovaný tok a počíta úspešne dokončené jednotky v ustálenom intervale.
Kedy má priepustnosť praktický význam?
Tím meria predikcie za sekundu pri p99 pod 250 ms a chybovosti pod 0,1 %.
S čím si pojem nezamieňať?
Priepustnosť meria objem za čas; latencia meria čas jednej požiadavky a obe veličiny sa pri zaťažení ovplyvňujú.
Ako sa výsledok kontroluje?
Uvádza sa ustálený objem, percentily latencie, chyby, využitie CPU/GPU, veľkosť dávky a podmienky testu.
Na čo si dať pozor?
Jedno maximum z krátkeho testu môže ignorovať zahrievanie, throttling, fronty a degradáciu pri dlhšej prevádzke.