Slovník výrazov AI/MLOps a nasadenie

MLOps a nasadenie

predikčná služba

Anglický výraz prediction service

pokročiléheslo č. 9725 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená predikčná služba?

Predikčná služba je prevádzkový komponent, ktorý poskytuje modelový výsledok spolu s validáciou vstupu, získaním príznakov, postprocessingom, politikami, auditom a fallbackom. Môže koordinovať viac modelov; jej kvalita sa preto nedá posúdiť iba offline metrikou jedného modelu.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Služba rizika načíta aktuálne príznaky, zavolá dva modely, uplatní regulačné pravidlá a pri neistote odovzdá prípad človeku. Výstup obsahuje rozhodnutie, dôvod, verzie a čas platnosti.

Overiteľnosť

Odborné zdroje

  1. TensorFlow - TensorFlow Serving architecturetensorflow.org
  2. Sculley et al. - Hidden Technical Debt in Machine Learning Systemsresearch.google

Praktické odpovede

Často kladené otázky

Ako funguje predikčná služba?

Orchestrácia požiadavky skladá príznaky, modelové výpočty a pravidlá do jedného zmluvného rozhrania.

Kedy má predikčná služba praktický význam?

Služba rizika načíta aktuálne príznaky, zavolá dva modely, uplatní regulačné pravidlá a pri neistote odovzdá prípad človeku.

S čím si pojem nezamieňať?

Model serving poskytuje výpočet modelu; predikčná služba vlastní end-to-end obchodnú odpoveď a jej prevádzku.

Ako sa výsledok kontroluje?

Meria sa správnosť celého rozhodnutia, dostupnosť, latencia, čerstvosť príznakov, fallbacky, verzovanie a auditná úplnosť.

Na čo si dať pozor?

Pravidlá po modeli alebo staré príznaky môžu zhoršiť výsledok, hoci samotná predikcia je správna.