Slovník výrazov AI/MLOps a nasadenie

MLOps a nasadenie

nasadenie modelu

Anglický výraz model deployment

základnéheslo č. 9655 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená nasadenie modelu?

Nasadenie modelu je riadené sprístupnenie konkrétnej modelovej verzie v cieľovom prostredí spolu s runtime, konfiguráciou, transformáciami a politikou smerovania. Zahŕňa kontrolu pripravenosti, postupné vydanie, pozorovanie a možnosť návratu.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Tím nasadí model do stagingu, vykoná kontraktné a záťažové testy a potom presmeruje 5 % premávky. Pri prekročení chybovosti alebo latencie sa smerovanie automaticky vráti na starú verziu.

Overiteľnosť

Odborné zdroje

  1. Kubernetes - Deploymentskubernetes.io
  2. Google Cloud - MLOps: Continuous delivery and automation pipelines in MLcloud.google.com

Praktické odpovede

Často kladené otázky

Ako funguje nasadenie modelu?

Nasadenie vytvorí alebo aktualizuje runtime, načíta nemenný balík a nastaví smerovanie požiadaviek.

Kedy má nasadenie modelu praktický význam?

Tím nasadí model do stagingu, vykoná kontraktné a záťažové testy a potom presmeruje 5 % premávky.

S čím si pojem nezamieňať?

Nasadenie mení produkčné prostredie; model serving je trvalá schopnosť prijímať požiadavky a vracať predikcie.

Ako sa výsledok kontroluje?

Sleduje sa úspešnosť rollout-u, verzia a digest, health checks, latencia, chyby, modelové metriky a rollback.

Na čo si dať pozor?

Úspešný technický rollout nezaručuje správnosť predikcií ani vhodnosť modelu pre aktuálnu populáciu.