Slovník výrazov AI/MLOps a nasadenie

MLOps a nasadenie

tieňové nasadenie

Anglický výraz shadow deployment

pokročiléheslo č. 9835 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená tieňové nasadenie?

Tieňové nasadenie posiela kópiu produkčných vstupov novej verzii bez toho, aby jej výstup ovplyvnil používateľa alebo rozhodnutie. Umožňuje merať kompatibilitu, latenciu a rozdiely na reálnej prevádzke, no neoveruje účinok rozhodnutí novej verzie.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Nový detektor podvodov dostáva anonymizovanú kópiu požiadaviek a jeho výstupy sa ukladajú len na porovnanie. Tím sleduje odchýlky a výkon, ale blokovanie platieb naďalej riadi starý model.

Overiteľnosť

Odborné zdroje

  1. Sculley et al. - Hidden Technical Debt in Machine Learning Systemsresearch.google
  2. Kubernetes - Deploymentskubernetes.io

Praktické odpovede

Často kladené otázky

Ako funguje tieňové nasadenie?

Proxy asynchrónne zrkadlí vstup do tieňového backendu a oddelí jeho odpoveď od hlavnej cesty.

Kedy má tieňové nasadenie praktický význam?

Nový detektor podvodov dostáva anonymizovanú kópiu požiadaviek a jeho výstupy sa ukladajú len na porovnanie.

S čím si pojem nezamieňať?

Shadow meria kandidáta bez účinku; kanárik dovolí novej verzii reálne obsluhovať časť používateľov.

Ako sa výsledok kontroluje?

Kontroluje sa vernosť zrkadlenia, oneskorenie, výpadky tieňovej vetvy, rozdiely predikcií a nulový vplyv na hlavnú odpoveď.

Na čo si dať pozor?

Kopírovanie citlivých vstupov zväčšuje plochu spracovania a tieň nedokáže zmerať spätnú väzbu z vlastných akcií.