Slovník výrazov AI/MLOps a nasadenie

MLOps a nasadenie

sledovanie experimentov

Anglický výraz experiment tracking

základnéheslo č. 9545 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená sledovanie experimentov?

Sledovanie experimentov je systematický záznam konfigurácie, kódu, dát, prostredia, metrík a artefaktov každého modelového behu. Umožňuje porovnať kandidátov a obnoviť podmienky výsledku; názov pokusu alebo screenshot grafu nie je dostatočný záznam.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Dátový vedec pri každom behu uloží commit kódu, ID datasetu, semeno, hyperparametre, validačné metriky podľa segmentov a cestu k modelu. Tím potom vie vysvetliť, prečo bol kandidát vybraný.

Overiteľnosť

Odborné zdroje

  1. MLflow - Experiment Trackingmlflow.org
  2. TensorFlow - ML Metadatatensorflow.org

Praktické odpovede

Často kladené otázky

Ako funguje sledovanie experimentov?

Klient posiela parametre a metriky pod jedinečný identifikátor behu a artefakty viaže na rovnaký kontext.

Kedy má sledovanie experimentov praktický význam?

Dátový vedec pri každom behu uloží commit kódu, ID datasetu, semeno, hyperparametre, validačné metriky podľa segmentov a cestu k modelu.

S čím si pojem nezamieňať?

Experiment tracking eviduje vývojové behy; produkčný monitoring sleduje správanie nasadeného systému v čase.

Ako sa výsledok kontroluje?

Skúša sa úplnosť povinných polí, väzba na nemenné verzie, obnovenie artefaktu a reprodukcia vybraného behu.

Na čo si dať pozor?

Automaticky zalogované metriky môžu byť neporovnateľné, ak sa zmenil dataset, kód výpočtu alebo cieľ.