Slovník výrazov AI/MLOps a nasadenie

MLOps a nasadenie

konverzia modelu

Anglický výraz model conversion

pokročiléheslo č. 9785 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená konverzia modelu?

Konverzia modelu prepisuje model z jedného formátu alebo sady operátorov do inej pri zachovaní zamýšľanej predikčnej funkcie. Môže meniť graf, typy a numerickú presnosť, preto sa musí overiť na reprezentatívnych aj hraničných vstupoch.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Tím prevedie model do ONNX pre edge runtime. Automatický konvertor nahradí nepodporovanú operáciu; pred vydaním sa porovnajú logity, finálne triedy, latencia a pamäť na cieľovom zariadení.

Overiteľnosť

Odborné zdroje

  1. ONNX - Introduction to ONNXonnx.ai
  2. ONNX - Intermediate Representation specificationonnx.ai

Praktické odpovede

Často kladené otázky

Ako funguje konverzia modelu?

Konvertor mapuje uzly a váhy na cieľové operátory, prípadne graf zjednoduší alebo vloží náhradnú implementáciu.

Kedy má konverzia modelu praktický význam?

Tím prevedie model do ONNX pre edge runtime.

S čím si pojem nezamieňať?

Konverzia mení reprezentáciu či runtime; kompresia cielene znižuje veľkosť alebo výpočtovú náročnosť.

Ako sa výsledok kontroluje?

Meria sa maximálna a distribučná odchýlka výstupov, zhoda rozhodnutí, pokrytie operátorov, výkon a stabilita.

Na čo si dať pozor?

Tolerovaná malá numerická chyba môže pri prahu zmeniť veľa binárnych rozhodnutí.