Slovník výrazov AI/MLOps a nasadenie

MLOps a nasadenie

ONNX

Anglický výraz ONNX

pokročiléheslo č. 9775 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená ONNX?

ONNX je otvorená medzireprezentácia modelov, ktorá opisuje výpočtový graf, štandardné operátory, typy, inicializátory a metadáta pomocou verziovaného formátu. Uľahčuje prenos medzi frameworkmi a runtime, ale kompatibilita závisí od IR, opsetu a podpory konkrétnych operátorov.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Model natrénovaný v jednom frameworku sa exportuje do ONNX a spustí v cieľovom runtime. Tím overí model checkerom, porovná numerické výstupy na referenčnej sade a záťažovo otestuje cieľový hardvér.

Overiteľnosť

Odborné zdroje

  1. ONNX - Introduction to ONNXonnx.ai
  2. ONNX - Intermediate Representation specificationonnx.ai

Praktické odpovede

Často kladené otázky

Ako funguje ONNX?

Exporter prevedie operácie do ONNX grafu a runtime vykoná uzly podľa deklarovaného opsetu.

Kedy má ONNX praktický význam?

Model natrénovaný v jednom frameworku sa exportuje do ONNX a spustí v cieľovom runtime.

S čím si pojem nezamieňať?

ONNX nie je univerzálny serving server; je to formát a medzireprezentácia, ktorú musí podporovať konkrétny runtime.

Ako sa výsledok kontroluje?

Overuje sa validita grafu, opset, tvary a typy, podpora vlastných operátorov, numerická tolerancia a výkon.

Na čo si dať pozor?

Konverzia môže zmeniť operáciu alebo presnosť a úspešné načítanie ešte nepotvrdzuje rovnaké predikcie.