Slovník výrazov AI/Hardvér a efektívny výpočet

Hardvér a efektívny výpočet

kompilátor grafu

Anglický výraz graph compiler

pokročiléheslo č. 14375 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená kompilátor grafu?

Kompilátor grafu analyzuje výpočtový graf modelu a prevádza ho cez optimalizačné medzireprezentácie na kód pre CPU, GPU alebo akcelerátor. Globálne rozhoduje o fúziách, layoutoch, bufferoch a plánovaní operácií.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Tím inspectuje StableHLO pred a po optimalizácii, sleduje fusion groups a testuje rovnaký graph na viacerých backendových konfiguráciách.

Overiteľnosť

Odborné zdroje

  1. OpenXLA - XLA architectureopenxla.org
  2. OpenXLA - XLA:GPU architecture overviewopenxla.org

Praktické odpovede

Často kladené otázky

Čo presne znamená kompilátor grafu?

Kompilátor grafu analyzuje výpočtový graf modelu a prevádza ho cez optimalizačné medzireprezentácie na kód pre CPU, GPU alebo akcelerátor.

Kedy sa kompilátor grafu používa?

Tím inspectuje StableHLO pred a po optimalizácii, sleduje fusion groups a testuje rovnaký graph na viacerých backendových konfiguráciách.

Od čoho treba kompilátor grafu odlíšiť?

Inference compiler je použitie zamerané na nasadenie. Graph compiler je všeobecná architektúra kompilácie grafových výpočtov.

Ako sa kompilátor grafu kontroluje?

Kontroluje sa IR verzia, graph rewrites, shape inference, buffer allocation, codegen backend, numerická ekvivalencia a deterministickosť.

Aké obmedzenie má kompilátor grafu?

Kompilátor môže zmeniť numerické poradie, prešpecializovať tvary alebo vytvoriť dlhý compile time pri dynamickom workload-e.