Slovník výrazov AI/Neurónové siete - stavebné prvky

Neurónové siete - stavebné prvky

výpočtový graf

Anglický výraz computational graph

pokročiléheslo č. 2735 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená výpočtový graf?

Výpočtový graf reprezentuje výpočet ako uzly operácií alebo hodnôt a orientované hrany závislostí. Umožňuje určiť poradie dopredného vyhodnotenia a spätne aplikovať reťazové pravidlo. Graf môže byť statický alebo vytvorený dynamicky pri každom behu. Nie je totožný s architektúrnym obrázkom: obsahuje konkrétne operácie, vetvenie, zdieľané parametre a tvary tenzorov.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Pri komplexnom modeli sa malý dopredný beh exportuje do grafového zobrazenia a skontrolujú sa vetvy, masky a zdieľanie váh. Každá operácia má jasný tvar vstupu a výstupu; neočakávané kopírovanie či odpojenie gradientu sa testuje jednotlivo. Pri exporte do iného runtime sa porovná zoznam podporovaných operácií a numerický výstup. Graf sa zjednodušuje až po overení ekvivalencie.

Overiteľnosť

Odborné zdroje

  1. PyTorch · Automatic differentiationdocs.pytorch.org
  2. TensorFlow · Automatic differentiationtensorflow.org

Praktické odpovede

Často kladené otázky

Čo predstavuje?

Operáciu alebo hodnotu podľa použitej reprezentácie.

Čo vyjadruje?

Dátovú závislosť medzi výpočtami.

Čo znamená dynamický graf?

Vzniká podľa skutočne vykonaných operácií počas behu.

Ako sa zobrazí parameter použitý viackrát?

Jeden parameter má viac následných závislostí.

Prečo je graf potrebný?

Určuje cestu a lokálne derivácie pre spätné šírenie.