Slovník výrazov AI/Architektúry hlbokého učenia

Architektúry hlbokého učenia

stromovo štruktúrovaná neurónová sieť

Anglický výraz tree-structured neural network

pokročiléheslo č. 3365 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená stromovo štruktúrovaná neurónová sieť?

Stromovo štruktúrovaná neurónová sieť počíta reprezentácie podľa hrán stromu a rešpektuje vzťahy rodič-dieťa. Môže byť rekurzívna kompozičná sieť, Tree-LSTM s hradlovanou pamäťou alebo top-down model; názov teda určuje topológiu výpočtu, nie jednu rovnicu. Pri variante Child-Sum Tree-LSTM sa príspevky detí sčítajú, ale každé môže mať vlastnú zabúdaciu bránu.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Model je vhodný pre vety so syntaktickým stromom, adresárové štruktúry či taxonómie. Implementácia overuje korene, listy, cykly a chýbajúce deti ešte pred učením. Pri neusporiadaných deťoch musí byť agregácia invariantná voči poradiu; pri binárnom syntaktickom strome sa naopak roly môžu líšiť. Tím reportuje citlivosť na chyby parsera a porovnáva strom s jednoduchou sekvenciou alebo GNN nad rovnakými uzlami.

Overiteľnosť

Odborné zdroje

  1. Tai et al. · Tree-LSTMaclanthology.org
  2. Socher et al. · Recursive deep modelsaclanthology.org

Praktické odpovede

Často kladené otázky

Čo určuje poradie výpočtu?

Závislosti medzi deťmi a rodičom v strome.

Z čoho vzniká jeho stav?

Z vlastných príznakov, keďže nemá deti.

Čo agreguje?

Súčet skrytých stavov detí a samostatne hradlované bunkové stavy.

Kedy nesmie záležať na poradí detí?

Keď strom definuje iba množinu potomkov bez rolí.

Prečo testovať parser?

Nesprávna štruktúra mení samotný výpočtový graf modelu.