Slovník výrazov AI/Architektúry hlbokého učenia

Architektúry hlbokého učenia

hradlovaná rekurentná jednotka

Anglický výraz gated recurrent unit

základnéheslo č. 3055 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená hradlovaná rekurentná jednotka?

Hradlovaná rekurentná jednotka je rekurentná bunka, ktorá používa aktualizačnú a resetovaciu bránu na miešanie starého skrytého stavu s novým kandidátom. Na rozdiel od LSTM nemá samostatný bunkový stav ani výstupnú bránu, takže obyčajne potrebuje menej parametrov. Aktualizačná brána určuje mieru zachovania minulosti a resetovacia, koľko jej vstúpi do kandidáta.

Skúsenosť a kontext

Ako sa pojem používa v praxi

GRU je praktický základ pre časové rady a sekvenčné klasifikátory, keď tím potrebuje hradlovanú pamäť s nižšou zložitosťou než LSTM. Pri experimente sa držia rovnaké rozdelenia dát, kapacita a rozpočet krokov, aby porovnanie nebolo skreslené. Sleduje sa nielen presnosť, ale aj čas jednej epochy, využitie pamäte a výkon na dlhších sekvenciách. V stavovom nasadení platia rovnaké pravidlá resetu a izolácie sekvencií ako pri iných RNN.

Overiteľnosť

Odborné zdroje

  1. Cho et al. · RNN Encoder-Decoderarxiv.org
  2. PyTorch · GRUdocs.pytorch.org

Praktické odpovede

Často kladené otázky

Koľko stavov prenáša?

Jeden skrytý stav, ktorý súčasne nesie pamäť aj výstup.

Čo robí aktualizačná brána?

Interpoluje medzi predchádzajúcim stavom a novým kandidátom.

Na čo slúži resetovacia brána?

Riadi vplyv starej informácie pri tvorbe kandidáta.

Má ich menej než LSTM?

Pri rovnakej šírke spravidla áno, pretože používa menej brán.

Je vždy rýchlejšia a presnejšia?

Nie; závisí to od implementácie, hardvéru, dát a požadovanej pamäte.