Slovník výrazov AI/Architektúry hlbokého učenia

Architektúry hlbokého učenia

obojsmerná RNN

Anglický výraz bidirectional RNN

základnéheslo č. 3065 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená obojsmerná RNN?

Obojsmerná RNN spája dve nezávislé rekurentné siete: jedna číta sekvenciu dopredu a druhá odzadu. Reprezentácia pozície preto obsahuje kontext z minulých aj budúcich prvkov; výstupy smerov sa zvyčajne zreťazia alebo spočítajú. Nejde o kauzálny model, lebo spätný smer pri výpočte potrebuje prvky, ktoré nasledujú za danou pozíciou.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Používa sa pri offline označovaní viet, prepisovaní nahrávok po ich dokončení alebo analýze celej sekvencie. V reálnom čase by druhý smer čakal na budúce dáta, preto sa nahrádza jednosmerným modelom, obmedzeným náhľadom alebo spracovaním blokov. Pri hodnotení treba odhaliť únik budúcnosti: časové rozdelenie a produkčné podmienky musia zodpovedať tomu, aký kontext bude pri predikcii skutočne dostupný.

Overiteľnosť

Odborné zdroje

  1. Schuster & Paliwal · Bidirectional RNNdoi.org
  2. PyTorch · RNNdocs.pytorch.org

Praktické odpovede

Často kladené otázky

Zdieľajú obe RNN váhy?

Bežne nie; každý smer má vlastné parametre.

Ako sa smery spoja?

Najčastejšie zreťazením, prípadne súčtom alebo naučenou projekciou.

Prečo sa nehodí na čistý online režim?

Spätný smer potrebuje budúcu časť sekvencie.

Ako pracuje s výplňou?

Skutočné dĺžky treba uplatniť v oboch smeroch, aby padding nemenil stav.

Kedy vzniká chybný výsledok?

Keď validácia dovolí budúci kontext, ktorý produkčná predikcia mať nebude.