Slovník výrazov AI/Architektúry hlbokého učenia

Architektúry hlbokého učenia

hlboký Boltzmannov stroj

Anglický výraz deep Boltzmann machine

pokročiléheslo č. 3275 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená hlboký Boltzmannov stroj?

Hlboký Boltzmannov stroj je energetický model s viditeľnou vrstvou a viacerými skrytými vrstvami, pričom väzby medzi susednými vrstvami sú symetrické a neusmernené. Latentné vrstvy preto vysvetľujú dáta spoločne, nie iba jedným smerom. Učenie aj inferencia vyžadujú aproximácie, napríklad mean-field pre dátovú fázu a Markovove reťazce pre modelovú fázu.

Skúsenosť a kontext

Ako sa pojem používa v praxi

DBM sa používa na výskum hierarchických generatívnych reprezentácií, nie ako bežná predvolená architektúra. Tréning často začína vrstvovým predtrénovaním a pokračuje spoločným dolaďovaním; treba sledovať miešanie reťazcov a konvergenciu aproximovanej posteriornej inferencie. Pri porovnaní s DBN sa kontroluje, že DBM má obojsmerný vplyv medzi všetkými susednými latentnými vrstvami. Rekonštrukcia sama nevypovedá o kalibrácii rozdelenia.

Overiteľnosť

Odborné zdroje

  1. Salakhutdinov & Hinton · Deep Boltzmann Machinesproceedings.mlr.press
  2. Ackley, Hinton, Sejnowski · Boltzmann machinesdoi.org

Praktické odpovede

Často kladené otázky

Ako sú vrstvy spojené?

Symetricky medzi susednými vrstvami, bez spojení vnútri vrstvy.

Prečo nie je jednoduchá?

Latentné vrstvy sú navzájom závislé a posterior nemá lacný presný tvar.

Na čo slúži?

Iteračne približuje očakávané aktivácie skrytých jednotiek pri dátach.

Čo odhaduje negatívnu fázu?

Markovove reťazce približujú štatistiky modelového rozdelenia.

Čím sa líši od DBN?

DBM je neusmernený naprieč celou hĺbkou, DBN má nižšie generatívne hrany smerované.