Slovník výrazov AI/Architektúry hlbokého učenia

Architektúry hlbokého učenia

obmedzený Boltzmannov stroj

Anglický výraz restricted Boltzmann machine

pokročiléheslo č. 3255 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená obmedzený Boltzmannov stroj?

Obmedzený Boltzmannov stroj je bipartitný energetický model s viditeľnou a skrytou vrstvou bez spojení v rámci tej istej vrstvy. Táto podmienka robí jednotky jednej vrstvy podmienene nezávislé pri známej druhej vrstve, takže sa dajú paralelne vzorkovať. Gradient log-pravdepodobnosti stále obsahuje náročnú modelovú fázu, ktorá sa v praxi približuje kontrastnou divergenciou.

Skúsenosť a kontext

Ako sa pojem používa v praxi

RBM sa historicky používal na učenie binárnych reprezentácií, spolupracujúce filtrovanie a predtrénovanie hlbokých sietí. Pri implementácii treba zvoliť rozdelenie viditeľných jednotiek podľa typu dát, počet Gibbsových krokov a spôsob inicializácie reťazcov. Rekonštrukčná chyba je iba diagnostika a nemusí sledovať pravdepodobnosť dát. Tím preto kontroluje vzorky, stabilitu voči dlhšiemu vzorkovaniu a porovná model s autoenkóderom alebo jednoduchšou faktorizáciou.

Overiteľnosť

Odborné zdroje

  1. Hinton · Guide to training RBMscs.toronto.edu
  2. Ackley, Hinton, Sejnowski · Boltzmann machinesdoi.org

Praktické odpovede

Často kladené otázky

Ktoré spojenia chýbajú?

Medzi dvojicami viditeľných aj medzi dvojicami skrytých jednotiek.

Čo prináša bipartitnosť?

Jednotky v jednej vrstve možno pri známej druhej vrstve vzorkovať nezávisle.

Čo je kontrastná divergencia?

Krátky Markovov reťazec používaný na približný negatívny gradient.

Musia byť binárne?

Nie, ale treba zvoliť zodpovedajúci typ viditeľnej jednotky a energiu.

Stačí rekonštrukčná chyba?

Nie, môže klesať bez primeraného zlepšenia modelovaného rozdelenia.