Presná definícia
Čo znamená hlboká sieť presvedčení?
Hlboká sieť presvedčení je viacvrstvový generatívny model, v ktorom horné dve vrstvy tvoria neusmernenú asociatívnu pamäť a nižšie spojenia sú smerované nadol. Klasický tréning vrství obmedzené Boltzmannove stroje chamtivým predtrénovaním a potom model dolaďuje. Názov sa nemá zamieňať s ľubovoľnou hlbokou sieťou ani s plne neusmerneným hlbokým Boltzmannovým strojom.
Skúsenosť a kontext
Ako sa pojem používa v praxi
DBN má dnes najmä historickú a výskumnú hodnotu: ukazuje, ako predtrénovanie bez označení pomáhalo optimalizovať hlboké siete pred modernými inicializáciami a normalizáciou. Pri reprodukcii sa každá vrstva RBM trénuje na reprezentáciách predchádzajúcej a až potom sa pridá klasifikačná hlava alebo generatívne dolaďovanie. Tím dokumentuje smerovanie hrán a spôsob inferencie, pretože názov „stack RBM“ sám neurčuje výsledný pravdepodobnostný model.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Ktorá časť je neusmernená?
Najvyššia dvojica latentných vrstiev; nižšie generatívne väzby smerujú k dátam.
Ako prebieha?
RBM sa učia po vrstvách na výstupoch už natrénovanej spodnej časti.
Čo nasleduje?
Generatívne alebo diskriminačné spoločné prispôsobenie podľa cieľovej úlohy.
Je DBN totožná s DBM?
Nie; DBM má neusmernené väzby medzi všetkými susednými vrstvami.
Prečo je historicky dôležitá?
Ukázala praktické učenie hlbokých reprezentácií chamtivým predtrénovaním.