Slovník výrazov AI/Architektúry hlbokého učenia

Architektúry hlbokého učenia

sieť radiálnych bázových funkcií

Anglický výraz radial basis function network

pokročiléheslo č. 3225 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená sieť radiálnych bázových funkcií?

Sieť radiálnych bázových funkcií má skrytú vrstvu jednotiek, ktorých aktivácia závisí od vzdialenosti vstupu od naučeného alebo zvoleného centra. Typická Gaussova báza reaguje lokálne podľa svojej šírky a výstup je lineárna kombinácia týchto reakcií. Model preto aproximuje funkciu súborom lokálnych oblastí namiesto globálnych polpriestorov bežnej sigmoidovej vrstvy.

Skúsenosť a kontext

Ako sa pojem používa v praxi

RBF sieť možno použiť na interpoláciu, menšiu regresnú úlohu alebo klasifikáciu s dobre definovanou metrikou. Praktický postup zvolí centrá napríklad klastrovaním, nastaví šírky podľa vzdialeností a dopočíta lineárnu výstupnú vrstvu s regularizáciou. Pred nasadením sa štandardizujú príznaky, lebo mierka priamo mení vzdialenosť. Veľa centier zvyšuje kapacitu aj cenu; príliš úzke bázy memorujú a príliš široké zahladia lokálnu štruktúru.

Overiteľnosť

Odborné zdroje

  1. Broomhead & Lowe · Radial basis functionsdoi.org
  2. Deep Learning Book · Deep feedforward networksdeeplearningbook.org

Praktické odpovede

Často kladené otázky

Od čoho závisí?

Od vzdialenosti vstupu od centra a od šírky bázy.

Ako sa určujú?

Učením, výberom vzoriek alebo napríklad algoritmom k-means.

Je posledná vrstva nelineárna?

Klasická RBF sieť používa lineárnu kombináciu báz.

Prečo štandardizovať príznaky?

Rozdielne jednotky by svojvoľne dominovali euklidovskej vzdialenosti.

Čo spôsobí malá šírka?

Veľmi lokálne reakcie, vyššie riziko preučenia a medzery medzi centrami.