Presná definícia
Čo znamená veta o univerzálnej aproximácii?
Veta o univerzálnej aproximácii je rodina výsledkov dokazujúcich, že neurónová sieť s vhodnou nelineárnou aktiváciou a dostatočnou šírkou či hĺbkou dokáže na kompaktnej oblasti ľubovoľne presne aproximovať širokú triedu funkcií. Ide o existenčné tvrdenie. Neurčuje potrebný počet neurónov, spôsob nájdenia váh, numerickú stabilitu, množstvo dát ani výkon mimo aproximačnej oblasti.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Pri návrhu regulátora možno vetou odôvodniť, že zvolená sieťová rodina nie je zásadne neschopná vyjadriť hladké nelineárne mapovanie. Architektúra sa však volí podľa dát, invariancií a výpočtových obmedzení; tréning sa kontroluje na validácii a bezpečnosť mimo pozorovaného rozsahu sa rieši osobitne. Ak sieť zlyhá, veta neukazuje, či chýba šírka, dáta, vhodná optimalizácia alebo identifikovateľný signál. Pre nasadenie sú dôležitejšie konečné hranice chyby, robustnosť a pokrytie prevádzkových stavov než abstraktná existencia aproximácie.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Čo veta zaručuje?
Existenciu siete s ľubovoľne malou aproximačnou chybou za daných podmienok.
Zaručuje, že gradientný zostup sieť nájde?
Nie, existenčný dôkaz nie je algoritmom učenia.
Určuje potrebný počet príkladov?
Nie; štatistická zložitosť je samostatná otázka.
Platí záruka pri extrapolácii?
Nie automaticky, typicky sa formuluje na kompaktnej oblasti.
Znamená aproximovať presne to isté ako zovšeobecniť?
Nie; reprezentovateľnosť funkcie nehovorí o jej odhade z konečných dát.