Presná definícia
Čo znamená minimalizácia štrukturálneho rizika?
Minimalizácia štrukturálneho rizika (SRM) vyberá model z vnorených tried rastúcej zložitosti tak, že vyvažuje empirickú stratu s horným odhadom generalizačnej chyby závislým od kapacity triedy a veľkosti vzorky. Namiesto minima tréningovej chyby hľadá minimum odhadu skutočného rizika. Je to teoretický princíp štatistickej teórie učenia; praktická regularizácia ho môže pripomínať, ale nemusí realizovať presný VC-bound.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Modely sa usporiadajú napríklad podľa hĺbky stromu alebo normy váh. Pre každú triedu sa natrénuje najlepší kandidát a k empirickej chybe sa pripočíta penalizácia zložitosti; zvolená úroveň minimalizuje súčet. V praxi sa neznáme konštanty často nahradia validáciou alebo regularizačným koeficientom, čo treba pomenovať presne. Testovacia množina zostáva mimo výberu. SRM je užitočný ako disciplína: rast kapacity musí byť odôvodnený dostatočným poklesom chyby, nie iba lepším fitom na tréning.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Čo znamená štruktúra v SRM?
Vnorenú postupnosť hypotéznych tried, ktorých expresivita alebo kapacita postupne rastie.
Ako sa SRM líši od ERM?
ERM minimalizuje tréningové riziko v pevnej triede; SRM zároveň vyberá triedu s penalizáciou kapacity.
Akú úlohu má VC dimenzia?
Môže určovať komplexitnú časť generalizačnej hranice pre binárne klasifikačné triedy.
Je každá regularizácia SRM?
Nie. Môže mať podobný kompromis, no SRM sa viaže na štruktúru tried a teoretickú hranicu rizika.
Môže sa test použiť na výber úrovne?
Nie, inak prestáva poskytovať nezávislý odhad konečného modelu.