Presná definícia
Čo znamená priestor hypotéz?
Priestor hypotéz je množina funkcií alebo modelov, z ktorých učiaci algoritmus môže vyberať. Určuje expresívne možnosti aj obmedzenia učenia: lineárny priestor nevyjadrí ľubovoľnú nelineárnu hranicu, zatiaľ čo príliš bohatý priestor môže bez dostatočných dát preučiť šum. Hypotézna trieda je súčasťou induktívneho skreslenia a jej efektívnu zložitosť ovplyvňuje aj regularizácia a algoritmus, nielen počet parametrov.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Pri odhade ceny môže tím porovnať lineárne funkcie, stromy obmedzenej hĺbky a neurónové siete. Najprv overí, či priestor dokáže zachytiť známe vzťahy a invariancie; potom meria rozdiel medzi tréningovým a validačným výkonom. Zväčšenie priestoru má zmysel pri nedoučení, no musí ho sprevádzať viac relevantných dát alebo silnejšia regularizácia. Vyhľadávanie hyperparametrov je zároveň výberom medzi podpriestormi a musí prebiehať bez testovacej množiny. Dokumentuje sa, ktoré modely boli vôbec prípustné, aby sa dalo interpretovať zlyhanie.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Čo je jednou hypotézou?
Konkrétna funkcia alebo model, ktorý mapuje vstup na predikciu a má určené parametre.
Je väčší priestor vždy lepší?
Nie. Zvyšuje expresivitu, ale aj potrebu dát a riziko výberu modelu, ktorý zachytí náhodný šum.
Prehľadá algoritmus celý priestor?
Zvyčajne nie. Optimalizačná stratégia a inicializácia určujú, ktoré časti sú reálne dostupné.
Ako regularizácia mení priestor?
Môže explicitne obmedziť prípustné hypotézy alebo ich iba preferenčne zoradiť penalizáciou.
Čo ak pravdivý vzťah v priestore nie je?
Vzniká aproximačná chyba; viac tréningových dát ju samo neodstráni.