Presná definícia
Čo znamená vrstvený ansámbel?
Vrstvený ansámbel (stacking) kombinuje predikcie viacerých základných modelov pomocou ďalšieho meta-modelu. Tréningové vstupy pre meta-model musia byť out-of-fold predikcie, aby každý príklad hodnotil základný model, ktorý ho netrénoval. Po naučení meta-vrstvy sa základné modely zvyčajne znovu natrénujú na všetkých tréningových dátach.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Kombinácia lineárneho modelu, stromového boostingu a SVM môže zachytiť rozdielne chyby. Pre každý fold sa základné modely trénujú mimo foldu a predikujú jeho príklady; z týchto predikcií vznikne čistá meta-množina. Všetko predspracovanie sa vykoná vnútri foldov. Meta-model býva jednoduchý a regularizovaný, aby nekopíroval náhodný šum. Konečný test sa použije iba raz po výbere zostavy. Stacking má zmysel, keď chyby modelov nie sú totožné; ak sú predikcie silno korelované, zisk nemusí vyvážiť zložitosť a prevádzkové náklady.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Prečo sú potrebné OOF predikcie?
Inak meta-model uvidí príliš optimistické výstupy modelov hodnotených na vlastnom tréningu.
Musí byť zložitejší než základné modely?
Nie. Často postačí regularizovaný lineárny model.
Čo prináša zisk?
Komplementárne chyby, nie samotný počet podobných modelov.
Možno test použiť na učenie meta-modelu?
Nie. Tým by sa test stal súčasťou tréningu.
Aký je praktický náklad?
Treba nasadiť všetky základné modely aj meta-vrstvu a riadiť ich verzie.