Presná definícia
Čo znamená agregácia bootstrapom (bagging)?
Bagging trénuje viac verzií základného modelu na bootstrapových vzorkách tréningových dát a ich predikcie priemeruje alebo nechá hlasovať. Jeho hlavným účinkom je zníženie rozptylu nestabilných modelov, ako sú hlboké stromy. Bootstrap vzorkuje s opakovaním, takže niektoré príklady sa objavia viackrát a iné zostanú mimo konkrétneho modelu.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Ak jeden strom výrazne mení pravidlá po malej zmene dát, desiatky bootstrapových stromov môžu dať stabilnejší výsledok. Počet modelov sa zvyšuje, kým sa validačný výkon a rozptyl predikcie ustália. Out-of-bag príklady možno využiť na interný odhad, ale skupinové alebo časové dáta vyžadujú vhodnejšie delenie. Bagging nepomôže výrazne, keď všetky modely opakujú rovnaké systematické skreslenie. Pri nasadení sa meria čas a pamäť celého ansámblu a podľa potreby sa predikcie paralelizujú.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Koľko rôznych príkladov obsahuje vzorka veľkosti n?
V priemere približne 63,2 % pôvodných príkladov, zvyšok sa opakuje.
Znižuje bagging najmä bias alebo variance?
Najmä variance nestabilného základného modelu.
Funguje rovnako s každým modelom?
Najväčší prínos má pri modeloch citlivých na zmenu tréningovej vzorky.
Čo sú out-of-bag dáta?
Príklady, ktoré sa nedostali do bootstrapovej vzorky konkrétneho modelu.
Prečo vadí korelácia modelov?
Spoločná chyba sa pri priemerovaní nezruší.