Presná definícia
Čo znamená AdaBoost?
AdaBoost je sekvenčný ansámbel, ktorý v každom kole zvýši vplyv tréningových príkladov nesprávne klasifikovaných doterajším slabým modelom a priradí novému modelu váhu podľa jeho chyby. Finálna predikcia je vážené hlasovanie. Algoritmus možno chápať aj ako optimalizáciu exponenciálnej straty, ktorá vysvetľuje citlivosť na chybné označenia.
Skúsenosť a kontext
Ako sa pojem používa v praxi
AdaBoost sa často používa s veľmi plytkými stromami. Po každom kole sa skontroluje, či slabý model dosahuje lepší výsledok než náhodné hádanie podľa príslušnej formulácie. Počet estimátorov a učiaca rýchlosť sa ladia validáciou. Keď dáta obsahujú chybné alebo extrémne body, ich váhy môžu opakovane rásť a ansámbel sa na ne sústredí; preto sa auditujú najťažšie príklady. Triedne váhy a AdaBoostové váhy majú odlišný pôvod a ich kombinácia musí byť odôvodnená. Testuje sa aj kalibrácia skóre.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Čo je slabý učiaci sa model?
Model, ktorý dosahuje mierne lepší výsledok než náhodný základ za daných váh.
Ktoré príklady dostanú vyššiu váhu?
Tie, ktoré aktuálny ansámbel klasifikoval nesprávne.
Majú všetky modely rovnaký hlas?
Nie. Ich príspevok závisí od výkonu v danom kole.
Prečo je AdaBoost citlivý na chybné štítky?
Exponenciálna strata môže stále zvyšovať vplyv ťažko opraviteľného omylu.
Musí používať rozhodovacie stromy?
Nie, ale rozhodovacie pne sú častou voľbou.