Presná definícia
Čo znamená LightGBM?
LightGBM je implementácia gradientného posilňovania stromov navrhnutá pre vysokú efektívnosť. Spojité príznaky diskretizuje do histogramov a strom spravidla rastie po listoch výberom listu s najväčším ziskom, nie rovnomerne po úrovniach. Techniky GOSS a EFB môžu znížiť počet spracovaných riadkov a príznakov pri zachovaní užitočnej informácie.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Pri veľkom tabuľkovom súbore histogramy znižujú pamäť aj čas hľadania prahov. Leaf-wise rast môže rýchlo znižovať stratu, ale na malých dátach prefitovať; preto sa obmedzuje počet listov, minimálny počet vzoriek v liste a hĺbka. Kategorické príznaky sa môžu spracovať natívne, ak sú správne označené a kódovanie sa nemení medzi tréningom a prevádzkou. GOSS a EFB sa volia podľa dát a verzie implementácie. Výkon sa porovná s jednoduchším modelom vrátane času, pamäte, kalibrácie a stability.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Čo prináša histogramové delenie?
Namiesto každej hodnoty skúša konečný počet košov, čím zrýchľuje výpočet.
Čo znamená leaf-wise rast?
V každom kroku sa rozdelí list s najväčším očakávaným ziskom.
Čo robí GOSS?
Zachováva prípady s veľkými gradientmi a vzorkuje časť prípadov s malými gradientmi.
Čo robí EFB?
Spája takmer vzájomne sa vylučujúce riedke príznaky do menšieho počtu zväzkov.
Prečo obmedzovať počet listov?
Veľmi členitý leaf-wise strom môže na malom súbore zachytiť šum.