Slovník výrazov AI/Základy strojového učenia

Základy strojového učenia

k-násobná krížová validácia

Anglický výraz k-fold cross-validation

základnéheslo č. 695 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená k-násobná krížová validácia?

K-násobná krížová validácia rozdelí dáta na k neprienikových záhybov; každý záhyb raz slúži na validáciu a zvyšných k-1 na tréning, pričom skóre sa agregujú. Parameter k riadi kompromis medzi výpočtom, veľkosťou tréningu a variabilitou odhadu. Záhyby majú reprezentovať jednotky nasadenia, takže pri skupinách, čase alebo triednej nerovnováhe sa používajú zodpovedajúce varianty, nie slepé náhodné delenie.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Pre bežnú tabuľkovú klasifikáciu môže tím zvoliť stratifikovaný 5-fold, celú pipeline refitovať v každom záhybe a uviesť priemer aj minimum. Rovnaké záhyby sa používajú pre všetky modely, aby rozdiel nespôsobilo delenie. Ak sa podľa CV ladí, konečný odhad dáva vonkajší fold alebo zamknutý test. Vyššie k nie je automaticky presnejšie: 10-fold stojí dvakrát viac než 5-fold a môže meniť bias a varianciu. Pri časovom rade sa záhyby usporiadajú tak, aby tréning nikdy nevidel budúcnosť.

Overiteľnosť

Odborné zdroje

  1. scikit-learn · Cross-validationscikit-learn.org
  2. Shalev-Shwartz & Ben-David · Understanding MLcs.huji.ac.il

Praktické odpovede

Často kladené otázky

Aké k sa používa?

Často 5 alebo 10, ale voľba závisí od veľkosti dát, výpočtu a požadovanej stability.

Prekrývajú sa tréningové záhyby?

Áno, no validačné záhyby sú neprienikové a každý príklad je validovaný raz.

Stačí uviesť priemer?

Nie. Rozptyl a jednotlivé foldy odhalia citlivosť na skupinu alebo obdobie.

Prečo použiť rovnaké foldy pre modely?

Párované rozdelenie znižuje šum pri porovnaní ich výsledkov.

Čo sa trénuje po CV?

Vybraná konfigurácia sa môže refitovať na všetkých vývojových dátach a potom vyhodnotiť na nedotknutom teste.