Slovník výrazov AI/Optimalizácia a trénovanie

Optimalizácia a trénovanie

regularizácia elastickej siete

Anglický výraz elastic-net regularization

pokročiléheslo č. 3785 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená regularizácia elastickej siete?

Regularizácia elastickej siete kombinuje L1 a L2 penalizáciu koeficientov. L1 časť podporuje riedkosť a výber premenných, L2 časť stabilizuje riešenie pri korelovaných príznakoch a môže udržať skupiny súvisiacich koeficientov. Parametre sa často vyjadrujú celkovou silou α a miešacím pomerom l1_ratio; ich presná konvencia závisí od knižnice.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Elastic net sa používa pri regresii s mnohými, navzájom súvisiacimi príznakmi. Pred ladením sa vstupy štandardizujú a α s l1_ratio sa hľadajú vo vnorenej krížovej validácii, aby test ostal nedotknutý. Tím kontroluje stabilitu vybraných príznakov medzi foldmi a reportuje aj počet nenulových koeficientov. Pri neurónových sieťach možno člen pridať, ale výpočtová riedkosť a interpretácia už nie sú automatické.

Overiteľnosť

Odborné zdroje

  1. Zou & Hastie · Elastic Nethastie.su.domains
  2. Deep Learning Book · Regularizationdeeplearningbook.org

Praktické odpovede

Často kladené otázky

Ktoré penalizácie kombinuje?

L1 absolútne hodnoty a L2 druhé mocniny.

Čo riadi l1_ratio?

Relatívny podiel riedkej L1 a hladkej L2 časti.

Prečo pomáha?

L2 zložka znižuje nestabilný výber jedného z podobných príznakov.

Je štandardizácia potrebná?

Áno, inak trest závisí od jednotiek premenných.

Čo treba ladiť spolu?

Celkovú silu aj miešací pomer bez použitia finálneho testu.