Slovník výrazov AI/Učenie s učiteľom

Učenie s učiteľom

zmiešaný ansámbel

Anglický výraz blending ensemble

špecializovanéheslo č. 1435 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená zmiešaný ansámbel?

Zmiešaný ansámbel (blending) učí kombinátor z predikcií základných modelov na osobitnej holdout časti tréningových dát. Na rozdiel od stackingu typicky nevytvára out-of-fold predikcie pre každý tréningový príklad. Je jednoduchší a lacnejší, ale meta-model má menej dát a výsledok môže byť citlivý na jediné rozdelenie holdoutu.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Tréning sa rozdelí na základnú časť a blending holdout. Základné modely sa naučia na prvej časti, predikujú holdout a ich výstupy sa použijú na lineárny alebo iný kombinátor. Test zostáva úplne oddelený. Po výbere možno základné modely pretrénovať na širších dátach, no treba zachovať kompatibilitu rozdelenia ich skóre s kombinátorom. Blending je vhodný pri veľkom súbore a drahých modeloch; pri malom súbore môže strata dát a náhodnosť holdoutu prevážiť nad jednoduchosťou.

Overiteľnosť

Odborné zdroje

  1. Wolpert · Stacked generalizationdoi.org
  2. scikit-learn · Ensemble methodsscikit-learn.org

Praktické odpovede

Často kladené otázky

Ako sa líši od stackingu?

Meta-model sa učí na jednom holdoute, nie na OOF predikciách zo všetkých foldov.

Aká je hlavná nevýhoda?

Časť tréningu sa vyhradí iba pre kombinátor a základné modely ju nevidia.

Môžu základné modely trénovať na blending holdoute?

Nie pred vytvorením predikcií pre meta-model.

Prečo záleží na jednom rozdelení?

Iný holdout môže dať iné váhy a poradie modelov.

Možno modely po výbere pretrénovať?

Áno, ale zmena distribúcie skóre môže vyžadovať opätovné overenie kombinátora.