Slovník výrazov AI/Prenosové a úsporné učenie

Prenosové a úsporné učenie

vzorkovanie pomocou výboru modelov

Anglický výraz committee-based sampling

základnéheslo č. 2095 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená vzorkovanie pomocou výboru modelov?

Vzorkovanie pomocou výboru modelov vyberá príklady, pri ktorých sa viac vierohodných modelov alebo posteriorných hypotéz najviac nezhoduje. Nezhoda môže byť počet hlasov, entropia hlasovania alebo divergencia predikčných rozdelení. Hodnota vzniká z rozmanitosti výboru; skupina takmer totožných modelov neposkytuje užitočnú epistemickú neistotu.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Tím natrénuje viac klasifikátorov na bootstrapových vzorkách alebo s odlišnými inicializáciami. Pre neoznačené prípady vypočíta entropiu hlasov a z hornej časti vyberie diverznú dávku. Pred nasadením overí, či členovia majú porovnateľnú individuálnu kvalitu a skutočne robia odlišné chyby. Výpočtové náklady sa porovnajú s jednoduchým vzorkovaním podľa neistoty; výbor má zmysel len pri merateľne lepšej krivke učenia.

Overiteľnosť

Odborné zdroje

  1. Seung, Opper, Sompolinsky · Query by committeedoi.org
  2. Settles · Active Learning Surveyburrsettles.com

Praktické odpovede

Často kladené otázky

Čo môže tvoriť výbor?

Modely z rôznych vzoriek, architektúr, inicializácií alebo posteriorných aproximácií.

Ako sa meria?

Entropiou hlasov, rozdielom predikcií alebo divergenciou rozdelení.

Prečo je nevyhnutná?

Rovnaké modely by hlasovali rovnako a predstierali istotu.

Je metóda drahšia?

Zvyčajne áno, pretože treba trénovať a vyhodnocovať viac modelov.

Stačí zaradiť aj slabé modely?

Nie; náhodná nezhoda nekvalitného člena nie je informatívna.