Slovník výrazov AI/Základy strojového učenia

Základy strojového učenia

kompromis skreslenie-rozptyl

Anglický výraz bias-variance tradeoff

pokročiléheslo č. 885 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená kompromis skreslenie-rozptyl?

Kompromis skreslenie-rozptyl opisuje rozklad očakávanej predikčnej chyby pri štvorcovej strate na chybu z obmedzujúcich predpokladov modelu, citlivosť na konkrétnu tréningovú vzorku a neodstrániteľný šum. Väčšia pružnosť často znižuje skreslenie a zvyšuje rozptyl, nejde však o univerzálny zákon jednej osi. Regularizácia, dáta a induktívne predpoklady môžu meniť obe zložky aj ich vzťah.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Pri cenovom modeli sa trénujú varianty od lineárneho po hlboký strom na opakovaných rozdeleniach. Priemerná tréningová chyba ukazuje schopnosť prispôsobiť sa, rozptyl validačných výsledkov medzi vzorkami citlivosť a stabilne zlá predikcia určitých segmentov naznačuje skreslenie. Ak strom kolíše, zvýši sa minimálny počet príkladov v liste alebo sa použije agregácia; ak lineárny model systematicky míňa nelineárny vzťah, doplní sa reprezentácia. Rozhoduje chyba a neistota na cieľovej populácii. Jedno rozdelenie nestačí na rozlíšenie rozptylu od náhodnej priazne.

Overiteľnosť

Odborné zdroje

  1. Stanford · Bias-Variance Tradeoffnlp.stanford.edu
  2. Shalev-Shwartz & Ben-David · Understanding MLcs.huji.ac.il

Praktické odpovede

Často kladené otázky

Čo znamená vysoké skreslenie?

Učiaci postup systematicky míňa relevantnú štruktúru pre svoje obmedzujúce predpoklady.

Čo znamená vysoký rozptyl?

Výsledný model sa výrazne mení pri výmene tréningovej vzorky.

Dá sa odstrániť neodstrániteľná chyba?

Nie príznakmi dostupnými v danej formulácii úlohy.

Zvyšuje kapacita vždy rozptyl?

Nie nevyhnutne; záleží na učení, regularizácii a množstve dát.

Ako sa kompromis skúma v praxi?

Opakovaným vzorkovaním, krivkami učenia a porovnaním primerane odlišných modelov.