Slovník výrazov AI/Základy strojového učenia

Základy strojového učenia

VC dimenzia

Anglický výraz VC dimension

špecializovanéheslo č. 1005 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená VC dimenzia?

VC dimenzia triedy binárnych klasifikátorov je najväčší počet bodov, ktoré trieda dokáže roztriediť všetkými možnými binárnymi označeniami; ak zvládne ľubovoľne veľké množiny, je nekonečná. Meria kombinatorickú kapacitu triedy, nie rozmer vstupu ani počet parametrov. Vstupuje do hraníc zovšeobecnenia a zložitosti vzorky, ale sama neurčuje optimalizáciu ani typický výkon na konkrétnej distribúcii.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Pri porovnaní lineárnych klasifikátorov a bohatej nelineárnej triedy VC dimenzia vysvetľuje, prečo druhá potrebuje silnejšie obmedzenia alebo viac dát na distribučne nezávislú záruku. Tím ju použije na kontrolu rádu teoretickej hranice, nie ako presný výpočet minimálnej databázy. Overí, či sa analyzuje celá trieda alebo regularizovaná podtrieda a či príklady možno považovať za i.i.d. Praktický výber stále stojí na validácii, stabilite a nákladoch. Nízka VC dimenzia nezachráni nesprávny cieľ; vysoká automaticky neznamená preučenie.

Overiteľnosť

Odborné zdroje

  1. MIT · Learnability and VC Dimensiongradml.mit.edu
  2. Vapnik · Statistical Learning Theorymit.edu

Praktické odpovede

Často kladené otázky

Čo znamená roztrieštiť množinu?

Realizovať každé možné binárne označenie jej bodov niektorou hypotézou.

Je VC dimenzia počet vstupných príznakov?

Nie, hoci pri niektorých lineárnych triedach s ním úzko súvisí.

Rovná sa počtu parametrov?

Všeobecne nie; architektúra a operácie menia kombinatorickú kapacitu.

Čo z nej možno odvodiť?

Distribučne všeobecné hranice generalizačnej chyby a počtu vzoriek.

Spôsobí vysoká VC dimenzia vždy preučenie?

Nie; výsledok ovplyvnia dáta, algoritmus, normy a regularizácia.