Slovník výrazov AI/Základy strojového učenia

Základy strojového učenia

kapacita modelu

Anglický výraz model capacity

špecializovanéheslo č. 975 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená kapacita modelu?

Kapacita modelu vyjadruje bohatosť množiny funkcií alebo rozhodovacích pravidiel, ktoré môže daná trieda modelov realizovať. Formálne sa môže merať VC dimenziou či príbuznými komplexitami; prakticky ju ovplyvňuje architektúra, počet a väzby parametrov, normové obmedzenia aj tréning. Počet parametrov je iba hrubý zástupca: dva rovnako veľké modely môžu mať odlišnú efektívnu kapacitu a induktívne skreslenie.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Pri modeli s malou vzorkou sa kapacita zvyšuje po kontrolovaných krokoch: hĺbkou stromu, stupňom bázy alebo šírkou siete. Každý variant sa učí rovnakým pipeline a hodnotí na opakovaných rozdeleniach. Pokles tréningovej chyby bez stabilného zlepšenia validácie signalizuje, že ďalšia pružnosť nepomáha; použije sa regularizácia alebo viac dát. Naopak vysoká chyba už na tréningu môže vyžadovať bohatšiu reprezentáciu. Produkčný výber zahŕňa aj latenciu, pamäť a citlivosť. Kapacita sa neposudzuje izolovane od veľkosti vzorky a štruktúry úlohy.

Overiteľnosť

Odborné zdroje

  1. MIT · Learnability and VC Dimensiongradml.mit.edu
  2. Shalev-Shwartz & Ben-David · Understanding MLcs.huji.ac.il

Praktické odpovede

Často kladené otázky

Je kapacita počet parametrov?

Nie presne; vyjadruje rozmanitosť realizovateľných funkcií.

Ako súvisí s VC dimenziou?

VC dimenzia je jedna formálna miera klasifikačnej kapacity.

Zaručí vyššia kapacita lepšie skóre?

Môže znížiť tréningovú chybu, no zhoršiť zovšeobecnenie.

Čo je efektívna kapacita?

Časť teoretickej triedy, ktorú učenie a obmedzenia reálne sprístupnia.

Ako kapacita súvisí so vzorkou?

Bohatšia trieda spravidla potrebuje viac informácie na spoľahlivý výber.