Slovník výrazov AI/Základy strojového učenia

Základy strojového učenia

PAC učenie

Anglický výraz PAC learning

špecializovanéheslo č. 995 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená PAC učenie?

PAC učenie je rámec, v ktorom je trieda hypotéz naučiteľná, ak existuje algoritmus, ktorý z dostatočne veľkej náhodnej vzorky s pravdepodobnosťou aspoň 1 - δ vytvorí hypotézu s chybou najviac ε, pričom čas a počet príkladov rastú polynomiálne v príslušných parametroch. Skratka znamená „pravdepodobne približne správne“ a oddeľuje tolerovanú chybu ε od rizika zlyhania δ.

Skúsenosť a kontext

Ako sa pojem používa v praxi

PAC rámec sa používa na presné formulovanie tvrdenia o učení: aká je distribúcia príkladov, cieľová chyba, spoľahlivosť a kapacita triedy. Pri binárnom klasifikátore môže tím z VC hranice odhadnúť, ako sa požiadavka na dáta mení pri sprísnení ε alebo δ, a porovnať triedy modelov. Výsledok je kontrola predpokladov, nie priamy návod na produkčný počet záznamov. Závislé časové dáta, posun distribúcie a chybné označenia porušujú jednoduchý model i.i.d.; treba inú analýzu alebo robustný protokol. Empirická validácia zostáva potrebná.

Overiteľnosť

Odborné zdroje

  1. MIT · Learnability and VC Dimensiongradml.mit.edu
  2. Shalev-Shwartz & Ben-David · Understanding MLcs.huji.ac.il

Praktické odpovede

Často kladené otázky

Čo znamená PAC?

Probably Approximately Correct, teda pravdepodobne približne správne.

Čo vyjadruje ε?

Najvyššiu tolerovanú generalizačnú chybu hypotézy.

Čo vyjadruje δ?

Hornú hranicu pravdepodobnosti, že záruka zlyhá.

Je PAC viazané na konkrétnu distribúciu?

Klasická záruka často platí pre ľubovoľnú pevnú distribúciu pri i.i.d. vzorke.

Určí PAC presný počet produkčných dát?

Nie, dáva hranice za formalizovaných predpokladov, často konzervatívne.