Slovník výrazov AI/Prenosové a úsporné učenie

Prenosové a úsporné učenie

kurikulárne učenie

Anglický výraz curriculum learning

špecializovanéheslo č. 2485 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená kurikulárne učenie?

Kurikulárne učenie mení poradie alebo váhu tréningových príkladov tak, aby model najprv zvládal jednoduchšie prípady a postupne prechádzal k náročnejším. Obtiažnosť môže určiť človek, heuristika alebo aktuálny model. Metóda nemení iba prezentáciu dát: rozvrh ovplyvňuje optimalizačnú trajektóriu, preto musí byť porovnaný s náhodným poradím pri rovnakom počte krokov.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Pri rozpoznávaní textu sa začne čistými krátkymi riadkami a postupne sa pridáva šum, dĺžka a zložité rozloženie. Kritérium obtiažnosti sa vypočíta bez použitia testových štítkov a rozvrh určí, kedy sa príklad stane dostupným. Tím zachová rovnaký optimalizátor, kroky aj dáta pre náhodný základ. Sleduje tiež, či skoré jednoduché prípady nevytvárajú skreslenie voči zriedkavým zložitým formám.

Overiteľnosť

Odborné zdroje

  1. Bengio et al. · Curriculum learningproceedings.mlr.press
  2. Deep Learning Book · Optimizationdeeplearningbook.org

Praktické odpovede

Často kladené otázky

Kto ju určuje?

Odborník, heuristika, strata modelu alebo kombinácia.

Musia byť príklady striktne zoradené?

Nie, možno meniť pravdepodobnosť alebo váhu výberu.

Ako porovnať prínos?

Pri rovnakých dátach, krokoch a optimalizačných podmienkach.

Čo môže pokaziť príliš pomalý rozvrh?

Model sa príliš prispôsobí jednoduchému podrozdeleniu.

Existuje anti-curriculum?

Áno, niektoré úlohy môžu ťažiť z opačného či adaptívneho poradia.