Slovník výrazov AI/Neurónové siete - stavebné prvky

Neurónové siete - stavebné prvky

maximálne poolingovanie

Anglický výraz max pooling

špecializovanéheslo č. 2985 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená maximálne poolingovanie?

Maximálne poolingovanie nahradí každé lokálne okno najväčšou hodnotou, zvyčajne osobitne v každom kanáli. Zachová najsilnejšiu detekovanú aktiváciu a zníži priestorové rozmery. Gradient pri jednoznačnom maxime tečie iba do víťaznej pozície; ostatné hodnoty v okne ho nedostanú. Pri zhodných maximách závisí výber od implementácie.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Po ReLU sa použije 2×2 max pooling so stride 2 a na známom tenzore sa overí výstup aj index maxima. Pri úlohe s malými znakmi sa porovná s konvolúciou so stride a priemerným poolingom, pretože maximum môže zachytiť šum a zahodiť rozloženie. Tím testuje padding na okrajoch a pri potrebe rekonštrukcie uloží indexy maxima len vtedy, ak ich nasledujúca architektúra skutočne využije.

Overiteľnosť

Odborné zdroje

  1. PyTorch · MaxPool2ddocs.pytorch.org
  2. Deep Learning Book · Convolutional networksdeeplearningbook.org

Praktické odpovede

Často kladené otázky

Akú hodnotu vracia?

Najväčšiu v každom poolingovom okne.

Kam sa šíri?

Do pozície vybraného maxima.

Mieša ich?

Bežný priestorový max pooling pracuje v každom kanáli oddelene.

Prečo môže škodiť?

Ojedinelá veľká aktivácia môže dominovať oknu.

Načo sa ukladajú?

Niektoré dekódery ich používajú pri max-unpooling operácii.