Slovník výrazov AI/Hardvér a efektívny výpočet

Hardvér a efektívny výpočet

vyhľadávanie architektúr zohľadňujúce hardvér

Anglický výraz hardware-aware neural architecture search

základnéheslo č. 14195 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená vyhľadávanie architektúr zohľadňujúce hardvér?

Vyhľadávanie architektúr zohľadňujúce hardvér automaticky volí vrstvy, šírky, hĺbky alebo operátory pri súčasnej optimalizácii kvality a meraného či predikovaného nákladu na cieľovom zariadení.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Tím vytvorí search space, latencia lookup table z reálneho telefónu a hľadá Pareto frontier presnosti a latencie. Víťaza znovu natrénuje.

Overiteľnosť

Odborné zdroje

  1. Cai et al. - Once-for-All: hardware-aware deploymentarxiv.org
  2. Arm - Explore Edge AIdeveloper.arm.com

Praktické odpovede

Často kladené otázky

Čo presne znamená vyhľadávanie architektúr zohľadňujúce hardvér?

Vyhľadávanie architektúr zohľadňujúce hardvér automaticky volí vrstvy, šírky, hĺbky alebo operátory pri súčasnej optimalizácii kvality a meraného či predikovaného nákladu na cieľovom zariadení.

Kedy sa vyhľadávanie architektúr zohľadňujúce hardvér používa?

Tím vytvorí search space, latencia lookup table z reálneho telefónu a hľadá Pareto frontier presnosti a latencie.

Od čoho treba vyhľadávanie architektúr zohľadňujúce hardvér odlíšiť?

Klasické NAS môže minimalizovať iba validačnú chybu. Hardware-aware NAS pridáva device-specific latenciu, energiu alebo pamäť.

Ako sa vyhľadávanie architektúr zohľadňujúce hardvér kontroluje?

Kontroluje sa search space, cost model, meranie na zariadení, rozpočet hľadania, retraining, Pareto porovnanie a viac zariadení.

Aké obmedzenie má vyhľadávanie architektúr zohľadňujúce hardvér?

Architektúra optimalizovaná na proxy alebo jeden runtime nemusí byť rýchla po zmene kompilátora, batchu či zariadenia.