Slovník výrazov AI/Hardvér a efektívny výpočet

Hardvér a efektívny výpočet

AI priamo v zariadení

Anglický výraz on-device AI

základnéheslo č. 14125 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená AI priamo v zariadení?

AI priamo v zariadení znamená, že inferencia alebo časť učenia prebieha na koncovom zariadení používateľa bez potreby odoslať vstup na vzdialený server. Využíva CPU, GPU alebo NPU dostupné v telefóne, počítači či senzore.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Mobilná aplikácia prepisuje reč lokálne. Tím meria latenciu, batériu, veľkosť balíka a kvalitu na podporovaných zariadeniach a nastaví bezpečný fallback.

Overiteľnosť

Odborné zdroje

  1. Arm - Explore Edge AIdeveloper.arm.com
  2. Arm - Edge AI on Cortex-M and Ethos-Udeveloper.arm.com

Praktické odpovede

Často kladené otázky

Čo presne znamená AI priamo v zariadení?

AI priamo v zariadení znamená, že inferencia alebo časť učenia prebieha na koncovom zariadení používateľa bez potreby odoslať vstup na vzdialený server.

Kedy sa AI priamo v zariadení používa?

Mobilná aplikácia prepisuje reč lokálne.

Od čoho treba AI priamo v zariadení odlíšiť?

Edge AI zahŕňa aj blízku bránu alebo lokálny server. On-device AI beží priamo na zariadení, ktoré dáta vytvára alebo používa.

Ako sa AI priamo v zariadení kontroluje?

Overuje sa zoznam zariadení, operátory, numerická presnosť, pamäť, energia, cold start, offline funkcia a ochrana modelu.

Aké obmedzenie má AI priamo v zariadení?

Fragmentácia hardvéru môže vytvoriť rozdielne výsledky a lokálne spracovanie samo osebe nezaručuje bezpečnosť ani súkromie.