Slovník výrazov AI/Hardvér a efektívny výpočet

Hardvér a efektívny výpočet

TinyML

Anglický výraz TinyML

základnéheslo č. 14145 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená TinyML?

TinyML je strojové učenie nasadené na veľmi úsporných mikrokontroléroch a podobných zariadeniach s malou pamäťou a výkonom. Typické modely spracúvajú senzorové dáta lokálne s nízkou latenciou a spotrebou.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Tím nasadí rozpoznanie kľúčového slova na MCU, zmeria presnosť, peak RAM, flash, latenciu a energiu na jednu inferenciu podľa cieľovej dosky.

Overiteľnosť

Odborné zdroje

  1. MLCommons - MLPerf Inference: Tinymlcommons.org
  2. Arm - Edge AI on Cortex-M and Ethos-Udeveloper.arm.com

Praktické odpovede

Často kladené otázky

Čo presne znamená TinyML?

TinyML je strojové učenie nasadené na veľmi úsporných mikrokontroléroch a podobných zariadeniach s malou pamäťou a výkonom.

Kedy sa TinyML používa?

Tím nasadí rozpoznanie kľúčového slova na MCU, zmeria presnosť, peak RAM, flash, latenciu a energiu na jednu inferenciu podľa cieľovej dosky.

Od čoho treba TinyML odlíšiť?

Embedded AI zahŕňa aj výkonnejšie SoC. TinyML cieli na najmenšie, často miliwattové systémy s veľmi prísnymi limitmi.

Ako sa TinyML kontroluje?

Overuje sa model footprint, peak memory, latencia, energy per inference, accuracy, sensor pipeline a reprodukovateľný device benchmark.

Aké obmedzenie má TinyML?

Agresívna kompresia môže znížiť kvalitu a výsledok z vývojovej dosky sa nemusí preniesť na finálny senzor alebo napájanie.