Presná definícia
Čo znamená umelý neurón?
Umelý neurón je výpočtová jednotka, ktorá zvyčajne vytvorí afinnú kombináciu vstupov z = wᵀx + b a následne aplikuje aktivačnú funkciu. Váhy určujú citlivosť na jednotlivé vstupy a člen posunu posúva rozhodovaciu hranicu. Jednotka sama osebe neuchováva význam; ten vzniká učením parametrov a jej miestom v celej sieti.
Skúsenosť a kontext
Ako sa pojem používa v praxi
V malej binárnej úlohe možno zobraziť vstupy, váhy, predaktiváciu a výstup jedného neurónu a ručne overiť výpočet. Pri implementácii sa neuróny nevytvárajú po jednom, ale ako maticová vrstva pre celú dávku. Tím kontroluje rozmery tenzorov a numerický rozsah aktivácie. Interpretácia jednotlivej váhy bez škály vstupu a okolitých vrstiev sa nepovažuje za vysvetlenie modelu.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Aký je typický tvar?
Vážený súčet vstupov plus bias, potom aktivácia.
Čo sa učí?
Váhy a spravidla aj člen posunu.
Musí mať aktiváciu?
Bez nelinearity sa skladanie afinných vrstiev zredukuje na jednu afinnú mapu.
Ako sa počíta efektívne?
Maticovým násobením pre viac jednotiek a príkladov naraz.
Má každý neurón stabilnú ľudskú interpretáciu?
Nie, význam je distribuovaný a závisí od kontextu siete.