Gradienți printr-un strat liniar

Calcul multivariat din principii fundamentale

Un strat liniar trimite un vector de intrare x printr-o matrice de ponderi W, apoi adaugă un bias b (odată cu bias-ul, transformarea este din punct de vedere tehnic afină, adică liniară plus o deplasare, deși ML o numește universal un strat liniar). Calculul înainte (forward) este scurt: z = Wx + b. Faza de antrenare necesită și calculul invers, găsind cum se modifică pierderea cu fiecare intrare, fiecare pondere și fiecare bias.

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ Gradienți printr-un strat liniar
← Grafuri de calculSoftmax Stabil și Log-Sum-Exp →