從第一性原理出發的多變量微積分
線性層把輸入向量 x 送入權重矩陣 W,再加上一個偏置 b(嚴格來說,加了偏置之後這個映射是仿射的,線性再加一個平移,不過機器學習裡普遍還是把它叫作線性層)。前向計算很短:z = Wx + b。訓練還需要反向的計算:找出損失如何隨每一個輸入、每一個權重和每一個偏置變化。
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.
▶ 線性層的梯度