模型究竟是如何学习的——从原始梯度下降到Adam
如果初始尺度不对,优化甚至可能还没开始就已经失败。如果权重太小,信号和梯度可能会消失;如果权重太大,激活值和梯度则可能爆炸或饱和。
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.