初始化与信号尺度

模型究竟是如何学习的——从原始梯度下降到Adam

如果初始尺度不对,优化甚至可能还没开始就已经失败。如果权重太小,信号和梯度可能会消失;如果权重太大,激活值和梯度则可能爆炸或饱和。

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ 初始化与信号尺度
← 梯度累积超参数搜索 →