模型究竟是如何学习的——从原始梯度下降到Adam
Adam 结合了两个思路：用于平均梯度的动量，以及 RMSProp 那种用于平均梯度平方的缩放。然后它还会校正早期的偏差，因为这些移动平均都是从零开始的。
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.