モデルが実際にどう学習するか — 普通の勾配降下法からAdamまで
1次法は勾配を使う。2次法は曲率も使う。通常はヘッセ行列を通じてだ。曲率は、パラメータが動くにつれて勾配自体がどう変化するかを最適化アルゴリズムに教える。
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.