モデルが実際にどう学習するか — 普通の勾配降下法からAdamまで
オプティマイザーの診断とは、訓練のレシピを変える前に、その実行結果を読み解くことだ。損失曲線、勾配ノルム、検証曲線を見れば、問題がステップサイズなのか、データなのか、スケールなのか、過学習なのか、それともモデルそのものの限界なのかが、たいてい分かる。
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.
▶ オプティマイザーの診断