モデルが実際にどう学習するか — 普通の勾配降下法からAdamまで
勾配クリッピングは、更新がどれだけ大きくなれるかに上限を設ける。あるバッチが巨大な勾配を生んだ場合、オプティマイザーのステップの前に、クリッピングがそれを縮小する。
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.