モデルが実際にどう学習するか — 普通の勾配降下法からAdamまで
バッチサイズ、Bと書く、は勾配推定のノイズを変える。小さなバッチはノイズが多いが安上がりな推定を与える。大きなバッチはより安定した推定を与えるが、各更新にかかるコストは大きくなる。
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.