モデルが実際にどう学習するか — 普通の勾配降下法からAdamまで
ハイパーパラメータとは、学習されるパラメータの外側で設定される、訓練上の選択事項だ。学習率、バッチサイズ、重み減衰、ウォームアップの長さ、ドロップアウト、モデルの幅など、数多くある。
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.