幾何としての正則化

モデルが実際にどう学習するか — 普通の勾配降下法からAdamまで

正則化は損失に加えるペナルティとして紹介されることが多い。幾何学的には、どのパラメータベクトルが安く、どれが高くつくかを変えているのだ。それが最適化問題の形そのものを変える。以下では2つの記号が繰り返し出てくる。R(θ)はペナルティ項の名前で、λ（ラムダ）はそれをどれだけ強く効かせるかを決める。

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.