모델이 실제로 학습하는 방법 — 순수 경사 하강법에서 Adam까지
정규화는 흔히 손실에 더해지는 벌점으로 소개됩니다. 기하학적으로는, 어떤 파라미터 벡터가 «저렴»하고 어떤 것이 «비싼»지를 바꿉니다. 그것이 최적화 문제의 형태 자체를 바꾸는 것입니다. 아래에서 두 기호가 반복해서 나옵니다. R(θ)는 벌점 항을 가리키고, λ(람다)는 그것이 얼마나 강하게 반영되는지를 정합니다.
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.
▶ 기하학으로 본 정규화