모델이 실제로 학습하는 방법 — 순수 경사 하강법에서 Adam까지
초기 스케일이 잘못되면 최적화는 시작하기도 전에 실패할 수 있습니다. 가중치가 너무 작으면 신호와 그래디언트가 사라질 수 있습니다. 가중치가 너무 크면 활성값과 그래디언트가 폭발하거나 포화될 수 있습니다.
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.
▶ 초기화와 신호 스케일