모델이 실제로 학습하는 방법 — 순수 경사 하강법에서 Adam까지
1차 방법은 그래디언트를 사용합니다. 2차 방법은 여기에 더해 곡률도 사용하며, 보통 헤세 행렬을 통해서입니다. 곡률은 파라미터가 움직일 때 그래디언트 자체가 어떻게 변하는지를 최적화기에 알려 줍니다.
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.
▶ 2차 방법