최적화기 진단

모델이 실제로 학습하는 방법 — 순수 경사 하강법에서 Adam까지

최적화기 진단이란 훈련 레시피를 바꾸기 전에 먼저 훈련 과정 자체를 읽어 내는 일입니다. 손실 곡선, 그래디언트 노름, 검증 곡선을 보면 문제가 걸음 크기, 데이터, 스케일, 과적합, 아니면 모델 자체의 진짜 한계 중 무엇인지 대개 알 수 있습니다.

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ 최적화기 진단
← 손실 지형그래디언트 클리핑 →