그래디언트 누적

모델이 실제로 학습하는 방법 — 순수 경사 하강법에서 Adam까지

그래디언트 누적은 메모리가 제한적일 때 더 큰 배치를 흉내 냅니다. 매 마이크로배치마다 스텝을 밟는 대신, 여러 마이크로배치의 그래디언트를 더한 다음 최적화기 스텝을 한 번만 밟습니다.

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ 그래디언트 누적
← 배치 크기 스케일링초기화와 신호 스케일 →