모델이 실제로 학습하는 방법 — 순수 경사 하강법에서 Adam까지
B로 표기하는 배치 크기는 그래디언트 추정치의 잡음을 바꿉니다. 작은 배치는 잡음은 많지만 저렴한 추정치를 줍니다. 큰 배치는 더 안정된 추정치를 주지만, 업데이트 한 번에 드는 비용이 커집니다.
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.
▶ 배치 크기 스케일링