제1원리에서 출발하는 다변수 미적분
자동 미분은 한 번의 역방향 패스로 수백만 개의 도함수를 계산할 수 있지만, 사용자 정의 연산 하나에 있는 버그가 모델 전체에 조용히 잘못된 그래디언트를 흘려보낼 수도 있습니다. 그래디언트 검사는 유한 차분을 이용해 그런 버그를 잡아냅니다. 관심 있는 지점의 양옆으로 작은 거리 h만큼 이동해서 함수가 얼마나 변했는지 읽고, 그 짧은 할선의 기울기를 진짜 접선 기울기에 대한 독립적인 추정값으로 삼는 것입니다.
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.
▶ 유한 차분과 그래디언트 검사