변수 변환 — 미적분학 II · Mathematics for Machine Learning

이 마지막 강의는 과정의 두 부분을 하나로 묶습니다. 적분에서 x = g(u)를 대입하여 변수를 변환할 때, 그 대입이 어떻게 공간을 늘리는지를 반영해야 합니다. 그 늘림 인자가 바로 모듈 3의 야코비 행렬식이며, 따라서 최종 공식은 이 과정의 미분과 적분이 마침내 만나는 지점입니다.

이것은 Course-I의 u-치환을 다변수로 일반화한 것입니다. 거기서 인자는 1×1 '야코비안'인 |dx/du|였습니다. 여기서는 부피 스케일링 인자인 |det J_g|입니다. 사상 g가 u-공간의 작은 상자들을 x-공간으로 압축하거나 팽창시킬 때, 행렬식이 적분의 척도를 다시 조정하여 총합이 올바르게 유지되도록 합니다.

정사각형의 x-y 타일들로 둥근 영역에 대해 적분하려는 것은 둥근 교차로를 직사각형 벽돌로 포장하는 것과 같습니다: 가장자리가 절대 깔끔하게 맞아떨어지지 않습니다. 중심을 감싸는 극좌표계로 바꾸면 형태가 자연스럽게 들어맞습니다. 이렇게 변경하는 것에 대한 대가는 신축 계수이며, 중심에서 더 멀리 있는 고리들이 더 많은 공간을 덮기 때문에 넓이 요소가 r dr dθ로 변하게 됩니다.

머신러닝에서의 위치이 하나의 공식은 정규화 흐름(normalizing flows)과 재매개변수화 트릭(reparameterization trick)의 수학적 핵심입니다. 흐름은 가역적인 g를 통해 단순한 밀도를 변환하며, p_X(x) = p_Z(g⁻¹(x))·|det J_{g⁻¹}|가 확률을 정규화된 상태로 유지하고, 야코비 행렬식이 변환을 거쳐 밀도를 추적합니다. VAE에서의 재매개변수화 트릭은 동일한 변수 변환 논리를 사용하여 샘플링 단계를 통해 그래디언트를 전달합니다. 미적분학 II는 현대 생성 모델링의 문턱 바로 앞에서 마무리됩니다.