変数変換 — 微分積分学 II · Mathematics for Machine Learning

この最後のレッスンはコースの両半分を結びつける。積分でx = g(u)と置換して変数変換するとき、置換が空間をどう伸ばすかを考慮する必要がある。その伸縮因子がモジュール3のヤコビアン行列式で、最終公式はコースの微分と積分がついに会う場所です。

これはコースIのu置換の多変数一般化です。そこでは因子は|dx/du|、1×1の「ヤコビアン」。ここでは|det J_g|、体積拡大因子：写像gがu空間の小さな箱をx空間に圧縮または拡大するとき、行列式が積分を再スケールし全体が正しく保たれる。

正方形の x-y タイルを使用して丸い領域にわたって積分しようとするのは、円形のラウンドアバウトを長方形のレンガで舗装するようなものです。エッジがきれいに収まることはありません。中心を包み込む円（極）座標に切り替えると、形状は自然に収まります。切り替えの代償はストレッチファクターであり、中心から遠いリングほどより多くのスペースをカバーするため、面積要素は r dr dθ に変わります。

機械学習における位置づけこの単一の公式が正規化フローと再パラメータ化トリックの数学的核心です。フローは可逆なgを通じて単純な密度を変換し、p_X(x) = p_Z(g⁻¹(x))·|det J_{g⁻¹}|が確率を正規化に保ち、ヤコビアン行列式が変換を通じて密度を追跡する。VAEの再パラメータ化トリックはサンプリングステップを通じて勾配を押すために同じ変数変換の論理を使う。微積分IIは現代の生成モデリングの玄関先で終わる。