Variablentransformation

Mehrdimensionale Analysis aus ersten Prinzipien

Diese letzte Lektion verknüpft die beiden Hälften des Kurses. Wenn du in einem Integral durch die Substitution x = g(u) die Variablen wechselst, musst du berücksichtigen, wie diese Substitution den Raum dehnt. Dieser Dehnungsfaktor ist die Jacobi-Determinante aus Modul 3, sodass die abschließende Formel der Ort ist, an dem sich die Ableitungen und die Integrale des Kurses schließlich treffen.

Dies ist die mehrdimensionale Verallgemeinerung der u-Substitution aus Kurs I. Dort war der Faktor |dx/du|, eine 1×1-„Jacobi-Matrix“. Hier ist es |det J_g|, der volumenskalierende Faktor: Während die Abbildung g kleine Kästchen des u-Raums in den x-Raum staucht oder dehnt, reskaliert die Determinante das Integral, sodass das Gesamtmaß korrekt bleibt.

Der Versuch, über einen runden Bereich mit quadratischen x-y-Kacheln zu integrieren, ist so, als würde man einen kreisförmigen Kreisverkehr mit rechteckigen Pflastersteinen pflastern: Die Kanten passen nie sauber. Wechsle zu kreisförmigen (polaren) Koordinaten, die sich um das Zentrum wickeln, und die Form fügt sich ganz natürlich ein. Der Preis für den Wechsel ist der Streckungsfaktor, der das Flächenelement in r dr dθ verwandelt, da Ringe, die weiter vom Zentrum entfernt sind, mehr Raum abdecken.

Wo das im ML vorkommtDiese eine Formel ist der mathematische Kern der Normalizing Flows und des Reparametrisierungstricks. Ein Flow transformiert eine einfache Dichte durch eine umkehrbare Abbildung g, und die Jacobi-Determinante hält die Wahrscheinlichkeit normiert, wobei p_X(x) = p_Z(g⁻¹(x))·|det J_{g⁻¹}| den Dichtewert durch die Transformation hindurch verfolgt. Der Reparametrisierungstrick in VAEs nutzt dieselbe…
▶ Variablentransformation
← DreifachintegraleStichprobenräume & Ereignisse →