Jacobische Geometrie

Mehrdimensionale Analysis aus ersten Prinzipien

Mache die Jacobi-Matrix quadratisch (n Eingänge, n Ausgänge), und ihre Determinante übernimmt eine konkrete geometrische Aufgabe. Aus der linearen Algebra wissen wir, dass die Determinante einer Matrix der Faktor ist, um den sie das Volumen skaliert. Die Jacobi-Determinante sagt uns, wie stark eine Abbildung ein winziges Stück des Raums dehnt oder zusammendrückt, während es hindurchläuft.

Wenn |det J| > 1 ist, kommt ein kleines Kästchen des Eingangsraums größer wieder heraus, die Abbildung dehnt also. Wenn |det J| ist, kommt es kleiner heraus, die Abbildung zieht also zusammen. Wenn det J = 0 ist, wird das Kästchen flach gedrückt: Die Abbildung lässt eine Dimension kollabieren und ist lokal nicht invertierbar.

Zeichne ein winziges Quadrat auf ein Blatt aus dehnbarem Gummi und ziehe dann am Blatt, um das Gitter zu verzerren. Die Jacobi-Determinante ist die einzelne Zahl, die dir verrät, wie sehr die Fläche dieses kleinen Quadrats bei der Dehnung gewachsen oder geschrumpft ist. Zieht man das Gummi in beide Richtungen, bläht sich das Quadrat auf; quetscht man es auf eine einzige Falte zusammen, sinkt seine Fläche auf null.

Wo das im ML vorkommtAngenommen, du möchtest eine einfache Gauß-Verteilung zu einer komplizierten Datenverteilung verbiegen. Genau das leistet ein Normalizing Flow, indem er eine invertierbare Abbildung g von einer einfachen Dichte auf eine komplexe lernt. Während g den Raum dehnt, würde Wahrscheinlichkeitsmasse verloren gehen, wenn man sie nicht umskaliert; deshalb verwendet die Substitutionsformel p_X(x) =…
▶ Jacobische Geometrie
← Die Jacobi-MatrixDie Hesse-Matrix →