Mehrdimensionale Analysis aus ersten Prinzipien
Die Formel der Summe über Pfade ist in Wirklichkeit eine Matrizenmultiplikation, Term für Term ausgeschrieben. Wenn Funktionen vektorwertig sind, fällt die Kettenregel zu einem sauberen Produkt von Jacobi-Matrizen zusammen – und genau diese Form treibt echte Autograd-Systeme an.
Für eine Verkettung f ∘ g ist die Jacobi-Matrix des Ganzen das Produkt aus der Jacobi-Matrix der äußeren Abbildung (ausgewertet an der inneren Ausgabe) und der Jacobi-Matrix der inneren Abbildung:
Die Dimensionsprüfung macht es klar. Wenn g: Rⁿ → Rᵏ und f: Rᵏ → Rᵐ, dann ist J_g von der Form k×n, J_f von der Form m×k, und ihr Produkt ist m×n – genau die Form, die die Gesamtabbildung Rⁿ → Rᵐ verlangt. Die innere Dimension k kürzt sich heraus, genau wie bei gewöhnlicher Matrizenmultiplikation.