Rumus jumlah-atas-jalur sebenarnya adalah perkalian matriks ditulis suku demi suku. Saat fungsi bernilai-vektor, aturan rantai runtuh menjadi produk Jacobian yang bersih, dan inilah bentuk yang menggerakkan sistem autograd nyata.
Untuk komposisi f ∘ g, Jacobian keseluruhan adalah Jacobian pemetaan luar (dievaluasi di keluaran dalam) dikali Jacobian pemetaan dalam:
Pemeriksaan bentuk membuatnya klik. Jika g: Rⁿ → Rᵏ dan f: Rᵏ → Rᵐ, maka J_g k×n, J_f m×k, dan produknya m×n, persis bentuk yang dituntut pemetaan keseluruhan Rⁿ → Rᵐ. Dimensi dalam k saling meniadakan, seperti perkalian matriks biasa.
Di mana ini berlaku dalam MLProduk ini mengapa jaringan dalam menderita gradien menghilang dan meledak. Kalikan banyak Jacobian yang singular value-nya di bawah 1 dan produk menyusut menuju tidak ada; biarkan di atas 1 dan meledak. Residual connection, inisialisasi hati-hati, dan normalisasi semua ada untuk menjaga produk Jacobian ini dekat skala sehat agar gradien bertahan perjalanan kembali melalui banyak lapisan.