Jacobian

Kalkulus multivariabel dari prinsip pertama

Saat keluaran juga vektor, fungsi f: Rⁿ → Rᵐ, satu gradien tidak cukup. Anda butuh parsial setiap keluaran terhadap setiap masukan. Tumpuk semuanya menjadi matriks dan Anda dapat Jacobian J, turunan pertama penuh dari pemetaan bernilai-vektor.

Baris i dari J hanyalah gradien keluaran ke-i. Jadi Jacobian adalah tumpukan gradien, satu per koordinat keluaran. Bentuknya m × n: sebanyak baris sebagai keluaran, sebanyak kolom sebagai masukan.

Pikirkan meja pencampur insinyur suara, di mana setiap saluran output merespons setiap tombol input. Jacobian adalah tabel sensitivitas yang dituliskan: setiap entri mengatakan seberapa besar satu output bergerak saat Anda mendorong satu tombol input. Baca di sepanjang baris untuk melihat segala sesuatu yang menggerakkan satu output; baca ke bawah kolom untuk melihat segala sesuatu yang dikendalikan satu tombol.

Di mana ini berlaku dalam MLJacobian sebuah lapisan mengatakan bagaimana gangguan kecil masukannya mengubah keluarannya, peregangan dan pemerasan lokal lapisan itu. Backpropagation hanyalah mengalikan Jacobian per-lapisan ini bersama (modul berikutnya). Saat orang mengkhawatirkan gradien menghilang atau meledak, mereka mengkhawatirkan produk Jacobian lapisan menyusut menjadi tidak ada atau meledak.
▶ Jacobian
← Hampiran LinearGeometri Jacobian →