Fungsi f: Rⁿ → Rᵐ

Kalkulus multivariabel dari prinsip pertama

Sejauh ini outputnya satu angka. Biarkan ia tumbuh menjadi vektor juga. Sebuah fungsi f: Rⁿ → Rᵐ mengambil vektor sebagai input dan mengembalikan vektor sebagai output: banyak angka masuk, banyak angka keluar. Itulah bentuk persis sebuah layer jaringan neural, tempat vektor input masuk dan vektor yang ditransformasi keluar.

Cara memahami fungsi bernilai vektor adalah membacanya satu koordinat output setiap kali. Setiap komponen output sendiri adalah fungsi skalar biasa Rⁿ → R, disebut fungsi komponen. Tumpuk m fungsi seperti itu dan kamu punya seluruh peta.

Meja pencampur mengubah beberapa tombol input menjadi beberapa bacaan output sekaligus: dorong penggeser dan setiap meteran merespons bersama. Itu adalah fungsi f: Rⁿ → Rᵐ: vektor input masuk, vektor output keluar. Untuk memahaminya, Anda membaca satu meteran pada satu waktu, karena setiap koordinat output f₁, f₂, dan seterusnya adalah resep biasanya sendiri yang dibangun dari tombol input yang sama.

Di mana ini berlaku dalam MLForward pass dari jaringan neural apa pun adalah komposisi fungsi bernilai vektor. Setiap layer adalah satu f: Rⁿ → Rᵐ: peta linear Wx + b diikuti nonlinearitas elemen-demi-elemen. Melacak bagaimana dorongan kecil pada input merambat melalui rantai ini, koordinat demi koordinat, persis yang akan diformalkan Jacobian (Modul 3) dan backpropagation (Modul 4).
▶ Fungsi f: Rⁿ → Rᵐ
← Fungsi f: Rⁿ → RLimit & Kontinuitas di Rⁿ →