Turunan

Kalkulus satu variabel dari prinsip pertama

Turunan menjawab satu pertanyaan: seberapa cepat sebuah fungsi berubah pada satu saat tertentu? Secara geometri, itu adalah kemiringan kurva tepat di satu titik, yaitu kemiringan garis singgung yang hanya menyentuh kurva di sana.

Bayangkan speedometer di dalam mobil yang sedang melaju. Kecepatan rata-rata Anda dalam satu jam adalah jarak total dibagi total waktu, tetapi jarum penunjuknya menunjukkan sesuatu yang lebih tajam: seberapa cepat tepatnya Anda bergerak pada saat ini juga. Turunan adalah jarum itu, laju perubahan yang dibekukan pada satu momen dan bukannya dioleskan melintasi sebuah interval.

Tetapi ada teka-teki. Kemiringan membutuhkan dua titik: rise over run. Satu titik saja tidak memberi tempat untuk mengukur dari mana. Jadi bagaimana satu titik bisa punya kemiringan? Triknya adalah mendekatinya pelan-pelan.

Di mana ini berlaku dalam MLGradien yang melatih setiap jaringan neural persis turunan ini, diterapkan pada loss. Besaran ∂L/∂w adalah kemiringan loss saat kamu menggeser sedikit satu bobot w: tandanya memberi tahu arah mana yang mengurangi loss, dan besarnya memberi tahu seberapa sensitif loss terhadap bobot itu. Training hanyalah: hitung limit ini (engine autograd melakukannya untukmu, secara tepat — tidak perlu…
▶ Turunan
← KontinuitasKeterdiferensialan →