Kalkulus satu variabel dari prinsip pertama
Misalkan kamu ingin titik terendah sebuah kurva tetapi hanya bisa melihat tanah tepat di bawah kakimu — kamu bisa merasakan kemiringan, tidak lebih. Apa yang kamu lakukan? Sederhana: melangkah ke arah menurun, lalu rasakan lagi, lalu melangkah lagi. Ulangi. Itulah gradient descent, algoritma yang melatih pada dasarnya setiap model AI modern.
Bayangkan berjalan menuruni bukit di kabut tebal yang sangat padat sehingga Anda tidak bisa melihat selangkah ke depan. Anda tidak dapat melihat dasar lembah, tetapi Anda masih bisa merasakan dengan kaki Anda ke arah mana tanah miring ke bawah, dan mengambil langkah ke arah itu. Rasakan, langkahkan, rasakan, langkahkan. Penurunan gradien (gradient descent) adalah persis gerak seret buta dan sabar ini menuju daratan terendah.
Ditulis sebagai aturan yang memperbarui posisimu di setiap langkah: