Bagaimana model sebenarnya belajar, dari gradient descent dasar hingga Adam
Full-batch gradient descent memakai setiap contoh training untuk menghitung setiap update; stochastic gradient descent pergi ke ekstrem sebaliknya dan hanya memakai satu contoh. Mini-batch gradient descent berada di antara keduanya dengan batch kecil, dan kompromi itulah yang sebenarnya dipakai deep learning untuk berjalan.
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.
▶ Stochastic & Mini-Batch GD