Gradient Clipping

Bagaimana model sebenarnya belajar, dari gradient descent dasar hingga Adam

Gradient clipping membatasi seberapa besar sebuah update bisa menjadi. Jika sebuah batch menghasilkan gradien raksasa, clipping menyusutkan skalanya sebelum langkah optimizer.

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ Gradient Clipping
← Diagnostik OptimizerAdam vs AdamW →