How models actually learn, from vanilla gradient descent to Adam
Обрізання градієнтів обмежує, наскільки великим може стати оновлення. Якщо партія дає величезний градієнт, обрізання зменшує його перед кроком оптимізатора.
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.
▶ Обрізання градієнтів