Как модели на самом деле обучаются — от обычного градиентного спуска до Adam
Обрезка градиента ограничивает, насколько большим может стать обновление. Если пакет порождает огромный градиент, обрезка уменьшает его масштаб ещё до шага оптимизатора.
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.
▶ Обрезка градиента