Przycinanie gradientu

Jak modele naprawdę się uczą — od zwykłego spadku gradientu po Adama

Przycinanie gradientu ogranicza, jak duża może stać się aktualizacja. Jeśli wsad wyprodukuje ogromny gradient, przycinanie skaluje go w dół, zanim optymalizator wykona krok.

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ Przycinanie gradientu
← Diagnostyka optymalizatoraAdam vs AdamW →