Jak modele naprawdę się uczą — od zwykłego spadku gradientu po Adama
Spadek gradientowy na pełnym wsadzie wykorzystuje do każdej aktualizacji wszystkie przykłady treningowe; stochastyczny spadek gradientowy idzie w drugą skrajność i używa tylko jednego. Spadek gradientowy mini-wsadowy leży pośrodku, korzystając z małego wsadu, i to właśnie ten kompromis napędza głębokie uczenie w praktyce.
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.
▶ Spadek stochastyczny i mini-wsadowy