Initialisatie & signaalschaal

Hoe modellen daadwerkelijk leren, van gewone gradient descent tot Adam

Optimalisatie kan al mislukken voordat ze begint als de beginschaal verkeerd is. Als gewichten te klein zijn, kunnen signalen en gradiënten wegvallen. Als gewichten te groot zijn, kunnen activaties en gradiënten exploderen of verzadigen.

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ Initialisatie & signaalschaal
← GradiëntaccumulatieHyperparameterzoektocht →