Come i modelli imparano davvero, dalla discesa del gradiente vanilla ad Adam
Il learning rate è la dimensione del passo della discesa del gradiente. Il gradiente indica in che direzione la loss sale più velocemente; l'ottimizzatore si muove nella direzione opposta. Il learning rate η decide di quanto si muove.
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.
▶ Il Learning Rate