Adam

Come i modelli imparano davvero, dalla discesa del gradiente vanilla ad Adam

Adam combina due idee: il momentum per il gradiente medio, e un riscalamento in stile RMSProp per il gradiente medio al quadrato. Poi corregge la distorsione iniziale perché quelle medie mobili partono da zero.

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ Adam
← RMSPropDiscesa del Gradiente Stocastica e Mini-Batch →