Metodi del Secondo Ordine

Come i modelli imparano davvero, dalla discesa del gradiente vanilla ad Adam

I metodi del primo ordine usano i gradienti. I metodi del secondo ordine usano anche la curvatura, di solito tramite la Hessiana. La curvatura dice all'ottimizzatore come cambia il gradiente stesso mentre i parametri si muovono.

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ Metodi del Secondo Ordine
← La Regolarizzazione come GeometriaIl Paesaggio della Loss →