Diagnostica dell'Ottimizzatore

Come i modelli imparano davvero, dalla discesa del gradiente vanilla ad Adam

La diagnostica dell'ottimizzatore significa leggere l'andamento dell'addestramento prima di cambiare la ricetta di addestramento. Una curva di loss, una norma del gradiente e una curva di validazione di solito dicono se il problema è la dimensione del passo, i dati, la scala, l'overfitting o un vero limite del modello.

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ Diagnostica dell'Ottimizzatore
← Il Paesaggio della LossClipping del Gradiente →