Diagnostic de l'optimiseur

Comment les modèles apprennent réellement, de la descente de gradient classique à Adam

Le diagnostic de l'optimiseur consiste à lire l'exécution d'entraînement avant de modifier la recette d'entraînement. Une courbe de perte, une norme de gradient et une courbe de validation indiquent généralement si le problème vient de la taille du pas, des données, de l'échelle, du surapprentissage, ou d'une véritable limite du modèle.

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ Diagnostic de l'optimiseur
← Le paysage de la lossÉcrêtage du gradient →