Comment les modèles apprennent réellement, de la descente de gradient classique à Adam
Les méthodes du premier ordre utilisent les gradients. Les méthodes du second ordre utilisent aussi la courbure, généralement via la hessienne. La courbure indique à l'optimiseur comment le gradient lui-même change quand les paramètres se déplacent.
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.
▶ Les méthodes du second ordre