Comment les modèles apprennent réellement, de la descente de gradient classique à Adam
La descente de gradient se comporte très différemment sur une surface de loss ronde et sur une surface étirée. Le conditionnement mesure cet étirement. Un mauvais conditionnement fait zigzaguer l'optimiseur : une direction est raide, une autre est plate.
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.
▶ Conditionnement et zigzag