Le taux d'apprentissage

Comment les modèles apprennent réellement, de la descente de gradient classique à Adam

Le taux d'apprentissage est la taille du pas de la descente de gradient. Le gradient indique dans quelle direction la loss monte le plus vite ; l'optimiseur se déplace dans la direction opposée. Le taux d'apprentissage η décide de la distance parcourue.

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ Le taux d'apprentissage
← Pourquoi l'optimisation en ML ?Plannings et warmup →