Recherche d'hyperparamètres

Comment les modèles apprennent réellement, de la descente de gradient classique à Adam

Les hyperparamètres sont des choix d'entraînement fixés en dehors des paramètres appris : taux d'apprentissage, taille de batch, décroissance des poids, durée du warmup, dropout, largeur du modèle, et bien d'autres.

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ Recherche d'hyperparamètres
← Initialisation et échelle du signalWhat Makes a Model Learn? →