Как модели на самом деле обучаются — от обычного градиентного спуска до Adam
Фиксированная скорость обучения редко оказывается лучшей на протяжении всего обучения. В начале обучения можно позволить себе большие шаги, потому что параметры далеки от полезной настройки. Позже обучению часто нужны меньшие шаги, чтобы «улечься».
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.
▶ Расписания и прогрев