Поиск скорости обучения

Как модели на самом деле обучаются — от обычного градиентного спуска до Adam

Поиск скорости обучения — это короткий диагностический прогон. Начните с крошечной скорости обучения, увеличивайте её на протяжении многих мини-пакетов и наблюдайте, как реагирует потеря.

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ Поиск скорости обучения
← Adam против AdamWРанняя остановка →