Диагностика оптимизатора

Как модели на самом деле обучаются — от обычного градиентного спуска до Adam

Диагностика оптимизатора означает чтение хода обучения прежде, чем менять рецепт обучения. Кривая потерь, норма градиента и кривая валидации обычно подсказывают, в чём дело: в размере шага, в данных, в масштабе, в переобучении или в реальном пределе возможностей модели.

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ Диагностика оптимизатора
← Рельеф функции потерьОбрезка градиента →