Обумовленість і зигзаг

How models actually learn, from vanilla gradient descent to Adam

Градієнтний спуск поводиться дуже по-різному на круглій поверхні втрат і на розтягнутій. Обумовленість вимірює це розтягнення. Погана обумовленість змушує оптимізатор зигзагувати: один напрямок крутий, інший плоский.

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ Обумовленість і зигзаг
← Розклади та розігрівМоментум →