How models actually learn, from vanilla gradient descent to Adam
Градієнтний спуск поводиться дуже по-різному на круглій поверхні втрат і на розтягнутій. Обумовленість вимірює це розтягнення. Погана обумовленість змушує оптимізатор зигзагувати: один напрямок крутий, інший плоский.
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.
▶ Обумовленість і зигзаг