How models actually learn, from vanilla gradient descent to Adam
Методи першого порядку використовують градієнти. Методи другого порядку також використовують кривизну, зазвичай через гессіан. Кривизна каже оптимізатору, як сам градієнт змінюється при русі параметрів.
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.
▶ Методи другого порядку