Podmíněnost a cik-cak pohyb

Jak se modely reálně učí, od klasického gradientního sestupu po Adam

Gradientní sestup se chová velmi odlišně na kulaté a na protažené ploše ztrátové funkce. Podmíněnost měří toto protažení. Špatná podmíněnost způsobuje, že optimalizátor dělá cik-cak pohyby: jeden směr je strmý, jiný je plochý.

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ Podmíněnost a cik-cak pohyb
← Rozvrhy a warmupMomentum →