Krajina ztrátové funkce

Jak se modely reálně učí, od klasického gradientního sestupu po Adam

Krajina ztrátové funkce je tvar L(θ) v prostoru parametrů. U neuronových sítí je vysokodimenzionální a nekonvexní: má široké ploché úseky, ostře zakřivené úseky, sedlové body, které v některých směrech stoupají a v jiných klesají, a mnoho oddělených oblastí s nízkou ztrátou, které bývají často propojené.

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ Krajina ztrátové funkce
← Metody druhého řáduDiagnostika optimalizátorů →