Diferențe finite și verificarea gradientului

Calcul multivariat din principii fundamentale

Diferențierea automată poate calcula milioane de derivate într-o singură trecere înapoi, dar un singur bug într-o operație personalizată poate trimite în mod silențios gradientul greșit prin întregul model. O verificare a gradientului prinde acel bug cu o diferență finită: faceți un pas pe o distanță mică h de fiecare parte a punctului care vă interesează, citiți cu cât s-a schimbat funcția și tratați panta acelei linii secante scurte ca o estimare independentă a pantei tangente adevărate.

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ Diferențe finite și verificarea gradientului
← Softmax Stabil și Log-Sum-ExpPuncte critice în Rⁿ →