Analiza wielowymiarowa od pierwszych zasad
Automatyczne różniczkowanie potrafi obliczyć miliony pochodnych w jednym przejściu wstecznym, ale pojedynczy błąd w niestandardowej operacji może po cichu wysłać zły gradient przez cały twój model. Sprawdzenie gradientu wychwytuje taki błąd za pomocą różnicy skończonej: przesuń się o małą odległość h w obie strony od interesującego cię punktu, odczytaj, o ile zmieniła się funkcja, i potraktuj nachylenie tej krótkiej siecznej jako niezależne oszacowanie prawdziwego nachylenia stycznej.
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.
▶ Różnice skończone i sprawdzanie gradientu