Diferenças Finitas e Verificação de Gradiente

Cálculo multivariável a partir dos primeiros princípios

A diferenciação automática consegue calcular milhões de derivadas num único backward pass, mas um único bug numa operação personalizada pode silenciosamente enviar o gradiente errado por todo o seu modelo. Uma verificação de gradiente captura esse bug com uma diferença finita: dê um pequeno passo de distância h para cada lado do ponto que interessa, veja o quanto a função mudou, e trate a inclinação dessa pequena reta secante como uma estimativa independente da verdadeira inclinação da tangente.

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ Diferenças Finitas e Verificação de Gradiente
← Softmax Estável e Log-Sum-ExpPontos Críticos em Rⁿ →