Clipping de Gradiente

Como os modelos realmente aprendem, da descida do gradiente simples ao Adam

O clipping de gradiente limita o quão grande uma atualização pode se tornar. Se um batch produz um gradiente enorme, o clipping o reduz antes do passo do otimizador.

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ Clipping de Gradiente
← Diagnóstico do OtimizadorAdam vs AdamW →