Adam

Como os modelos realmente aprendem, da descida do gradiente simples ao Adam

O Adam combina duas ideias: momentum para o gradiente médio, e escalonamento estilo RMSProp para o gradiente ao quadrado médio. Depois ele corrige o viés inicial porque essas médias móveis começam em zero.

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ Adam
← RMSPropGD Estocástico e por Mini-Batch →