Adam

Como os modelos realmente aprendem, do gradiente descendente simples ao Adam

O Adam combina duas ideias: momentum para o gradiente médio, e escalonamento ao estilo RMSProp para o gradiente ao quadrado médio. Depois corrige o viés inicial porque essas médias móveis começam em zero.

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ Adam
← RMSPropGradiente Descendente Estocástico e por Mini-Batch →