Come i modelli imparano davvero, dalla discesa del gradiente vanilla ad Adam
RMSProp adatta la dimensione del passo separatamente per ciascun parametro. Tiene traccia di una media mobile dei gradienti al quadrato, poi divide il gradiente per la radice di quella media.
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.
▶ RMSProp