Cum învață de fapt modelele, de la coborârea pe gradient standard la Adam
Adam combină două idei: momentum pentru gradientul mediu și scalarea în stil RMSProp pentru gradientul mediu la pătrat. Apoi corectează bias-ul timpuriu deoarece acele medii mobile încep de la zero.
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.
▶ Adam