איך מודלים בעצם לומדים — מירידת גרדיאנט הבסיסית ועד Adam
Adam משלב שני רעיונות: מומנטום עבור ממוצע הגרדיאנט, ושינוי קנה מידה בסגנון RMSProp עבור ממוצע הגרדיאנט בריבוע. לאחר מכן הוא מתקן הטיה מוקדמת, כי הממוצעים הנעים האלה מתחילים מאפס.
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.
▶ Adam