קיצוץ גרדיאנט

איך מודלים בעצם לומדים — מירידת גרדיאנט הבסיסית ועד Adam

קיצוץ גרדיאנט מגביל עד כמה גדול עדכון יכול להיות. אם אצווה מייצרת גרדיאנט ענק, הקיצוץ מקטין אותו בקנה מידה לפני צעד האופטימייזר.

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ קיצוץ גרדיאנט
← אבחון אופטימייזרAdam מול AdamW →