דיוק מעורב וקנה מידה של הפסד

איך מודלים בעצם לומדים — מירידת גרדיאנט הבסיסית ועד Adam

אימון בדיוק מעורב משתמש בפורמטים מספריים קטנים יותר למהירות ולחיסכון בזיכרון. במקום לשמור כל חישוב בדיוק מלא (float32 סטנדרטי), פעולות רבות משתמשות ב-float16 או ב-bfloat16: פורמטים בני 16 סיביות שתופסים חצי מהזיכרון תמורת פחות דיוק, ועבור float16, גם טווח צר יותר של גדלים ניתנים לייצוג.

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.