נוף ההפסד

איך מודלים בעצם לומדים — מירידת גרדיאנט הבסיסית ועד Adam

נוף ההפסד הוא הצורה של L(θ) על פני מרחב הפרמטרים. עבור רשתות נוירונים הוא ממימד גבוה ולא-קמור: יש בו מתיחות שטוחות רחבות, מתיחות מעוקלות בחדות, נקודות אוכף שעולות בכיוונים מסוימים בעוד הן יורדות באחרים, והרבה אזורי הפסד-נמוך נפרדים שלעיתים קרובות מתגלים כמחוברים.

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.