טרנספורמציות

חשבון דיפרנציאלי ואינטגרלי חד־משתני מיסודות ראשונים

ברגע שמכירים את הצורה של פונקציה אחת, אין צורך לשרטט מחדש כדי להבין משפחה שלמה של קרובות לה. ארבע פעולות פשוטות מזיזות, מותחות, והופכות גרף בדרכים צפויות לחלוטין. למד לראות אותן, והשרטוט הופך מאריתמטיקה לזיהוי.

זה בדיוק מה שעורך תמונות עושה. אתם אף פעם לא מציירים מחדש את התמונה פיקסל אחר פיקסל; אתם מזיזים אותה הצידה, מותחים אותה לגובה, או הופכים אותה אופקית, ואותה צורה נוחתת במקום חדש. התמרת פונקציה היא אותו קומץ של עריכות בלחיצה אחת המיושמות על גרף במקום על תמונה.

נתחיל מצורת בסיס f(x): כפל הפלט ב־a מותח אנכית; כפל הקלט ב־b מותח אופקית; חיסור c בפנים מזיז ימינה; חיבור d בחוץ מרים למעלה. וביחד:

איפה זה ב־MLזו אינה מטאפורה — נרמול אצווה הוא ממש הטרנספורמציה הזו. שכבת נרמול אצווה לוקחת הפעלה מנורמלת x̂ ומוציאה γ·x̂ + β, כש־γ הוא מתיחה נלמדת (ה־a שלמעלה) ו־β הוא הזזה נלמדת (ה־d). הרשת לומדת היכן למקם וכיצד למתוח כל הפעלה. גם צורתה של פונקציית הפעלה היא טרנספורמציה: tanh "תלול יותר" הוא פשוט b > 1, וטמפרטורה ב־softmax היא מתיחה פנימית של הלוגיטים.
▶ טרנספורמציות
← תקציר: מרחבים וקטוריים של פונקציותזוגי, אי־זוגי, מחזוריות →