חשבון דיפרנציאלי ואינטגרלי חד־משתני מיסודות ראשונים
לחשב נגזרת מהגדרת הגבול בכל פעם מחדש זה מתיש. חופן כללים מאפשר לגזור כמעט כל דבר במבט אחד. למד אותם ולעולם לא תזדקק שוב לגבול עבור פונקציות רגילות.
סוס העבודה. כדי לגזור חזקה, הורד את המעריך קדימה כמקדם והפחת אותו באחד:
מדידת מהירות של מכונית באופן ידני, על ידי סימון מרחקים ומדידתם באמצעות שעון עצר, עובדת אבל איטית להחריד. מד מהירות המחובר לגלגלים נותן לכם את אותה התשובה באופן מיידי. כללי הגזירה הם אותו קיצור דרך מובנה: במקום לטחון דרך הגדרת הגבול בכל פעם, אתם קוראים את השיפוע ישירות מהנוסחה.
איפה זה ב־MLלכל מנוע autograd בכל מסגרת עבודה הכללים האלה מובנים בתוכו. כשקוראים ל־.backward(), הוא מיישם אוטומטית את כלל החזקה, כלל הסכום ונגזרות הפונקציות הסטנדרטיות (בתוספת כלל השרשרת, שבמודול הבא) על פני מיליוני פעולות. הכרת הכללים האלה ידנית היא הדרך שבה בודקים שפיות של גרדיאנט, מנפים שכבה מותאמת אישית, או גוזרים את גרדיאנט ההפסד על הנייר.