איך מודלים בעצם לומדים — מירידת גרדיאנט הבסיסית ועד Adam
קיצוץ גרדיאנט מגביל עד כמה גדול עדכון יכול להיות. אם אצווה מייצרת גרדיאנט ענק, הקיצוץ מקטין אותו בקנה מידה לפני צעד האופטימייזר.
קיצוץ לא מתקן לא את היעד ולא את הנתונים. חשבו עליו ככלל בטיחות: אסור לאפשר לאצווה קיצונית אחת להטיס את הפרמטרים על פני משטח ההפסד.
בקר מהירות של מעלית הוא האנלוגיה. המעלית יכולה לנוע כרגיל, אך אם היא מתחילה לנוע מהר מדי, הבקר מגביל את המהירות לפני שהתנועה נעשית מסוכנת. קיצוץ גרדיאנט נותן לגרדיאנטים רגילים לעבור ומגביל את הקפיצות המסוכנות. האיור למטה מראה את האובייקט שעובר קיצוץ: גררו את הנקודה סביב הקערה וצפו בחץ הגרדיאנט מתמתח ככל שהמשטח נעשה תלול יותר. הקיצוץ מגביל את אורך החץ הזה ל־c תוך שמירה על כיוונו.