التقريب الخطي — التفاضل والتكامل II

التفاضل والتكامل متعدد المتغيرات من المبادئ الأولى

عن قرب، يبدو كل سطح أملس مستوياً، تماماً كما تشعر بأن الأرض مستوية تحت قدميك. يستبدل التقريب الخطي الدالة المنحنية قرب نقطة ما بـالمستوى المماس المستوي الذي يلامسها هناك فحسب. ويوفّر التدرج ميلان ذلك المستوى.

اقرأها بالكلمات: القيمة الجديدة ≈ القيمة القديمة، زائد التدرج مضروباً جدائياً بالخطوة التي قمت بها. ذلك الجداء النقطي هو المشتقة الاتجاهية مضروبة في طول الخطوة، وهو أفضل تخمين خطي لمقدار حركة f.

اضغط على ملصق مسطح صغير على كرة شاطئية، وفي المكان الذي يستقر فيه تماماً، تبدو الكرة المنحنية مسطحة تماماً. التقريب الخطي هو ذلك الملصق: مستوى مماس مسطح يلامس السطح في نقطة واحدة وينوب عن المنحنى المجاور. إذا ابتعدت كثيراً عبر الكرة فسينفصل الملصق عن السطح — وينحرف التنبؤ.

أين يظهر هذا في تعلّم الآلةإن خطوة واحدة من النزول التدرجي هي تقريب خطي عملياً. فتحديث w ← w − η∇L يفترض أن تغيّر الخسارة يُتنبّأ به جيداً بواسطة الحد الخطي ∇L·δ. وحين تكون الخطوة كبيرة جداً، يعض التقوّس الذي تجاهلته (الحد ‖δ‖²) فتتجاوز الخسارة الهدف أو تتباعد. ويبقيك معدل التعلّم η في المنطقة التي يكون فيها التعامل مع السطح وكأنه مستوٍ قريباً بما يكفي من الحقيقة.