هندسة الهسّيان

التفاضل والتكامل متعدد المتغيرات من المبادئ الأولى

تحوّل القيم الذاتية للهسّيان السؤال الغامض 'ما نوع هذه النقطة الحرجة؟' إلى قائمة تحقّق نظيفة. عند نقطة يكون فيها التدرج صفراً، تخبرك إشارات القيم الذاتية للهسّيان ما إذا كنت جالساً في وعاء، أم على قبة، أم عند سرج.

هذا هو اختبار المشتقة الثانية متعدد المتغيرات، وهو تعميم مباشر للحالة أحادية البعد: هناك، كان f″ > 0 يعني نهاية صغرى وf″ نهاية عظمى. والقيم الذاتية للهسّيان هي نسخ متعددة الاتجاهات من ذلك الرقم الواحد.

تخيل ثلاث وجبات خفيفة. وعاء حساء يتقوس لأعلى بغض النظر عن طريقة إمالته، وقبة من الآيس كريم تتقوس لأسفل في كل مكان، ورقاقة برينجلز تنحني لأعلى على طولها ولكن لأسفل عبر عرضها. القيم الذاتية للهيسية هي ببساطة التقوسات على طول تلك الاتجاهات الخاصة: العلامة نفسها تعني وعاء أو قبة، والعلامات المتعاكسة (مثل 2 و −2) تعني الرقاقة، سرج.

أين يظهر هذا في تعلّم الآلةفي الأبعاد العالية، تفوق نقاط السرج النهايات الصغرى المحلية بكثير. فبالنسبة لنقطة حرجة عشوائية في n بُعد، يجب أن تشترك كل القيم الذاتية الـn في إشارة واحدة لتكون نهاية صغرى أو عظمى حقيقية، وهو أمر غير محتمل أسّياً. لذا فتدريب شبكة عميقة هو في معظمه هروب من السروج، أي مواضع يكون فيها التدرج صغيراً لكنك بعيد عن القاع، بدلاً من الوقوع في نهايات صغرى محلية سيئة. وتلك إعادة الصياغة جزء كبير من سبب…
▶ هندسة الهسّيان
← الهسّيانقاعدة السلسلة: التركيب القياسي →