طرق الرتبة الثانية

كيف تتعلّم النماذج فعلياً — من الانحدار التدريجي البسيط إلى Adam

طرق الرتبة الأولى تستخدم التدرجات. أما طرق الرتبة الثانية فتستخدم أيضاً التقوّس، عادة عبر الهسّيان. والتقوّس يُخبر المُحسِّن كيف يتغيّر التدرج نفسه مع تحرك المعلمات.

طريقة نيوتن تستخدم ذلك التقوّس لاختيار خطوة يمكن أن تقفز مباشرة إلى النهاية الصغرى لدالة تربيعية. والثمن هو أن الهسّيانات ضخمة في الشبكات العصبية الحديثة.

يستخدم مشغّل الرافعة جدول حمولة لأن الاتجاه وحده لا يكفي. فالحمولة تُحني الذراع أيضاً، وذلك الانحناء يُغيّر الحركة الآمنة. والتحسين من الرتبة الثانية يقرأ الانحناء، لا الجذب فقط، قبل أن يقرر مدى الحركة. وفي الشكل تلعب أنت دور المشغّل: حرّك التقوّسين وراقب السطح وهو يصبح وعاءً، أو قبّة، أو سرجاً. والقيم الذاتية للهسّيان هي بالضبط ذانك المقبضان.