التحدّب في الممارسة

كيف تتعلّم النماذج فعلياً — من الانحدار التدريجي البسيط إلى Adam

الخسارة المحدّبة تملك ضماناً قوياً: كل نهاية صغرى محلية هي نهاية صغرى شاملة. وهذا يجعل التحسين نظيفاً من الناحية المفاهيمية. والعديد من أهداف تعلّم الآلة الكلاسيكية محدّبة؛ أما الشبكات العميقة فعادة ما تكون غير كذلك.

ما زال التحدّب يستحق التعلّم لأنه يعطي الحالة المرجعية. فهو يخبرك كيف سيبدو التحسين لو لم تكن هناك مصائد محلية سيئة، ولا تعقيدات نقاط سرج، ولا مفاجآت شديدة في التضاريس.

الصحن اللاقط للأقمار الصناعية له اتجاه توجيه واحد نظيف عندما يكون سطح الإشارة أملس وذا قمة واحدة. أما ورق الألومنيوم المجعّد فله وجيهات لامعة صغيرة كثيرة يمكن أن تلتقط الضوء محلياً. والتحسين المحدّب أقرب إلى الصحن؛ وتدريب الشبكة العميقة أقرب إلى الورق المجعّد. والشكل أدناه يُظهر الاختبار المُعرِّف على منحنى محدّب: حرّك الطرفين ولاحظ أن الوتر المستقيم بينهما لا ينخفض أبداً تحت المنحنى.

أين يظهر هذا في تعلّم الآلةالأهداف المحدّبة ما زالت مهمة في تعلّم الآلة: الانحدار الخطي، وريدج، والانحدار اللوجستي، ومتغيرات SVM، والعديد من المسائل الفرعية كلها محدّبة. ثم يسأل التعلّم العميق إلى أي مدى يمكن لطرق الرتبة الأولى أن تصل عندما تختفي تلك الضمانات.
▶ التحدّب في الممارسة
← النزول التدرجي العشوائي والدفعات الصغيرةالتحسين المقيَّد والإسقاطات →