التحدّب

التفاضل والتكامل أحادي المتغير من المبادئ الأولى

التحدّب هو الشكل الذي يجعل التحسين سهلًا. الدالّة المحدّبة مقعّرة إلى الأعلى في كلّ مكان، كالوعاء، وتلك الخاصّيّة الواحدة تجعلها سهلة التصغير: هناك نقطة دُنيا واحدة فقط، وأيّ مسار هابط يقود مباشرةً إليها.

هناك ثلاث طرق متكافئة لرؤية التحدّب. أوّلًا، المشتقّة الثانية غير سالبة في كلّ مكان: f″(x) ≥ 0. ثانيًا، المنحنى مقعّر لأعلى ولا ينحني لأسفل أبدًا. ثالثًا، الصورة المُعرِّفة، وترٌ بين أيّ نقطتين يقع فوق المنحنى.

تخيل واديًا أملسًا، أو الجزء الداخلي لوعاء، وأسقط كرة زجاجية في أي مكان عليه. بغض النظر عن المكان الذي تبدأ منه، تتدحرج الكرة دائمًا للأسفل إلى أدنى نقطة وحيدة وتستقر هناك. هذا بالضبط ما يمنحك إياه التحدب: وادٍ واحد، لا قيعان زائفة، لذا فإن أي مسار انحدار يقودك إلى النهاية الصغرى الحقيقية الوحيدة.

أين يظهر هذا في تعلّم الآلةالتحدّب هو الخطّ الفاصل في تعلّم الآلة. الانحدار الخطّيّ واللوجستيّ وآلات المتّجهات الداعمة لها خسائر محدّبة: نقطة دُنيا شاملة واحدة، والتدريب موثوق وقابل لإعادة الإنتاج. الشبكات العميقة لها خسائر غير محدّبة بشدّة، فيها نقاط صغرى محلّيّة وسروج لا تُحصى، ولهذا تهبط التهيئات العشوائيّة المختلفة في حلول مختلفة، ولهذا يهمّ معدّل التعلّم كثيرًا، ولهذا لا يوجد حلّ أمثل "وحيد". معرفة ما إذا كانت خسارتك…
▶ التحدّب
← اختبار المشتقّة الثانيةمقدمة للتنزيل التدرجي →