الجداول والإحماء

كيف تتعلّم النماذج فعلياً — من الانحدار التدريجي البسيط إلى Adam

نادراً ما يكون معدل تعلم ثابت هو الأفضل لدورة تدريب كاملة بأكملها. ففي بداية التدريب يمكن تحمّل حركات أكبر لأن المعلمات بعيدة عن الإعدادات المفيدة. أما لاحقاً فغالباً ما يحتاج التدريب إلى حركات أصغر كي يستقر.

الجدول يُغيّر η مع مرور الوقت. والإحماء يبدأ بمعدل تعلم صغير ثم يرفعه تدريجياً قبل أن يبدأ الجدول الرئيسي.

حين تُطلق طائرة ورقية، لا تشدّ الخيط إلى أقصى توتر فوراً. بل تتركها ترتفع، وتستشعر الريح، ثم تضبط الخيط وهي تستقر. الإحماء هو الإطلاق اللطيف. والجدول اللاحق هو طريقة إدارة الخيط بعد أن تصبح الطائرة الورقية طائرة.