تحجيم حجم الدفعة

كيف تتعلّم النماذج فعلياً — من الانحدار التدريجي البسيط إلى Adam

حجم الدفعة، ويُكتب B، يُغيّر الضوضاء في تقديرات التدرج. تعطي الدفعة الصغيرة تقديراً صاخباً لكنه رخيص. وتعطي الدفعة الكبيرة تقديراً أكثر ثباتاً، لكن كل تحديث يكلّف أكثر.

عندما يتغيّر حجم الدفعة، غالباً ما يتغيّر أفضل معدل تعلم أيضاً. يمكن للدفعات الكبيرة أحياناً استخدام معدلات تعلم أكبر، لكنها عادةً ما تحتاج إلى إحماء وتحقق دقيق.

استطلاع رأي عند مخرج الاقتراع يعمل بالطريقة نفسها. سؤال خمسة ناخبين يعطي تخميناً صاخباً. وسؤال خمسة آلاف ناخب يعطي تقديراً أكثر ثباتاً، لكنه يتطلب عملاً أكثر. حجم الدفعة هو حجم الاستطلاع بالنسبة للتدرج. ذلك الأثر المُثبِّت هو بالضبط ما يُظهره الشكل: اضغط تشغيل وراقب المتوسط الجاري لرميات العملة يستقر مع نمو n. استبدل العملات بتدرجات كل مثال وn بـ B، وستحصل على قصة حجم الدفعة كاملة.