مختبر المُحسِّنات

كيف تتعلّم النماذج فعلياً — من الانحدار التدريجي البسيط إلى Adam

مختبر المُحسِّنات يقارن بين المُحسِّنات تحت ظروف مضبوطة. شغّل النموذج نفسه، والبيانات نفسها، وحجم الدفعة نفسه، وميزانية الجدول نفسها، وخطة البذور نفسها، ثم غيّر المُحسِّن أو إعداداً واحداً من إعداداته.

من دون ذلك الضبط، تتحول مقارنات المُحسِّنات إلى قصص. فقد تكون التشغيلة الأسرع قد استخدمت معدل تعلم أفضل، أو جدولاً مختلفاً، أو بذرة أكثر حظاً.

ليوم اختبار على حلبة سباق قواعد لهذا. فإذا قارنت بين سيارتين، تُبقي المضمار والإطارات وحمولة الوقود والطقس مضبوطة قدر الإمكان. وإلا فلن تعرف ما إذا كانت السيارة أسرع أم كانت الظروف أسهل. الشكل أدناه منضدة مختبر مصغّرة: السطح المطّاط نفسه في كل تشغيلة، مع η وβ وκ بوصفها متغيّراتك. غيّر واحداً بالضبط، شغّل، وقارِن المسارات. هذا هو انضباط هذا الدرس بأكمله في أداة واحدة.