رسوم الحساب البيانية — التفاضل والتكامل II

التفاضل والتكامل متعدد المتغيرات من المبادئ الأولى

بنية بيانات واحدة تنظّم كل شيء من الدرسين الماضيين: رسم الحساب البياني. تصبح كل عملية حسابية في نموذج (جمع، ضرب، ضرب مصفوفات، تنشيط) عقدة في رسم بياني موجّه. وهذا الرسم البياني هو كيف تحسب باي تورش وجاكس وتنسرفلو التدرجات تلقائياً.

يجري التدريب الرسم البياني في مسحتين. يتدفق المرور الأمامي من اليسار إلى اليمين، حاسباً ومخزّناً قيمة كل عقدة. ويتدفق المرور العكسي من اليمين إلى اليسار، مستخدماً قاعدة السلسلة لدفع التدرج من الخسارة رجوعاً إلى كل دخل، عقدة في كل مرة.

الفكرة التي تجعله قابلاً للتوسّع: كل عقدة تحتاج فقط أن تعرف مشتقتها الموضعية. لإرسال التدرج عكسياً عبر عقدة، اضرب التدرج الوارد (من الأعلى) في يعقوبي العقدة الموضعي (كيف يعتمد خرجها على مداخلها). لا تحتاج أي عقدة أبداً إلى الصورة الكلية؛ بل القواعد الموضعية المتسلسلة معاً تنتج التدرج الكلي بالضبط.

أين يظهر هذا في تعلّم الآلةرسم الحساب البياني هو الاشتقاق التلقائي. عندما تكتب نموذجاً في باي تورش، تسجّل كل عملية بصمت عقدة؛ واستدعاء loss.backward() يمشي الرسم البياني بالعكس، ضارباً اليعقوبيات الموضعية عبر قاعدة السلسلة، ويودع ∂loss/∂w على كل وسيط. لا تكتب أبداً مشتقة بيدك، وتلك السهولة الواحدة، أي حساب المشتقات بدقة ومجاناً، هي جزء كبير من سبب كون التعلّم العميق الحديث عملياً أصلاً.