التوقع والتباين (المتصل) — الاحتمالات

كل ما تعلمته عن التوقع والتباين ينتقل إلى المتغيرات المتصلة. ما عليك سوى استبدال المجموع بتكامل. وزن دالة الكتلة الاحتمالية p(x) يصبح الكثافة f(x) dx، و"الجمع على كل القيم" يصبح "التكامل على الخط."

الحدس متطابق: E[X] لا يزال نقطة توازن كتلة الكثافة، والتباين لا يزال متوسط مربع المسافة عن تلك النقطة. الخطية وقاعدة القياس Var(aX+b)=a²Var(X) تبقى جميعها دون تغيير.

فكر في أرجوحة ذات وزن ملطخ بشكل غير متساو على طول اللوح بدلاً من الجلوس في نقطة واحدة. النقطة الوحيدة التي تتوازن عندها هي E[X]، وهو متوسط الكثافة. إلى أي مدى يتم إلقاء الوزن بعيداً عن ذلك المحور، مقاساً كمتوسط المسافة المربعة، هو Var(X): الوزن المتجمع بالقرب من المركز يعني تبايناً صغيراً، والوزن المدفوع إلى النهايات البعيدة يعني تبايناً كبيراً.

أين يظهر هذا في تعلّم الآلةالتوقعات المتصلة هي تكاملات، والتكاملات على فضاءات عالية الأبعاد عادةً ما تكون صعبة الحل. لذا يعتمد تعلّم الآلة على تقدير مونت كارلو: تقريب E[g(X)] = ∫ g(x)f(x)dx بمتوسط (1/n) Σ g(xᵢ) على عينات xᵢ مسحوبة من f. كل "مكافأة متوقعة" في التعلّم المعزز وكل حد من حدود ELBO في المشفر التلقائي المتغاير هو واحد من هذه التكاملات، يُقدَّر بالمعاينة.