أحيانًا يكون أهمّ متغيّر هو متغيّر لا ترصده قط. من أي عنقود جاءت هذه النقطة؟ أيّ موضوع وَلَّد هذه الوثيقة؟ هذه المتغيّرات الكامنة Z تجعل الإمكان الأعظمي صعبًا: لا يمكنك ببساطة تعظيم لوغاريتم الإمكان لأنه يحتوي الآن على مجموع داخل لوغاريتم. التوقّع-التعظيم (EM) هو الإصلاح الأنيق.
يُفكّك EM تحسينًا مشتركًا صعبًا إلى خطوتين متناوبتين سهلتين، تتكرّران حتى التقارب:
الكمية التي يدفعها EM فعليًا إلى الأعلى كل جولة هي حدّ أدنى للوغاريتم الإمكان يُسمّى ELBO (الحدّ الأدنى للدليل). تُحكِم خطوة E الحدّ؛ وترفعه خطوة M.
أين يظهر هذا في تعلّم الآلةEM هو المحرّك خلف نماذج المزيج الغاوسي والعنقدة، وبنيته E/M هي السلف المفاهيمي لـ المُرمِّزات التلقائية المتغيّرة. يؤدي مُرمِّز VAE دور خطوة E (استنتاج الكامن z)، ويؤدي المُفكِّك وهدف ELBO دور خطوة M. نمط "عظِّم حدًّا أدنى بالتناوب بين استنتاج الكوامن وتحديث المعاملات" موجود في كل مكان في نماذج المتغيّرات الكامنة الحديثة.