प्रत्याशा-अधिकतमीकरण (EM)

डेटा से अनुमान, आकलन और निर्णय निर्माण

कभी-कभी सबसे महत्वपूर्ण चर वह जो आप कभी नहीं देखते। इस बिंदु ने किस क्लस्टर से? इस दस्तावेज़ को किस विषय ने उत्पन्न? ये छिपे गुप्त चर Z अधिकतम संभावना कठिन: आप लॉग-संभावना अधिकतम नहीं क्योंकि इसमें एक लॉग के भीतर योग। प्रत्याशा–अधिकतमीकरण (EM) सुंदर समाधान।

EM एक कठिन संयुक्त अनुकूलन को दो आसान एकांतर कदमों में, अभिसरण तक दोहराया:

जो मात्रा EM हर चक्र ऊपर धकेलती वह लॉग-संभावना पर एक निम्न परिसर ELBO (evidence lower bound)। E-कदम परिसर कसता; M-कदम उसे ऊपर उठाता।

ML में इसका स्थानEM गॉसीयन मिश्रण मॉडल और क्लस्टरिंग के पीछे इंजन, और इसकी E/M संरचना वेरिएशनल ऑटोएनकोडर की संकल्पनात्मक पूर्वज। एक VAE का एनकोडर E-कदम की भूमिका (गुप्त z अनुमान), डिकोडर और ELBO उद्देश्य M-कदम। "गुप्त चर अनुमान और पैरामीटर अद्यतन के बीच एकांतर कर एक निम्न परिसर अधिकतम" पैटर्न आधुनिक गुप्त-चर मॉडलों में हर जगह।
▶ प्रत्याशा-अधिकतमीकरण (EM)
← जनक बनाम विभेदकसांद्रता असमिकाएँ (संक्षेप) →