Inferencia, estimación y toma de decisiones a partir de datos
A veces la variable más importante es aquella que nunca observas. ¿De qué agrupación proviene este punto? ¿Qué tema generó este documento? Estas variables latentes ocultas Z hacen difícil el máximo verosímil: no puedes simplemente maximizar la log-verosimilitud porque ahora contiene una suma dentro de un logaritmo. Esperanza-Máximo (EM) es la solución elegante.
EM divide una optimización conjunta dura en dos pasos fáciles, alternados hasta convergencia:
La cantidad que EM realmente aumenta en cada ronda es una cota inferior de la log-verosimilitud llamada ELBO (cota inferior del evidencia). El paso E-tightena el límite; el paso M lo eleva.