Inferencia, estimación y toma de decisiones a partir de datos
MLE pregunta "¿cuál es el θ único que mejor explica los datos?" La estimación bayesiana plantea una pregunta más rica: "dada la data, ¿cómo es mi creencia completa sobre θ?" En lugar de un número, obtienes toda una distribución y puedes incorporar lo que sabías antes.
Tres ingredientes. La priori p(θ) es tu creencia antes de ver los datos. La verosimilitud p(x|θ) es cuán bien cada θ explica la data (el mismo objeto que en MLE). La regla de Bayes combina estos dos en el posterior p(θ|x):
Lee esto como: creencia posterior = cuán bien explica θ los datos, ponderado por lo plausible que era θ al principio. Cuanto más data hay, la verosimilitud domina y anula la priori.