Извод, оценка и вземане на решения от данни
MLE пита „кое едно-единствено θ обяснява най-добре данните?“. Байесовото оценяване (Bayesian estimation) задава по-богат въпрос: „предвид данните, какво е моето пълно убеждение относно θ?“. Вместо едно число, получавате цяло разпределение и можете да включите това, което сте знаели предварително (априорното ви знание).
Има три съставки. Априорното разпределение (prior) p(θ) е вашето убеждение, преди да видите данните. Правдоподобността (likelihood) p(x|θ) е колко добре всяко θ обяснява данните (същият обект като при MLE). Теоремата (правилото) на Байес ги комбинира в апостериорно разпределение (posterior) p(θ|x):
Чете се така: апостериорно убеждение = колко добре θ обяснява данните, претеглено според това колко правдоподобно е било θ в началото. Повечето данни карат правдоподобността да доминира и така „отмиват“ (намаляват ефекта на) априорното разпределение.