Yaygın Dağılımlar için MLE

Inference, estimation, and decision-making from data

MLE tarifi her zaman aynıdır: log-olabilirliği yaz, parametreye göre türevini al, sıfıra eşitle, çöz. En sık karşılaşacağın iki dağılım için cevap çok güzeldir: yalnızca örnek ortalamasıdır.

Normal dağılımdan çekilen veriler için log-olabilirliği maksimize etmek, mümkün olan en sezgisel tahmin edicileri verir:

Ne kadar yanlı olduğunu tahmin etmek için bükülmüş bir parayı bir sürü kez çevirdiğinizi hayal edin. Maksimum olabilirlik bunun üzerinde kafa yormaz: tura gelme şansı için tek en iyi tahmin, yalnızca gerçekte gördüğünüz tura oranıdır. Tahmin p̂, bir ortalamaya dönüştürülmüş çalışma çetelesinden başka bir şey değildir, gizlenmiş aynı sade örneklem ortalaması x̄'dır.

Bunun ML'deki yeriBu kapalı formlar en basit modellerin çok hızlı uyarlanmasının nedenidir. Lineer regresyon, Gauss gürültüsü altında MLE'dir ve tek adımlık kapalı form çözüme sahiptir. Lojistik regresyon, Bernoulli/kategorik etiket için MLE'dir; kapalı formu yoktur, ama aynı ilke gradyan adımlarını sürer. "log-olabilirlik → türev → sıfır" tarifi her uyarlama prosedürünün iskeletidir.
▶ Yaygın Dağılımlar için MLE
← Maksimum Olabilirlik TahminiBayesçi Tahmin →