MLE untuk Distribusi Umum

Inferensi, estimasi, dan pengambilan keputusan dari data

Resep MLE selalu sama: tulis log-likelihood, ambil turunan terhadap parameter, set ke nol, selesaikan. Untuk dua distribusi yang akan paling sering Anda jumpai, jawabannya indah sederhana: sekadar rata-rata sampel.

Untuk data diambil dari distribusi normal, memaksimalkan log-likelihood member estimator paling intuitif mungkin:

Bayangkan Anda melempar koin bengkok berkali-kali untuk menebak seberapa bias koin itu. Maximum likelihood tidak menderita dalam memikirkannya: satu-satunya tebakan terbaik untuk peluang munculnya kepala hanyalah bagian proporsi dari kepala yang benar-benar Anda lihat. Estimasi p̂ tidak lebih dari perhitungan berjalan yang diubah menjadi rata-rata, mean sampel yang biasa x̄ dalam penyamaran.

Di mana ini berlaku dalam MLBentuk tertutup ini mengapa model paling sederhana begitu cepat di-fit. Regresi linear adalah MLE di bawah noise Gaussian dan punya solusi bentuk-tertutup satu-langkah. Regresi logistik adalah MLE untuk label Bernoulli/categorical, tanpa bentuk tertutup, tapi prinsip sama mendorong langkah gradien. Resep "log-likelihood → turunan → nol" adalah kerangka setiap prosedur fitting.
▶ MLE untuk Distribusi Umum
← Estimasi Maksimum LikelihoodEstimasi Bayesian →