MLE cho các phân phối thông dụng

Suy luận, ước tính và ra quyết định từ dữ liệu

Công thức MLE luôn giống nhau: viết ra hàm log-hợp lý, lấy đạo hàm theo tham số, cho bằng 0, rồi giải. Với hai phân phối mà bạn sẽ gặp nhiều nhất, câu trả lời rất gọn gàng: đó chỉ là trung bình mẫu.

Với dữ liệu rút ra từ phân phối chuẩn, việc cực đại hóa hàm log-hợp lý cho ra những ước lượng tử trực quan nhất có thể:

Hãy tưởng tượng bạn tung một đồng xu bị uốn cong nhiều lần để đoán xem nó thiên vị như thế nào. Khả năng xảy ra tối đa không gây khó khăn cho điều đó: dự đoán tốt nhất duy nhất về khả năng xảy ra mặt ngửa chỉ là tỷ lệ mặt ngửa mà bạn thực sự nhìn thấy. Ước tính p̂ không gì khác hơn là việc kiểm đếm đang chạy được biến thành mức trung bình, cùng một mẫu đơn giản có nghĩa là x̄ được ngụy trang.

Vị trí của nó trong MLNhững công thức dạng đóng này là lý do các mô hình đơn giản nhất khớp được nhanh đến vậy. Hồi quy tuyến tính là MLE dưới nhiễu Gauss và có một nghiệm dạng đóng tính một lần. Hồi quy logistic là MLE cho nhãn Bernoulli/phân loại, không có dạng đóng nhưng vẫn cùng một nguyên tắc dẫn dắt các bước gradient. Công thức "log-hợp lý → đạo hàm → 0" là bộ khung của mọi quy trình khớp mô hình.
▶ MLE cho các phân phối thông dụng
← Ước lượng hợp lý cực đạiƯớc lượng Bayes →