MLE להתפלגויות נפוצות

הסקה, אומדן וקבלת החלטות מנתונים

מתכון ה־MLE זהה תמיד: כתוב את לוג־הנראות, גזור לפי הפרמטר, השווה לאפס, פתור. עבור שתי ההתפלגויות שתפגוש בהן הכי הרבה, התשובה פשוטה להפליא: היא פשוט ממוצע מדגמי.

עבור נתונים שנשלפו מהתפלגות נורמלית, מקסום לוג־הנראות נותן את האומדים האינטואיטיביים ביותר האפשריים:

דמיינו שאתם מטילים מטבע מכופף מספר פעמים כדי לנחש כמה הוא מוטה. נראות מקסימלית לא מתחבטת בזה: הניחוש הטוב ביותר היחיד לסיכוי לעץ הוא רק שבר העצים שראיתם בפועל. האומדן p̂ אינו אלא הספירה המצטברת שהפכה לממוצע, אותו ממוצע מדגם פשוט x̄ בתחפושת.

איפה זה ב־MLצורות סגורות אלה הן הסיבה לכך שהמודלים הפשוטים ביותר מהירים כל כך להתאמה. רגרסיה לינארית היא MLE תחת רעש גאוסיאני ובעלת פתרון סגור חד־פעמי. רגרסיה לוגיסטית היא MLE לתווית ברנולי/קטגורית, ללא פתרון סגור, אבל אותו עיקרון מניע את צעדי הגרדיאנט. המתכון "לוג־נראות → נגזרת → אפס" הוא השלד של כל הליך התאמה.
▶ MLE להתפלגויות נפוצות
← אומד נראות מרביתאמידה בייסיאנית →