बेज़ीयन अनुमान — सांख्यिकी

डेटा से अनुमान, आकलन और निर्णय निर्माण

MLE पूछता "कौन-सा एकल θ डेटा सबसे अच्छा समझाता?" बेज़ीयन अनुमान एक समृद्ध प्रश्न: "डेटा दी, θ के बारे में मेरी पूर्ण धारणा क्या?" एक संख्या बजाय, आपको एक पूर्ण वितरण, और आप पहले से ज्ञात जोड़ सकते।

तीन सामग्री। prior p(θ) डेटा देखने से पहले आपकी धारणा। संभावना p(x|θ) कितना अच्छा प्रत्येक θ डेटा समझाता (MLE की वही वस्तु)। बेज़ नियम उन्हें posterior p(θ|x) में मिलाता:

पढ़ें: posterior धारणा = कितना अच्छा θ डेटा समझाता, वजनदार कितना संभव θ शुरू में था। अधिक डेटा संभावना हावी और prior धोता।

ML में इसका स्थाननियमितीकरण यही धारणा रोज़मर्रा। एक L2 दंड λ‖β‖² हानि में जोड़ना ठीक भारों पर एक गॉसीयन prior के साथ MAP अनुमान। prior कहता "शून्य के पास भार अधिक संभावित।" एक L1 दंड एक लाप्लास prior, जो विरल भार पसंद। भार क्षय एक ट्रिक नहीं; यह एक बेज़ीयन prior एक अलग नाम के साथ।