केंद्रीय सीमा प्रमेय

अनिश्चितता का गणित

बड़ी संख्याओं का नियम कहता नमूना माध्य μ के लिए अभिसरण। लेकिन कैसे यह वहाँ पहुँचता, और बचा डोलन कैसा? केंद्रीय सीमा प्रमेय एक आश्चर्यजनक उत्तर: डोलन हमेशा गॉसीयन, चाहे आप किसी भी वितरण से शुरू।

पर्याप्त स्वतंत्र नमूने औसत और मानकीकृत औसत एक मानक सामान्य का पालन, भले ही मूल सिक्के, पासे, या कोई तिरछा वितरण। इसीलिए घंटी वक्र इतनी बार: कुछ भी जो कई छोटे स्वतंत्र प्रभावों का योग वह गॉसीयन।

आकृति एक समतल पासे के n लुढ़काने औसत और कई परीक्षणों पर हिस्टोग्राम। n = 1 पर हिस्टोग्राम समतल (समान); n बढ़ाएँ और एक घंटी कहीं से, CLT एक गैर-गॉसीयन स्रोत से गॉसीयन बनाता।

ML में इसका स्थानCLT प्रसंभावित अनुकूलन की शोर संरचना समझाता। एक मिनी-बैच ग्रेडिएंट बैच उदाहरणों पर औसत, तो CLT से सत्य ग्रेडिएंट के चारों लगभग गॉसीयन फैलाव σ/√(batch size)। इसीलिए ग्रेडिएंट शोर सामान्य, बड़े बैच आनुपातिक चिकने (लेकिन केवल √n-बेहतर) चरण, और बेंचमार्क सटीकताओं पर त्रुटि-पट्टियाँ सामान्य-आधारित विश्वास अंतरालों से।
▶ केंद्रीय सीमा प्रमेय
← बड़ी संख्याओं का नियमकेंद्र के माप →