प्रत्याशा

अनिश्चितता का गणित

एक यादृच्छिक चर की प्रत्याशा इसका दीर्घकालिक औसत: वह मान जिस पर आप पहुँते यदि प्रयोग हमेशा दोहराएँ और परिणाम औसत। यह संभावित मानों का भारित औसत, प्रत्येक अपनी प्रायिकता से भारित:

PMF को एक बटुए पर रखे भारों के रूप में सोचें; E[X] संतुलन बिंदु। यह आवश्यक नहीं कि X का मान हो। एक निष्पक्ष पासा 3.5 औसत, जो कोई फलक नहीं दिखाता।

एक स्लॉट मशीन की कल्पना करें जिसे आप हजारों बार खेलते हैं। किसी एक खिंचाव पर आप बड़ी जीत हासिल कर सकते हैं या अपना सिक्का खो सकते हैं, लेकिन मशीन का प्रति खेल एक निश्चित दीर्घकालिक औसत भुगतान होता है, और वह संख्या E[X] है। यह वह स्थिर मूल्य है जिसकी ओर आपका औसत बढ़ता है जैसे-जैसे खेल बढ़ते हैं, भले ही कोई भी स्पिन कभी भी उस पर ठीक से नहीं रुकता हो।

ML में इसका स्थानप्रशिक्षण एक अपेक्षित हानि E_D[L(θ)] न्यूनतम, डेटा वितरण पर औसत हानि। हम वह प्रत्याशा सटीक गणना नहीं, तो एक परिमित नमूने (प्रशिक्षण समुच्चय) पर औसत से सन्निकट, और हर ग्रेडिएंट चरण पर एक मिनी-बैच पर। प्रत्याशा की रैखिकता कारण है बैच पर औसत ग्रेडिएंट सच्चे ग्रेडिएंट का एक अनभिनत अनुमान।
▶ प्रत्याशा
← यादृच्छिक चरप्रसरण →