स्वतंत्रता

अनिश्चितता का गणित

दो घटनाएँ स्वतंत्र जब एक जानना दूसरे के बारे कुछ नहीं बताता। पहला सिक्का चित्त जानना दूसरे के लिए बदलता नहीं। औपचारिक रूप से, स्वतंत्रता का मतलब सशर्त प्रायिकता सादी के बराबर, P(A|B) = P(A), जो पुनर्व्यवस्थित एक साफ परीक्षण:

तो स्वतंत्र घटनाओं के लिए, दोनों होने की प्रायिकता बस गुणनफल। इसीलिए n निष्पक्ष सिक्के सभी चित्त की प्रायिकता (1/2)ⁿ: उछाल एक-दूसरे से बात नहीं।

एक निष्पक्ष सिक्के की कोई याददाश्त नहीं होती: लगातार पाँच चित (heads) आने के बाद, अगला उछाल भी बराबर 50/50 होता है, क्योंकि सिक्का यह याद नहीं रख सकता कि उसने अभी क्या किया। वह "कोई याददाश्त नहीं" ही वास्तव में स्वतंत्रता है, जहां एक साथ दोनों उछालों की संभावना उनका गुणनफल P(A ∩ B) = P(A) · P(B) होती है। यही कारण है कि लगातार n चित आने की प्रायिकता (1/2)ⁿ होती है।

ML में इसका स्थानजब आप एक लेबल डेटासेट पर प्रशिक्षण, आप लगभग हमेशा मानते उदाहरण i.i.d., स्वतंत्र और समान रूप से वितरित। वह मान्यता डेटासेट पर संयुक्त likelihood को गुणनफल P(data) = Π P(xᵢ) में खोलती, जो लॉग-पदों का योग (हानि) बनता। Naive Bayes वर्गीकारक आगे जाते और मानते विशेषताएँ वर्ग दी सशर्त स्वतंत्र, एक असंभव संयुक्त को ट्रैक्टेबल गुणनफल में।
▶ स्वतंत्रता
← बेज़ प्रमेययादृच्छिक चर →