जनक बनाम विभेदक — सांख्यिकी

डेटा से अनुमान, आकलन और निर्णय निर्माण

एक वर्गीकारक बनाने के दो मौलिक रूप से अलग तरीके, और यह विभाजन सारे मशीन लर्निंग में। एक विभेदक मॉडल वर्गों के बीच सीमा सीधे सीखता। एक जनक मॉडल सीखता कैसे प्रत्येक वर्ग अपना डेटा उत्पन्न, और सीमा एक उप-उत्पाद के रूप में।

औपचारिक रूप से: एक विभेदक मॉडल सशर्त p(y|x) सीधे अनुमान, उत्तर "इन विशेषताओं दी, कौन-सा लेबल?" एक जनक मॉडल संयुक्त p(x, y) अनुमान (अक्सर p(x|y) और p(y) से), फिर बेज़ नियम से p(y|x)।

दो कला छात्रों के बारे में सोचें। एक खरोंच (scratch) से एक बिल्ली को पेंट (paint) करना सीखता है, यह महारत हासिल करता है कि फर, मूंछें और कान एक साथ कैसे आते हैं: वह एक जेनरेटिव (generative) मॉडल है, यह सीख रहा है कि प्रत्येक वर्ग अपना डेटा कैसे बनाता है। दूसरा कभी कुछ भी पेंट नहीं करता है, लेकिन किसी भी तस्वीर में बिल्ली बनाम कुत्ते को खोजने (spotting) में शानदार हो जाता है: यह एक भेदभावपूर्ण (discriminative) मॉडल है, जो केवल वर्गों के बीच की सीमा सीखता है। चित्रकार नई बिल्लियाँ बना सकता है; स्पॉटर बस रेखा खींचता है, और अक्सर इस पर अधिक तेज होता है।

ML में इसका स्थानयह द्विभाजन ML के बड़े हिस्से को संगठित। एक वर्गीकारक (लॉजिस्टिक प्रतिगमन, अधिकांश न्यूरल नेट) विभेदक: p(y|x) और बस। एक VAE या विसरण मॉडल जनक: यह p(x) पर्याप्त सीखता नई छवियाँ संश्लेष, जो एक विभेदक नहीं। Naive Bayes बनाम लॉजिस्टिक प्रतिगमन क्लासिक पाठ्यपुस्तक युगल; VAE बनाम वर्गीकारक इसका आधुनिक डीप-लर्निंग प्रतिध्वनि।