Rⁿ में सीमाएँ और सांतत्य

प्रथम सिद्धांतों से बहु-चर कलन

एक रेखा पर आप केवल दो पक्षों से, बाएँ और दाएँ, एक बिंदु पर पहुँच सकते। तल और आगे में, आप अनंत रूप से कई दिशाओं से, किसी भी पथ से एक बिंदु पर पहुँच सकते। वह अतिरिक्त स्वतंत्रता Rⁿ में सीमाओं को वास्तव में कठिन बनाती, और यह पाठ एक विधि से ज्यादा एक चेतावनी।

एक फलन f की बिंदु p पर सीमा L केवल यदि वह एक ही L की ओर जाता चाहे आप कौन-सा पथ लें। यदि दो अलग पथ दो अलग उत्तर दें, सीमा मौजूद नहीं।

आप एक प्लाजा के बीच में एक फव्वारे पर किसी मित्र से मिलने के लिए सहमत हैं। आप उत्तर के प्रवेश द्वार, पूर्व की गली, या चौक के पार किसी भी घुमावदार विकर्ण (diagonal) से इसकी ओर चल सकते हैं, लेकिन आपको अंततः उसी फव्वारे पर पहुंचना होगा। Rⁿ में एक सीमा (limit) ठीक इसी की मांग करती है: फ़ंक्शन को एक ही मान की ओर बढ़ना चाहिए चाहे आप कोई भी पथ लें। यदि दो दृष्टिकोण इस बात पर असहमत हैं कि वे कहाँ उतरते हैं, तो कोई मिलन स्थल नहीं है, और सीमा का अस्तित्व नहीं है।

ML में इसका स्थानग्रेडिएंट-आधारित प्रशिक्षण काम करता क्योंकि डीप लर्निंग में लगभग हर फलन संतत: एक छोटा भार धक्का एक छोटा हानि परिवर्तन, तो ग्रेडिएंट का मतलब। परिचित अपवाद ReLU, max(0, x), सर्वत्र संतत लेकिन 0 पर एक मोड़ जहाँ अवकलज उछाल। एक चिकना परिदृश्य वह नियमितता जिस पर ग्रेडिएंट डिसेंट निर्भर, और जहाँ यह टूटता (उस मोड़ पर) अनुकूलन उपग्रेडिएंट पर लौटता।
▶ Rⁿ में सीमाएँ और सांतत्य
← फलन f: Rⁿ → Rᵐआंशिक अवकलज →