हेसियन ज्यामिति

प्रथम सिद्धांतों से बहु-चर कलन

हेसियन के आइगेन मान अस्पष्ट प्रश्न 'यह किस प्रकार का क्रांतिक बिंदु है?' को एक साफ़ चेकलिस्ट में बदल देते हैं। उस बिंदु पर जहाँ ग्रेडिएंट शून्य है, हेसियन के आइगेन मानों के चिह्न बताते हैं कि आप एक कटोरे में, गुंबद पर, या काठी पर हैं।

यह बहु-चर द्वितीय-अवकलज परीक्षण है, और 1-D का सीधा व्यापकीकरण है: वहाँ, f″ > 0 का मतलब न्यूनतम और f″ का मतलब अधिकतम। हेसियन के आइगेन मान कई दिशाओं के उस एक संख्या के संस्करण हैं।

तीन स्नैक्स (snacks) की कल्पना करें। सूप का एक कटोरा ऊपर की ओर मुड़ता है चाहे आप इसे किसी भी तरफ झुकाएं, आइसक्रीम का गुंबद हर जगह नीचे की ओर मुड़ता है, और प्रिंगल चिप (Pringle chip) अपनी लंबाई के साथ ऊपर लेकिन चौड़ाई में नीचे झुकता है। हेसियन (Hessian) के आइगेनवैल्यू (eigenvalues) केवल उन विशेष दिशाओं के साथ वक्रता हैं: समान चिह्न का अर्थ है कटोरा या गुंबद, विपरीत चिह्नों (जैसे 2 और −2) का अर्थ है चिप, एक काठी (saddle)।

ML में इसका स्थानउच्च विमाओं में, काठी बिंदु स्थानीय न्यूनतम से बहुत अधिक संख्या में होते हैं। n विमाओं में एक यादृच्छिक क्रांतिक बिंदु के लिए, सभी n आइगेन मानों का एक ही चिह्न होना चाहिए ताकि वह वास्तविक न्यूनतम या अधिकतम हो, जो घातीय रूप से असंभव है। तो गहन नेट का प्रशिक्षण ज़्यादातर काठियों से बचने के बारे में है, ऐसी जगहें जहाँ ग्रेडिएंट छोटा है लेकिन आप तल से बहुत दूर हैं, बजाय बुरे स्थानीय न्यूनतम में फँसने…
▶ हेसियन ज्यामिति
← हेसियनश्रृंखला नियम: अदिश रचना →