रैखिक सन्निकटन

प्रथम सिद्धांतों से बहु-चर कलन

पास से देखें तो हर चिकना पृष्ठ सपाट दिखता है, जैसे पृथ्वी आपके पैरों के नीचे सपाट महसूस होती है। रैखिक सन्निकटन किसी बिंदु के पास घुंघराले फलन को उस स्पर्श तल से बदलता है जो वहाँ ठीक छूता है। ग्रेडिएंट उस तल का झुकाव देता है।

शब्दों में पढ़ें: नया मान ≈ पुराना मान, जोड़ें ग्रेडिएंट को आपके कदम से बिंदु गुणन। वह बिंदु गुणन दिशात्मक अवकलज गुणा कदम लंबाई है, यह अनुमान है कि f कितना बदला।

एक बीच बॉल (beach ball) पर एक छोटा चपटा स्टिकर दबाएं और, जहां यह बैठता है, वहां घुमावदार गेंद बिल्कुल चपटी दिखती है। रैखिक सन्निकटन (linear approximation) वह स्टिकर है: एक चपटा स्पर्शरेखा तल (tangent plane) जो एक बिंदु पर सतह को चूमता है और पास के वक्र का प्रतिनिधित्व करता है। गेंद पर बहुत दूर भटकें और स्टिकर सतह से छिल जाता है — भविष्यवाणी दूर भटक जाती है।

ML में इसका स्थानएक ग्रेडिएंट-डिसेंट कदम वास्तव में रैखिक सन्निकटन है। w ← w − η∇L अद्यतन मानता है कि हानि परिवर्तन रैखिक पद ∇L·δ से अच्छी तरह भविष्यवाणी होता है। जब कदम बहुत बड़ा हो, तो वह वक्रता जिसे आपने नज़रअंदाज़ किया (वह ‖δ‖² पद) वापस काटती है और हानि ओवरशूट या अपसरित हो सकती है। सीखने की दर η आपको उस क्षेत्र में रखती है जहाँ पृष्ठ को सपाट मानना पर्याप्त है।
▶ रैखिक सन्निकटन
← दिशात्मक अवकलजजैकोबियन →