Rⁿ'de Limitler ve Süreklilik

Multivariate calculus from first principles

Bir doğru üzerinde bir noktaya yalnızca iki taraftan, soldan ve sağdan yaklaşabiliyordun. Düzlemde ve ötesinde, bir noktaya sonsuz sayıda yönden, istediğin herhangi bir yol boyunca yaklaşabilirsin. Bu fazladan özgürlük, Rⁿ'de limitleri gerçekten daha zor hâle getirir ve bu ders bir tariften çok bir uyarıdır.

Bir f fonksiyonunun bir p noktasında L limiti vardır, ancak ve ancak içeri hangi yolu seçersen seç aynı L'ye yönelirse. İki farklı yol iki farklı cevap veriyorsa, limit basitçe yoktur.

Bir arkadaşınızla bir meydanın ortasındaki çeşmede buluşmak için anlaşırsınız. Oraya kuzey girişinden, doğu geçidinden veya meydan boyunca dolambaçlı herhangi bir köşegenden yürüyebilirsiniz, ancak sonunda aynı çeşmeye ulaşmanız gerekir. Rⁿ uzayındaki bir limit tam olarak bunu talep eder: hangi yolu seçerseniz seçin fonksiyon tek bir değere yönelmelidir. İki yaklaşım nereye ulaştıkları konusunda anlaşamazsa, buluşma noktası yoktur ve limit mevcut değildir.

Bunun ML'deki yeriGradyan tabanlı eğitim işe yarar, çünkü derin öğrenmedeki neredeyse her fonksiyon süreklidir: küçük bir ağırlık dürtmesi küçük bir kayıp değişimi üretir, böylece gradyan bir anlam ifade eder. İyi bilinen istisna ReLU'dur, max(0, x), her yerde süreklidir ama 0'da türevin sıçradığı bir kırık vardır. Pürüzsüz bir manzara, gradyan inişinin dayandığı düzenliliktir ve bunun bozulduğu yerde (o kırıkta)…
▶ Rⁿ'de Limitler ve Süreklilik
← f: Rⁿ → Rᵐ FonksiyonlarıKısmi Türevler →