Zastosowania

Analiza jednowymiarowa od pierwszych zasad

Największa korzyść z rozwinięcia Taylora w uczeniu maszynowym to linearyzacja: zastąpienie złożonej, nieliniowej funkcji jej styczną w pobliżu interesującego nas punktu. W małym otoczeniu przybliżenie liniowe jest wręcz idealne, a o wiele łatwiej operować i wyciągać wnioski opierając się na matematyce liniowej.

Sigmoid σ(x) = 1/(1 + e⁻ˣ) to znana nieliniowość. W pobliżu x = 0 przechodzi przez ½ z nachyleniem ¼, więc jej liniowa aproksymacja to:

Płaska papierowa mapa drogowa traktuje okrągłą Ziemię jako płaszczyznę w okolicach jednego miasta. Na dystansie kilku kilometrów zakrzywienie jest zbyt małe, aby miało to znaczenie, więc płaska karta jest wystarczająco precyzyjna, aby można było z nią nawigować, nawet jeśli nasza planeta to tak naprawdę kula. Linearyzacja robi to samo z funkcją: w pobliżu pewnego punktu zamienia prawdziwą krzywą na linię styczną f(x) ≈ f(0) + f′(0)·x, na tyle dokładną lokalnie i znacznie łatwiejszą do pracy.

Gdzie to występuje w MLLinearyzacja to podstawowy oręż uczenia maszynowego. Przybliżenia dla małego kąta i małych wartości wejściowych upraszczają badanie nieliniowych funkcji aktywacji (sigmoid, GELU, softmax) w okolicy ich typowego punktu pracy. Linearyzacja modelu sieci neuronowej wokół jej obecnych parametrów leży u podstaw metody Neural Tangent Kernel (NTK), co z kolei daje podwaliny pod głębsze zrozumienie…
▶ Zastosowania
← Kluczowe szeregi TayloraWektory w Rⁿ →