Funkcje f: Rⁿ → Rᵐ

Analiza wielowymiarowa od pierwszych zasad

Do tej pory wynikiem była pojedyncza liczba. Rozszerzmy to na wektor. Funkcja f: Rⁿ → Rᵐ przyjmuje wektor i zwraca wektor: wiele liczb na wejściu, wiele liczb na wyjściu. Jest to dokładna matematyczna reprezentacja warstwy sieci neuronowej, gdzie wektor wejściowy wchodzi, a przekształcony wektor z niej wychodzi.

Sposobem na zrozumienie funkcji wektorowej jest analizowanie jej współrzędna po współrzędnej. Każda składowa wyjścia jest niezależną funkcją skalarną Rⁿ → R, nazywaną funkcją składową. Zastosowanie m takich funkcji daje pełne przekształcenie wektorowe.

Stół mikserski zamienia kilka pokręteł wejściowych na kilka odczytów wyjściowych naraz: przesuń suwaki, a każdy miernik zareaguje jednocześnie. To jest funkcja f: Rⁿ → Rᵐ: wektor wejściowy wchodzi, wektor wyjściowy wychodzi. Aby to zrozumieć, odczytujesz po jednym mierniku naraz, ponieważ każda współrzędna wyjściowa f₁, f₂, i tak dalej to jej własny zwykły przepis zbudowany z tych samych pokręteł wejściowych.

Gdzie to występuje w MLPropagacja w przód w każdej sieci neuronowej to złożenie funkcji wektorowych. Każda warstwa to funkcja f: Rⁿ → Rᵐ, zazwyczaj przekształcenie liniowe Wx + b przepuszczone przez nieliniową funkcję aktywacji stosowaną element po elemencie. Śledzenie, jak drobna zmiana wejścia propaguje się przez ten łańcuch współrzędna po współrzędnej, to dokładnie to, co formalizuje macierz Jacobiego (Moduł 3) i…
▶ Funkcje f: Rⁿ → Rᵐ
← Funkcje f: Rⁿ → ROgraniczenia i ciągłość w Rⁿ →