Transformacje

Analiza jednowymiarowa od pierwszych zasad

Gdy poznasz już kształt danej funkcji, nie musisz od nowa rysować jej wykresu, aby zrozumieć całą rodzinę funkcji z nią spokrewnionych. Cztery proste operacje przesuwają, rozciągają i odwracają wykres w całkowicie przewidywalny sposób. Naucz się je dostrzegać, a rysowanie wykresów stanie się kwestią rozpoznawania wzorców, a nie żmudnych obliczeń.

To jest dokładnie to, co robi edytor zdjęć. Nigdy nie przerysowujesz obrazu piksel po pikselu; przesuwasz go w bok, rozciągasz w pionie lub odwracasz w poziomie, a ten sam kształt ląduje w nowym miejscu. Przekształcenie funkcji to ta sama garść edycji jednym kliknięciem zastosowana do wykresu zamiast do zdjęcia.

Zaczynając od podstawowej postaci f(x): pomnożenie wyniku przez a powoduje rozciągnięcie w pionie; pomnożenie argumentu przez b rozciąga w poziomie; odjęcie c wewnątrz argumentu przesuwa w prawo; dodanie d na zewnątrz podnosi całość w górę. Razem daje to:

Gdzie to występuje w MLTo nie jest tylko metafora — normalizacja wsadowa (batch normalization) to dokładnie ta sama transformacja. Warstwa normalizacji wsadowej przyjmuje znormalizowane aktywacje x̂ i zwraca γ·x̂ + β, gdzie γ jest wyuczonym skalowaniem (odpowiednikiem naszego a), a β to wyuczone przesunięcie (nasze d). Sieć sama uczy się, gdzie umiejscowić i jak rozciągnąć każdą aktywację. Kształt funkcji aktywacji to…
▶ Transformacje
← Krótkie omówienie: Przestrzenie wektorowe funkcjiParzystość, nieparzystość, okresowość →