Geometria i algebra odwzorowań liniowych, wektorów i macierzy
Rozkład według wartości osobliwych (SVD - Singular Value Decomposition) realizuje coś, z czym nie poradzi sobie żaden inny matematyczny rozkład macierzy: bierze każdą dowolną macierz – kwadratową czy prostokątną, pełnego rzędu lub nie – i po prostu gładko rozkłada ją na trzy czyste i spójne geometrycznie składowe.
Czytając rozkład od prawej do lewej, każda transformacja liniowa okazuje się stanowić powtarzalny, trzyetapowy proces: Vᵀ najpierw obraca wektor wejściowy dopasowując go do swoich osi wejściowych, Σ (macierz diagonalna z umieszczonymi na przekątnej nieujemnymi wartościami osobliwymi σ₁ ≥ σ₂ ≥ …) odpowiednio skaluje każdą z tych osi z osobna, a następnie U na koniec obraca ów wynik wkładając go do docelowej przestrzeni wyjściowej. N-wymiarowa sfera wektorów wejściowych zostaje zawsze z zasady odwzorowana i przekształcona tu na elipsoidę, a same wartości osobliwe to nic innego jak wyliczone wprost długości jej nowych półosi.
Spójrz na rysunek i zaobserwuj, w jaki sposób jednostkowy okrąg wejściowy ulega sprawnemu przekształceniu na elipsę z osiami o długościach odwzorowujących dokładnie wyciągnięte na jej boki wartości osobliwe z samej macierzy SVD.