Normy macierzy

Geometria i algebra odwzorowań liniowych, wektorów i macierzy

Podobnie jak wektor posiada swoją długość, macierz również ma określony geometryczny rozmiar. W obliczeniach najczęściej używamy dwóch miar, które odpowiadają na różne pytania: jak duże są elementy macierzy oraz w jakim stopniu macierz potrafi wydłużyć wektor?

The Frobenius norm treats the matrix as one long list of numbers and takes the Euclidean length: square every entry, add, square-root. The spectral norm instead measures the maximum stretch, the largest factor by which A can lengthen any unit vector, which turns out to be the largest singular value.

Pomyśl o macierzy jak o wzmacniaczu gitarowym (amplifier): podajesz na wejście sygnał, a on wychodzi głośniejszy. Norma spektralna to maksymalny gain wzmacniacza, największy czynnik, o jaki może on podbić jakikolwiek sygnał wejściowy, który przez niego prześlesz. Przekręć pokrętło na najgłośniejsze ustawienie, a to, jak najgłośniej może wyjść sygnał jednostkowy, jest dokładnie tą normą.

Gdzie to występuje w MLThe Frobenius norm is L2 weight regularization for a whole matrix: penalizing ‖W‖_F² keeps the weights small and the model smooth. The spectral norm drives spectral normalization, which divides a weight matrix by its largest singular value to cap how much it can amplify. That makes it a key stabilizer in GANs and a tool for enforcing Lipschitz bounds.
▶ Normy macierzy
← Najmniejsze kwadratyProjekcje →