Normas de Matriz

Geometria e álgebra de aplicações lineares, vetores e matrizes

Assim como um vetor tem comprimento, uma matriz tem um "tamanho." Duas medidas dominam, e elas respondem perguntas diferentes: quão grandes são as entradas, versus quanto a matriz pode esticar um vetor?

A norma de Frobenius trata a matriz como uma longa lista de números e toma o comprimento Euclidiano: eleve cada entrada ao quadrado, some, tire a raiz. A norma espectral em vez disso mede o estiramento máximo, o maior fator pelo qual A pode alongar qualquer vetor unitário, que acaba sendo o maior valor singular.

Pense em uma matriz como um amplificador de guitarra: você insere um sinal e ele sai mais alto. A norma espectral é o ganho máximo do amplificador, o maior fator pelo qual ele pode impulsionar qualquer entrada que você envie através dele. Gire o botão para a sua configuração mais alta e o mais alto que um sinal unitário pode sair é exatamente essa norma.

Onde isso aparece no MLA norma de Frobenius é regularização L2 de pesos para uma matriz inteira: penalizar ‖W‖_F² mantém os pesos pequenos e o modelo suave. A norma espectral conduz a normalização espectral, que divide uma matriz de pesos por seu maior valor singular para limitar quanto ela pode amplificar. Isso a torna um estabilizador chave em GANs e uma ferramenta para impor limites de Lipschitz.
▶ Normas de Matriz
← Mínimos QuadradosProjeções →