Matris Normları

Geometry and algebra of linear maps, vectors, and matrices

Tıpkı bir vektörün bir uzunluğu olduğu gibi, bir matrisin de bir "boyutu" vardır. İki ölçü baskındır ve farklı soruları yanıtlarlar: girdiler ne kadar büyük, ve matris bir vektörü ne kadar gerebilir?

Frobenius normu matrisi tek bir uzun sayı listesi olarak ele alır ve Öklid uzunluğunu alır: her girdinin karesini al, topla, karekök al. Spektral norm ise maksimum germeyi ölçer — A'nın herhangi bir birim vektörü uzatabileceği en büyük katsayı — ki bunun en büyük tekil değer olduğu ortaya çıkar.

Bir matrisi bir gitar amplifier olarak düşünün: bir sinyal beslersiniz ve daha yüksek sesle çıkar. Spektral norm, amplifikatörün maksimum gain'i dir, gönderdiğiniz herhangi bir girdiyi yükseltebileceği en büyük faktördür. Düğmeyi en yüksek ayarına getirin ve birim sinyalin çıkabileceği en yüksek ses tam olarak o normdur.

Bunun ML'deki yeriFrobenius normu, bütün bir matris için L2 ağırlık düzenlileştirmesidir: ‖W‖_F²'yi cezalandırmak ağırlıkları küçük ve modeli pürüzsüz tutar. Spektral norm, bir ağırlık matrisini en büyük tekil değerine bölerek ne kadar büyütebileceğini sınırlayan spektral normalizasyonu yönlendirir. Bu da onu GAN'larda anahtar bir kararlılaştırıcı ve Lipschitz sınırlarını dayatmak için bir araç yapar.
▶ Matris Normları
← En Küçük Karelerİzdüşümler →