Matrices Symétriques

Géométrie et algèbre des applications linéaires, vecteurs et matrices

Les matrices symétriques (A = Aᵀ) sont inhabituellement bien élevées, et elles se trouvent être celles qui apparaissent le plus en ML. Matrices de covariance, Hessians, matrices de Gram : toutes symétriques. Elles viennent avec une garantie assez nette pour porter un nom.

Le théorème spectral : toute matrice symétrique réelle a des valeurs propres réelles et un ensemble complet de vecteurs propres orthogonaux. Pas de nombres complexes, pas de cas défectueux, et les directions propres se rencontrent à angles droits parfaits. Vous pouvez toujours la diagonaliser avec une matrice orthogonale.

Parce que Q est orthogonale, Q⁻¹ = Qᵀ, donc la décomposition est construite à partir d'une rotation, d'une mise à l'échelle, et de la rotation inverse. Les vecteurs propres vous donnent un système de coordonnées orthonormé parfait, offert gratuitement.

Où cela apparaît en MLLe Hessian d'une loss est symétrique (les dérivées partielles mixtes commutent), donc ses valeurs propres sont réelles et vous disent la courbure dans chaque direction : toutes positives ⇒ un minimum local (un bol), signes mixtés ⇒ un col. Les matrices de covariance sont symétriques et semi-définies positives, ce qui est exactement pourquoi la décomposition propre de PCA donne toujours des…
▶ Matrices Symétriques
← DiagonalisationSVD →