Diagonalisierung

Geometrie und Algebra von linearen Abbildungen, Vektoren und Matrizen

Die Diagonalisierung schreibt eine Matrix in ihrem natürlichsten Koordinatensystem um, das aus ihren Eigenvektoren aufgebaut ist. In diesem System ist die Matrix diagonal: Sie tut nichts anderes, als jede Eigenachse mit ihrem Eigenwert zu skalieren. Aus einer verworrenen Transformation wird so eine einfache.

Hier trägt P die Eigenvektoren in seinen Spalten, und D ist diagonal mit den Eigenwerten. Lies das Produkt von rechts nach links als ein dreistufiges Rezept: P⁻¹ dreht in die Eigenkoordinaten, D skaliert jede Achse, und P dreht wieder zurück. Eine verworrene Transformation, ausgedrückt als reine Streckung zwischen zwei Wechseln der Sichtweise.

Die Diagonalisierung macht Matrixpotenzen beinahe kostenlos. Da sich die mittleren Paare P⁻¹P wegheben, gilt Aᵏ = P Dᵏ P⁻¹, und eine Diagonalmatrix zu potenzieren bedeutet einfach, jeden Diagonaleintrag in diese Potenz zu erheben. Keine wiederholte Matrixmultiplikation nötig.

Wo das im ML vorkommtDie Diagonalisierung erklärt das Langzeitverhalten wiederholter linearer Abbildungen, und fast jeder iterative Algorithmus ist in der Nähe eines Fixpunkts eine wiederholte Abbildung. Ob die Trainingsdynamik konvergiert oder explodiert, hängt davon ab, ob die relevanten Eigenwerte innerhalb oder außerhalb des Einheitskreises liegen. Dasselbe Konzept, angewendet auf symmetrische Matrizen, wird zur…
▶ Diagonalisierung
← Eigenvektoren und EigenwerteSymmetrische Matrizen →