Transponieren

Geometrie und Algebra von linearen Abbildungen, Vektoren und Matrizen

Die Transponierte Aᵀ spiegelt eine Matrix an ihrer Hauptdiagonale: Zeilen werden zu Spalten und Spalten zu Zeilen. Eintrag (i, j) tauscht mit Eintrag (j, i) den Platz. Eine (m×n)-Matrix wird zu einer (n×m)-Matrix.

Stell dir eine Tabelle vor, in der die Zeilen Personen und die Spalten die Monate sind, in denen sie jeweils bezahlt haben. Das Transponieren kippt die gesamte Tabelle auf ihre Diagonale, sodass Zeilen zu Spalten werden: jetzt sind Zeilen Monate und Spalten Personen. Keine Zahl geht verloren oder wird geändert — jeder Wert wandert einfach in seine gespiegelte Zelle, wo sein Zeilen-Label und sein Spalten-Label die Plätze getauscht haben.

Eine Matrix, die ihrer eigenen Transponierten gleicht, A = Aᵀ, ist symmetrisch: spiegelsymmetrisch zur Diagonale, mit Aᵢⱼ = Aⱼᵢ. Diese Matrizen sind so besonders, dass ihnen zwei ganze spätere Lektionen gewidmet sind.

Wo das im ML vorkommtDas Transponieren taucht in der Backpropagation überall auf. Der Vorwärtsdurchlauf multipliziert mit W; der Rückwärtsdurchlauf multipliziert den eingehenden Gradienten mit Wᵀ, um ihn an die vorherige Schicht zurückzugeben. Attention-Scores sind QKᵀ. Und die Hesse-Matrix sowie Kovarianzmatrizen sind konstruktionsbedingt symmetrisch (A = Aᵀ) – und genau das garantiert die schöne Eigenstruktur, auf…
▶ Transponieren
← MatrixmultiplikationSpezielle Matrizen →