転置

線形写像、ベクトル、行列の幾何学と代数

転置Aᵀは行列を主対角線に沿って反転する:行が列になり、列が行になる。要素(i, j)は要素(j, i)と交換する。(m×n)行列は(n×m)になる。

行が人で、列がそれぞれの支払い月であるスプレッドシートを想像してください。それを 転置(Transposing) すると、テーブル全体が対角線上で傾き、行が列になります:今や行は月で、列は人です。数が失われたり変更されたりすることはありません — 各値は、行ラベルと列ラベルが入れ替わったミラーリングされたセルに移動するだけです。

自身の転置に等しい行列、A = Aᵀは対称です:対角線で鏡像バランスし、Aᵢⱼ = Aⱼᵢ。これらの行列は特別で、後に2つのレッスン全体が充てられる。

機械学習における位置づけ転置はバックプロパゲーションの至る所にある。フォワードパスはWを掛ける;バックワードパスは入ってくる勾配にWᵀを掛けて前の層に送る。AttentionスコアはQKᵀ。そしてヘッセ行列と共分散行列は構成上対称(A = Aᵀ)で、それが後のレッスンが依存する良い固有構造を保証する。
▶ 転置
← 行列の積特殊な行列 →