固有ベクトルと固有値

線形写像、ベクトル、行列の幾何学と代数

ほとんどのベクトルは行列が作用するとき軌道を外れる:伸びると同時に回転する。しかしいくつかの特別な方向は不変です。行列はそれらを伸ばすか反転するだけで、決して回転しない。それらが固有ベクトルで、伸縮因子が固有値です。

声に出して読む:固有ベクトルvにAを適用すると同じ方向が返り、ただλでスケールされる。λ = 2ならその方向は2倍;λ = −1なら反転;λ = 0.5なら半分に縮む。固有ベクトルは変換の骨格をなし、最も単純に作用する軸です。

図のベクトルをドラッグしてください。ほとんどの方向はAの下で目に見えて回転する;固有ベクトル方向でのみ出力が入力に平行に保たれる。

機械学習における位置づけ固有ベクトルはプロセスが自然に沿って動く方向です。PCAでは、共分散行列の固有ベクトルが最大分散の軸、データが実際に広がる方向です。最適化では、ヘッセ行列の固有値が各方向の損失の曲率を記述する:大きな固有値は急な壁、小さなものは平らな谷、それらの比(条件数)が曲面を下る難しさを制御する。
▶ 固有ベクトルと固有値
← 行列の逆行列対角化 →