ガウス消去法

線形写像、ベクトル、行列の幾何学と代数

ガウス消去法は手または機械でAx = bを解く体系的アルゴリズムです。アイデア:単純な行操作を使ってシステムを階段(エシェロン)形に彫り、後ろ向きに作業して答えを読み取る。

3つの行操作が許され、どれも解集合を変えない:2つの行を交換、行に非ゼロの数を掛ける、またはある行の倍数を別の行に足す。それらを使って要素をゼロに叩き、1列ずつ。

各行の最初の非ゼロ要素がピボットです。上から下へ、各ピボットを使ってその下のすべてを消去し、行列が上三角になるまで。次に後退代入:最後の行が1つの変数を直接与える;それを上の行に代入し、登る。

機械学習における位置づけガウス消去法はLU分解の計算上の祖先で、線形代数ライブラリがシステムを解き行列を速く逆行列化するために実際に呼ぶルーチンです。MLで手で実行することは稀だが、閉形式回帰、共分散計算、より大きなアルゴリズム内の「この線形システムを解く」ステップの背後のソルバーの基盤。
▶ ガウス消去法
← Ax = b:幾何ランク、零空間、列空間 →