Ax = b:幾何
線形写像、ベクトル、行列の幾何学と代数
方程式Ax = bは線形代数の中心計算です:変換Aとターゲットbが与えられ、どの入力xがターゲットに着地するか?幾何として読むと答えの性格が計算前に見える。
2つの見方がある。行の絵:各方程式は直線(2Dで)または平面(3Dで)で、解はそれらがすべて交差する場所。列の絵:bはAの列の線形結合でなければならず、xが結合の重みを持つ。
幾何的にちょうど3つのケースがある。直線が1点で交差する(唯一解);平行で異なる(解なし、ターゲットが決して会わない);または同じ直線(無限の解)。図の直線を3つすべてにドラッグしてください。
機械学習における位置づけ実際のMLシステムは通常過剰決定です:未知数(パラメータ)よりはるかに多くの方程式(データ点)があり、厳密なAx = bはほとんど解を持たない。それが最小二乗法の全体の理由(後のレッスン)。bに厳密に届かないとき、最も近いxを見つける。線形回帰はまさにこの「厳密解なし、だから外れを最小化」状況。
▶ Ax = b:幾何