Ax = b : Géométrie

Géométrie et algèbre des applications linéaires, vecteurs et matrices

L'équation Ax = b est le calcul central de l'algèbre linéaire : étant donné une transformation A et une cible b, quelle entrée x atterrit sur la cible ? Lisez-la géométriquement et le caractère de la réponse devient visible avant tout calcul.

Il y a deux façons de se la représenter. L'image par lignes : chaque équation est une droite (en 2D) ou un plan (en 3D), et la solution est où elles se croisent toutes. L'image par colonnes : b doit être une combinaison linéaire des colonnes de A, et x contient les poids de la combinaison.

Géométriquement il y a exactement trois cas. Les droites se croisent en un point (solution unique) ; elles sont parallèles et distinctes (pas de solution, les cibles ne se rencontrent jamais) ; ou elles sont la même droite (une infinité de solutions). Faites glisser les droites dans la figure à travers les trois.

Où cela apparaît en MLLes systèmes de ML réels sont généralement surdéterminés : bien plus d'équations (points de données) que d'inconnues (paramètres), donc un Ax = b exact n'a presque jamais de solution. C'est toute la raison des moindres carrés (une leçon ultérieure). Quand vous ne pouvez pas atteindre b exactement, trouvez le x qui s'en rapproche le plus. La régression linéaire est précisément cette situation «…
▶ Ax = b : Géométrie
← Matrices SpécialesÉlimination de Gauss →