Projections

Géométrie et algèbre des applications linéaires, vecteurs et matrices

Une projection répond à « quel est le point le plus proche de b qui vit dans un sous-espace donné ? » Imaginez un point flottant au-dessus d'un sol : sa projection est l'endroit sur le sol directement en dessous, le pied de la perpendiculaire. C'est la meilleure approximation de b disponible dans le sous-espace.

Pour projeter un vecteur b sur une seule direction a, mettez a à l'échelle selon la part de b qui se trouve le long de lui (un produit scalaire), normalisée par la longueur au carré de a :

Faites glisser b autour de la figure et observez son ombre glisser le long de la droite a, atterrissant toujours au point le plus proche, avec le segment d'erreur en pointillé rencontrant la droite à angle droit.

Où cela apparaît en MLLa projection est la géométrie derrière l'attention et les flux résiduels. La régression des moindres carrés projette les cibles sur l'espace colonne du modèle. Le flux résiduel dans un transformer est lu et écrit répétitivement via des projections, et une orthogonalisation de style Gram–Schmidt garde les directions apprises distinctes. « Point le plus proche dans un sous-espace » est un…
▶ Projections
← Normes MatriciellesFormes Quadratiques →