Produit Scalaire

Géométrie et algèbre des applications linéaires, vecteurs et matrices

Le produit scalaire prend deux vecteurs et renvoie un seul nombre. La recette est simple : multipliez les composantes correspondantes et additionnez les résultats. Cette arithmétique simple porte un sens géométrique. Le produit scalaire mesure à quel point deux flèches pointent dans le même sens.

La forme de droite est celle sur laquelle s'appuyer. |a| et |b| sont les longueurs, et θ est l'angle entre les flèches. Ainsi le signe du produit scalaire lit la géométrie instantanément : positif signifie que les flèches penchent dans le même sens (θ < 90°), négatif signifie qu'elles s'opposent (θ > 90°), et exactement zéro signifie qu'elles sont perpendiculaires. Ce dernier cas revient encore et encore.

Imaginez pousser un caddie pendant que le vent souffle. Le produit scalaire de votre poussée et du vent vous indique à quel point les deux flèches sont alignées : il est grand et positive quand le vent vous aide, zero quand le vent souffle directement en travers de votre chemin sans faire de travail, et négatif quand il pousse contre vous. Lu comme un score de similarité, un plus grand produit scalaire signifie simplement "ces deux flèches sont davantage en accord".

Où cela apparaît en MLQuand un transformer décide à quel token précédent prêter attention, il calcule un produit scalaire. Un score d'attention est q · k entre un vecteur requête et un vecteur clé : élevé lorsqu'ils pointent dans le même sens, signifiant « ce token est pertinent pour celui-là ». La similarité cosinus est la même idée avec les longueurs divisées. Elle classe à quel point deux plongements sont…
▶ Produit Scalaire
← Vecteurs dans RⁿNormes →