Transposée

Géométrie et algèbre des applications linéaires, vecteurs et matrices

La transposée Aᵀ retourne une matrice par rapport à sa diagonale principale : les lignes deviennent colonnes et les colonnes deviennent lignes. L'entrée (i, j) échange avec l'entrée (j, i). Une matrice (m×n) devient (n×m).

Imaginez une feuille de calcul où les lignes sont des personnes et les colonnes sont les mois où chacune a payé. La transposer bascule tout le tableau sur sa diagonale pour que les lignes deviennent des colonnes : maintenant les lignes sont des mois et les colonnes sont des personnes. Aucun nombre n'est perdu ou changé — chaque valeur se déplace simplement vers sa cellule miroir, où son étiquette de ligne et son étiquette de colonne ont échangé leurs places.

Une matrice qui égale sa propre transposée, A = Aᵀ, est symétrique : en équilibre miroir par rapport à la diagonale, avec Aᵢⱼ = Aⱼᵢ. Ces matrices sont assez spéciales pour que deux leçons entières leur soient consacrées plus tard.

Où cela apparaît en MLLa transposée est partout dans la backprop. La passe avant multiplie par W ; la passe arrière multiplie le gradient entrant par Wᵀ pour l'envoyer à la couche précédente. Les scores d'attention sont QKᵀ. Et les matrices de Hessian et de covariance sont symétriques (A = Aᵀ) par construction, ce qui est exactement ce qui garantit la jolie structure propre sur laquelle les leçons suivantes s'appuient.
▶ Transposée
← Multiplication MatricielleMatrices Spéciales →