Combinaisons Linéaires & Span

Géométrie et algèbre des applications linéaires, vecteurs et matrices

Donnez-vous quelques vecteurs et deux mouvements : mettre à l'échelle chacun (multiplier par un nombre quelconque) et additionner les résultats. Tout vecteur que vous pouvez construire ainsi est une combinaison linéaire de votre ensemble de départ. La collection complète de tout ce qui est atteignable s'appelle le span.

Le span est l'idée centrale ici, alors imaginez-le concrètement. Un seul vecteur non nul, mis à l'échelle dans toutes les directions, balaie une droite passant par l'origine. Deux vecteurs pointant dans des directions véritablement différentes balayent tout un plan. Ajoutez-en un troisième qui sort de ce plan et vous remplissez tout l'espace 3D.

Remplissez votre mixeur avec deux ingrédients de base — disons une flèche banane et une flèche baie. Un smoothie est tout mélange où vous mettez à l'échelle chaque base (plus ou moins d'elle) et les versez ensemble ; c'est une combinaison linéaire. Le menu complet de tous les smoothies que vous pourriez potentiellement mixer à partir de ces bases est leur span — et si les deux bases tirent dans des directions véritablement différentes, ce menu remplit tout le plan des saveurs.

Où cela apparaît en MLLe span est exactement « ce qu'une couche peut exprimer ». Une couche linéaire Wx ne peut produire que des sorties dans le span des colonnes de W, son espace colonne. Si ce span manque une direction dont vos données ont besoin, aucun choix d'entrée ne peut la récupérer ; la couche est structurellement aveugle à cette direction. Choisir des architectures avec assez de largeur est, en partie,…
▶ Combinaisons Linéaires & Span
← NormesIndépendance Linéaire & Base →