Fonctions f: Rⁿ → Rᵐ

Calcul multivarié depuis les premiers principes

Jusqu'ici, la sortie était un seul nombre. Laissez-la devenir un vecteur elle aussi. Une fonction f: Rⁿ → Rᵐ prend un vecteur en entrée et renvoie un vecteur en sortie : beaucoup de nombres en entrée, beaucoup de nombres en sortie. C'est exactement la forme d'une couche de réseau de neurones, où un vecteur d'entrée entre et un vecteur transformé ressort.

La façon de comprendre toute fonction à valeurs vectorielles est de la lire une coordonnée de sortie à la fois. Chaque composante de sortie est elle-même une fonction scalaire ordinaire Rⁿ → R, appelée fonction composante. Empilez-en m et vous avez l'application complète.

Une table de mixage transforme quelques boutons d'entrée en plusieurs lectures de sortie en même temps : poussez les curseurs et chaque compteur réagit ensemble. C'est une fonction f: Rⁿ → Rᵐ : un vecteur d'entrées entre, un vecteur de sorties en sort. Pour la comprendre, vous lisez un compteur à la fois, car chaque coordonnée de sortie f₁, f₂, et ainsi de suite est sa propre recette ordinaire construite à partir des mêmes boutons d'entrée.

Où cela apparaît en MLLa passe avant de tout réseau de neurones est une composition de fonctions à valeurs vectorielles. Chaque couche est une f: Rⁿ → Rᵐ : une application linéaire Wx + b suivie d'une non-linéarité élément par élément. Suivre comment une petite perturbation de l'entrée se propage à travers cette chaîne, coordonnée par coordonnée, est exactement ce que le jacobien (Module 3) et la rétropropagation…
▶ Fonctions f: Rⁿ → Rᵐ
← Fonctions f: Rⁿ → RLimites et continuité dans Rⁿ →