Functies f: Rⁿ → Rᵐ

Meervariabelecalculus vanuit eerste principes

Tot nu toe was de uitvoer één enkel getal. Laat het ook uitgroeien tot een vector. Een functie f: Rⁿ → Rᵐ neemt een vector in en geeft een vector terug: veel getallen in, veel getallen uit. Dat is precies de vorm van een laag in een neuraal netwerk, waar een invoervector binnenkomt en een getransformeerde vector vertrekt.

De manier om elke vectorwaardige functie te begrijpen is om hem één uitvoercoördinaat tegelijk te lezen. Elke uitvoercomponent is zelf een gewone scalaire functie Rⁿ → R, een componentfunctie genoemd. Stapel m ervan en je hebt de hele afbeelding.

Een mengpaneel verandert een paar invoerknoppen in verschillende uitvoermetingen tegelijk: verschuif de schuifregelaars en elke meter reageert tegelijkertijd. Dat is een functie f: Rⁿ → Rᵐ: een vector van invoer gaat erin, een vector van uitvoer komt eruit. Om het te begrijpen lees je één meter per keer, aangezien elke uitvoercoördinaat f₁, f₂, enzovoort zijn eigen gewone recept is opgebouwd uit dezelfde invoerknoppen.

Waar dit voorkomt in MLDe voorwaartse doorloop van elk neuraal netwerk is een samenstelling van vectorwaardige functies. Elke laag is één f: Rⁿ → Rᵐ: een lineaire afbeelding Wx + b gevolgd door een elementsgewijze niet-lineariteit. Bijhouden hoe een kleine invoerverstoring door deze keten rimpelt, coördinaat voor coördinaat, is precies wat de Jacobiaan (Module 3) en backpropagatie (Module 4) zullen formaliseren.
▶ Functies f: Rⁿ → Rᵐ
← Functies f: Rⁿ → RLimieten & Continuïteit in Rⁿ →