Funções f: Rⁿ → Rᵐ

Cálculo multivariável a partir dos primeiros princípios

Até agora a saída era um único número. Deixa-a crescer também para um vetor. Uma função f: Rⁿ → Rᵐ recebe um vetor e devolve um vetor: muitos números à entrada, muitos números à saída. É exatamente a forma de uma camada de rede neural, em que entra um vetor de entrada e sai um vetor transformado.

A maneira de entender qualquer função vetorial é lê-la uma coordenada de saída de cada vez. Cada componente de saída é, ela própria, uma função escalar comum Rⁿ → R, chamada função componente. Empilha m delas e tens a aplicação inteira.

Uma mesa de mistura transforma alguns botões de entrada em várias leituras de saída de uma só vez: empurre os cursores e todos os medidores respondem em conjunto. Isso é uma função f: Rⁿ → Rᵐ: entra um vetor de entradas, sai um vetor de saídas. Para a entender, lê-se um medidor de cada vez, já que cada coordenada de saída f₁, f₂, e assim por diante, é a sua própria receita comum construída a partir dos mesmos botões de entrada.

Onde isto aparece no MLO forward pass de qualquer rede neural é uma composição de funções vetoriais. Cada camada é uma f: Rⁿ → Rᵐ: uma aplicação linear Wx + b seguida de uma não-linearidade elemento a elemento. Acompanhar como um pequeno empurrão na entrada se propaga por esta cadeia, coordenada a coordenada, é precisamente o que a Jacobiana (Módulo 3) e o backpropagation (Módulo 4) vão formalizar.
▶ Funções f: Rⁿ → Rᵐ
← Funções f: Rⁿ → RLimites & Continuidade em Rⁿ →