Funções f: Rⁿ → Rᵐ

Cálculo multivariável a partir dos primeiros princípios

Até agora a saída era um único número. Deixe-a crescer também para um vetor. Uma função f: Rⁿ → Rᵐ recebe um vetor e devolve um vetor: muitos números à entrada, muitos números à saída. É exatamente a forma de uma camada de rede neural, em que entra um vetor de entrada e sai um vetor transformado.

A maneira de entender qualquer função vetorial é lê-la uma coordenada de saída de cada vez. Cada componente de saída é, ela própria, uma função escalar comum Rⁿ → R, chamada função componente. Empilhe m delas e tem a aplicação inteira.

Uma mesa de som transforma alguns botões de entrada em várias leituras de saída de uma só vez: mexa nos controles deslizantes e cada medidor responde em conjunto. Isso é uma função f: Rⁿ → Rᵐ: um vetor de entradas entra, um vetor de saídas sai. Para entendê-la, você lê um medidor de cada vez, já que cada coordenada de saída f₁, f₂ e assim por diante é sua própria receita comum construída a partir dos mesmos botões de entrada.

Onde isso aparece no MLO forward pass de qualquer rede neural é uma composição de funções vetoriais. Cada camada é uma f: Rⁿ → Rᵐ: uma aplicação linear Wx + b seguida de uma não-linearidade elemento a elemento. Acompanhar como um pequeno empurrão na entrada se propaga por esta cadeia, coordenada a coordenada, é precisamente o que a Jacobiana (Módulo 3) e o backpropagation (Módulo 4) vão formalizar.
▶ Funções f: Rⁿ → Rᵐ
← Funções f: Rⁿ → RLimites & Continuidade em Rⁿ →