Funções f: Rⁿ → R

Cálculo multivariável a partir dos primeiros princípios

Uma função f: Rⁿ → R recebe um vetor e devolve um único número. O exemplo que move o machine learning é a loss: passe-lhe todos os pesos da rede e receba um número que diz quão mal ela está se saindo. Todo o treinamento é uma caça pelo ponto mais baixo desta função.

Para duas entradas você consegue visualizá-la: z = f(x, y) é uma superfície, uma paisagem de colinas e vales flutuando acima do plano xy. A altura em cada (x, y) é o valor da função.

Imagine o ar em uma sala: fique em qualquer ponto e um termômetro lê exatamente uma temperatura. Isso é uma função f: R² → R disfarçada: uma posição (x, y) entra, e um único número (o calor ali) sai. A sala inteira se torna uma paisagem de manchas quentes e frias, mais altas perto do aquecedor, mais baixas perto da janela.

Onde isso aparece no MLQuando você vê uma curva de loss descer durante o treinamento, está vendo uma caminhada através de uma destas superfícies. A loss L(w₁, …, wₙ) é uma função Rⁿ → R sobre o espaço de pesos, com n na casa dos milhões ou bilhões, e a curva na sua tela é apenas uma sombra unidimensional dessa caminhada. As imagens de 'mínimos planos vs. agudos' que os pesquisadores debatem são literalmente gráficos de…
▶ Funções f: Rⁿ → R
← Vetores & Geometria de RⁿFunções f: Rⁿ → Rᵐ →