Transformações

Cálculo de uma variável a partir dos primeiros princípios

Uma vez que você conhece o formato de uma função, não precisa redesenhar nada para entender toda uma família de parentes. Quatro operações simples movem, esticam e espelham um gráfico de maneiras totalmente previsíveis. Aprenda a enxergá-las e traçar gráficos passa a ser reconhecimento, e não aritmética.

Isso é exatamente o que um editor de fotos faz. Você nunca redesenha a imagem pixel por pixel; você a empurra para os lados, a estica ou a inverte horizontalmente, e a mesma forma cai em um lugar novo. Transformar uma função é o mesmo punhado de edições de um toque aplicadas a um gráfico em vez de a uma foto.

Partindo de um formato base f(x): multiplicar a saída por a a estica na vertical; multiplicar a entrada por b a estica na horizontal; subtrair c por dentro a desloca para a direita; somar d por fora a eleva. Juntando tudo:

Onde isso aparece no MLIsso não é uma analogia — a batch normalization é literalmente esta transformação. Uma camada de batch-norm pega uma ativação normalizada x̂ e produz γ·x̂ + β, em que γ é uma escala aprendida (o a acima) e β é um deslocamento aprendido (o d). A rede aprende onde posicionar e quanto esticar cada ativação. O formato de uma função de ativação também é uma transformação: uma tanh "mais íngreme" é…
▶ Transformações
← Resumo: Espaços Vetoriais de FunçõesPar, ímpar, periodicidade →