Cálculo de uma variável a partir dos primeiros princípios
Duas funções comandam todo o espetáculo em aprendizagem automática: a exponencial eˣ e a sua inversa, o logaritmo natural ln(x). Aparecem em probabilidades, em funções de loss, em crescimento e decaimento. Ficar à vontade com elas agora compensa em todo o lado depois.
A característica que define eˣ é que a sua taxa de crescimento é igual ao seu valor atual — quanto maior ela é, mais depressa sobe. É isto que "crescimento exponencial" realmente significa: não apenas "rápido", mas a crescer em proporção a si mesmo. O número especial e ≈ 2.718 é a base para a qual isto vale exatamente.
O logaritmo ln(x) simplesmente desfaz eˣ: responde "e elevado a que potência me dá x?" Assim, ln(eˣ) = x e e^{ln x} = x. Por serem inversas, os seus gráficos são imagens espelhadas em relação à reta y = x — arrasta o ponto na figura e observa o seu reflexo a traçar a outra curva.