Exponencial & Logaritmo

Cálculo de uma variável a partir dos primeiros princípios

Duas funções comandam todo o espetáculo em aprendizado de máquina: a exponencial eˣ e a sua inversa, o logaritmo natural ln(x). Elas aparecem em probabilidades, em funções de loss, em crescimento e decaimento. Ficar à vontade com elas agora compensa em todo lugar depois.

A característica que define eˣ é que sua taxa de crescimento é igual ao seu valor atual — quanto maior ela é, mais depressa sobe. É isso que "crescimento exponencial" realmente significa: não apenas "rápido", mas crescendo em proporção a si mesmo. O número especial e ≈ 2.718 é a base para a qual isso vale exatamente.

O logaritmo ln(x) simplesmente desfaz eˣ: ele responde "e elevado a que potência me dá x?" Assim, ln(eˣ) = x e e^{ln x} = x. Por serem inversas, seus gráficos são imagens espelhadas em relação à reta y = x — arraste o ponto na figura e observe seu reflexo traçar a outra curva.

Onde isso aparece no MLA loss de entropia cruzada, o cavalo de batalha da classificação, é construída a partir de −ln(p), onde p é a probabilidade que o modelo atribuiu à classe correta. O logaritmo está ali precisamente por causa da regra que transforma produto em soma: a probabilidade de um conjunto de dados inteiro é um produto gigantesco, e aplicar ln o transforma em uma soma que o otimizador pode diferenciar termo…
▶ Exponencial & Logaritmo
← Retas e polinômiosFunções Trigonométricas →