La Derivada

Cálculo de una variable desde primeros principios

La derivada responde a una pregunta: ¿cuán rápido está cambiando una función en un instante específico? Geométricamente, es la pendiente de la curva justo en ese punto, la pendiente de la línea tangente que apenas toca la curva allí.

Piensa en el velocímetro de un coche en movimiento. Tu velocidad media en una hora es la distancia total dividida por el tiempo total, pero la aguja muestra algo más preciso: exactamente a qué velocidad vas en este mismo instante. La derivada es esa aguja, la tasa de cambio congelada en un solo momento en lugar de esparcida en un intervalo.

Pero aquí está el rompecabezas. La pendiente necesita dos puntos: ascenso sobre recorrido. Un solo punto no te da nada desde donde medir. Entonces, ¿cómo puede un único punto tener una pendiente en absoluto? El truco es acercarse a él.

Dónde aparece en el MLLa gradiente que entrena cada red neuronal es exactamente esta derivada, aplicada a la pérdida. La cantidad ∂L/∂w es la pendiente de la pérdida cuando ajustas un peso w: su signo te dice en qué dirección se reduce la pérdida, y su magnitud te dice cuán sensible es la pérdida a ese peso. El entrenamiento consiste simplemente en: evaluar este límite (un motor autograd hace esto por ti, exactamente…
▶ La Derivada
← ContinuidadDiferenciabilidad →