Cómo aprenden realmente los modelos, del descenso por gradiente básico a Adam
El paisaje de pérdida es la forma de L(θ) sobre el espacio de parámetros. Para las redes neuronales es de alta dimensión y no convexo: tiene amplios tramos planos, otros con curvatura pronunciada, puntos de silla que suben en algunas direcciones mientras bajan en otras, y muchas regiones de baja pérdida separadas que a menudo resultan estar conectadas.
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.
▶ El Paisaje de Pérdida