Modellerin gerçekte nasıl öğrendiği: düz gradyan inişinden Adam'a kadar
Adam ve AdamW, ağırlık azalımını nasıl ele aldıkları konusunda farklılaşır. Adam bir L2 cezasını uyarlanabilir gradyan güncellemesine karıştırır. AdamW ağırlık azalımını ayrı bir küçültme adımı olarak uygular.
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.
▶ Adam ve AdamW