正則化即幾何

模型究竟是如何學習的,從原始梯度下降法到Adam

正則化通常被介紹成加到損失上的一個懲罰項。從幾何上看,它改變的是哪些參數向量被認為是「便宜」的,哪些是「昂貴」的。這會改變整個最佳化問題的形狀。下面反覆出現兩個符號:R(θ) 代表懲罰項,λ(lambda)設定它的權重有多強。

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ 正則化即幾何
← 約束最佳化與投影二階方法 →