How models actually learn, from vanilla gradient descent to Adam
Іноді параметри не можуть рухатися куди завгодно. Вони мають задовольняти обмеження: невід’ємні ваги, обмежені норми, ймовірності, що мають залишатися невід’ємними і в сумі дорівнювати 1 (множина, яка називається ймовірнісним симплексом), обмеження справедливості, безпеки або фізичної можливості.
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.
▶ Обмежена оптимізація та проєкції