Как модели на самом деле обучаются — от обычного градиентного спуска до Adam
Иногда параметрам не разрешено двигаться куда угодно. Они должны удовлетворять ограничениям: неотрицательные веса, ограниченные нормы, вероятности, которые должны оставаться неотрицательными и в сумме давать 1 (такое множество называют вероятностным симплексом), пределы справедливости, пределы безопасности или физическая осуществимость.
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.
▶ Оптимизация с ограничениями и проекции