Jak modele naprawdę się uczą — od zwykłego spadku gradientu po Adama
Krajobraz straty to kształt L(θ) nad przestrzenią parametrów. Dla sieci neuronowych jest on wysokowymiarowy i niewypukły: ma szerokie, płaskie odcinki, ostro zakrzywione fragmenty, punkty siodłowe, które w niektórych kierunkach się wznoszą, a w innych opadają, oraz wiele osobnych obszarów niskiej straty, które często okazują się połączone.
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.
▶ Krajobraz straty