Wnioskowanie, estymacja i podejmowanie decyzji z danych
Metoda OLS znajduje współczynniki, które najlepiej dopasowują się do danych treningowych, co stanowi spory problem w sytuacji, gdy masz do dyspozycji bardzo wiele cech lub bardzo mało danych. Dopasowuje ona bowiem również zwykły szum, a wartości samych współczynników skaczą wówczas do dzikich, ekstremalnych poziomów. Zjawisko to opanowuje regresja regularyzowana poprzez dodanie funkcji kary, która skutecznie tłumi („gasi”) zbyt duże współczynniki. Wymienia ona odrobinę precyzji w dopasowaniu treningowym na znacznie lepszą zdolność do generalizacji modelu.
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.
▶ Regresja regularyzowana