Hledání hyperparametrů

Jak se modely reálně učí, od klasického gradientního sestupu po Adam

Hyperparametry jsou trénovací volby nastavené vně učených parametrů: rychlost učení, velikost dávky (batch size), rozpad vah (weight decay), délka rozcvičení (warmup), dropout, šířka modelu a mnohé další.

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ Hledání hyperparametrů
← Inicializace a měřítko signáluCo dělá, že se model učí? →