Cum învață de fapt modelele, de la coborârea pe gradient standard la Adam
Metodele de prim ordin folosesc gradienți. Metodele de ordinul doi folosesc, de asemenea, curbura, de obicei prin intermediul matricei hessiene. Curbura îi spune optimizatorului cum se modifică gradientul însuși pe măsură ce parametrii se deplasează.
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.
▶ Metode de ordinul doi