Adam

Как моделите наистина се учат — от обикновено градиентно спускане до Adam

Adam съчетава две идеи: моментум за средния градиент и мащабиране в стил RMSProp за средния квадрат на градиента. После коригира ранното отклонение, защото тези плъзгащи се средни стойности започват от нула.

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ Adam
← RMSPropСтохастично и мини-партидно GD →