Conas a fhoghlaimíonn samhlacha i ndáiríre, ó ghnáth-shliocht grádán go Adam
Tá difear idir Adam agus AdamW sa chaoi a láimhseálann siad meáchan-mheath. Measctar isteach ag Adam pionós L2 sa nuashonrú grádáin oiriúnaitheach. Cuireann AdamW meáchan-mheath i bhfeidhm mar chéim chrapaidh ar leith.
Tá tábhacht leis an scaradh sin toisc go n-athscálálann Adam grádáin de réir gach paraiméadair. Má mheasctar meáchan-mheath isteach sna grádáin sin, athscálaítear an rialtacht freisin ar bhealach a bhraitheann ar an bparaiméadar.
Smaoinigh ar leabharlann ar mian léi leabhair a fháil ar ais in am. Tá fíneáil chothrom in aghaidh gach lá mall éasca a thuiscint: cuirtear i bhfeidhm í ar an gcaoi chéanna do gach iasachtaí. Má fhilltear an fhíneáil isteach i bhfoirmle bhallraíochta phearsanaithe gach iasachtaí, éiríonn an pionós neamhchothrom agus deacair a thuar. Is í AdamW an fhíneáil chothrom ar leith; filleann Adam le L2 ceangailte an pionós isteach ina inneall sonrach do gach paraiméadar ar dtús. Agus cén fáth pionós a ghearradh ar chor ar bith? Tá an freagra sa bhfíor: leanann earráid oiliúna ag titim de réir mar a fhásann an tsolúbthacht, ach casann earráid bailíochtaithe suas ar deireadh. Tá meáchan-mheath ar cheann de na príomhuirlisí chun fanacht gar don spota milis.