Математическо очакване

Математиката на несигурността

Математическото очакване на една случайна величина е нейната дългосрочна средна стойност: стойността, към която бихте се приближили, ако повтаряте експеримента вечно и усреднявате резултатите. Това е среднопретеглена стойност на възможните изходи, като всеки от тях е претеглен с неговата вероятност:

Мислете за PMF като набор от тежести, разположени върху линийка; E[X] е точката на баланс (центърът на тежестта). Не е задължително това да бъде стойност, която X действително може да приеме. При правилен зар очакваната стойност е 3,5, макар че такова число няма върху страните му.

Представете си ротативка, в която пускате монети хиляди пъти. При всяко едно дръпване може да спечелите много или да загубите монетата си, но машината има фиксирано дългосрочно средно изплащане на игра и това число е E[X]. Това е стабилната стойност, към която вашето средно се приближава, докато игрите се натрупват, въпреки че нито едно отделно завъртане никога не спира точно на нея.

Къде се използва това в MLПроцесът на обучение минимизира очакваната загуба E_D[L(θ)] – средната загуба спрямо разпределението на данните. Тъй като не можем да изчислим това очакване точно, го апроксимираме със средната стойност върху крайна извадка (тренировъчния набор) и мини-партида (mini-batch) на всяка стъпка на градиента. Линейността на очакването е причината осредненият градиент за дадена партида да бъде…
▶ Математическо очакване
← Случайни величиниДисперсия →