Матожидание и дисперсия (непрерывные) — Вероятность

Всё, что вы узнали о матожидании и дисперсии, переносится на непрерывные переменные. Просто сумма заменяется интегралом. Вес PMF p(x) становится плотностью f(x) dx, «сложить по всем значениям» — «проинтегрировать по прямой».

Интуиция та же: E[X] — точка равновесия массы плотности, дисперсия — средний квадрат расстояния от неё. Линейность и правило масштабирования Var(aX+b)=a²Var(X) сохраняются без изменений.

Подумайте о качелях-балансире с весом, размазанным неравномерно по доске, вместо того чтобы сидеть в одной точке. Единственное место, где они балансируют, — это E[X], среднее значение плотности. То, насколько вес отброшен от этой точки опоры, измеряемое как средний квадрат расстояния, — это Var(X): вес, сгруппированный около центра, означает маленькую дисперсию, вес, отодвинутый к дальним концам, означает большую дисперсию.

Где это встречается в MLНепрерывные матожидания — интегралы, а интегралы по многомерным пространствам обычно труднорешаемы. ML опирается на оценку Монте-Карло: приближает E[g(X)] = ∫ g(x)f(x)dx средним (1/n) Σ g(xᵢ) по сэмплам xᵢ из f. Каждое «ожидаемое вознаграждение» в RL и каждый член ELBO в VAE — один из этих интегралов, оцениваемый сэмплированием.