期望与方差(连续)

不确定性的数学

你学过的期望和方差会完整推广到连续变量。只需要把求和换成积分。PMF 权重 p(x) 变成密度 f(x) dx,而“对所有值相加”变成“在整条实线上积分”。

直觉完全相同:E[X] 仍然是密度质量的平衡点,方差仍然是到该点的平均平方距离。线性性和缩放规则 Var(aX+b)=a²Var(X) 也全部保持不变。

想象一个跷跷板,上面的重量不均匀地涂抹在木板上,而不是坐在一个点上。它达到平衡的那个点就是 E[X],即密度的平均值。重量被抛出远离那个支点有多远,以平均平方距离来衡量,就是 Var(X):聚集在中心附近的重量意味着较小的方差,推到两端的重量意味着较大的方差。

在机器学习中的应用连续期望是积分,而高维空间中的积分通常不可解。因此机器学习依赖 Monte Carlo 估计:把 E[g(X)] = ∫ g(x)f(x)dx 近似为从 f 抽取的样本 xᵢ 上的平均 (1/n) Σ g(xᵢ)。强化学习里的每个“期望奖励”和 VAE 中的每个 ELBO 项,都是这种通过采样估计的积分。
▶ 期望与方差(连续)
← PDF 与 CDFGaussian 分布 →