Espérance & Variance (continu)

Les mathématiques de l'incertitude

Tout ce que vous avez appris sur l'espérance et la variance s'étend aux variables continues. Vous remplacez juste la somme par une intégrale. Le poids de PMF p(x) devient la densité f(x) dx, et « additionner sur toutes les valeurs » devient « intégrer sur la droite ».

L'intuition est identique : E[X] est toujours le point d'équilibre de la masse de la densité, et la variance est toujours la distance quadratique moyenne depuis ce point. La linéarité et la règle de mise à l'échelle Var(aX+b)=a²Var(X) survivent toutes inchangées.

Pensez à une balançoire à bascule avec un poids réparti de manière inégale le long de la planche au lieu d'être assis à un seul point. L'unique endroit où elle s'équilibre est E[X], la moyenne de la densité. Jusqu'où le poids est projeté depuis ce pivot, mesuré comme la distance moyenne au carré, est Var(X) : un poids regroupé près du centre signifie une faible variance, un poids poussé vers les extrémités lointaines signifie une grande variance.

Où cela apparaît en MLLes espérances continues sont des intégrales, et les intégrales sur des espaces de grande dimension sont généralement intraitables. Donc le ML s'appuie sur l'estimation de Monte Carlo : approximer E[g(X)] = ∫ g(x)f(x)dx par une moyenne (1/n) Σ g(xᵢ) sur des échantillons xᵢ tirés de f. Chaque « récompense espérée » en RL et chaque terme ELBO dans un VAE est l'une de ces intégrales, estimée par…
▶ Espérance & Variance (continu)
← PDF & CDFDistribution Gaussienne →