Expectativa & Variância (contínuo)

A matemática da incerteza

Tudo o que você aprendeu sobre expectativa e variância se estende às variáveis contínuas. Basta trocar a soma por uma integral. O peso da PMF p(x) passa a ser a densidade f(x) dx, e "somar sobre todos os valores" passa a ser "integrar ao longo da reta."

A intuição é idêntica: E[X] continua sendo o ponto de equilíbrio da massa da densidade, e a variância continua sendo a distância quadrática média a esse ponto. A linearidade e a regra de escala Var(aX+b)=a²Var(X) sobrevivem todas inalteradas.

Pense em uma gangorra com o peso espalhado de forma desigual ao longo da prancha em vez de estar em um único ponto. O único local onde ela se equilibra é E[X], a média da densidade. O quão longe o peso é arremessado a partir desse pivô, medido como a distância quadrada média, é Var(X): o peso amontoado perto do centro significa pequena variância, o peso empurrado para as extremidades distantes significa grande variância.

Onde isso aparece no MLAs expectativas contínuas são integrais, e integrais sobre espaços de alta dimensão costumam ser intratáveis. Por isso o ML se apoia na estimação de Monte Carlo: aproximar E[g(X)] = ∫ g(x)f(x)dx por uma média (1/n) Σ g(xᵢ) sobre amostras xᵢ extraídas de f. Toda "recompensa esperada" em RL e todo termo ELBO em um VAE é uma destas integrais, estimada por amostragem.
▶ Expectativa & Variância (contínuo)
← PDF & CDFDistribuição Gaussiana →