Expectativa & Variância (contínuo)

A matemática da incerteza

Tudo o que aprendeste sobre expectativa e variância estende-se às variáveis contínuas. Basta trocar a soma por um integral. O peso da PMF p(x) passa a ser a densidade f(x) dx, e "somar sobre todos os valores" passa a ser "integrar ao longo da reta."

A intuição é idêntica: E[X] continua a ser o ponto de equilíbrio da massa da densidade, e a variância continua a ser a distância quadrática média a esse ponto. A linearidade e a regra de escala Var(aX+b)=a²Var(X) sobrevivem todas inalteradas.

Pense num balancé com o peso espalhado de forma desigual ao longo da prancha em vez de estar assente num único ponto. O único local onde se equilibra é E[X], a média da densidade. A distância a que o peso é atirado a partir desse pivô, medida como a distância quadrada média, é Var(X): o peso concentrado perto do centro significa uma variância pequena, o peso empurrado para as extremidades significa uma variância grande.

Onde isto aparece no MLAs expectativas contínuas são integrais, e os integrais sobre espaços de alta dimensão costumam ser intratáveis. Por isso o ML se apoia na estimação de Monte Carlo: aproximar E[g(X)] = ∫ g(x)f(x)dx por uma média (1/n) Σ g(xᵢ) sobre amostras xᵢ extraídas de f. Toda "recompensa esperada" em RL e todo termo ELBO num VAE é um destes integrais, estimado por amostragem.
▶ Expectativa & Variância (contínuo)
← PDF & CDFDistribuição Gaussiana →