Attesa e Varianza (continue)

La matematica dell'incertezza

Tutto ciò che hai imparato su attesa e varianza si trasferisce alle variabili continue. Basta sostituire la somma con un integrale. Il peso della PMF p(x) diventa la densità f(x) dx, e "somma su tutti i valori" diventa "integra sulla retta".

L'intuizione è identica: E[X] è ancora il punto di equilibrio della massa della densità, e la varianza è ancora la distanza quadratica media da quel punto. La linearità e la regola di scalamento Var(aX+b)=a²Var(X) restano tutte valide senza modifiche.

Pensa a un'altalena con il peso spalmato irregolarmente lungo l'asse invece di trovarsi in un solo punto. Il singolo punto in cui si bilancia è E[X], la media della densità. Quanto il peso è scagliato via da quel perno, misurato come distanza media al quadrato, è Var(X): il peso raggruppato vicino al centro significa varianza piccola, il peso spinto alle estremità significa varianza grande.

Dove si trova nel MLLe attese continue sono integrali, e gli integrali su spazi ad alta dimensione sono usualmente intrattabili. Quindi l'ML fa affidamento sulla stima Monte Carlo: approssima E[g(X)] = ∫ g(x)f(x)dx con una media (1/n) Σ g(xᵢ) su campioni xᵢ estratti da f. Ogni "ricompensa attesa" nel RL e ogni termine ELBO in una VAE è uno di questi integrali, stimato tramite campionamento.
▶ Attesa e Varianza (continue)
← PDF e CDFDistribuzione gaussiana →