MLE per Distribuzioni Comuni

Inferenza, stima e processo decisionale dai dati

La ricetta della MLE è sempre la stessa: scrivi la log-verosimiglianza, calcolane la derivata rispetto al parametro, ponila uguale a zero e risolvi. Per le due distribuzioni che incontrerai più spesso, la risposta è splendidamente semplice: è solo una media campionaria.

Per dati estratti da una distribuzione normale, massimizzare la log-verosimiglianza dà gli stimatori più intuitivi possibili:

Immagina di lanciare una moneta truccata un sacco di volte per indovinare quanto sia sbilanciata. La massima verosimiglianza non si arrovella su questo: la singola ipotesi migliore per la probabilità di testa è semplicemente la frazione di teste che hai effettivamente visto. La stima p̂ non è altro che il conteggio in corso trasformato in una media, la stessa semplice media campionaria x̄ sotto mentite spoglie.

Dove si trova nel MLQueste forme chiuse sono il motivo per cui i modelli più semplici si stimano così in fretta. La regressione lineare è MLE sotto rumore gaussiano e ha una soluzione in forma chiusa, ottenuta in un solo passaggio. La regressione logistica è MLE per un'etichetta Bernoulli o categoriale, senza forma chiusa, ma lo stesso principio guida i passi del gradiente. La ricetta "log-verosimiglianza → derivata…
▶ MLE per Distribuzioni Comuni
← Stima di Massima VerosimiglianzaStima Bayesiana →