Distribuzioni Discrete Chiave

La matematica dell'incertezza

Una manciata di distribuzioni note per nome copre la maggior parte delle situazioni discrete nell'ML. Ciascuna è una PMF già pronta, con media e varianza note, così scegli quella giusta invece di riderivare tutto da zero.

Bernoulli(p) modella una prova con due esiti: successo (1) con probabilità p, insuccesso (0) con probabilità 1−p. È il mattone con cui si costruisce ogni altra distribuzione discreta.

Due conteggi di tutti i giorni mettono in mostra le distribuzioni principali. Lancia una moneta 10 volte e conta le teste: quel conteggio è Binomiale, una somma di 10 prove indipendenti sì/no. Ora conta le telefonate che un help desk riceve in un'ora: quel conteggio è di Poisson, la legge per eventi rari sparsi nel tempo, con un singolo tasso λ che fa sia da sua media che da sua varianza.

Dove si trova nel MLQuando scegli una loss di classificazione, stai in realtà scegliendo una di queste distribuzioni. La cross-entropia binaria è la log-verosimiglianza negativa di una Bernoulli: confronta la singola probabilità prodotta dal modello con un'etichetta 0/1. La cross-entropia multi-classe è la log-verosimiglianza negativa di una Categoriale, cioè l'output softmax confrontato con un'etichetta one-hot. La…
▶ Distribuzioni Discrete Chiave
← VarianzaPDF e CDF →