Entropia

La matematica dell'incertezza

L'entropia misura l'incertezza: quanto ti aspetti di essere sorpreso da un esito casuale. Una moneta equa è massimamente incerta; una moneta con due teste non ha alcuna sorpresa. Claude Shannon ha trasformato questo in un numero, la sorpresa attesa, dove la sorpresa di un evento raro è −log p(x) (più raro, più sorprendente).

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ Entropia
← Covarianza e CorrelazioneCross-Entropia →