Matematyka niepewności
Entropia mierzy niepewność: jak bardzo spodziewasz się być zaskoczony losowym wynikiem. Uczciwa moneta jest maksymalnie niepewna; moneta z dwoma orłami nie holdzi żadnego zaskoczenia. Claude Shannon zamienił to w liczbę, oczekiwane zaskoczenie, gdzie zaskoczenie rzadkiego zdarzenia to −log p(x) (rzadsze = bardziej zaskakujące).
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.
▶ Entropia