Entropie

Matematika nejistoty

Entropie měří nejistotu: jak překvapení očekáváte, že budete náhodným výsledkem. Spravedlivá mince je maximálně nejistá; mince se dvěma hlavami nepředstavuje žádné překvapení. Claude Shannon to přeměnil v číslo, očekávané překvapení, kde překvapení ze vzácného jevu je −log p(x) (vzácnější znamená překvapivější).

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.