Entropy

Toán học của sự không chắc chắn

Entropy đo mức độ bất định: mức độ bất ngờ mà bạn kỳ vọng trước một kết quả ngẫu nhiên. Một đồng xu cân bằng có độ bất định tối đa; một đồng xu hai mặt giống hệt nhau thì chẳng có gì bất ngờ. Claude Shannon đã biến điều này thành một con số, mức bất ngờ kỳ vọng, trong đó mức bất ngờ của một sự kiện là −log p(x) (càng hiếm thì càng bất ngờ).

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ Entropy
← Hiệp phương sai & tương quanEntropy chéo →