Εντροπία

Τα μαθηματικά της αβεβαιότητας

Η εντροπία μετρά την αβεβαιότητα: πόσο εκπληκτική αναμένετε να είναι μια τυχαία έκβαση. Ένα δίκαιο νόμισμα είναι μέγιστα αβέβαιο· ένα νόμισμα με δύο κεφαλές δεν κρύβει καμία έκπληξη. Ο Claude Shannon το μετέτρεψε αυτό σε αριθμό, την αναμενόμενη έκπληξη, όπου η έκπληξη ενός σπάνιου ενδεχομένου είναι −log p(x) (σπανιότερο σημαίνει πιο εκπληκτικό).

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ Εντροπία
← Συνδιακύμανση & ΣυσχέτισηΔιασταυρούμενη Εντροπία →