אנטרופיה

המתמטיקה של אי־ודאות

אנטרופיה מודדת אי־ודאות: כמה הפתעה אתה מצפה לחוות מתוצאה אקראית. מטבע הוגן הוא בלתי־ודאי במידה המרבית; מטבע בעל שני צידי עץ אינו טומן בחובו שום הפתעה. קלוד שאנון הפך זאת למספר, ההפתעה הצפויה, שבו ההפתעה של אירוע נדיר היא −log p(x) (ככל שהאירוע נדיר יותר, כך הוא מפתיע יותר).

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.