Энтропия

Математика неопределённости

Энтропия измеряет неопределённость: насколько вы ожидаете быть удивлены случайным исходом. Честная монета максимально неопределённа; двусторонняя — ноль сюрприза. Клод Шеннон превратил это в число — ожидаемое удивление, где сюрприз редкого события −log p(x) (реже — удивительнее).

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ Энтропия
← Ковариация и корреляцияКросс-энтропия →