Кросс-энтропия

Математика неопределённости

Допустим, истина — распределение p, но вы кодируете исходы, используя другую модель q. Кросс-энтропия — средний сюрприз, который вы реально платите: сюрприз по вашей модели q, но усреднённый по тому, как часто события реально происходят при p:

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ Кросс-энтропия
← ЭнтропияKL-расхождение →