交叉熵

不确定性的数学

假设真实分布是 p,但你用一个不同的模型 q 来编码结果。交叉熵是你实际支付的平均惊讶度:惊讶度由模型 q 测量,但按事件在真实分布 p 下发生的频率取平均:

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ 交叉熵
← 熵KL 散度 →