KLダイバージェンス

不確実性の数学

KLダイバージェンスは一方の分布qがもう一方のpからどれだけ離れているかを測る:現実pを間違った分布qでモデル化することで払う余分の驚きです。クロスエントロピーの中のギャップです:

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ KLダイバージェンス
← クロスエントロピー相互情報量 →