KL-Divergenz

Die Mathematik der Unsicherheit

Die KL-Divergenz misst, wie weit eine Verteilung q von einer anderen p entfernt ist: die zusätzliche Überraschung, die man dafür zahlt, die Realität p mit der falschen Verteilung q zu modellieren. Sie ist die Lücke innerhalb der Cross-Entropy:

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ KL-Divergenz
← Cross-EntropyMutual Information →