Divergence KL

Les mathématiques de l'incertitude

La divergence KL mesure à quel point une distribution q est éloignée d'une autre p : la surprise supplémentaire que vous payez pour modéliser la réalité p avec la mauvaise distribution q. C'est le fossé à l'intérieur de l'entropie croisée :

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ Divergence KL
← Entropie CroiséeInformation Mutuelle →