Mutual Information

Die Mathematik der Unsicherheit

Die Transinformation (Mutual Information) misst, wie viel die Kenntnis der einen Variablen über eine andere verrät: die Verringerung der Unsicherheit über X, sobald man Y beobachtet. Sie ist die KL-Divergenz zwischen der echten gemeinsamen Verteilung und dem Produkt der Randverteilungen, das so tut, als wären die Variablen unabhängig:

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ Mutual Information
← KL-DivergenzGesetz der großen Zahlen →