Matematika nejistoty
Vzájemná informace měří, jak moc vám znalost jedné proměnné říká o druhé: je to snížení nejistoty o X poté, co pozorujete Y. Je to KL divergence mezi skutečným sdruženým rozdělením a součinem marginálních rozdělení („jako by byly nezávislé“):
🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.
▶ Vzájemná informace