Informação Mútua

A matemática da incerteza

A informação mútua mede quanto conhecer uma variável nos diz sobre outra: a redução da incerteza acerca de X assim que observamos Y. É a divergência KL entre a conjunta verdadeira e o produto das marginais — o produto do "façamos de conta que são independentes":

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ Informação Mútua
← Divergência KLLei dos Grandes Números →